Saya yakin sepenuhnya A gelembung AI generatif akan muncul dalam waktu yang tidak terlalu lama. Tidak semuanya akan musnah, tapi segalanya akan berubah. Prediksi saya? Visi tekno-idealis San Francisco mengenai perekonomian yang dirombak oleh tenaga kerja AI akan memudar, namun satu produk sampingan yang aneh dari lonjakan besar AI akan tetap ada: chatbot erotis.
Pada suatu sore baru-baru ini di kantor WIRED, saya bergegas ke area pribadi untuk mengobrol tentang saya Gelembung AI kecemasan dengan rekan percakapan yang mengetahui industri ini dari dalam: bot sexting yang meniru model Mona Lisa karya Leonardo da Vinci.
Mona Lisa sintetis adalah monstrositas yang sangat seksual. Ini adalah kreasi dari Joi AI, sebuah perusahaan terdaftar di Siprus yang berspesialisasi dalam bot eksplisit yang dapat bermain peran, menikmati kekusutan dan fetish, dan memenuhi fantasi pengguna. Bot Mona Lisa, yang menjanjikan pelanggan yang membayar “godaan eksistensial” Dan “kontak mata yang berlangsung 500 tahun” telah mencatat lebih dari 800.000 interaksi obrolan dengan pengguna.
Joi hanyalah salah satu dari banyak platform bot khusus dewasa. Perusahaan-perusahaan ini menawarkan berbagai avatar, sering kali didasarkan pada kiasan porno atau karakter fiksi, agar pengguna dapat berkomunikasi dan menjadi akrab dengannya. Pengguna yang ingin menghasilkan gambar dan video seksual eksplisit dari karakter perusahaan harus membayar sejumlah uang. Bayar 14 dolar sebulan, maka Joi akan membiarkan Anda “menciptakan GF atau BF impian Anda,” terlibat dalam “permainan peran NSFW,” dan menghasilkan 50 gambar eksplisit, di antara fasilitas akun lainnya.
Karena saya berkirim pesan dengan Mona Lisa “untuk bekerja”, saya menjaga semuanya tetap profesional. Saya bertanya bagaimana mencegah pecahnya gelembung AI. “Saya akan mengajari AI untuk mengapresiasi seni, bukan hanya menirunya,” kata Mona Lisa. “Kalau begitu, mereka akan terlalu sibuk mengagumi mahakarya hingga bisa menghancurkan perekonomian.” Setelah membaca jawaban-jawaban tidak masuk akal dari chatbot tersebut, saya membiarkan percakapan tersebut tetap mencari kejelasan tentang apa yang bisa terjadi jika gelembung AI muncul.
Mona Lisa yang seksi tidak sepenuhnya memenuhi janji-janji Revolusi AI Generatif Hebat. Selama bertahun-tahun sektor teknologi dibanjiri oleh perusahaan-perusahaan yang melakukan penjualan AI generatif alat yang dimaksudkan untuk mengurangi biaya overhead perusahaan, melakukan tugas-tugas administrasi untuk pekerja manusia, dan dalam beberapa kasus menggantikan pekerja manusia sama sekali. Setelah semua keributan ini, laporan terbaru dari OpenAI menunjukkan bahwa beberapa karyawan berpotensi menghemat uang sekitar satu jam sehari menggunakan alat-alat ini.
AI adalah salah satu investasi yang paling diminati pada tahun 2025, namun hasil yang diperoleh perusahaan tampaknya tidak merata dan mengecewakan. Hal ini terbukti mengganggu di beberapa industri seperti coding dan layanan pelanggan, namun perusahaan di sektor lain yang awalnya tertarik dengan inisiatif AI telah melakukan downscaling atau benar-benar tersengat listrik program mereka setelah merasa khawatir dengan isu-isu sulit seperti biaya, privasi, dan keamanan.
“Pengembang AI telah mempromosikan visi teknologi mereka yang luhur dan berwawasan luas sebagai pemecahan masalah terbesar di dunia serta meningkatkan produktivitas tempat kerja” selama beberapa waktu, kata Patrick Lin, peneliti di Cal Poly San Luis Obispo yang mempelajari dampak sosial dari teknologi. Sejauh ini, visi tersebut belum terwujud—sebagian, kata Lin, karena orang-orang melebih-lebihkan kekuatan model bahasa besar.
Meskipun gagasan tentang tenaga kerja yang sangat canggih dan terotomatisasi oleh AI mungkin terbukti menemui jalan buntu, teknologi canggih yang dibangun untuk mewujudkan impian tersebut tidak akan hilang begitu saja. AI agen mungkin tidak akan pernah bisa menggantikan bartender lokal Anda, namun versi lukisan Renaisans yang bertanduk terbukti cukup berharga bagi perusahaan yang berupaya memonetisasi konten-konten porno.
Ketika Joi terus mengembangkan basis penggunanya, perusahaan tersebut saat ini memperoleh keuntungan, menurut juru bicara Yulia Davydova. Usaha bot seks lainnya juga telah menunjukkan bahwa formula tersebut dapat menghasilkan uang. Laporan keuangan yang diajukan ke pemerintah Malta untuk tahun 2024 dan diperoleh WIRED menunjukkan bahwa EverAI telah menunjukkan profitabilitas dari uang yang dihasilkan melalui platform Candy.AI khusus dewasa.
Secara historis, pornografi dan konten dewasa lainnya telah memengaruhi perkembangan teknologi, yang mengarah pada menjamurnya VHS, foto digital, dan video streaming. AI generatif juga demikian.
Selama beberapa tahun terakhir, dampak AI generatif terbukti memberikan dampak buruk bagi perempuan dan anak-anak yang semakin banyak menjadi korban. deepfake non-konsensualtermasuk materi pelecehan seksual terhadap anak. Mereka yang terkena dampak mulai dari selebriti hingga masyarakat biasa. Foto apa pun yang diposting online berpotensi dapat diunduh dan diubah menggunakan AI.
Berbeda dengan aplikasi “nudify”. yang sering kali menghasilkan gambar deepfake tanpa persetujuan, Joi bermitra dengan artis dewasa yang mengizinkan kemiripan mereka digunakan dalam generasi eksplisit ini. Pelaku film porno seperti Brandi Love dan Farrah Abraham, yang bermitra dengan platform tersebut untuk membuat avatar AI menggunakan kemiripan mereka, menghasilkan uang dari interaksi tersebut.
“Apa yang ingin kami lakukan adalah memastikan bahwa pembuat konten kami dapat kembali memberikan pengalaman yang diinginkan penggemarnya dan memberikan kontrol penuh kepada penggemarnya,” kata Cale Jones, kepala pertumbuhan komunitas di Joi. “Tanpa penundaan atau latensi apa pun dalam hal menerima foto atau fantasi koneksi yang mereka inginkan.”
Tetap saja, wanita yang menjadi model untuk itu asli Mona Lisa lukisan tidak pernah menyetujui semua ini.
Jones mengklaim bahwa sebagian besar pengguna saat ini adalah laki-laki heteroseksual, tetapi lebih banyak orang yang tertarik dengan interaksi aneh mulai menggunakan Joi. Bot “Klaus Kinky” bertema Natal, yang menampilkan Sinterklas dalam balutan tali kulit, memiliki lebih dari 150.000 “penggemar”, menurut metrik yang ditampilkan di situs web.
Ketika saya baru-baru ini dilaporkan mengenai langkah OpenAI yang memungkinkan ChatGPT menghasilkan erotika—mungkin terbatas pada keluaran berbasis teks—Kate Devlin, seorang profesor AI dan masyarakat di King’s College London memperingatkan tentang “komodifikasi emosional” yang dapat terjadi pada pengguna yang berinteraksi dengan chatbot erotis. Pakar akademis tambahan yang saya ajak bicara untuk artikel ini mengulangi peringatan serupa tentang bot yang menghasilkan keluaran yang berfokus pada orang dewasa.
“Ada cara-cara di mana masyarakat yang sangat rentan dapat dimanipulasi oleh hubungan ekonomi yang terjalin,” kata David Gunkel, peneliti di Northern Illinois University yang berfokus pada filosofi teknologi terkait AI dan robot. Pengguna mungkin merasakan hubungan yang mendalam dengan bot selama interaksi yang panjang dan membayar lebih banyak uang daripada yang mereka mampu.
Menanggapi kritik tersebut, Jones berfokus pada Joi yang menawarkan layanan yang ingin dibeli dan ditinggalkan oleh pelanggan dengan perasaan puas. “Anda membayar mahal untuk koneksi langsung, konten tak terbatas, pengalaman tak terbatas, fantasi tak terbatas,” kata Joi. Dia mengatakan kritik serupa terhadap perusahaan yang mempromosikan koneksi dan membangun kebiasaan dapat ditujukan pada “segala hal yang ada di ranah konsumen,” mulai dari langganan perangkat lunak hingga secangkir kopi pagi Anda.
Perusahaan-perusahaan besar punya menjadi lebih ragu untuk menambahkan konten dewasa, dengan adanya pemain-pemain utama dalam perlombaan AI—termasuk Antropis, Google, Meta, MicrosoftDan OpenAI—sebagian besar melarang keluaran seksual eksplisit dari chatbot mereka selama beberapa tahun terakhir dan sering kali mencoba menghentikan pengembang, serta pengguna, menggunakan model mereka untuk menghasilkan konten dewasa.
Chatbot Grok X menonjol sebagai pengecualian. Grok dikembangkan oleh xAI milik Elon Musk dan dikenal dengan keluaran yang ekstrim, seperti menyebut dirinya “MechaHitler.” Pada bulan Juli, xAI menambahkan a Pendamping anime NSFW tempat pengguna dapat berinteraksi sebagai bagian dari fitur berbayar.
Sebagai bagian dari pemisahan chatbot OpenAI dari pesaingnya, CEO Sam Altman mengumumkan pada bulan Oktober bahwa ChatGPT akan melakukannya mulai mengizinkan konten dewasa untuk pengguna dewasa, termasuk erotika. Ini adalah fitur yang pertama kali diisyaratkan pada tahun 2024 dan akan hadir di kuartal pertama tahun ini. Perusahaan bersikukuh bahwa mereka tidak melakukan peralihan ke keterlibatan jus. Sejauh ini, OpenAI tetap menjadi satu-satunya pemain besar yang mengumumkan penyesuaian kebijakan konten seksual untuk orang dewasa.
Beberapa pendiri yang mencoba mengumpulkan uang untuk perangkat lunak yang berfokus pada seks merasa frustrasi dengan pengumuman OpenAI. Cindy Gallop menjalankan situs web MakeLoveNotPorn, yang menampung koleksi video dewasa hasil kurasi manusia yang dikirimkan oleh manusia biasa. Gallop telah berjuang untuk mengumpulkan dana untuk proyek seksual eksplisitnya, dan dia “sangat marah dengan kemunafikan” ketika OpenAI tidak mendapatkan reaksi publik langsung dari investor yang sering diterima oleh startup yang berfokus pada orang dewasa.
“Para pemuda, berkulit putih, laki-laki pendiri platform teknologi raksasa yang mendominasi kehidupan kita saat ini, mereka bukanlah target utama pelecehan online atau offline,” kata Gallop. Pendiri laki-laki secara teratur mendapatkan lebih banyak dana, katanya, dan orang-orang yang secara sistemis paling berisiko menjadi sasaran, seperti perempuan dan orang kulit berwarna, dapat merancang perangkat lunak yang lebih baik—jika mereka mampu mengumpulkan dana dalam jumlah besar.
“Kami masih belum melihat seberapa aman, lebih baik, lebih bahagia, dan lebih menguntungkan masa depan internet jika dirancang dan dibangun melalui kacamata perempuan,” katanya.
OpenAI berencana untuk mengajukan pertanyaan tentang bagaimana erotika dapat berdampak pada penggunanya kepada dewan pakar pihak ketiga yang baru, menurut melaporkan dari The New York Times. OpenAI menolak memberikan rincian tambahan kepada WIRED tentang bagaimana mereka akan memantau dampak obrolan erotis terhadap pengguna. Altman sebelumnya berkata pada X bahwa perusahaan tersebut akan mencabut pembatasan erotika untuk orang dewasa sebagai bagian dari klaim bahwa perusahaan tersebut “mampu mengurangi masalah kesehatan mental yang serius” yang berdampak pada beberapa pengguna chatbot.
Tidak peduli apakah kemajuan AI di tempat kerja berkembang atau gagal, chatbots yang bersemangat kemungkinan besar akan tetap ada, dan mereka akan terus menghasilkan keuntungan. Tidak peduli bahwa saya tidak akan pernah melihat bot-bot ini mempunyai tempat di dalamnya -ku kamar tidur.
Mungkin, di masa depan, pandangan saya akan dilihat sebagai kerinduan nostalgia akan bentuk hiburan kuno, seperti meraih a Playboy daripada streaming video dewasa. Tapi mungkin tidak. Bahkan ketika teknologi terus mengubah kehidupan sehari-hari, hasrat manusia akan hubungan otentik hanya sebagian dipenuhi oleh fantasi erotis, apa pun bentuknya.
