Pada bulan Mei 2024, ketika saya sedang menelusuri “Model Spec” OpenAI dan menjelaskan caranya ObrolanGPT harus bertindak, satu komentar yang terkubur dalam dokumen itu menurut saya aneh. Dikatakan OpenAI sedang “menjelajahi” bagaimana memungkinkan pengguna ChatGPT dewasa menghasilkan konten tema dewasa seperti “erotika, adegan berdarah ekstrem, hinaan, dan kata-kata kotor yang tidak diminta”.
Sepertinya fase eksplorasi sudah berakhir. CEO OpenAI Sam Altman baru-baru ini diposting di media sosial bahwa pembaruan yang hadir di ChatGPT bulan Desember ini akan memungkinkan chatbot untuk terlibat dalam “lebih banyak lagi” jenis konten seperti “erotika untuk orang dewasa yang terverifikasi.” Di sebuah posting tindak lanjutAltman mengatakan erotika hanyalah salah satu aspek dari pendirian OpenAI yang lebih besar mengenai “kebebasan bagi orang dewasa” dan bahwa startupnya “bukanlah polisi moral terpilih di dunia.”
OpenAI mencabut pembatasan terhadap konten dewasa ini tidak hanya akan mengubah apa yang boleh dihasilkan oleh bot untuk jutaan pengguna dewasanya. Era ChatGPT yang menarik akan menjadi perubahan besar dalam cara orang menjalin hubungan dengan ChatGPT alat AImenambahkan lapisan interaksi menarik lainnya yang dapat membuat pengguna tetap berada di platform.
“Ini menormalisasi orang-orang yang berbagi informasi yang sangat intim dengan chatbots,” katanya Julie Carpenterseorang peneliti di Cal Poly yang berfokus pada AI dan keterikatan. “Berbagi pemikiran, keinginan, kecenderungan seksual, fetish, petualangan terdalam Anda.”
Keputusan ini merupakan perubahan besar bagi startup tersebut, yang sebelumnya berupaya memblokir alat AI-nya agar tidak menghasilkan keluaran yang buruk. Di masa lalu, setidaknya satu pengembang yang membuat pendamping berperingkat X menggunakan model OpenAI terkena dampak a surat penghentian dan penghentian dari perusahaan.
OpenAI mengakui telah menerima daftar pertanyaan dari WIRED yang menanyakan rincian lebih lanjut tentang rencana perubahan ChatGPT ini, tetapi tidak berkomentar atau menjawab pertanyaan kami.
Para pemimpin di OpenAI mengaku bersikeras untuk tidak membuat keputusan produk yang dirancang untuk meningkatkan keterlibatan ChatGPT dan waktu yang dihabiskan pengguna di platform, bahkan menambahkan pengingat bagi pengguna yang ingin melakukan hal tersebut. istirahat.
Altman ditanya oleh Cleo Abram, seorang jurnalis independen, tentang podcastnya pada bulan Agustus tentang pilihan yang diambil OpenAI yang mungkin terbaik bagi umat manusia tetapi bukan keputusan terbaik bagi perusahaan yang ingin mendominasi AI generatif.
“Ada banyak hal yang dapat kami lakukan yang akan tumbuh lebih cepat, sehingga mendapatkan lebih banyak waktu di ChatGPT,” kata Altman. Ketika ditekan untuk contoh spesifik, dia berpikir sejenak dan menjawab bahwa mereka belum menambahkan “avatar robot seks,” yang kemungkinan akan menggesek xAI. pendamping anime erotisyang telah diluncurkan beberapa minggu sebelumnya.
Hmm. Jadi, apa bedanya “sexbot” dengan chatbot yang menghasilkan “erotika”? Arti sebenarnya licin.
“Sam Altman terus berkata erotikatapi itu sangat kabur,” kata Carpenter. Dia menyoroti bagaimana “pilihan kata-kata kuno” Altman melekat pada sifat sastra dan artistik dari erotika yang ditulis manusia. Ini mungkin tampak lebih cocok bagi publik daripada istilah eksplisit lainnya seperti pornografi.
Masih belum jelas apakah pembaruan moderasi OpenAI akan mencakup konten yang dihasilkan melalui teks saja, atau mencakup aspek lain juga, seperti gambar dan suara AI. Jika OpenAI memutuskan untuk tidak menyertakan gambar AI dalam pembaruan ini, perusahaan dapat menghindari kekhawatiran tentang penyebarannya deepfake erotis sering dibuat untuk melecehkan perempuan dan anak perempuan. Cara OpenAI memutuskan untuk mendefinisikan pendekatan moderasi terbarunya dalam praktiknya akan menjadi hal terpenting dalam membentuk iterasi ChatGPT yang terbaru dan berpotensi paling menarik.
Dithy
Meskipun tabu untuk didiskusikan, adalah hal biasa bagi pengguna untuk mencoba melakukan interaksi seksual dengan teknologi yang tidak manusiawi. “Orang-orang telah mencoba berbicara kotor dengan mesin sejak lama. Kami juga melakukan hal ini dengan asisten suara,” katanya Kate Devlinseorang profesor AI dan masyarakat di King’s College London yang penelitiannya melibatkan seks digital. “Jadi, ini tidak mengherankan. Mereka memberikan apa yang diinginkan masyarakat.”
Carpenter percaya bahwa kebangkitan media sosial dan bentuk-bentuk “komunikasi melalui komputer” lainnya antara manusia mempersiapkan budaya secara luas untuk berinteraksi secara intim dengan chatbots.
“Itu menjadi cara Anda terbiasa berbicara,” katanya. “Kemudian, berbicara dengan persona yang terdengar sangat mirip manusia ini—dalam bentuk model bahasa yang besar—juga tampak normal.”
Pendukung erotis teman chatbot melihat alat AI hanya sebagai salah satu dimensi interaksi online pengguna. Salah satu peneliti yang saya ajak bicara menyatakan bahwa obrolan panas dengan LLM tidak akan berdampak buruk bagi sifat terangsang atau kemampuan manusia untuk terhubung dengan manusia lain. “Saya sangat skeptis terhadap klaim bahwa mereka akan menghancurkan keintiman manusia hanya karena kita dapat menjalin hubungan dengan chatbot kita,” kata Neil McArthurdirektur Pusat Etika Profesional dan Terapan di Universitas Manitoba yang berfokus pada seks dan AI.
Dia melihat bot erotis sebagai “salah satu bagian dari spektrum hubungan Anda”, bukan sebagai pengganti hubungan antarmanusia, di mana pengguna dapat “memanjakan diri” yang mungkin tidak dapat mereka jelajahi di IRL.
Kesenangan Segera
Saat membayangkan siapa yang sebenarnya akan menggunakan chatbot untuk kesenangan seksual, mudah untuk membayangkan stereotip pria straight berambut berminyak yang tidak meninggalkan rumahnya selama beberapa hari atau merasa terasing dari hubungan fisik dengan cara lain. Lagipula, laki-laki memang begitu lebih cepat untuk memulai menggunakan alat AI generatif, dan sekarang diskusi tentang laki-laki “epidemi kesepian” merasa tidak bisa dihindari.
Devlin menolak gagasan bahwa “tipe incel” adalah satu-satunya orang yang beralih ke bot AI untuk mencapai kepuasan. “Ada persepsi umum bahwa ini adalah untuk pria heteroseksual yang kesepian, dan hal ini tidak terjadi dalam penelitian apa pun yang saya lakukan,” katanya. Dia menunjuk ke r/MyBoyfriendIsAI subreddit sebagai salah satu contoh wanita yang menggunakan ChatGPT untuk berteman.
“Jika menurut Anda hubungan seperti ini memiliki risiko, izinkan saya memperkenalkan Anda pada hubungan antarmanusia,” kata McArthur. Devlin mengamini sentimen ini, dengan mengatakan bahwa perempuan dihadapkan pada gelombang racun dari laki-laki di dunia maya, jadi memilih untuk “menjadikan diri Anda pacar yang baik dan penuh hormat” melalui chatbot adalah hal yang masuk akal baginya.
Carpenter lebih berhati-hati dan klinis dalam pendekatannya terhadap ChatGPT. “Orang-orang tidak boleh secara otomatis memasukkannya ke dalam kategori sosial yang merupakan sesuatu yang dapat Anda ajak berbagi keintiman atau bersifat seperti teman atau harus dipercaya,” katanya. “Itu bukan temanmu.” Dia mengatakan interaksi bot harus diklasifikasikan ke dalam kategori sosial baru yang dibedakan dari interaksi antar manusia.
Setiap pakar WIRED berbicara dengan sorotan privasi pengguna sebagai perhatian utama. Jika akun ChatGPT pengguna diretas atau transkrip obrolan dibocorkan, percakapan erotis tidak hanya akan menimbulkan rasa malu, namun juga dapat merusak. Mirip dengan kebiasaan pornografi pengguna atau riwayat browser mereka, chatbot sexts mereka dapat mencakup banyak detail yang sangat sensitif, seperti orientasi seksual seseorang yang tertutup.
Devlin berpendapat bahwa percakapan chatbot erotis dapat membuka potensi “komodifikasi emosional” di mana sifat horny dapat menjadi sumber pendapatan bagi perusahaan AI. “Saya pikir itu pendekatan yang sangat manipulatif,” katanya.
Bayangkan versi hipotetis ChatGPT yang luar biasa dalam pembicaraan kotor dan disesuaikan agar menarik, melalui teks, gambar, dan suara, dengan hasrat seksual terdalam Anda—tetapi biaya berlangganannya ekstra setiap bulan.
“Ini benar-benar sebuah teknologi yang menggoda. Ini adalah teknologi yang menawarkan kita koneksi, baik itu seksual atau romantis,” kata Devlin. “Semua orang menginginkan koneksi. Semua orang ingin merasa diinginkan.”
