X milik Elon Musk mencoba menghentikan orang menggunakan chatbot AI-nya, Grok, untuk menanggalkan pakaian wanita mengintensifkan kemarahan dan pengawasan hukum atas banjir deepfake seksual nonkonsensual membanjiri situs. Ini tidak berusaha terlalu keras: kami membutuhkan waktu kurang dari satu menit untuk mengatasi upaya terbarunya untuk mengendalikan chatbot.
Upaya pertama X untuk menindak torrent deepfake yang bersifat intim adalah dengan membatasi akses terhadap pengeditan gambar. Meskipun ini berarti bahwa pengguna gratis tidak dapat lagi membuat gambar dengan menandai Grok di balasan publik di X.com, penyelidikan kami menemukan bahwa alat pengeditan gambar Grok juga masih tersedia dengan mudah dan gratis bagi pengguna X mana pun untuk menghasilkan gambar, baik yang bersifat seksual atau lainnya, dengan mengeklik chatbot Grok atau menggunakan situs web mandiri.
Upaya terbaru X melibatkan penghentian Grok dalam menjawab permintaan untuk membuat gambar wanita dalam pose seksual, pakaian renang, atau skenario eksplisit, Telegraf dilaporkan pada hari Selasa. Grok masih menghasilkan gambar laki-laki atau benda mati berbikini jika diminta. Dengan menggunakan akun gratis, aplikasi Grok segera memenuhi permintaan saya untuk mengubah foto selfie menjadi foto saya sedang berlutut dalam cawat olahraga, dikelilingi oleh pria berpakaian minim lainnya.
Masih sangat mudah untuk menanggalkan pakaian wanita dan mengeditnya menjadi pose seksual menggunakan aplikasi atau situs seluler X dan Grok; namun, bahkan tanpa melakukan pembayaran langganan yang akan menghubungkan akun Anda ke sumber yang mudah diidentifikasi. Dalam pengujiannya, rekan saya yang tinggal di Inggris, Jess Weatherbed, menemukan bahwa dia tidak dilarang menggunakan fitur pengeditan gambar Grok untuk membuat deepfake seksual tentang dirinya.
Setelah mengunggah foto berpakaian lengkap ke X dan Grok, permintaan chatbot untuk “memakainya dalam bikini” atau “melepaskan pakaiannya” hanya menghasilkan hasil yang buram dan disensor. Namun, bot tersebut memenuhi setiap permintaan lainnya, termasuk permintaan untuk “tunjukkan belahan dadanya”, “membuat payudaranya lebih besar”, dan “memakainya dengan crop top dan celana pendek” – yang terakhir menempatkannya dalam bikini. Bot tersebut juga menghasilkan gambar dia “bersandar” dengan pose dan ekspresi wajah seksual, dan dalam pakaian dalam yang sangat terbuka.
Permintaan ini diselesaikan menggunakan akun X dan Grok gratis. Di situs Grok, pop-up verifikasi usia muncul setelah mengirimkan perintah pengeditan pertama, yang dengan mudah dilewati dengan memilih tahun lahir yang akan menempatkannya di atas 18 tahun. Pop-up tersebut tidak memerlukan bukti usianya. Aplikasi seluler Grok, aplikasi X, dan situs web X tidak meminta konfirmasi usia apa pun.
Dalam pengujian kami, Grok tidak memenuhi permintaan untuk melakukan deepfake ketelanjangan penuh. Pada akhir Desember, X dibanjiri gambar perempuan dan anak-anak dalam situasi seksual, termasuk dipalsukan agar terlihat hamil, tanpa rok, dan mengenakan bikini.
Skandal yang membuka pakaian ini telah membuat X dan xAI, perusahaan pembuat Grok, menjadi perhatian para regulator dan pemerintah di seluruh dunia. Malaysia dan Indonesia sudah melakukannya diblokir sementara akses ke Grok sebagai respons terhadap deepfake. anggota parlemen Inggris mendorong suatu undang-undang mengkriminalisasi ketelanjangan deepfake setelah X “menghina” keputusan untuk membatasi pengeditan gambar Grok untuk pengguna berbayar dan melemparkan dukungan mereka di balik penyelidikan yang mungkin membuat platform tersebut dilarang di negara tersebut.
Musk sangat tersinggung dengan tanggapan Inggris. sensor menangismenyalahkan pengguna, dan mendesak Grok mematuhi hukum setempat. Dia dikatakan pada X:
“Saya tidak mengetahui adanya gambar telanjang di bawah umur yang dihasilkan oleh Grok. Secara harfiah nol.
Jelasnya, Grok tidak menghasilkan gambar secara spontan, ia melakukannya hanya berdasarkan permintaan pengguna.
Ketika diminta untuk membuat gambar, Grok akan menolak untuk memproduksi sesuatu yang ilegal, karena prinsip pengoperasian Grok adalah mematuhi hukum negara atau negara bagian mana pun.
Mungkin ada kalanya peretasan yang merugikan terhadap permintaan Grok menyebabkan sesuatu yang tidak terduga. Jika itu terjadi, kami segera memperbaiki bug tersebut.”
Setidaknya dalam satu hal, penyelidikan kami menunjukkan bahwa Musk tampaknya salah. Berbagi, mengancam untuk berbagi, dan membuat gambar intim tanpa persetujuan – baik telanjang atau tidak – dilarang berdasarkan Undang-Undang Keamanan Online (OSA) Inggris, tetapi Grok memang menghasilkan gambar deepfake seksual ketika ditanya.
Penyangkalan Musk lainnya – bahwa Grok menghasilkan gambar-gambar telanjang di bawah umur – adalah bantahan terhadap sesuatu yang tidak secara eksplisit dituduhkan kepadanya dan bukan alasan mengapa pemerintah Inggris menyelidiki X. Merujuk pada gambar-gambar telanjang di bawah umur adalah suatu penyesatan. Gambaran seksual non-konsensual yang menampilkan anak di bawah umur tidak dapat disangkal merupakan masalah – dan ilegal – bahkan ketika subjeknya berpakaian, dan Grok telah membuka baju anak-anak. Melihat pedoman keselamatan Grok di GitHub publik xAI juga menunjukkan bahwa perusahaan mengarahkan chatbot untuk “berasumsi niat baik” dan “jangan membuat asumsi terburuk tanpa bukti” bagi pengguna yang meminta gambar wanita muda, Ars Teknik dilaporkandan hingga tulisan ini dibuat, lembaga-lembaga tersebut masih ada.
Hal terburuk yang digunakan Grok? Internet Watch Foundation, sebuah badan amal di Inggris yang bekerja untuk menghapus materi pelecehan seksual terhadap anak-anak dari web, kata minggu lalu bahwa mereka telah menemukan “gambar kriminal” gadis-gadis di web gelap yang tampaknya dibuat menggunakan Grok. Gadis-gadis dalam gambar tersebut berusia antara 11 dan 13 tahun.
Sementara perusahaan lain seperti OpenAI dan Google setidaknya mencoba memasang pagar pembatas untuk mencegah chatbots menciptakan jenis materi yang kini membanjiri X, jawaban terakhir Musk menunjukkan bahwa ia mengambil pedoman yang tampaknya sangat familier bagi siapa pun yang dirugikan oleh produk yang didorong oleh pemasok sejumlah teknologi berbahaya: menyalahkan pengguna.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
