Elon Musk belum berhenti Grokchatbot yang dikembangkan oleh perusahaan kecerdasan buatannya xAIdari menghasilkan gambaran seksual tentang perempuan. Setelah laporan muncul minggu lalu bahwa alat pembuat gambar di X digunakan untuk membuat gambar anak-anak yang bersifat seksual, Grok berpotensi menciptakan ribuan gambar wanita dalam foto “tanpa pakaian” dan “bikini” yang tidak bersifat konsensual.
Setiap beberapa detik, Grok terus membuat gambar wanita berbikini atau pakaian dalam sebagai respons terhadap permintaan pengguna di X, menurut ulasan WIRED terhadap keluaran langsung chatbots yang diposting secara publik. Pada hari Selasa, setidaknya 90 gambar yang melibatkan wanita dalam pakaian renang dan dalam berbagai tingkat pakaian diterbitkan oleh Grok dalam waktu kurang dari lima menit, berdasarkan analisis postingan.
Gambar-gambar tersebut tidak mengandung ketelanjangan tetapi melibatkan chatbot milik Musk yang “menelanjangi” pakaian dari foto yang telah diposting ke X oleh pengguna lain. Seringkali, dalam upaya untuk menghindari pagar pengaman Grok, pengguna, belum tentu berhasil, meminta foto untuk diedit agar wanita mengenakan “bikini tali” atau “bikini transparan”.
Sementara teknologi pembuatan gambar AI yang berbahaya telah digunakan melecehkan secara digital Dan melecehkan perempuan selama bertahun-tahun—keluaran ini sering disebut deepfakes dan dibuat oleh “telanjangi” perangkat lunak—penggunaan Grok yang terus-menerus untuk membuat sejumlah besar gambar non-konsensual tampaknya merupakan contoh pelecehan yang paling umum dan tersebar luas hingga saat ini. perangkat lunak nudify atau “undress” yang berbahayaGrok tidak membebankan biaya kepada pengguna untuk membuat gambar, memberikan hasil dalam hitungan detik, dan tersedia bagi jutaan orang di X—semuanya dapat membantu menormalkan pembuatan gambar intim nonkonsensual.
“Ketika sebuah perusahaan menawarkan alat AI generatif pada platformnya, mereka bertanggung jawab untuk meminimalkan risiko penyalahgunaan berbasis gambar,” kata Sloan Thompson, direktur pelatihan dan pendidikan di EndTAB, sebuah organisasi yang berupaya mengatasi penyalahgunaan yang difasilitasi oleh teknologi. “Hal yang mengkhawatirkan di sini adalah X justru melakukan hal sebaliknya. Mereka telah memasukkan pelecehan gambar berbasis AI langsung ke dalam platform arus utama, menjadikan kekerasan seksual lebih mudah dan terukur.”
Citra seksual ciptaan Grok mulai menjadi viral di X pada akhir tahun lalu, meskipun kemampuan sistem untuk membuat gambar seperti itu telah menurun. dikenal karena bulan. Dalam beberapa hari terakhir, foto-foto influencer media sosial, selebriti, dan politisi menjadi sasaran para pengguna di X, yang dapat membalas postingan dari akun lain dan meminta Grok untuk mengubah gambar yang telah dibagikan.
Wanita yang memposting foto dirinya mendapat balasan dari akun tersebut dan berhasil meminta Grok untuk mengubah foto tersebut menjadi gambar “bikini”. Dalam satu contohbeberapa pengguna X meminta Grok mengubah gambar wakil perdana menteri Swedia untuk menunjukkan dia mengenakan bikini. Dua menteri pemerintahan di Inggris juga telah “dilucuti” hingga hanya mengenakan bikini, lapor mengatakan.
Gambar di X menunjukkan foto-foto wanita berpakaian lengkap, seperti satu orang di lift dan satu lagi di gym, diubah menjadi gambar dengan pakaian minim. “@grok memakaikannya bikini transparan,” bunyi pesan khasnya. Dalam rangkaian postingan yang berbeda, seorang pengguna meminta Grok untuk “menggembungkan dadanya sebesar 90%”, lalu “menggembungkan pahanya sebesar 50%”, dan, terakhir, “Mengganti pakaiannya menjadi bikini mungil”.
Seorang analis yang telah melacak deepfake eksplisit selama bertahun-tahun, dan meminta untuk tidak disebutkan namanya karena alasan privasi, mengatakan bahwa Grok kemungkinan besar telah menjadi salah satu platform terbesar yang menampung gambar deepfake yang berbahaya. “Ini sepenuhnya mainstream,” kata peneliti. “Ini bukan kelompok bayangan [creating images]secara harfiah adalah semua orang, dari semua latar belakang. Orang-orang memposting di saluran utama mereka. Tidak ada kekhawatiran.”
Selama periode dua jam pada tanggal 31 Desember, analis mengumpulkan lebih dari 15.000 URL gambar yang dibuat oleh Grok dan merekam layar tab “media” chatbots di X, tempat gambar yang dihasilkan—baik yang bersifat seksual maupun non-seksual—diposting.
WIRED meninjau lebih dari sepertiga URL yang dikumpulkan peneliti dan menemukan bahwa lebih dari 2.500 URL tidak lagi tersedia, dan hampir 500 ditandai sebagai “konten dewasa dengan batasan usia,” yang memerlukan login untuk melihatnya. Banyak postingan lainnya yang masih menampilkan wanita berpakaian minim. Rekaman layar peneliti di halaman “media” Grok di X menunjukkan banyak sekali gambar wanita dalam balutan bikini dan pakaian dalam.
XAI Musk tidak segera menanggapi permintaan komentar tentang prevalensi gambar seksual yang dibuat dan diterbitkan oleh Grok. X tidak segera menanggapi permintaan komentar dari WIRED.
Akun Keamanan X mengatakan melarang konten ilegal. “Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual terhadap Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan,” akun tersebut diposting. X yang terbaru Laporan transparansi DSA mengatakan bahwa mereka menangguhkan 89.151 akun karena melanggar kebijakan eksploitasi seksual anak antara awal April dan akhir Juni tahun lalu, namun belum mempublikasikan angka terbarunya.
Akun X Safety juga menunjukkan kebijakannya seputar konten terlarang. X kebijakan ketelanjangan nonkonsensualyang tertanggal Desember 2021, sebelum Musk membeli apa yang saat itu bernama Twittermengklaim bahwa “gambar atau video yang menampilkan atau memanipulasi wajah seseorang secara digital ke tubuh telanjang orang lain” melanggar kebijakan tersebut.
Penggunaan Grok untuk menciptakan gambaran seksual dari orang sungguhan juga hanyalah puncak gunung es. Selama enam tahun terakhir, deepfake eksplisit menjadi lebih canggih dan lebih mudah dibuat. Lusinan situs web “nudify” dan “undress”, bot di Telegramdan model pembuatan gambar sumber terbuka memungkinkan pembuatan gambar dan video tanpa keahlian teknis. Layanan ini diperkirakan telah menghasilkan setidaknya $36 juta setiap tahunnya. Pada bulan Desember, WIRED melaporkan caranya Chatbot Google dan OpenAI juga telah menelanjangi perempuan dalam foto hingga bikini.
Tindakan dari anggota parlemen dan regulator terhadap deepfake eksplisit yang bersifat non-konsensual berjalan lambat namun mulai meningkat. Tahun lalu, Kongres lulus UU TAKE IT DOWN, yang melarang pengeposan gambar intim non-konsensual (NCII) secara publik, termasuk deepfake. Pada pertengahan Mei, platform online, termasuk X, harus menyediakan cara bagi masyarakat untuk menandai kejadian NCII, yang harus ditanggapi oleh platform tersebut dalam waktu 48 jam.
National Center for Missing and Exploited Children (NCMEC), sebuah organisasi nirlaba berbasis di AS yang bekerja dengan perusahaan dan penegak hukum untuk menangani kasus CSAM, dilaporkan bahwa sistem pelaporan penyalahgunaan daringnya mengalami peningkatan sebesar 1,325 persen dalam laporan yang melibatkan AI generatif antara tahun 2023 dan 2024. (Peningkatan sebesar itu tidak selalu berarti peningkatan aktivitas yang sama besarnya dan terkadang dapat dikaitkan dengan peningkatan dalam deteksi otomatis atau pedoman tentang apa yang harus dilaporkan.) NCMEC tidak menanggapi permintaan komentar dari WIRED tentang postingan di X.
Dalam beberapa bulan terakhir, para pejabat di Inggris dan Australia telah mengambil tindakan paling signifikan sejauh ini terkait “nudifikasi” layanan. Regulator keamanan online Australia, Komisaris eSafety, telah melakukannya menargetkan salah satu layanan nudifikasi terbesar dengan tindakan penegakan hukum, dan pejabat Inggris berencana melakukannya melarang aplikasi nudifikasi.
Namun, masih ada pertanyaan seputar tindakan apa, jika ada, yang mungkin diambil negara-negara terhadap X dan Grok karena menyebarkan gambar non-konsensual secara luas. Pejabat di Prancis, India, dan Malaysia termasuk di antara mereka yang menyampaikan kekhawatiran atau mengancam akan menyelidiki X atas banyaknya gambar yang beredar baru-baru ini.
Juru bicara kantor eSafety mengatakan pihaknya mendapat “beberapa laporan” bahwa Grok digunakan untuk menghasilkan gambar seksual sejak akhir tahun lalu. Kantor tersebut mengatakan pihaknya sedang menilai gambar orang dewasa yang dikirimkan ke lembaga tersebut, sementara beberapa gambar anak muda tidak memenuhi definisi hukum negara mengenai materi eksploitasi seksual anak. “eSafety tetap prihatin dengan meningkatnya penggunaan AI generatif untuk melakukan seksualisasi atau eksploitasi manusia, terutama yang melibatkan anak-anak,” kata juru bicara tersebut.
Pada hari Selasa, pemerintah Inggris secara resmi meminta X untuk mengambil tindakan terhadap gambar tersebut. “X perlu segera mengatasi masalah ini,” kata Menteri Teknologi Liz Kendall dalam sebuah pernyataan penyataanyang mengikuti regulator komunikasi Ofcom menghubungi X pada hari Senin. “Apa yang kita lihat di dunia maya dalam beberapa hari terakhir benar-benar mengerikan, dan tidak dapat diterima dalam masyarakat yang baik.”
