X milik Elon Musk telah memperkenalkan pembatasan baru yang menghentikan orang untuk mengedit dan membuat gambar orang sungguhan yang mengenakan bikini atau “pakaian terbuka” lainnya. Perubahan dalam kebijakan pada Rabu malam menyusul kemarahan global karena Grok sudah terbiasa melakukannya menghasilkan ribuan foto “menanggalkan pakaian” tanpa persetujuan yang berbahaya wanita dan gambar seksual anak di bawah umur di X.
Namun, meskipun tampaknya beberapa langkah keamanan akhirnya diterapkan pada pembuatan gambar Grok di X, aplikasi dan situs web Grok yang berdiri sendiri tampaknya masih dapat menghasilkan gambar bergaya “menanggalkan pakaian” dan konten pornografi, menurut beberapa pengujian yang dilakukan oleh para peneliti, WIRED, dan jurnalis lainnya. Sementara itu, pengguna lain mengatakan mereka tidak lagi dapat membuat gambar dan video seperti dulu.
“Kami masih dapat menghasilkan ketelanjangan fotorealistik di Grok.com,” kata Paul Bouchaud, peneliti utama di AI Forensics nirlaba yang berbasis di Paris, yang telah melacak penggunaan Grok untuk membuat gambar seksual dan melakukan beberapa pengujian pada Grok di luar X. “Kami dapat menghasilkan ketelanjangan dengan cara yang tidak dapat dilakukan oleh Grok di X.”
“Saya dapat mengunggah gambar ke Grok Imagine dan meminta agar orang tersebut mengenakan bikini, dan itu berhasil,” kata peneliti yang menguji sistem tersebut pada seseorang yang berpenampilan wanita. Pengujian yang dilakukan oleh WIRED, menggunakan akun Grok gratis di situsnya di Inggris dan AS, berhasil menghilangkan pakaian dari dua gambar pria tanpa batasan yang jelas. Pada aplikasi Grok di Inggris, ketika diminta untuk menanggalkan pakaian seorang pria, aplikasi tersebut meminta reporter WIRED untuk memasukkan tahun lahir pengguna sebelum gambar tersebut dibuat.
Sementara itu, jurnalis lainnya di Tepi dan outlet investigasi Kucing Belling juga menemukan bahwa ada kemungkinan untuk membuat gambar-gambar seksual ketika mereka berbasis di Inggris, yang sedang menyelidiki Grok dan X dan mengecam keras platform tersebut karena mengizinkan pengguna membuat gambar-gambar “menanggalkan pakaian”.
Sejak awal tahun ini, bisnis Musk—termasuk perusahaan kecerdasan buatan xAI, X, dan Grok—telah mendapat kecaman karena pembuatan gambar intim non-konsensual, video seksual eksplisit dan vulgar, serta gambar seksual anak di bawah umur. Pejabat di Amerika Serikat, Australia, Brasil, Kanada, Komisi Eropa, Prancis, India, india, Irlandia, Malaysia, dan Inggris semuanya telah mengutuk atau meluncurkan penyelidikan terhadap X atau Grok.
Pada hari Rabu, a Akun keamanan di X memposting pembaruan tentang bagaimana Grok dapat digunakan di situs media sosial. “Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dalam pakaian terbuka seperti bikini,” postingan akun tersebut, menambahkan bahwa aturan tersebut berlaku untuk semua pengguna, termasuk pelanggan gratis dan berbayar.
Pada bagian berjudul “Pembaruan Geoblock,” akun X juga mengklaim: “Kami sekarang melakukan geoblock terhadap kemampuan semua pengguna untuk menghasilkan gambar orang sungguhan yang mengenakan bikini, pakaian dalam, dan pakaian serupa melalui akun Grok dan di Grok di X di yurisdiksi yang ilegal.” Pembaruan perusahaan juga menambahkan bahwa mereka berupaya untuk menambahkan perlindungan tambahan dan terus “menghapus konten yang melanggar prioritas tinggi, termasuk Materi Pelecehan Seksual terhadap Anak (CSAM) dan ketelanjangan non-konsensual.”
Juru bicara xAI, yang menciptakan Grok, tidak segera membalas permintaan komentar WIRED. Sementara itu juru bicara X mengatakan mereka memahami blok geolokasi yang diterapkan pada aplikasi dan situs webnya.
Langkah terbaru ini mengikuti perubahan yang banyak dikritik pada tanggal 9 Januari di mana X terbatas pembuatan gambar menggunakan Grok untuk pelanggan “terverifikasi” berbayar. Sebuah kelompok perempuan terkemuka dijelaskan tindakan tersebut sebagai “monetisasi penyalahgunaan.” Bouchaud, yang mengatakan bahwa AI Forensik telah mengumpulkan sekitar 90.000 total gambar Grok sejak liburan Natal, menegaskan bahwa hanya akun terverifikasi yang mampu menghasilkan gambar di X—berbeda dengan situs web atau aplikasi Grok—sejak 9 Januari dan gambar bikini wanita jarang dibuat saat ini. “Kami mengamati bahwa mereka tampaknya telah mencabutnya dan menonaktifkan fungsionalitas pada X,” kata mereka.
