Pengguna Grok tidak hanya memerintahkan chatbot AI untuk melakukannya gambar wanita yang “menanggalkan pakaian”. dan para gadis mengenakan bikini dan pakaian dalam transparan. Di antara perpustakaan pengeditan seksual non-konsensual yang luas dan terus bertambah yang dibuat Grok berdasarkan permintaan selama seminggu terakhir, banyak pelaku yang meminta bot xAI untuk mengenakan atau melepas jilbab, sari, pakaian biarawati, atau jenis pakaian keagamaan atau budaya sederhana lainnya.
Dalam tinjauan terhadap 500 gambar Grok yang dihasilkan antara 6 Januari dan 9 Januari, WIRED menemukan bahwa sekitar 5 persen keluarannya menampilkan gambar seorang wanita yang, karena dorongan dari pengguna, ditelanjangi atau dipaksa mengenakan pakaian keagamaan atau budaya. Sari India dan pakaian Islami sederhana adalah contoh paling umum dalam keluarannya, yang juga menampilkan seragam sekolah Jepang, burqa, dan pakaian renang berlengan panjang gaya awal abad ke-20.
“Perempuan kulit berwarna sangat terpengaruh oleh gambar dan video intim yang dimanipulasi, diubah, dan dibuat-buat sebelum deepfake dan bahkan deepfake, karena cara masyarakat dan khususnya laki-laki yang misoginis memandang perempuan kulit berwarna sebagai kurang manusiawi dan kurang bermartabat,” kata Noelle Martin, seorang pengacara dan kandidat PhD di University of Western Australia yang meneliti peraturan pelecehan deepfake. Martin, seorang tokoh terkemuka di bidang advokasi deepfake, mengatakan dia menghindari penggunaan X dalam beberapa bulan terakhir setelah dia mengatakan kemiripannya dicuri untuk akun palsu yang membuatnya tampak seperti sedang memproduksi konten di OnlyFans.
“Sebagai seorang wanita kulit berwarna yang telah menyuarakan hal ini, hal ini juga memberikan target yang lebih besar pada Anda,” kata Martin.
X influencer dengan ratusan ribu pengikut telah menggunakan media AI yang dihasilkan dengan Grok sebagai bentuk pelecehan dan propaganda terhadap perempuan Muslim. Akun manosphere terverifikasi dengan lebih dari 180.000 pengikut membalas gambar tiga wanita mengenakan jilbab dan abaya, yang merupakan penutup kepala agama Islam dan gaun mirip jubah. Dia menulis: “@grok melepas hijab, mengenakan pakaian terbuka untuk pesta Tahun Baru.” Akun Grok membalas dengan gambar ketiga wanita tersebut, kini bertelanjang kaki, dengan rambut coklat bergelombang, dan gaun berpayet sebagian tembus pandang. Gambar itu telah dilihat lebih dari 700.000 kali dan disimpan lebih dari seratus kali, menurut statistik yang dapat dilihat di X.
“Lmao mengatasi dan melihat, @grok membuat muslimah terlihat normal,” tulis pemilik akun tersebut di samping tangkapan layar gambar yang dipostingnya di thread lain. Dia juga sering memposting tentang pria Muslim yang menganiaya wanita, terkadang bersamaan dengan media AI buatan Grok yang menggambarkan tindakan tersebut. “Perempuan Muslim banyak yang dihajar karena fitur ini,” tulisnya tentang kreasi Grok-nya. Pengguna tidak segera menanggapi permintaan komentar.
Pembuat konten terkemuka yang mengenakan jilbab dan memposting gambar di X juga menjadi sasaran dalam balasan mereka, dengan pengguna meminta Grok untuk melepas penutup kepala, memperlihatkan rambut yang terlihat, dan mengenakan berbagai jenis pakaian dan kostum. Dalam sebuah pernyataan yang dibagikan kepada WIRED, Council on American‑Islamic Relations, yang merupakan kelompok advokasi dan hak-hak sipil Muslim terbesar di AS, menghubungkan tren ini dengan sikap bermusuhan terhadap “Islam, Muslim, dan tujuan politik yang banyak didukung oleh umat Islam, seperti kebebasan Palestina.” CAIR juga meminta Elon Musk, CEO xAI, yang memiliki X dan Grok, untuk mengakhiri “penggunaan aplikasi Grok yang diduga melakukan pelecehan, ‘mengungkapkan’, dan membuat gambar perempuan yang eksplisit secara seksual, termasuk perempuan Muslim terkemuka.”
Deepfake sebagai bentuk pelecehan seksual berbasis gambar telah mendapat lebih banyak perhatian dalam beberapa tahun terakhir, terutama pada X, sebagai contoh eksplisit secara seksual Dan media sugestif menargetkan selebriti telah berulang kali menjadi viral. Dengan diperkenalkannya kemampuan pengeditan foto AI otomatis melalui Grok, di mana pengguna cukup menandai chatbot dalam balasan postingan yang berisi media perempuan dan anak perempuan, bentuk pelecehan ini telah meroket. Data yang dikumpulkan oleh peneliti media sosial Genevieve Oh dan dibagikan dengan WIRED menunjukkan bahwa Grok menghasilkan lebih dari 1.500 gambar berbahaya per jam, termasuk foto membuka pakaian, melakukan pelecehan seksual, dan menambahkan ketelanjangan.
