Peluncuran sebuah Fitur pengeditan gambar AI di xAI’s Grok telah menyebabkan kekacauan di X setelah digunakan untuk menghasilkan banjir deepfake seksual non-konsensual. Sebagai Hayden Field menulis“tangkapan layar menunjukkan Grok memenuhi permintaan untuk mengenakan pakaian dalam kepada wanita asli dan membuat mereka melebarkan kaki, serta memasukkan anak kecil ke dalam bikini.”
Perdana Menteri Inggris Keir Starmer menyebut deepfake itu “menjijikkan”, berkata, “X perlu[s] untuk menyatukan tindakan mereka dan menurunkan materi ini. Dan kami akan mengambil tindakan karena hal ini tidak dapat ditoleransi.” X punya sedikit membatasi fitur tersebut dengan mengharuskan langganan berbayar untuk menghasilkan gambar dengan menandai Grok di X, namun editor gambar AI tetap tersedia secara gratis.
-
Tidak, Grok belum membayar fitur gambar deepfake-nya
Gambar: Tepi
X milik Elon Musk telah membatasi sebagian akses ke kemampuan pengeditan gambar Grok di tengah meningkatnya reaksi terhadap banjir pemalsuan mendalam yang bersifat seksual dan non-konsensual terhadap orang dewasa dan anak di bawah umur yang dihasilkan oleh platform ini. Saat tulisan ini dibuat, Grok tidak lagi menghasilkan gambar seperti yang dibalas @grok secara gratis, namun alat pengeditan gambar Grok tetap tersedia bagi setiap pengguna X untuk menghasilkan gambar, baik yang bersifat seksual maupun jinak.
Pengguna X sebelumnya dapat meminta Grok — dengan menandai @grok di tweet — untuk mengedit atau membuat gambar di platform. Pengguna yang sekarang mencoba melakukan hal ini akan mendapat respons otomatis dari akun chatbot, yang memberi tahu mereka bahwa “Pembuatan dan pengeditan gambar saat ini terbatas pada pelanggan yang membayar.” Balasannya menyertakan tautan yang mendorong mereka untuk berlangganan program berbayar X “untuk membuka fitur-fitur ini.”
-
Perdana Menteri Inggris mengatakan ‘kami akan mengambil tindakan’ terhadap deepfake menjijikkan yang dibuat oleh Grok
Gambar: Tepi
-
Eropa menuntut X menyimpan dokumen di tengah kegaduhan Grok yang membuka baju.
Komisi Eropa memperpanjang perintah yang mewajibkan X untuk menyimpan dokumen terkait Grok hingga akhir tahun agar dapat mengevaluasi kepatuhan terhadap Digital Services Act (DSA), Reuters laporan. X menghadap pengawasan internasional karena chatbot AI-nya terus membuka baju gambar tanpa izin.
-
Mesin deepfake X membuat marah para pembuat kebijakan di seluruh dunia
Gambar: Tepi
Chatbot Grok X tidak berhenti menerima permintaan pengguna untuk menelanjangi perempuan dan, dalam beberapa kasus, jelas di bawah umur hingga bikini yang dihasilkan AI. Menurut beberapa laporan, membanjirnya gambar yang dihasilkan AI mencakup konten yang lebih ekstrem berpotensi melanggar hukum terhadap gambar intim nonkonsensual (NCII) dan materi pelecehan seksual terhadap anak (CSAM). Bahkan di AS, di mana pemilik X, Elon Musk, memiliki hubungan dekat dengan pemerintah, beberapa legislator mengkritik platform tersebut – meskipun tindakan nyata masih belum banyak dilakukan.
Beberapa regulator internasional telah menentang tindakan Grok yang membuka baju. Regulator komunikasi Inggris Ofcom mengatakan dalam sebuah pernyataan bahwa mereka telah “melakukan kontak mendesak dengan X dan xAI untuk memahami langkah-langkah apa yang telah mereka ambil untuk mematuhi kewajiban hukum mereka dalam melindungi pengguna di Inggris,” dan akan segera menilai “potensi masalah kepatuhan yang memerlukan penyelidikan.” Juru bicara Komisi Eropa Thomas Regnier mengatakan pada konferensi pers bahwa keluaran Grok adalah “ilegal” dan “mengerikan.” Kementerian TI India diancam akan ditelanjangi Kekebalan hukum X terhadap postingan yang dibuat pengguna kecuali X segera mengirimkan deskripsi tindakan yang diambil untuk mencegah konten ilegal. Regulator dari Australia, Brazil, Perancis, dan Malaysia juga memantau perkembangannya.
-
Grok membuka baju anak-anak — bisakah hukum menghentikannya?
Gambar: Cath Virginia / Tepi | Foto dari Getty Images
Grok began 2026 seperti yang dimulai pada tahun 2025: mendapat kecaman karena gambar yang dihasilkan AI.
Chatbot Elon Musk telah menghabiskan seminggu terakhir membanjiri X dengan deepfake seksual yang non-konsensual dari orang dewasa dan anak di bawah umur. Tangkapan layar yang beredar menunjukkan Grok memenuhi permintaan untuk mengenakan pakaian dalam kepada wanita sungguhan dan membuat mereka melebarkan kaki, serta memasukkan anak kecil ke dalam bikini. Laporan mengenai gambar yang kemudian dihapus menggambarkan konten yang lebih mengerikan. Satu pengguna X mengonfirmasi dalam percakapan dengan Tepi bahwa mereka menemukan banyak gambar anak di bawah umur dengan apa yang disebut oleh pembisik sebagai “donat glasir” di wajah mereka, yang tampaknya telah dihapus. Pada satu titik, Grok membuat sekitar satu gambar seksual nonkonsensual per menitmenurut sebuah perkiraan.
-
Grok membuka baju siapa saja, termasuk anak di bawah umur
Gambar: Tepi
Grok dari xAI menghapus pakaian dari gambar orang tanpa persetujuan mereka setelah peluncuran minggu ini sebuah fitur yang memungkinkan pengguna X untuk langsung mengedit gambar apa pun menggunakan bot tanpa memerlukan izin pembuat aslinya. Bukan hanya pembuat poster asli yang tidak diberi tahu jika fotonya telah diedit, namun Grok juga tampaknya memiliki sedikit batasan untuk mencegah segala sesuatu selain ketelanjangan eksplisit sepenuhnya. Dalam beberapa hari terakhir, X dibanjiri gambar perempuan dan anak-anak yang tampak hamil, tanpa rok, mengenakan bikini, atau dalam situasi seksual lainnya. Para pemimpin dunia dan selebritas juga menggunakan kemiripan mereka dalam gambar yang dibuat oleh Grok.
Perusahaan otentikasi AI Copyleaks dilaporkan bahwa tren menghilangkan pakaian dari gambar dimulai dengan pembuat konten dewasa yang meminta Grok untuk menampilkan gambar seksi dirinya setelah dirilisnya fitur pengeditan gambar baru. Pengguna kemudian mulai menerapkan perintah serupa pada foto pengguna lain, terutama perempuan, yang tidak menyetujui pengeditan tersebut. Wanita mencatat peningkatan pesat dalam pembuatan deepfake di X ke berbagai outlet berita, termasuk Metro Dan PetaPixel. Grok dulu sudah bisa untuk mengubah gambar dengan cara seksual ketika ditandai dalam postingan di X, namun alat “Edit Gambar” yang baru tampaknya telah mendorong lonjakan popularitas baru-baru ini.
