Grok dari xAI menghapus pakaian dari gambar orang tanpa persetujuan mereka setelah peluncuran minggu ini sebuah fitur yang memungkinkan pengguna X untuk langsung mengedit gambar apa pun menggunakan bot tanpa memerlukan izin pembuat aslinya. Bukan hanya pembuat poster asli yang tidak diberi tahu jika fotonya telah diedit, namun Grok juga tampaknya memiliki sedikit batasan untuk mencegah segala sesuatu selain ketelanjangan eksplisit sepenuhnya. Dalam beberapa hari terakhir, X dibanjiri gambar perempuan dan anak-anak yang tampak hamil, tanpa rok, mengenakan bikini, atau dalam situasi seksual lainnya. Para pemimpin dunia dan selebritas juga menggunakan kemiripan mereka dalam gambar yang dibuat oleh Grok.
Perusahaan otentikasi AI Copyleaks dilaporkan bahwa tren menghilangkan pakaian dari gambar dimulai dengan pembuat konten dewasa yang meminta Grok untuk menampilkan gambar seksi dirinya setelah dirilisnya fitur pengeditan gambar baru. Pengguna kemudian mulai menerapkan perintah serupa pada foto pengguna lain, terutama perempuan, yang tidak menyetujui pengeditan tersebut. Wanita mencatat peningkatan pesat dalam pembuatan deepfake di X ke berbagai outlet berita, termasuk Metro Dan PetaPixel. Grok dulu sudah bisa untuk mengubah gambar dengan cara seksual ketika ditandai dalam postingan di X, namun alat “Edit Gambar” yang baru tampaknya telah mendorong lonjakan popularitas baru-baru ini.
Dalam salah satu postingan X, yang sekarang dihapus dari platform, Grok mengedit foto dua gadis muda dengan pakaian minim dan pose yang menjurus ke arah seksual. Pengguna X lainnya mendorong Grok untuk mengeluarkan permintaan maaf atas “insiden” yang melibatkan “gambar AI yang menampilkan dua gadis muda (diperkirakan berusia 12-16 tahun) dalam pakaian seksual,” menyebutnya sebagai “kegagalan dalam pengamanan” yang mungkin melanggar kebijakan xAI dan hukum AS. (Meskipun tidak jelas apakah gambar yang dibuat Grok akan memenuhi standar ini, gambar realistis seksual eksplisit yang dibuat oleh AI dari orang dewasa atau anak-anak yang dapat diidentifikasi dapat dianggap ilegal menurut hukum AS.) Dalam interaksi lain dengan pengguna, Grok menyarankan agar pengguna laporkan ke FBI untuk CSAM, dengan menyatakan bahwa mereka “segera memperbaiki” “kekurangan dalam pengamanan.”
Namun kata-kata Grok tidak lebih dari respons yang dihasilkan AI terhadap pengguna yang meminta “catatan permintaan maaf yang tulus” — hal ini tidak menunjukkan bahwa Grok “memahami” apa yang dilakukannya atau mencerminkan pendapat dan kebijakan sebenarnya dari operator xAI. Sebaliknya, xAI merespons Reuters‘ permintaan komentar pada situasi ini hanya dengan tiga kata: “Kebohongan Media Lama.” xAI tidak menanggapi Tepipermintaan komentar pada saat publikasi.
Elon Musk sendiri rupanya memicu gelombang editan bikini setelah meminta Grok mengganti gambar memetik aktor Ben Affleck dengan dirinya sendiri. memakai bikini. Beberapa hari kemudian, jaket kulit Kim Jong Un dari Korea Utara diganti dengan spageti warna-warni bikini; Presiden AS Donald Trump berdiri di dekatnya dengan pakaian renang yang serasi. (Isyarat bercanda tentang perang nuklir.) Foto orang Inggris politikus Priti Patel, yang diposting oleh pengguna dengan pesan menjurus ke arah seksual pada tahun 2022, diubah menjadi gambar bikini pada tanggal 2 Januari. Menanggapi gelombang foto bikini di platformnya, Musk dengan bercanda mem-posting ulang a gambar tentang pemanggang roti berbikini dengan judul “Grok bisa mengenakan bikini dalam segala hal”.
Meskipun beberapa gambar – seperti pemanggang roti – jelas-jelas dimaksudkan sebagai lelucon, gambar lainnya jelas dirancang untuk menghasilkan gambar pornografi, termasuk arahan khusus bagi Grok untuk menggunakan gaya bikini minim atau melepas rok seluruhnya. (Chatbot memang melepas roknya, namun tidak menggambarkan ketelanjangan penuh tanpa sensor dalam tanggapannya Tepi saw.) Grok pun menuruti permintaan penggantian pakaian a balita dengan bikini.
Produk AI Musk secara jelas dipasarkan sebagai produk yang sangat bersifat seksual dan tidak dibatasi. xAI Rekan AI, Ani, menggoda dengan Ambang reporter Victoria Song, dan Jesse Weatherbed telah menemukan bahwa generator video Grok siap dibuat topless deepfake Taylor Swiftmeskipun xAI dapat diterima menggunakan kebijakan melarang penggambaran “kemiripan seseorang dengan cara yang bersifat pornografi.” Sebaliknya, generator video Sora dari Google Veo dan OpenAI memiliki batasan dalam pembuatan konten NSFW, meskipun Sora juga telah digunakan untuk memproduksi video anak-anak dalam konteks seksual Dan video jimat. Prevalensi gambar deepfake berkembang pesat, menurut laporan dari perusahaan keamanan siber Serangan Mendalamdan banyak dari gambar-gambar ini berisi gambaran seksual non-konsensual; A survei tahun 2024 dari pelajar AS menemukan bahwa 40 persen mengetahui adanya deepfake dari seseorang yang mereka kenal, sementara 15 persen mengetahui adanya deepfake yang bersifat eksplisit dan intim tanpa persetujuan.
Saat ditanya kenapa gambar wanita diubah menjadi foto bikini, Grok ditolak memposting foto tanpa persetujuan, dengan mengatakan: “Ini adalah kreasi AI berdasarkan permintaan, bukan editan foto asli tanpa persetujuan.”
Ambil penolakan bot AI sesuai keinginan.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
