- Elon Musk’s xAI kini menjadi subjek penyelidikan oleh Jaksa Agung California.
- Jaksa Agung Rob Bonta sedang menyelidiki laporan bahwa Grok membuat gambar seksual nonkonsensual dari orang sungguhan.
- Regulator di seluruh dunia telah menekan xAI atas kasus ini.
milik Elon Musk xAI kini menghadapi tekanan dari regulator AS atas pembuatan gambar seksual non-konsensual dari orang-orang nyata yang dibuat oleh Grok.
Pada hari Rabu, Jaksa Agung Kalifornia Rob Bonta mengumumkan bahwa kantornya sedang menyelidiki sejumlah laporan mengenai gambar-gambar tersebut.
“Banyaknya laporan yang merinci materi seksual eksplisit non-konsensual yang diproduksi dan diposting xAI secara online dalam beberapa minggu terakhir sungguh mengejutkan,” kata Bonta dalam sebuah pernyataan. “Materi ini, yang menggambarkan perempuan dan anak-anak dalam situasi telanjang dan seksual eksplisit, telah digunakan untuk melecehkan orang-orang di internet. Saya mendesak xAI untuk segera mengambil tindakan untuk memastikan hal ini tidak terjadi lebih jauh.”
Berita ini muncul setelah para pejabat di India, Inggris, Indonesia, dan Malaysia mengambil berbagai tindakan terhadap Grok. Indonesia and Malaysia bertindak lebih jauh dengan memblokir akses ke Grok.
Ofcom, regulator komunikasi Inggris, mengumumkan penyelidikannya awal pekan ini. Perdana Menteri Keir Starmer sebelumnya mengatakan kepada anggota parlemen bahwa X bisa “kehilangan hak untuk mengatur dirinya sendiri.”
Menanggapi permintaan komentar Business Insider tentang penyelidikan Bonta, xAI menjawab, “Legacy Media Lies.” Perusahaan AI milik Musk sering menanggapi permintaan media dengan kalimat tersebut.
Di tengah reaksi buruk tersebut, xAI membatasi akses terhadap pembuatan gambar Grok hanya untuk pelanggan berbayar.
Rabu sebelumnya, kata Musk dia tidak mengetahui “gambar telanjang di bawah umur yang dibuat oleh Grok.” Musk sebelumnya mengatakan siapa pun yang meminta Grok membuat konten ilegal “akan mendapat konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.”
“Jelas, Grok tidak menghasilkan gambar secara spontan, ia melakukannya hanya berdasarkan permintaan pengguna,” tulis Musk di X. “Ketika diminta untuk membuat gambar, Grok akan menolak untuk menghasilkan sesuatu yang ilegal, karena prinsip operasi Grok adalah mematuhi hukum di negara atau negara bagian mana pun.”
Pernyataan Musk menyangkal banyak contoh yang sedang diselidiki oleh regulator. Yakni, investigasi yang dipicu oleh kekhawatiran pengguna yang meminta Grok untuk melakukan seksualisasi gambar, seperti menggambarkan seseorang dalam bikini padahal foto aslinya tidak menunjukkan mereka dalam keadaan berpakaian seperti itu.
Senat AS dengan suara bulat mengesahkan rancangan undang-undang melalui pemungutan suara pada hari Selasa yang akan memberikan korban hak sipil federal untuk menuntut pengguna yang meminta AI untuk membuat gambar tersebut. Teks undang-undang tersebut, yang disebut “The Defiance Act”, menyebutkan manipulasi digital atas sebuah foto untuk “melepaskan pakaian seseorang sehingga orang tersebut tampak telanjang.”
Senator Richard Durbin, seorang Demokrat Illinois, yang menulis RUU tersebut, mengatakan bahwa RUU tersebut bertujuan untuk menghentikan kejadian seperti gambar Grok.
“Laporan terbaru menunjukkan bahwa X, sebelumnya Twitter, dapat meminta chatbot AI-nya, Grok, untuk menanggalkan pakaian wanita dan gadis di bawah umur di foto,” kata Durbin di ruang Senat. “Grok akan patuh untuk menunjukkan berbagai kondisi pakaian dengan gambar yang tidak akan saya ulangi sebagai catatan, tapi itu mengerikan.”
Tidak jelas apakah RUU tersebut akan mendapat suara di DPR.
Tahun lalu, Presiden Donald Trump menandatangani undang-undang bipartisan menjadi undang-undang yang mewajibkan platform media sosial untuk menghapus foto-foto non-konsensual, serta deepfake AI, dalam waktu 48 jam setelah menerima permintaan untuk melakukannya.
Baca selanjutnya
