Komisi Eropa hari ini mengumumkan bahwa mereka telah meluncurkan proses formal berdasarkan Undang-Undang Layanan Digital untuk menyelidiki apakah X telah menilai risiko dengan benar sebelum menerapkan alat kecerdasan buatan Grok, menyusul penggunaannya untuk menghasilkan gambar seksual eksplisit.
Komisi tersebut mencatat bahwa potensi risiko ini “tampaknya telah menjadi kenyataan”, karena alat yang didukung AI digunakan untuk membuat “gambar yang dimanipulasi secara seksual eksplisit, termasuk konten yang mungkin merupakan materi pelecehan seksual terhadap anak-anak.”
“Pemalsuan seksual terhadap perempuan dan anak-anak adalah bentuk degradasi yang penuh kekerasan dan tidak dapat diterima,” dikatakan Komisaris Teknologi UE Henna Virkkunen. “Dengan penyelidikan ini, kami akan menentukan apakah X telah memenuhi kewajiban hukumnya berdasarkan DSA, atau apakah X memperlakukan hak-hak warga negara Eropa – termasuk perempuan dan anak-anak – sebagai jaminan atas layanannya.”
Pihak berwenang Inggris juga memeriksa platform tersebut setelah akun chatbot Grok AI di X digunakan untuk menghasilkan gambar pengguna X yang telanjang dan materi pelecehan seksual terhadap anak (CSAM).
Menyusul meluasnya laporan yang menimbulkan kekhawatiran tentang konten yang dibuat Grok, Kantor Komisaris Informasi menghubungi X dan xAI pada tanggal 7 Januari untuk rincian lebih lanjut mengenai langkah-langkah yang diambil untuk mematuhi undang-undang perlindungan data, sementara Ofcom (pengawas keamanan online independen Inggris) meluncurkan penyelidikannya sendiri pada 12 Januari.
Beberapa hari kemudian, setelah Jaksa Agung California Rob Bonta membuka penyelidikan lain ke dalam materi seksual eksplisit nonkonsensual yang dihasilkan menggunakan Grok, X diumumkan bahwa hal itu akan membatasi kemampuan pembuatan dan pengeditan gambar Grok hanya untuk pelanggan berbayar.
Kepindahan X terjadi kemudian dijelaskan oleh juru bicara Perdana Menteri Inggris sebagai “penghinaan terhadap korban misogini dan kekerasan seksual” karena mengubah “fitur AI Grok yang memungkinkan pembuatan gambar yang melanggar hukum menjadi layanan premium.”
Sejak ditetapkan a platform online yang sangat besar di bawah hukum UE (setelah diumumkan bahwa mereka telah menjangkau lebih dari 45 juta pengguna aktif bulanan di Uni Eropa), X kini harus memitigasi semua potensi risiko sistemik sebagaimana didefinisikan dalam Undang-Undang Layanan Digital (DSA) UEtermasuk penyebaran konten ilegal dan ancaman terhadap hak-hak dasar.
Itu Komisi Eropa juga mendenda X €120 juta ($140 juta) pada bulan Desember karena pelanggaran kewajiban transparansi dan persyaratan transparansi berdasarkan Digital Services Act (DSA).
Lembar Cheat Keamanan Rahasia: Dari Sprawl hingga Control
Baik Anda membersihkan kunci lama atau menyetel pagar pembatas untuk kode yang dihasilkan AI, panduan ini membantu tim Anda membangun dengan aman sejak awal.
Dapatkan lembar contekan dan hilangkan dugaan tentang manajemen rahasia.
