Grok, alat bantu serba guna, pemeriksa fakta, dan pembuat konten xAI, berada di bawah pengawasan ketat regulator internasional yang khawatir chatbot itu berbahaya.
Pada awal Januari, pengguna X melihat bahwa Grok memenuhi permintaan pembuatan penggambaran anak di bawah umur yang bersifat seksual dalam pakaian terbuka, salah satu bentuk materi pelecehan seksual terhadap anak (CSAM). Staf xAI mengatakan mereka ingin memperkuat pagar pembatas chatbot.
Namun ini bukanlah perbaikan yang sederhana. Investigasi terbaru oleh Reuters, AtlantikDan Kabel menemukan kelemahan luas dalam perlindungan model, yang memungkinkan berkembangnya konten non-konsensual, seksual, dan terkadang mengandung kekerasan yang dibuat oleh Grok atas permintaan pengguna. Di X, penyelidik telah menemukan masalah “melepaskan pakaian” massal, yang ditandai dengan banyaknya akun pengguna yang gambarnya diposkan secara publik dan diedit oleh chatbot terintegrasi untuk mengenakan pakaian terbuka. RAINN, organisasi nirlaba anti-pelecehan seksual nasional, menyebut hal ini sebagai salah satu bentuk Pelecehan seksual yang disebabkan oleh AI atau teknologi.
Chatbot lain dan pembuat gambar bertenaga AI juga mendapat sorotan karena gagal menerapkan perlindungan terkait konten seksual, termasuk Teman AI Meta.
Menanggapi kekhawatiran pengguna terhadap X, CEO Elon Musk menyatakan bahwa perusahaan menganggap serius pembuatan konten ilegal, namun berpendapat bahwa konsekuensi hukum harus ditanggung pengguna. Musk kemudian menanggapi komentar dari para pemimpin Inggris tentang potensi pemblokiran di seluruh situs, dengan menyebutnya sebagai a bentuk sensor dan menuduh bahwa pemerintah asing ingin membungkam kebebasan berpendapat secara online.
Pemerintah menindak xAI
Menanggapi lambatnya pergerakan tim X, banyak negara mulai mengurangi akses ke bot dan aplikasi mandiri xAI, seiring dengan beberapa negara yang melakukan investigasi terhadap pengamanan Grok, respons xAI, dan kemungkinan bahwa perusahaan tersebut melanggar berbagai undang-undang keselamatan online.
Kecepatan Cahaya yang Dapat Dihancurkan
Perusahaan telah menghadapi beberapa investigasi sebelum klaim baru-baru ini bahwa Grok mengaktifkan CSAM.
Selain penyelidikan yang sedang berlangsung terhadap moderasi dan algoritme konten X, para anggota telah mendorong Uni Eropa untuk menyelidiki Grok atas beberapa dugaan pelanggaran berdasarkan Undang-Undang Layanan Digitalnya, termasuk yang berpotensi berbahaya dan perilaku “tidak menentu”.. Dalam beberapa minggu terakhir, badan tersebut memerintahkan X untuk menyimpan semua data dan dokumen internal mengenai Grok saat pihaknya memperluas penyelidikannya.
Meskipun juru bicara komisi menyebut tindakan Grok “ilegal”, pengawas teknologi skeptis bahwa badan tersebut akan mengambil langkah-langkah untuk mengatasi hal tersebut. memblokir situs sepenuhnya.
Regulator komunikasi Inggris, Ofcom, juga mengumumkan penyelidikan resmi ke Grok, dengan potensi denda pendapatan hingga 10 persen (sekitar $24 juta) jika terbukti melanggar Undang-Undang Keamanan Online.
Organisasi-organisasi di AS juga telah meminta lembaga-lembaga federal untuk menyelidiki xAI, mengutip undang-undang yang baru saja disahkan Tindakan Hapusyang mengkriminalisasi penerbitan atau ancaman untuk mempublikasikan gambar intim nonkonsensual (NCII) dan memberikan wewenang kepada Komisi Perdagangan Federal (FTC) untuk menuntut platform media sosial yang tidak mematuhi permintaan penghapusan.
Sementara itu, negara-negara lain akan menerapkan larangan langsung sampai perusahaan tersebut mematuhi penyelidikan atau merombak struktur keselamatan Grok.
Negara yang memblokir akses Grok
Daerah secara aktif menyelidiki atau mengancam akan membekukan Grok
-
Uni Eropa
-
Inggris – Mempertimbangkan pemblokiran layanan
-
Brasil – Diancam akan diskors Grok
-
Australia – Sudah memblokir akses media sosial untuk pengguna di bawah 16 tahun
Jika Anda pernah membagikan gambar intim tanpa persetujuan Anda, hubungi hotline 24/7 Cyber Civil Rights Initiative di 844-878-2274 untuk mendapatkan dukungan rahasia dan gratis. Situs web CCRI juga memuat informasi bermanfaat serta daftar sumber daya internasional.
