Audio ini dibuat secara otomatis. Harap beri tahu kami jika Anda punya masukan.
Kemampuan untuk menyalahgunakan chatbot kecerdasan buatan Grok X sekali lagi berada di bawah pengawasan ketat, dengan wawasan baru menunjukkan bahwa FBI telah menyelidiki penggunaan Grok dalam kasus pelecehan yang sedang berlangsung.
Menurut laporan 25 Februari dari 404 Media bekerja sama dengan Court Watch, dokumen pengadilan menunjukkan bahwa pada bulan Januari, FBI memperoleh surat perintah penggeledahan yang mengharuskan X untuk memberikan wawasan lebih lanjut tentang bagaimana seorang pria yang dituduh menguntit dan melakukan pelecehan menggunakan Grok untuk menghasilkan lebih dari 200 gambar dan video telanjang palsu dari seorang wanita.
Sesuai laporan: “Rincian penyelidikan terdapat dalam pernyataan tertulis FBI tentang dugaan tindakan Simon Tuck, yang dituduh melakukan pelecehan dan ancaman ekstensif terhadap suami wanita tersebut. […] Pernyataan tertulis tersebut mencatat bahwa, pada bulan Januari, FBI mendapat surat perintah penggeledahan atas percakapan pria tersebut dengan Grok. FBI mengatakan bahwa mereka menerima ‘perintah yang diberikan kepada GrokAI yang menghasilkan sekitar 200 video porno seorang wanita yang sangat mirip dengan penampilan fisik istri KORBAN.’”
Laporan tersebut juga mengatakan bahwa tersangka laki-laki menggunakan Grok untuk mengajukan pengaduan profesional mengenai suami perempuan tersebut, yang kemudian dia ajukan kepada majikan sang suami.
Ini adalah contoh terbaru dari potensi penyalahgunaan alat chatbot xAI, yang juga dilakukan oleh perusahaan sedang diselidiki di berbagai daerah atas penggunaan Grok pada gambar telanjang non-konsensual secara umum.
Awal tahun ini, Tren nudifikasi grok melihat banyak pengguna mendorong bot AI untuk menghasilkan gambar telanjang dari berbagai sumber foto di aplikasi, dengan Bloomberg melaporkan bahwa, pada satu tahap, Grok adalah menghasilkan sekitar 6.700 gambar setiap jam yang dapat dikategorikan sebagai “nudifikasi yang menjurus ke arah seksual”.
Dan meskipun pada awalnya mendorong kembali menentang panggilan untuk melakukan perubahan pada alat guna membatasi perilaku tersebut, X pada akhirnya dipindahkan untuk membatasi kapasitas Grok untuk menghasilkan gambar telanjang yang menjurus ke arah seksual dan non-konsensual.
Namun hal ini mungkin sudah terlambat, karena kekhawatiran akan nudifikasi mendorong dilakukannya serangkaian investigasi terhadap X dan perlindungan yang dimilikinya (atau tidak) untuk meminimalkan penyalahgunaan alat-alatnya. Menurut Reuters, beberapa pengguna juga menemukan hal itu Grok akan tetap menghasilkan gambar yang menjurus ke arah seksual saat dimintayang dapat menimbulkan dampak besar selain gambar selebriti yang dipalsukan.
Hal ini dapat membuka jalan lebih lanjut untuk litigasi, sekaligus memaparkan pengguna X pada risiko yang signifikan.
Pemilik X, Elon Musk, telah lama mencela peraturan, dan bahkan mengklaim bahwa dorongan tersebut lebih kepada sensor daripada perlindungan.
