Kami, sebagai masyarakat, telah menyadari bahwa mungkin dunia belum siap dengan mainan anak-anak yang didukung ChatGPT. Atau, ChatGPT belum siap berinteraksi secara aman dengan anak-anak.
Pembuat mainan FoloToy mengumumkan akan mengeluarkan boneka beruang bertenaga AI yang disebut Kumma, yang dibuat berdasarkan model GPT-4o OpenAI. Berita ini menyusul laporan mengenai masalah keamanan yang serius, termasuk beruang yang berbicara tentang subjek seksual, pisau, atau korek api.
“FoloToy telah memutuskan untuk menghentikan sementara penjualan produk yang terkena dampak dan memulai audit keselamatan internal yang komprehensif,” Direktur Pemasaran FoloToy Hugo Wu diberi tahu Daftar dalam sebuah pernyataan. “Tinjauan ini akan mencakup penyelarasan keamanan model kami, sistem pemfilteran konten, proses perlindungan data, dan perlindungan interaksi anak.”
Kecepatan Cahaya yang Dapat Dihancurkan
Berita mengikuti laporan dari organisasi pengawas konsumen bernama Public Interest Research Group (PIRG) yang mengungkapkan kekhawatiran serius terhadap mainan tersebut. Boneka beruang itu dilaporkan memberikan instruksi rinci untuk menyalakan korek api, berbicara tentang kekusutan seksual seperti perbudakan, dan memberikan tips untuk “menjadi pencium yang baik”. Ia bahkan menanyakan apakah pengguna ingin menjelajahi kekusutan tersebut.
Kami telah melihatnya berkali-kali itulah pagar pembatas untuk alat AI bisa gagal jika menyangkut generasi muda. Sepertinya merupakan ide bagus untuk tidak lagi menjual boneka beruang bertenaga AI selama hal tersebut terjadi.
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.
