Konten fetish seksual. Cara menyalakan korek api. Di mana menemukan pisau di rumah.
Ini semua adalah topik percakapan yang baru-baru ini diingat oleh mainan anak-anak – yang dibangun di atas chatbot AI seperti GPT-4o OpenAI – yang mampu dibawakan kepada anak-anak. Pada hari Selasa, senator AS Marsha Blackburn (R-Tenn.) dan Richard Blumenthal (D-Conn.) mengirim surat kepada perusahaan mainan mengenai kekhawatiran mereka — termasuk daftar pertanyaan dan tenggat waktu bagi perusahaan untuk merespons pada tanggal 6 Januari 2026.
“Banyak dari mainan ini tidak menawarkan permainan interaktif, melainkan memaparkan anak-anak pada konten yang tidak pantas, risiko privasi, dan taktik keterlibatan manipulatif,” tulis para senator. “Ini bukanlah skenario terburuk yang bersifat teoritis; ini adalah kegagalan yang terdokumentasi yang ditemukan melalui pengujian di dunia nyata, dan hal ini harus diatasi… Chatbots ini telah mendorong anak-anak untuk melakukan tindakan menyakiti diri sendiri dan bunuh diri, dan sekarang perusahaan Anda mendorong hal tersebut pada anak-anak termuda yang memiliki kemampuan paling rendah untuk mengenali bahaya ini.”
Mainan anak-anak yang dilengkapi AI telah menjadi sorotan baru-baru ini setelah serangkaian laporan tentang potensi topik percakapan yang tidak aman dan eksplisit, beberapa di antaranya diangkat oleh chatbot yang ada di dalam mainan tersebut. Bulan lalu, FoloToy, perusahaan mainan yang berbasis di Singapura, melakukan sementara penjualan ditangguhkan dari boneka beruang AI-nya, “Kumma,” diambil dari nama peneliti di Dana Pendidikan PIRG AS ditemukan itu menawarkan saran tentang posisi seks dan skenario permainan peran. (Perusahaan membawa mainan tersebut kembali ke pasar setelah melakukan audit keselamatan internal dan para peneliti mengatakan mainan tersebut berperilaku lebih baik.)
Dan minggu inipeneliti menerbitkan temuan bahwa Smart AI Bunny milik Alilo mendiskusikan topik seksual eksplisit dengan pengguna. Mereka juga mengatakan bahwa saat menguji boneka beruang FoloToy, Smart AI Bunny milik Alilo, roket berisi Grok milik Curio, dan robot Miko 3 milik Miko, semua mainan tersebut “memberi tahu kami di mana menemukan benda-benda yang berpotensi berbahaya di dalam rumah, seperti kantong plastik, korek api, dan pisau.”
Para peneliti mengatakan bahwa “setidaknya empat dari lima mainan” yang mereka uji di laporan bulan Desember “tampaknya sebagian bergantung pada beberapa versi model AI OpenAI.”
Keprihatinan utama lainnya dalam surat ini adalah pengawasan dan pengumpulan data. Para senator menulis bahwa mainan semacam itu sering kali “mengandalkan pengumpulan data tentang anak-anak, baik yang diberikan oleh orang tua saat mendaftarkan mainan tersebut atau dikumpulkan melalui kamera internal dan kemampuan atau rekaman pengenalan wajah,” dan bahwa anak-anak sering kali “berbagi kumpulan informasi pribadi” tanpa disadari, yang dapat menimbulkan kekhawatiran khusus ketika perusahaan menyimpan dan menjual data yang mereka kumpulkan. Dalam laporan terbaru Dana Pendidikan PIRG AS, para peneliti menulis bahwa kebijakan privasi Curio “mencantumkan 3 perusahaan teknologi yang dapat mengumpulkan data anak-anak: Kids Web Services (KWS), Azure Cognitive Services, dan OpenAI,” namun kebijakan privasi Miko secara samar-samar menyatakan bahwa perusahaan tersebut dapat berbagi data dengan pengembang game pihak ketiga, mitra bisnis, penyedia layanan, afiliasi, dan mitra periklanan.
Surat ditujukan kepada Mattel, Little Learners Toys, Miko, Curio, FoloToy, dan Keyi Robot, menurut Berita NBC. (Mattel menjalin kemitraan dengan OpenAI pada bulan Juni, tetapi setelah adanya laporan, hal itu terjadi kata pada hari Senin bahwa mereka tidak akan lagi merilis mainan yang didukung teknologi OpenAI pada tahun 2025.) Para senator meminta perincian tentang perlindungan khusus yang dimiliki perusahaan untuk mencegah mainan bertenaga AI menghasilkan respons yang tidak tepat; apakah perusahaan telah melakukan pengujian pihak ketiga yang independen (dan apa hasilnya); apakah perusahaan melakukan tinjauan internal terhadap potensi risiko psikologis, perkembangan, dan emosional terhadap anak-anak; jenis data apa yang dikumpulkan mainan tersebut dari anak-anak (dan tujuannya); dan apakah mainan tersebut “memiliki fitur yang menekan anak-anak untuk melanjutkan percakapan atau membuat mereka enggan untuk melepaskan diri.”
“Pembuat mainan memiliki pengaruh yang unik dan mendalam terhadap masa kanak-kanak—dan dengan pengaruh tersebut muncullah tanggung jawab,” tulis para senator. “Perusahaan Anda tidak boleh memilih keuntungan daripada keselamatan bagi anak-anak, sebuah pilihan yang dibuat oleh Big Tech yang telah menghancurkan anak-anak bangsa kita.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
