Orang tua khawatir tentang apa yang dibicarakan oleh remaja mereka MetaAsisten AI kini dapat melihat topik percakapan melalui alat pengawasan orang tua Akun Remaja. Meta mengumumkan fitur tersebut pada hari Kamis sebuah postingan blog.
Informasi tersebut akan tersedia melalui tab Insights di alat pengawasan untuk platform Instagram, Facebook, dan Messenger, yang semuanya dimiliki oleh Meta.
Fitur ini mencantumkan topik yang lebih luas, seperti sekolah, hiburan, menulis, kesehatan, dan kesejahteraan. Orang tua dapat mengklik topik untuk mengetahui detail tambahan namun terbatas.
Kategori kesehatan dan kesejahteraan, misalnya, dapat mencakup kebugaran, kesehatan fisik, dan kesehatan mental. Informasi tersebut hanya mencakup pertukaran tujuh hari terakhir.
Fitur ini merupakan langkah keamanan terbaru yang diterapkan Meta di bawah pengawasan ketat hukum dan media.
Kecepatan Cahaya yang Dapat Dihancurkan
Meta baru-baru ini kehilangan dua uji coba penting terkait dengan perlindungan keselamatan anak dan itu diduga desain produknya membuat ketagihan. Perusahaan mengatakan akan mengajukan banding atas kedua putusan tersebut.
Gugatan keselamatan anak, yang berlangsung tahun ini di New Mexico, menghasilkan dokumen Meta internal yang menunjukkan bahwa pimpinan perusahaan mengetahui bahwa rekan atau “karakter” AI yang digerakkan oleh persona dapat terlibat dalam interaksi yang tidak pantas dan bersifat seksual dan masih meluncurkannya tanpa kontrol yang lebih kuat.
Agustus lalu, Meta mengunci karakter AI-nya untuk pengguna remaja di tengah laporan bahwa mereka melakukan interaksi yang tidak pantas dengan anak di bawah umur, termasuk dalam diskusi tentang tindakan menyakiti diri sendiri, bunuh diri, dan interaksi romantis. Pada bulan Oktober, perusahaan disediakan orang tua dengan kemampuan mematikan percakapan karakter AI satu lawan satu dan memblokir karakter tertentu. Namun pada bulan Januari, Meta kembali membatasi akses remaja terhadap karakter karena asisten AI-nya tetap tersedia.
Seorang juru bicara Meta mengkonfirmasi kepada Mashable bahwa karakter AI dihentikan sementara untuk remaja secara global karena perusahaan terus membangun kontrol orang tua.
Selain fitur pengawasan orang tua terbaru, Meta bermitra dengan Pusat Penelitian Cyberbullying untuk membuat daftar “pemula percakapan” tentang penggunaan chatbot AI.
Perusahaan ini juga mengumumkan pembentukan Dewan Pakar Kesejahteraan AI baru yang dibentuk untuk memberikan “masukan berkelanjutan” mengenai pengalaman remaja AI. Meta mengatakan para ahli tersebut berafiliasi dengan Dewan Nasional untuk Pencegahan Bunuh Diri, Universitas Michigan, dan Universitas Northeastern, serta lembaga-lembaga lainnya.
Pelaporan tambahan oleh Chase DiBenedetto.
