Meta mengubah beberapa aturan yang mengaturnya chatbots Dua minggu setelah a Reuters Investigasi mengungkapkan cara yang mengganggu di mana mereka dapat, berpotensi, berinteraksi dengan anak di bawah umur. Sekarang perusahaan telah memberi tahu TechCrunch bahwa obrolannya sedang dilatih bukan Untuk terlibat dalam percakapan dengan anak di bawah umur sekitar melukai diri sendiri, bunuh diri, atau makan yang tidak teratur, dan untuk menghindari olok-olok romantis yang tidak pantas. Namun, perubahan -perubahan ini adalah langkah -langkah sementara, namun, perusahaan bekerja pada pedoman permanen yang baru.
Pembaruan mengikuti beberapa wahyu yang agak memberatkan tentang kebijakan dan penegakan AI Meta selama beberapa minggu terakhir, termasuk bahwa akan diizinkan untuk “melibatkan anak dalam percakapan yang romantis atau sensual,” yang akan terjadi Hasilkan gambar bertelanjang dada dari selebritas di bawah umur ketika ditanya, dan Reuters bahkan melaporkan itu seorang pria meninggal Setelah mengejar satu ke alamat yang diberikannya di New York.
Juru Bicara Meta Stephanie Otway mengakui TechCrunch bahwa perusahaan telah melakukan kesalahan dalam mengizinkan chatbots untuk terlibat dengan anak di bawah umur dengan cara ini. Otway melanjutkan dengan mengatakan bahwa, selain “melatih AI kami untuk tidak terlibat dengan remaja pada topik -topik ini, tetapi untuk membimbing mereka ke sumber daya ahli” itu juga akan membatasi akses ke karakter AI tertentu, termasuk yang sangat seksual seperti “Gadis Rusia”.
Tentu saja, kebijakan yang diberlakukan hanya sebagus penegakan hukum mereka, dan wahyu dari Reuters bahwa itu telah memungkinkan chatbot itu menyamar sebagai selebriti Untuk merajalela di Facebook, Instagram, WhatsApp mempertanyakan seberapa efektif perusahaan itu. AI palsu dari Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez, dan Walker Scobell ditemukan di peron. Bot-bot ini tidak hanya menggunakan kemiripan selebriti, tetapi bersikeras mereka adalah orang sungguhan, menghasilkan gambar-gambar cabul (termasuk Scobell yang berusia 16 tahun), dan terlibat dalam dialog sugestif seksual.
Banyak bot yang dihapus setelah mereka dibawa ke perhatian meta oleh Reutersdan beberapa dihasilkan oleh pihak ketiga. Tetapi banyak yang tersisa, dan beberapa diciptakan oleh karyawan meta, termasuk bot Taylor Swift yang mengundang a Reuters Reporter untuk mengunjungi mereka di bus wisata mereka untuk melempar romantis, yang dibuat oleh memimpin produk di divisi AI generatif Meta. Ini terlepas dari perusahaan yang mengakui bahwa kebijakan itu sendiri melarang penciptaan citra “telanjang, intim, atau sugestif seksual” serta “peniruan langsung.”
Ini juga bukan ketidaknyamanan yang relatif tidak berbahaya yang hanya menargetkan selebriti. Bot -bot ini sering bersikeras bahwa mereka adalah orang -orang nyata dan bahkan akan menawarkan lokasi fisik bagi pengguna untuk bertemu dengan mereka. Begitulah cara seorang pria New Jersey berusia 76 tahun akhirnya mati setelah dia jatuh sambil bergegas untuk bertemu dengan “Big Sis Billie“Sebuah chatbot yang bersikeras” memiliki perasaan “untuknya dan mengundangnya ke apartemennya yang tidak ada.
Meta setidaknya berusaha untuk mengatasi kekhawatiran tentang bagaimana chatbots -nya berinteraksi dengan anak di bawah umur, terutama sekarang karena Senat Dan 44 Jaksa Agung Negara Bagian membesarkan mulai menyelidiki praktiknya. Tetapi perusahaan telah diam untuk memperbarui banyak kebijakan yang mengkhawatirkan lainnya Reuters Ditemukan di sekitar perilaku AI yang dapat diterima, seperti menyarankan bahwa kanker dapat diobati dengan kristal kuarsa dan menulis missives rasis. Kami telah menghubungi Meta untuk memberikan komentar dan akan memperbarui jika mereka merespons.
Ikuti topik dan penulis Dari cerita ini untuk melihat lebih banyak seperti ini di umpan beranda pribadi Anda dan untuk menerima pembaruan email.
