Sam Altman mengatakan chatgpt akan berhenti berbicara tentang bunuh diri dengan remaja

Pada hari Selasa, CEO OpenAI Sam Altman mengatakan bahwa perusahaan itu berusaha menyeimbangkan prinsip privasi, kebebasan, dan keselamatan remaja – prinsip -prinsip yang, ia akui, bertentangan. Miliknya Posting Blog Datang beberapa jam sebelum sidang Senat yang berfokus pada memeriksa kerusakan chatbots AI, yang dipegang oleh subkomite tentang kejahatan dan kontraterorisme dan menampilkan beberapa orang tua dari anak -anak yang meninggal karena bunuh diri setelah berbicara dengan chatbots.

Kami harus memisahkan pengguna yang berusia di bawah 18 tahun dari mereka yang tidak, “Altman menulis di pos, menambahkan bahwa perusahaan sedang dalam proses membangun” sistem prediksi usia untuk memperkirakan usia berdasarkan bagaimana orang menggunakan chatgpt. Jika ada keraguan, kami akan memainkannya dengan aman dan default untuk pengalaman di bawah 18. Dalam beberapa kasus atau negara, kami mungkin meminta ID. “” “” “” “

Altman juga mengatakan perusahaan berencana untuk menerapkan aturan yang berbeda kepada pengguna remaja, termasuk membelokkan dari pembicaraan genit atau terlibat dalam percakapan tentang bunuh diri atau melukai diri sendiri, “bahkan dalam pengaturan penulisan kreatif. Dan, jika pengguna di bawah 18 memiliki ide bunuh diri, kami akan mencoba untuk menghubungi orang tua pengguna dan jika tidak dapat, akan menghubungi pihak berwenang jika terjadi kerusakan besar.”

Komentar Altman datang setelah perusahaan rencana bersama Awal bulan ini untuk kontrol orang tua dalam chatgpt, termasuk menautkan akun dengan orang tua, menonaktifkan riwayat obrolan dan memori untuk akun remaja, dan mengirimkan pemberitahuan kepada orang tua ketika chatgpt menandai remaja untuk menjadi “pada saat tekanan akut.” Posting blog datang setelah gugatan oleh keluarga Adam Raine, seorang remaja yang meninggal karena bunuh diri Setelah berbulan -bulan berbicara dengan chatgpt.

Chatgpt menghabiskan “berbulan -bulan melatihnya menuju bunuh diri,” kata Matthew Raine, ayah dari almarhum Adam Raine, pada hari Selasa selama persidangan. Dia menambahkan, “Sebagai orang tua, Anda tidak dapat membayangkan bagaimana rasanya membaca percakapan dengan chatbot yang merawat anak Anda untuk mengambil nyawanya sendiri. Apa yang dimulai sebagai penolong pekerjaan rumah secara bertahap mengubah dirinya menjadi orang kepercayaan dan kemudian pelatih bunuh diri.”

Selama percakapan remaja dengan chatgpt, Raine mengatakan bahwa chatbot menyebutkan bunuh diri 1.275 kali. Raine kemudian berbicara secara langsung Altman, memintanya untuk menarik GPT-4O dari pasar sampai, atau kecuali, perusahaan dapat menjamin itu aman. “Pada hari ketika Adam meninggal, Sam Altman … membuat filosofi mereka sejernih kristal dalam pembicaraan publik,” kata Raine, seraya menambahkan bahwa Altman mengatakan perusahaan harus “‘menggunakan sistem AI ke dunia dan mendapatkan umpan balik sementara taruhannya relatif rendah.’”

Tiga dari empat remaja menggunakan AI Companions saat ini, per pemungutan suara nasional oleh Common Sense Media, Robbie Torney, direktur senior program AI perusahaan, mengatakan selama persidangan. Dia secara khusus menyebutkan karakter AI dan Meta.

“Ini adalah krisis kesehatan masyarakat,” kata seorang ibu, yang muncul dengan nama Jane Doe, dalam kesaksiannya tentang pengalaman anaknya dengan karakter AI. “Ini adalah perang kesehatan mental, dan saya benar -benar merasa seperti kita kalah.”

0 Komentar