Openai mengumumkan baru fitur keselamatan remaja untuk chatgpt pada hari Selasa sebagai bagian dari upaya berkelanjutan untuk menanggapi kekhawatiran tentang bagaimana anak di bawah umur terlibat chatbots. Perusahaan sedang membangun Sistem prediksi usia Itu mengidentifikasi apakah pengguna berusia di bawah 18 tahun dan merutekan mereka ke “sesuai usia”Sistem yang memblokir konten seksual grafis. Jika sistem mendeteksi bahwa pengguna sedang mempertimbangkan bunuh diri atau melukai diri sendiri, itu akan menghubungi orang tua pengguna. Dalam kasus bahaya yang akan segera terjadi, jika orang tua pengguna tidak dapat dijangkau, sistem dapat menghubungi pihak berwenang.
Di sebuah Posting Blog Tentang pengumuman tersebut, CEO Sam Altman menulis bahwa perusahaan sedang berusaha menyeimbangkan kebebasan, privasi, dan keselamatan remaja.
“Kami menyadari bahwa prinsip -prinsip ini bertentangan, dan tidak semua orang akan setuju dengan bagaimana kami menyelesaikan konflik itu,” tulis Altman. “Ini adalah keputusan yang sulit, tetapi setelah berbicara dengan para ahli, inilah yang kami pikir terbaik dan ingin menjadi transparan dalam niat kami.”
Sementara Openai cenderung memprioritaskan privasi dan kebebasan untuk pengguna dewasa, untuk remaja perusahaan mengatakan itu mengutamakan keselamatan. Pada akhir September, perusahaan akan meluncurkan kontrol orang tua sehingga orang tua dapat menghubungkan akun anak mereka dengan mereka sendiri, memungkinkan mereka untuk mengelola percakapan dan menonaktifkan fitur. Orang tua juga dapat menerima pemberitahuan ketika “sistem mendeteksi anak remaja mereka berada pada saat kesusahan akut,” menurut posting blog perusahaan, dan menetapkan batasan pada waktu hari anak -anak mereka dapat menggunakan chatgpt.
Gerakan menjadi sangat meresahkan tajuk utamaS terus muncul tentang orang yang sekarat karena bunuh diri atau melakukan kekerasan terhadap anggota keluarga setelah melakukan percakapan yang panjang dengan AI Chatbots. Anggota parlemen telah memperhatikan, dan baik Meta dan Openai berada di bawah pengawasan. Awal bulan ini, Komisi Perdagangan Federal meminta Meta, Openai, Google, dan perusahaan AI lainnya untuk menyerahkan informasi tentang bagaimana teknologi mereka berdampak pada anak -anak, Menurut Bloomberg.
Pada saat yang sama, Openai masih berada di bawah perintah pengadilan yang mengamanatkan bahwa ia melestarikan obrolan konsumen tanpa batas – fakta bahwa perusahaan sangat tidak bahagia, menurut sumber yang saya ajak bicara. Berita hari ini adalah langkah penting untuk melindungi anak di bawah umur dan langkah PR yang cerdas untuk memperkuat gagasan bahwa percakapan dengan chatbots sangat pribadi sehingga privasi konsumen hanya boleh dilanggar dalam keadaan yang paling ekstrem.
“Avatar Sexbot di Chatgpt”
Dari sumber yang saya ajak bicara di Openai, beban melindungi pengguna sangat membebani banyak peneliti. Mereka ingin menciptakan pengalaman pengguna yang menyenangkan dan menarik, tetapi dapat dengan cepat membelok menjadi Sycophantic yang sangat buruk. Sangat positif bahwa perusahaan seperti Openai mengambil langkah -langkah untuk melindungi anak di bawah umur. Pada saat yang sama, dengan tidak adanya peraturan federal, masih belum ada yang memaksa perusahaan -perusahaan ini untuk melakukan hal yang benar.
Di sebuah terkini Wawancara, Tucker Carlson mendorong Altman untuk menjawab dengan tepat WHO membuat keputusan yang berdampak pada kita semua ini. Kepala Openai menunjuk ke tim perilaku model, yang bertanggung jawab untuk menyetel model untuk atribut tertentu. “Orang yang saya pikir Anda harus meminta pertanggungjawaban atas panggilan itu adalah saya,” tambah Altman. “Seperti, aku wajah publik. Akhirnya, seperti, aku yang bisa mengesampingkan salah satu keputusan itu atau dewan kami.”
Dia benar, namun beberapa kerugian yang akan segera terjadi. Di dalam Wawancara podcast lainnya Dengan YouTuber Cleo Abrams, Altman mengatakan bahwa “kadang -kadang kita tergoda” untuk meluncurkan produk “yang benar -benar akan membuat jus pertumbuhan.” Dia menambahkan: “Kami belum menempatkan avatar sexbot di chatgpt.” BelumLai Betapa anehnya.
Openai baru -baru ini Dirilis penelitian pada siapa yang menggunakan chatgpt, dan bagaimana mereka menggunakannya. Penelitian itu mengecualikan pengguna yang berusia di bawah 18 tahun. Kami belum memiliki pemahaman penuh tentang bagaimana remaja menggunakan AI, dan ini adalah pertanyaan penting untuk dijawab sebelum situasi semakin mengerikan.
Sumber mengatakan
Xai Elon Musk adalah Menuntut mantan staf yang meninggalkan perusahaan untuk bergabung dengan Openai, menuduh dalam keluhan bahwa ia menyalahgunakan rahasia dagang dan informasi rahasia. Di era perusahaan AI saat ini menukar staf Paket Kompensasi Multimilion DolarSaya yakin kita akan melihat lebih banyak jenis tuntutan hukum ini muncul.
Staf yang dipermasalahkan, Xuechen Li, tidak pernah sampai ke Slack internal Openai, menurut dua sumber di perusahaan. Tidak jelas apakah tawarannya dibatalkan, atau apakah dia naik hanya untuk dilepaskan. Openai dan Li tidak menanggapi permintaan komentar Wired.
Ini adalah edisi Kylie Robison Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
