Mulai hari ini, Openai sedang diluncurkan Chatgpt Alat pengaman yang dimaksudkan untuk digunakan orang tua dengan remaja mereka. Pembaruan di seluruh dunia ini mencakup kemampuan orang tua, serta penegakan hukum, untuk menerima pemberitahuan jika seorang anak – dalam hal ini, pengguna antara usia 13 dan 18 – landasan masuk chatbot percakapan tentang bahaya diri atau bunuh diri.
Perubahan ini tiba ketika Openai digugat oleh orang tua yang menuduh chatgpt berperan dalam kematian anak mereka. Chatbot itu diduga mendorong remaja bunuh diri untuk menyembunyikan jerat di kamar mereka yang tidak terlihat dari anggota keluarga, menurut melaporkan dari The New York Times.
Secara keseluruhan, pengalaman konten untuk remaja menggunakan chatgpt diubah dengan pembaruan ini. “Begitu orang tua dan remaja menghubungkan akun mereka, akun remaja akan secara otomatis mendapatkan perlindungan konten tambahan,” membaca posting blog Openai yang mengumumkan peluncuran. “Termasuk berkurangnya konten grafis, tantangan viral, peran seksual, romantis atau kekerasan, dan cita-cita kecantikan yang ekstrem, untuk membantu menjaga pengalaman mereka sesuai usia.”
Di bawah batasan baru, jika seorang remaja menggunakan akun ChatGPT memasuki prompt terkait dengan ide-ide yang melukai diri sendiri atau bunuh diri, prompt dikirim ke tim pengulas manusia yang memutuskan apakah akan memicu pemberitahuan potensial orang tua.
“Kami akan menghubungi Anda sebagai orang tua dalam segala hal yang kami bisa,” kata Lauren Haber Jonas, kepala kesejahteraan pemuda Openai. Orang tua dapat memilih untuk menerima peringatan ini melalui teks, email, dan pemberitahuan dari aplikasi ChatGPT.
Peringatan yang mungkin diterima orang tua dalam situasi ini diharapkan tiba dalam beberapa jam setelah percakapan ditandai untuk ditinjau. Di saat -saat di mana setiap menit diperhitungkan, penundaan ini kemungkinan akan membuat frustrasi bagi orang tua yang menginginkan lebih banyak peringatan instan tentang mereka keselamatan anak. Openai bekerja untuk mengurangi jeda waktu pemberitahuan.
Peringatan yang berpotensi dikirim ke orang tua oleh Openai akan secara luas menyatakan bahwa anak tersebut mungkin telah menulis prompt yang terkait dengan bunuh diri atau kerusakan diri. Ini juga dapat mencakup strategi percakapan dari para ahli kesehatan mental untuk digunakan orang tua saat berbicara dengan anak mereka.
Dalam demo prelaunch, contoh baris subjek email yang ditunjukkan kepada masalah keamanan yang disorot tetapi tidak secara eksplisit menyebutkan bunuh diri. Apa yang juga tidak akan dimasukkan oleh pemberitahuan orang tua adalah kutipan langsung dari percakapan anak – apa pun yang diminta maupun output. Orang tua dapat menindaklanjuti dengan pemberitahuan dan meminta perangko waktu percakapan.
“Kami ingin memberi orang tua informasi yang cukup untuk mengambil tindakan dan melakukan percakapan dengan remaja mereka sambil tetap mempertahankan sejumlah privasi remaja,” kata Jonas, “karena konten juga dapat mencakup informasi sensitif lainnya.”
Akun orang tua maupun remaja harus memilih fitur keselamatan ini untuk diaktifkan. Ini berarti orang tua perlu mengirim undangan remaja mereka agar akun mereka dipantau, dan remaja itu diharuskan menerimanya. Tautan akun juga dapat diprakarsai oleh remaja.
Openai Dapat menghubungi penegakan hukum dalam situasi di mana moderator manusia menentukan bahwa seorang remaja mungkin dalam bahaya dan orang tua tidak dapat dicapai melalui pemberitahuan. Tidak jelas seperti apa koordinasi dengan penegakan hukum ini, terutama pada skala global.
Pembaruan chatgpt utama lainnya diluncurkan sebagai bagian dari perubahan ini adalah kemampuan baru bagi orang tua Tetapkan pembatasan waktu untuk remaja mereka di chatgpt. Namun, alih -alih sejumlah jam penggunaan, akses chatgpt dapat diblokir selama periode waktu tertentu, seperti dari jam 8 malam hingga 10 pagi.
Secara keseluruhan, kontrol orang tua mencakup beberapa pilihan granular untuk membuat pengalaman anak -anak mereka. Selain pembatasan konten sensitif dan jam tenang, orang tua dapat memilih data anak mereka dari pelatihan model, mematikan kenangan yang disimpan bot, dan menonaktifkan mode suara maupun pembuatan gambar.
“Pagar bantuan, tetapi mereka tidak mudah dan dapat dilewati jika seseorang sengaja mencoba menyiasati mereka,” kata blog Openai. Wired pengujian sebelumnya Model GPT-5 Openai menunjukkan bahwa aspek-aspek tertentu dari pagar potensial dapat dielakkan dengan perintah dasar dalam instruksi khusus.
Semua pembaruan ini juga terjadi setelah Kematian remaja lain yang menggunakan chatbot dari karakter.ai, platform bermain peran yang populer di kalangan pengguna muda. Setelah kematian, karakter.ai diterapkan kontrol orang tua untuk memungkinkan lebih banyak visibilitas ke dalam pola penggunaan remaja. Visibilitas hanya berjalan sejauh ini; Pemberitahuan orang tua Character.ai tidak termasuk peringatan khusus konten, seperti untuk ide bunuh diri.
Perusahaan AI lain cenderung meniru pendekatan Openai terhadap jenis alat keselamatan remaja ini. “Kami ingin pengguna dapat menggunakan alat kami dengan cara yang mereka inginkan, dalam batas keselamatan yang sangat luas,” tulis CEO Sam Altman di a Posting Blog Awalnya mengumumkan alat dua minggu lalu. Bahkan jika upaya untuk melindungi remaja terbukti berhasil, sangat tidak mungkin perlindungan yang sama di sekitar ide bunuh diri akan diluncurkan untuk orang dewasa karena kekhawatiran Openai tentang privasi pengguna.
Jika Anda atau seseorang yang Anda kenal membutuhkan bantuan, hubungi 988 secara gratis, dukungan 24 jam dari Lifeline Pencegahan Bunuh Diri Nasional. Di luar AS, kunjungi Asosiasi Internasional untuk Pencegahan Bunuh Diri untuk pusat krisis di seluruh dunia.
