OpenAI 80 sen Laporan insiden eksploitasi anak ke National Center for Missing & Exploited Children (Pusat Nasional untuk Anak Hilang & Tereksploitasi) selama paruh pertama tahun 2025 dua kali lebih banyak dibandingkan pada periode waktu yang sama pada tahun 2024, menurut sebuah laporan pembaruan terkini dari perusahaan. CyberTipline NCMEC adalah lembaga kliring resmi Kongres untuk melaporkan materi pelecehan seksual terhadap anak (CSAM) dan bentuk eksploitasi anak lainnya.
Perusahaan diwajibkan oleh hukum untuk melaporkan eksploitasi anak yang nyata ke CyberTipline. Ketika sebuah perusahaan mengirimkan laporan, NCMEC meninjaunya dan kemudian meneruskannya ke lembaga penegak hukum yang sesuai untuk diselidiki.
Statistik yang terkait dengan laporan NCMEC dapat bervariasi. Peningkatan laporan terkadang dapat menunjukkan perubahan dalam moderasi otomatis suatu platform, atau kriteria yang digunakan untuk memutuskan apakah suatu laporan diperlukan, dan bukannya menunjukkan peningkatan aktivitas jahat.
Selain itu, konten yang sama dapat menjadi subjek beberapa laporan, dan satu laporan dapat berisi beberapa konten. Beberapa platform, termasuk OpenAI, mengungkapkan jumlah laporan dan total konten yang ada untuk mendapatkan gambaran yang lebih lengkap.
Juru bicara OpenAI Gaby Raila mengatakan dalam sebuah pernyataan bahwa perusahaan melakukan investasi menjelang akhir tahun 2024 “untuk meningkatkan [its] kapasitas untuk meninjau dan mengambil laporan untuk mengimbangi pertumbuhan pengguna saat ini dan masa depan.” Raila juga mengatakan bahwa jangka waktu tersebut sesuai dengan “diperkenalkannya lebih banyak platform produk yang memungkinkan pengunggahan gambar dan semakin populernya produk kami, yang berkontribusi pada peningkatan laporan.” Pada bulan Agustus, Nick Turley, wakil presiden dan kepala ChatGPT, diumumkan bahwa aplikasi tersebut memiliki jumlah pengguna aktif mingguan empat kali lipat dibandingkan tahun sebelumnya.
Selama paruh pertama tahun 2025, jumlah laporan CyberTipline yang dikirim OpenAI kira-kira sama dengan jumlah konten yang dikirim oleh OpenAI dalam laporan—75.027 dibandingkan dengan 74.559. Pada paruh pertama tahun 2024, mereka mengirimkan 947 laporan CyberTipline tentang 3.252 konten. Baik jumlah laporan maupun isi laporan mengalami peningkatan yang nyata antara dua periode waktu tersebut.
Konten, dalam konteks ini, dapat berarti banyak hal. OpenAI telah mengatakannya laporan semua contoh CSAM, termasuk unggahan dan permintaan, ke NCMEC. Selain aplikasi ChatGPT, yang memungkinkan pengguna mengunggah file—termasuk gambar—dan dapat menghasilkan teks dan gambar sebagai respons, OpenAI juga menawarkan akses ke modelnya melalui akses API. Penghitungan NCMEC terbaru tidak mencakup laporan apa pun yang terkait dengan hal tersebut aplikasi pembuatan video Sorakarena rilisnya pada bulan September dilakukan setelah jangka waktu yang tercakup dalam pembaruan.
Lonjakan laporan mengikuti pola serupa dengan apa yang diamati NCMEC di CyberTipline secara lebih luas dengan munculnya AI generatif. Pusatnya analisa dari semua data CyberTipline menemukan bahwa laporan yang melibatkan AI generatif mengalami peningkatan sebesar 1,325 persen antara tahun 2023 dan 2024. NCMEC belum merilis data tahun 2025, dan meskipun laboratorium AI besar lainnya seperti Google mempublikasikan statistik tentang laporan NCMEC yang mereka buat, namun mereka tidak menentukan berapa persentase laporan tersebut yang terkait dengan AI.
Pembaruan OpenAI hadir pada akhir tahun ketika perusahaan dan pesaingnya menghadapi peningkatan pengawasan terhadap masalah keselamatan anak selain CSAM. Selama musim panas, 44 jaksa agung negara bagian mengirimkan a surat bersama kepada beberapa perusahaan AI termasuk OpenAI, Meta, Character.AI, dan Google, memperingatkan bahwa mereka akan “menggunakan setiap aspek otoritas kami untuk melindungi anak-anak dari eksploitasi produk kecerdasan buatan yang bersifat predator.” Baik OpenAI dan Character.AI pernah menghadapinya banyak tuntutan hukum dari keluarga atau atas nama individu yang menuduh bahwa chatbots berkontribusi terhadap kematian anak-anak mereka. Pada musim gugur, Komite Kehakiman Senat AS mengadakan a pendengaran tentang bahaya chatbot AI, dan Komisi Perdagangan Federal AS meluncurkan studi pasar tentang bot pendamping AI yang mencakup pertanyaan tentang bagaimana perusahaan memitigasi dampak negatif, khususnya terhadap anak-anak. (Saya sebelumnya bekerja di FTC dan ditugaskan untuk mengerjakan studi pasar sebelum meninggalkan agensi tersebut.)
Dalam beberapa bulan terakhir, OpenAI telah meluncurkan alat baru yang berfokus pada keselamatan secara lebih luas. Pada bulan September, OpenAI meluncurkan beberapa fitur baru untuk ChatGPT, termasuk kontrol orang tuasebagai bagian dari pekerjaannya “untuk memberi keluarga alat guna mendukung penggunaan AI oleh remaja mereka.” Orang tua dan anak remajanya dapat menautkan akun mereka, dan orang tua dapat mengubah pengaturan anak remajanya, termasuk dengan menonaktifkan mode suara dan memori, menghapus kemampuan ChatGPT untuk menghasilkan gambar, dan mengeluarkan anak mereka dari pelatihan model. OpenAI mengatakan pihaknya juga dapat memberi tahu orang tua jika percakapan remaja mereka menunjukkan tanda-tanda menyakiti diri sendiri, dan berpotensi juga memberi tahu penegak hukum jika mereka mendeteksi ancaman terhadap kehidupan dan tidak dapat menghubungi orang tua.
Pada akhir Oktober, untuk mengakhiri negosiasi dengan Departemen Kehakiman California mengenai usulan rencana rekapitalisasi, OpenAI sepakat untuk “terus melakukan langkah-langkah untuk memitigasi risiko terhadap remaja dan orang lain sehubungan dengan pengembangan dan penerapan AI dan AGI.” Bulan berikutnya, OpenAI merilisnya Cetak Biru Keamanan Remajayang menyatakan bahwa mereka terus meningkatkan kemampuannya untuk mendeteksi materi pelecehan dan eksploitasi seksual terhadap anak-anak, dan melaporkan CSAM yang dikonfirmasi kepada otoritas terkait, termasuk NCMEC.
