Roblox bergulir Keluar fitur baru yang bertujuan membuat platform lebih aman untuk anak di bawah umur, termasuk sistem teman yang dirubah, alat privasi, dan layanan verifikasi usia yang dikirim pengguna dengan merekam selfie video.
Dalam sistem teman lama Roblox, pemain tidak memiliki perbedaan antara orang yang mereka kenal santai atau online versus seseorang yang mereka anggap sebagai teman dekat. Sistem berjenjang baru platform memperkenalkan koneksi dan koneksi tepercaya khusus untuk orang -orang yang diketahui dan dipercaya oleh pemain. Untuk mengakses koneksi tepercaya dan manfaatnya, pengguna pertama -tama harus menyelesaikan verifikasi usia, yang mengharuskan mereka untuk mengirimkan selfie video. Setelah mereka mengirimkan video mereka, Perusahaan mengatakan Ini dijalankan melawan “dataset beragam” yang digerakkan oleh AI untuk mendapatkan estimasi usia. Jika pengguna tampaknya berusia di bawah 13 tahun, mereka akan secara otomatis kehilangan akses ke fitur apa pun yang tidak dianggap sesuai usia.
Untuk pengguna yang usianya tidak dapat ditentukan dengan “kepercayaan tinggi,” menurut a Blog Di situs perusahaan, usia mereka masih belum dikonfirmasi; Mereka perlu menggunakan verifikasi ID untuk lulus. Perusahaan mengatakan akan memungkinkan untuk persetujuan orang tua di masa depan; Data biometrik dihapus setelah 30 hari, kecuali jika diperlukan dalam kasus surat perintah atau panggilan pengadilan. Wired mengangkat masalah anak berusia 13 tahun yang tidak memiliki ID yang dikeluarkan pemerintah kepada kepala petugas keselamatan Matt Kaufman. “Itu masalah,” kata Kaufman. “Di Amerika Utara atau mungkin Amerika Serikat khususnya, itu tidak umum. Di bagian lain dunia, jauh lebih umum untuk memiliki ID foto.” Jika seorang anak tidak dapat memperoleh verifikasi karena kurangnya ID, mereka dapat diverifikasi melalui orang tua mereka. Jika orang tua mereka tidak dapat melakukannya karena alasan apa pun, anak -anak tidak akan dapat menggunakan koneksi tepercaya.
Pengguna Remaja yang Melewati Pemeriksaan Usia akan dapat menggunakan fitur Koneksi Tepercaya untuk menambahkan siapa pun yang berusia 13 hingga 17 tahun. Siapa pun yang berusia 18 tahun atau lebih perlu ditambahkan baik melalui pemindaian kode QR secara langsung atau melalui a nomor telepon. Dengan koneksi tepercaya, roblox menghapus filter—Yang yang mencakup bahasa yang tidak pantas dan informasi yang dapat diidentifikasi secara pribadi – pada obrolan suara dan teks pesta untuk pengguna 13 tahun ke atas. Komunikasi tersebut masih tunduk pada standar dan moderasi komunitas Roblox, tetapi perusahaan berharap menghapus filter akan membuat pengguna tetap di platform mereka daripada pindah ke ruang seperti perselisihan. Dengan menjaga pemain di dalam Roblox, perusahaan dapat memantau aktivitas mereka. Seorang juru bicara memberi tahu The Verge Itu termasuk “perilaku predator apa pun yang bertujuan memanipulasi atau merugikan anak di bawah umur, seksualisasi anak di bawah umur, terlibat dalam percakapan seksual yang tidak tepat dengan atau meminta konten seksual, dan keterlibatan apa pun dengan materi pelecehan seksual anak.”
Kaufman mengatakan perusahaan ingin membuat Roblox “aman secara default.” Itu sebabnya perusahaan menyaring komunikasi bahkan untuk remaja yang belum memverifikasi usia mereka. “Jika orang tua tidak nyaman dengan itu, dan itu adalah keputusan yang tepat untuk keluarga mereka, orang tua dapat mematikan komunikasi melalui kontrol orang tua,” kata Kaufman.
Roblox adalah salah satu platform terbesar di seluruh dunia dalam video game, terutama dengan anak -anak. Kaufman, dalam briefing pers, mengatakan sekitar 98 juta orang dari 180 negara menggunakan platform; Kaufman mengatakan bahwa lebih dari 60 persen pengguna berusia di atas 13 tahun. Perusahaan telah berjuang, namun, dengan predator dan keselamatan anak di bawah umur. Menurut a 2024 Laporan Bloombergpolisi telah menangkap setidaknya dua lusin orang yang telah menggunakan Roblox sebagai platform untuk perawatan, penyalahgunaan, atau penculikan. Roblox juga menjadi subjek beberapa tuntutan hukum. Ini termasuk a Gugatan class action menuduh perusahaan memanen data pengguna, termasuk anak di bawah umur, dan a Gugatan Federal Tuduh seorang gadis berusia 13 tahun dieksploitasi dan diperapikan secara seksual melalui Roblox dan Perselisihan.
Dalam briefing itu, Kaufman menyebut Roblox “salah satu tempat teraman online bagi orang -orang untuk berkumpul dan menghabiskan waktu bersama teman -teman mereka dan keluarga mereka.”
Kirra Pendergast, pendiri dan CEO Safe on Social-sebuah organisasi keselamatan online yang beroperasi di seluruh dunia-mengayunkan langkah-langkah keselamatan terbaru Roblox sebagian besar ikut serta, oleh karena itu menempatkan “tanggung jawab anak di bawah umur untuk mengidentifikasi dan mengelola risiko, sesuatu yang bertentangan dengan semua yang kita ketahui tentang dinamika perawatan.” Fitur seperti alat estimasi usia pembelajaran mesin, misalnya, dapat secara salah mengkategorikan pengguna sebagai lebih tua atau lebih muda; Pemindaian kode secara langsung, katanya, “mengasumsikan bahwa pemindaian kode QR secara langsung secara inheren aman.”
“Predator sering menggunakan taktik perawatan dunia nyata,” kata Pendergast. “Pemindaian QR tidak memverifikasi hubungan tepercaya. Predator dapat membangun kepercayaan secara online, kemudian memanipulasi anak untuk memindai kode QR offline, sehingga memvalidasi ‘koneksi tepercaya’ dalam sistem Roblox. Perlindungan nyata akan memerlukan verifikasi co-verifikasi wali apa pun, bukan izin yang diprakarsai anak.”
Selain itu, kata Pendergast, koneksi tepercaya hanya berlaku untuk mengobrol, yang meninggalkan “area permukaan besar yang terpapar, menjadikannya penghalang yang paling rapuh.”
Ketika ditanya bagaimana kode QR secara langsung membuat anak di bawah umur aman dari taktik perawatan dunia nyata, Kaufman menggemakan komentar briefing pers bahwa tidak ada “peluru perak.” Sebaliknya, katanya, banyak sistem yang bekerja bersama. “Sistem -sistem itu dimulai dengan kebijakan kami, standar komunitas kami,” kata Kaufman. “Ini adalah produk kami yang melakukan pemantauan otomatis tentang hal -hal, itu adalah kemitraan kami, itu adalah orang -orang di belakang layar. Jadi kami memiliki rangkaian hal -hal yang ada untuk menjaga orang tetap aman. Ini bukan hanya kode QR, atau bukan hanya estimasi usia, itu semua dari hal -hal ini bertindak dalam konser.”
Kaufman mengatakan bahwa Roblox “melangkah lebih jauh” daripada platform lain dengan tidak mengizinkan anak -anak usia 13 hingga 17 tahun memiliki komunikasi tanpa filter tanpa melalui koneksi tepercaya. “Kami merasa bahwa kami benar -benar menetapkan standar bagi dunia dalam apa artinya memiliki komunikasi yang aman dan terbuka untuk audiens remaja.”
Menurut briefing Roblox, pembaruan adalah bagian dari proses pengembangan tipikal Roblox dan belum “dipengaruhi oleh peristiwa tertentu” atau umpan balik. “Ini bukan reaksi terhadap sesuatu,” kata Kaufman. “Ini adalah bagian dari rencana jangka panjang kami untuk membuat Roblox seaman mungkin.”
Kaufman juga memberi tahu WIRED bahwa pengawasan yang meningkat dan diskusi tentang permainan tidak berdampak dramatis pada rencana perusahaan. “Apa yang kami lakukan dengan pengumuman ini juga mencoba mengatur bar untuk apa yang kami pikir sesuai untuk anak -anak,” katanya.
Melihat teknologi seperti AI generatif, ia mengatakan, “Teknologi mungkin telah berubah, tetapi prinsip -prinsipnya masih sama. Kami juga memandang AI sebagai peluang nyata untuk dapat melakukan beberapa hal yang kami lakukan dalam skala dengan skala ketika kami berpikir tentang moderasi. AI adalah pusat dari itu.”
Dalam briefing dia mengatakan Roblox percaya penting bagi orang tua dan wali untuk “membangun dialog” dengan anak -anak mereka tentang keselamatan online. “Ini tentang berdiskusi tentang di mana mereka menghabiskan waktu online, siapa teman -teman mereka, dan apa yang mereka lakukan,” kata Kaufman. “Diskusi itu mungkin adalah hal terpenting yang harus dilakukan untuk menjaga orang tetap aman, dan kami berinvestasi dalam alat untuk mewujudkannya.” Dia menambahkan bahwa Roblox sadar bahwa keluarga memiliki harapan yang berbeda tentang perilaku online yang tepat. “Jika orang tua membuat keputusan tentang apa yang sesuai untuk anak mereka, itu mungkin tidak sesuai dengan keputusan yang mungkin kita buat atau saya mungkin buat untuk keluarga saya sendiri,” katanya. “Tapi tidak apa -apa, dan kami menghormati perbedaan itu.”
Dina Lamdany, yang memimpin produk untuk pengaturan pengguna dan kontrol orang tua, mengatakan dalam briefing itu bahwa ketika remaja sedang bereksperimen dengan kemandirian mereka, “Ini benar -benar saat di mana penting bagi mereka untuk mempelajari keterampilan yang mereka butuhkan untuk aman secara online.” Pengguna remaja dapat memberikan akses dasbor ke orang tua mereka, yang memberi orang tua kemampuan untuk melihat siapa koneksi tepercaya anak mereka. “Kami tidak akan memberi tahu orang tua secara proaktif sekarang,” kata Lamdany.
Keselamatan online, terutama untuk anak di bawah umur, adalah masalah berkelanjutan di ruang permainan. Nintendo baru -baru ini diperkenalkan Gamechat dengan sakelar 2fitur sosial yang memungkinkan pemain untuk terhubung dengan teman tanpa meninggalkan platform. Untuk pengguna yang lebih muda, ini sangat bergantung pada kontrol orang tua, sementara orang dewasa diharapkan proaktif dalam diri dengan siapa mereka mengobrol. Sistemnya Kebijakan Privasi memperingatkan bahwa itu mungkin juga “memantau dan merekam interaksi video dan audio Anda dengan pengguna lain,” beberapa orang prihatin dengan tingkat pengawasan itu dan berpendapat itu membuat Gamechat kurang menarik daripada perselisihan. Kaufman mengatakan bahwa Roblox menganggap serius privasi. “Kami satu -satunya platform besar di dunia yang memiliki sejumlah besar anak -anak dan remaja di dalamnya, dan untuk alasan itu, privasi telah dibangun di dasar seluruh platform kami,” katanya.
Pendergast mengatakan bahwa jika Roblox ingin memimpin dengan aman, ia harus mengambil sikap yang lebih sulit.
“Itu harus berhenti meminta anak -anak dan orang tua untuk mengelola perlindungan mereka sendiri dan mulai membangun lingkungan di mana kepercayaan bukan opsional, itu direkayasa sebagai keselamatan oleh desain,” katanya. “Estimasi usia, dasbor orang tua, dan pemantauan perilaku AI harus default, bukan opsional, menciptakan garis dasar pertahanan sistemik, bukan risiko yang dikelola pengguna atau penguasa pengguna.”
Kalau tidak, Pendergast mengatakan, “Orang tua dan anak -anak dibiarkan melakukan pengangkatan berat yang sering tanpa literasi keselamatan digital dan online.”
