Hanya beberapa hari setelahnya meluncurkan, milik Roblox sangat digemari Sistem verifikasi usia yang didukung AI benar-benar berantakan.
Sistem pemindaian wajah Roblox, yang memperkirakan usia seseorang sebelum mereka dapat mengakses fungsi obrolan platform, diluncurkan di AS dan negara-negara lain di seluruh dunia pada minggu lalu, setelah awalnya diluncurkan di beberapa lokasi pada bulan Desember. Roblox mengatakan itu menerapkan sistem untuk memungkinkan pengguna mengobrol dengan aman dengan pengguna dengan usia yang sama.
Tapi para pemain sudah masuk memberontak karena mereka tidak bisa lagi ngobrol dengan temannya, pengembang menuntut Roblox membatalkan pembaruan tersebut, dan yang terpenting, para ahli mengatakan bahwa AI tidak hanya salah memahami pemain muda saat mereka dewasa dan sebaliknya, sistem ini tidak banyak membantu mengatasi masalah yang dirancang untuk diatasi: membanjirnya predator yang menggunakan platform ini untuk merawat anak-anak.
Faktanya, WIRED telah menemukan banyak contoh orang yang mengiklankan akun terverifikasi usia untuk anak di bawah umur 9 tahun di eBay hanya dengan $4.
Setelah WIRED menandai daftar tersebut, juru bicara eBay Maddy Martinez mengatakan perusahaan tersebut menghapusnya karena melanggar kebijakan situs.
Dalam email, kepala keselamatan Roblox Matt Kaufman mengatakan kepada WIRED bahwa perubahan sebesar ini pada platform dengan lebih dari 150 juta pengguna harian membutuhkan waktu.
“Anda tidak dapat menekan tombol sambil membangun sesuatu yang belum pernah ada sebelumnya,” katanya. “Mengharapkan sistem menjadi sempurna dalam semalam berarti mengabaikan skala upaya ini.”
Kaufman mengatakan perusahaannya senang dengan penerapan ini, dan menambahkan bahwa “puluhan juta pengguna” telah memverifikasi usia mereka, yang menurutnya membuktikan bahwa “sebagian besar komunitas kami menghargai lingkungan yang lebih aman dan sesuai dengan usia.”
Perusahaan juga menjawab beberapa kritik di pembaruan pada hari Jumat, menulis: “Kami menyadari adanya kasus di mana orang tua melakukan pemeriksaan usia atas nama anak-anak mereka yang menyebabkan anak-anak berusia hingga 21+. Kami sedang mencari solusi untuk mengatasi hal ini dan kami akan segera membagikan lebih banyak informasi di sini.”
Roblox mengumumkan persyaratan verifikasi usia pada bulan Juli lalu sebagai bagian dari serangkaian fitur baru yang dirancang untuk membuat platform lebih aman. Perusahaan ini mendapat tekanan besar dalam beberapa bulan terakhir setelah sejumlah tuntutan hukum menuduh perusahaan tersebut gagal melindungi pengguna termuda dan memfasilitasi predator untuk merawat anak-anak.
Jaksa Agung Louisiana, TexasDan Kentucky juga mengajukan tuntutan hukum terhadap perusahaan tersebut tahun lalu dengan membuat klaim serupa, sementara Jaksa Agung Florida mengeluarkan surat panggilan pidana untuk menilai apakah Roblox “membantu predator dalam mengakses dan menyakiti anak-anak.”
Roblox mengklaim bahwa mengharuskan orang untuk memverifikasi usia mereka sebelum mengizinkan mereka mengobrol dengan orang lain akan menghalangi orang dewasa untuk dapat berinteraksi secara bebas dengan anak-anak yang tidak mereka kenal.
Meskipun prosesnya opsional, menolak melakukannya berarti seseorang tidak lagi memiliki akses ke fungsi obrolan platform, salah satu alasan utama kebanyakan orang menggunakan Roblox.
Untuk memverifikasi usia mereka, orang-orang diminta untuk mengambil video pendek menggunakan kamera perangkat mereka, yang diproses oleh perusahaan bernama Persona yang memperkirakan usia mereka. Alternatifnya, pengguna dapat mengunggah tanda pengenal berfoto yang dikeluarkan pemerintah jika mereka berusia 13 tahun ke atas.
Roblox mengatakan semua informasi pribadi “dihapus segera setelah diproses.” Namun banyak pengguna online mengatakan mereka tidak mau melakukan verifikasi usia karena masalah privasi.
Orang yang telah memverifikasi usianya hanya diperbolehkan mengobrol dengan sekelompok kecil pemain lain yang seumuran dengan mereka. Misalnya, mereka yang terverifikasi berusia di bawah 9 tahun hanya dapat mengobrol dengan pemain hingga usia 13 tahun. Pemain yang dianggap berusia 16 tahun dapat mengobrol dengan pemain berusia antara 13 dan 20 tahun.
Perusahaan ini awalnya meluncurkan sistem verifikasi usia yang didukung AI di Australia, Selandia Baru, dan Belanda pada bulan November, namun minggu ini Roblox terungkap bahwa hanya separuh dari seluruh pemain yang memverifikasi usia mereka menggunakan sistem.
Beberapa hari sejak pembaruan diluncurkan secara global, banyak pemain dan pengembang yang kebanjiran forum, redditdan platform media sosial sejenisnya X Dan TikTok dengan keluhan tentang sistem.
WIRED telah meninjau ratusan postingan dari pemain dan orang tua yang mengklaim bahwa sistem telah salah mengidentifikasi usia pemain.
Seorang pengguna Roblox, yang mengatakan bahwa mereka berusia 23 tahun tetapi salah diidentifikasi sebagai berusia 16 hingga 17 tahun, menulis pada X“Saya tidak ingin ngobrol dengan anak-anak sialan.” Lain dugaan mereka berusia 18 tahun tetapi Roblox “masih mengira saya berusia 13 hingga 15 tahun”.
Sebagai tanggapan, poster X lainnya menulis: “Saya memiliki janggut lebat dan itu membuat saya berada pada rentang usia 13-16 tahun.”
Yang lain mengatakan sistem verifikasi usia telah menempatkan anak-anak kecil dalam kategori dewasa satu orang di X mengklaim bahwa saudara mereka yang berusia 10 tahun telah ditempatkan dalam kategori di atas 18 tahun.
Pemain juga punya dibagikan video menunjukkan bagaimana orang-orang menipu sistem untuk mendapatkan verifikasi tanpa membagikan wajah asli mereka, melainkan menggunakan avatar atau, dalam satu kasus, foto mendiang penyanyi Nirvana Kurt Cobain. Dalam salah satu klip yang dibagikan secara luas, seorang anak laki-laki mengalami kerutan dan janggut di wajahnya dengan spidol hitam diberi peringkat usia 21+ oleh sistem.
“Saya telah melihat berbagai postingan online yang berisi saran untuk mengelabui sistem verifikasi usia, namun menurut saya bahaya yang paling luas adalah banyaknya akun yang salah dimasukkan ke dalam kategori usia yang salah, dan tantangan baru bagi orang tua dan moderator dalam game untuk melihat apakah anak-anak dieksploitasi dalam obrolan,” kata Ry Terran, peneliti ekstremisme independen yang memantau dengan cermat jaringan yang telah mengeksploitasi Roblox untuk menargetkan anak kecil.
Roblox mengatakan akan memeriksa ulang usia seseorang secara acak jika mereka curiga telah melakukan kesalahan.
“Roblox dapat memeriksa ulang usia pengguna secara berkala jika ada dugaan penipuan atau mengambil tindakan yang tepat jika kami melihat tanda-tanda potensi kesalahan penyajian usia,” kata perusahaan tersebut. menulis. “Sebagai bagian dari investasi berkelanjutan kami di bidang keselamatan, kami juga akan mengembangkan dan meningkatkan deteksi perilaku tersebut.”
Perusahaan tidak menjelaskan bagaimana pemeriksaan ulang ini akan dilakukan atau apakah pengguna akan diberi tahu.
Forum pengembang resmi Roblox telah dibanjiri ribuan komentar negatif tentang pembaruan tersebut, dengan sebagian besar menyerukan agar pembaruan tersebut dibatalkan dan agar Roblox mendengarkan penggunanya.
Banyak pengembang juga berbagi bagaimana aktivitas obrolan di game mereka menurun drastis sejak pembaruan, dengan satu pengembang menunjukkan bagaimana jumlah pemain yang menggunakan fungsi obrolan teks turun dari rata-rata 85 persen menjadi 36 persen.
Beberapa pengguna menggambarkan pengalaman bermain game di platform sejak pembaruan sebagai “tak bernyawa” Dan “benar-benar kota hantu.” “Rasanya mati saja,” salah satu pengguna TikTok dikatakan. Pengguna lain telah melakukannya memprotes perubahan tersebut di Roblox itu sendiri.
“Mengapa kami masih mendorong perubahan ini?,” salah satu pengembang menulis sebagai tanggapan atas tanggapan Roblox terhadap kritik terhadap peluncuran tersebut. “Tidak seorang pun menginginkan perubahan besar ini dan ini hanya merugikan basis pengguna inti Anda alih-alih memberikan keamanan apa pun. Roblox pada dasarnya adalah sebuah platform sosial dan perubahan terbaru ini telah mendorong kita ke masa depan tanpa privasi dan sensor, alih-alih komunikasi dan… bermain permainan yang menyenangkan.”
Pembaruan: 13/1/2026, 14:10 EDT: WIRED memperbarui artikel dengan komentar publikasi postingan dari Roblox.
