Jaksa Agung New Mexico Raúl Torrez memenangkan sejumlah uang bersejarah sebesar $375 juta dalam kasus keselamatan anak yang penting melawan Meta awal tahun ini. Namun pertarungan tahap berikutnya bisa menjadi lebih penting bagi Meta dan industri media sosial pada umumnya.
Mulai Senin, pengacara Meta dan New Mexico akan kembali ke gedung pengadilan Santa Fe untuk sidang gangguan publik selama tiga minggu, di mana mereka akan berdebat mengenai masalah tersebut. perubahan yang Jaksa Agung ingin hakim perintahkan Meta dibuat ke Facebook, Instagram, dan WhatsApp. Perubahan tersebut termasuk menambahkan verifikasi usia untuk pengguna di New Mexico, melarang enkripsi end-to-end untuk pengguna di bawah 18 tahun dan membatasi penggunaannya hingga 90 jam per bulan, membatasi fitur peningkat interaksi seperti gulir tak terbatas dan putar otomatis, serta mengharuskan Meta mendeteksi 99 persen materi pelecehan seksual terhadap anak-anak (CSAM) yang baru.
“Sejak awal, tujuan kami adalah mencoba dan mengubah cara perusahaan menjalankan bisnis,” kata Torrez Tepi pada kunjungan baru-baru ini ke Washington, DC, untuk mengadvokasi undang-undang keselamatan anak yang baru. “Saya menyadari bahwa bahkan dengan $375 juta untuk sebuah perusahaan sebesar dan menguntungkan, hal tersebut tidak cukup untuk mengubah cara mereka menjalankan bisnis. Faktanya, mungkin ada beberapa orang di perusahaan tersebut yang menganggapnya sebagai biaya menjalankan bisnis.”
“Bahkan dengan $375 juta untuk perusahaan sebesar dan menguntungkan, hal itu tidak cukup untuk mengubah cara mereka menjalankan bisnis”
Meskipun perubahan apa pun yang diperintahkan oleh hakim hanya akan berlaku untuk Meta dan operasinya di New Mexico, perusahaan dapat menerapkan perubahan tersebut di negara bagian lain demi kesederhanaan. Atau, seperti yang diancam akan dilakukankeadaan bisa saja menjadi gelap. Perintah pengadilan dapat mengirimkan pesan kepada perusahaan teknologi lain bahwa pengadilan mungkin bersedia mengubah bisnis mereka jika mereka terbukti bertanggung jawab.
Selama persidangan, New Mexico akan berpendapat bahwa Meta telah menjadi gangguan publik karena menimbulkan bahaya kesehatan masyarakat di negara bagian tersebut. Kantor Kejaksaan Agung diperkirakan akan memanggil sekitar 15 saksi, termasuk para ahli yang akan memberi kesaksian mengenai kelayakan solusi yang mereka usulkan, dan saksi fakta yang akan memberi kesaksian tentang dugaan kerugian yang dialami Meta. Setelah Meta menyampaikan pembelaannya, Hakim Bryan Biedscheid akan mengevaluasi proposal mana yang relevan dan layak – sebuah proses yang mungkin memerlukan waktu, dibandingkan dengan penyelesaian putusan juri yang cepat pada bulan Maret.
Kemenangan besar bagi New Mexico dapat memberi semangat kepada Torrez dan ribuan penggugat lainnya saat ini sedang mengejar kasus terhadap perusahaan teknologi. Sebaliknya, pesanan terbatas bisa menjadi pukulan telak. Hasilnya tidak akan berdampak langsung pada kasus-kasus lain, namun hampir pasti akan mewarnai negosiasi mengenai kemungkinan penyelesaian.
Beberapa permintaan Torrez adalah masalah kebijakan teknologi yang penting. Verifikasi usia hampir pasti mengharuskan Meta atau penyedia pihak ketiga untuk mengumpulkan lebih banyak informasi pribadi baik orang dewasa maupun anak di bawah umur, yang secara konsisten diperingatkan oleh para pendukung privasi dapat membuat pengguna menjadi kurang aman. Don McGowan, yang sebelumnya bertugas di dewan Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC), mengatakan bahwa melarang komunikasi terenkripsi pada platform seperti Facebook “adalah cara terbaik untuk memastikan tidak ada lagi yang menggunakan Facebook Messenger dan memindahkan aktivitas mereka ke platform lain yang tidak terpengaruh oleh gugatan ini.”
Mandat tersebut mungkin tidak banyak mengubah realitas bagian-bagian tertentu dari bisnis – Meta baru-baru ini mengumumkan hal itu menghilangkan pesan terenkripsi ujung ke ujung di Instagram dikatakan “sangat sedikit orang” yang benar-benar menggunakannya.
Peter Chapman, direktur asosiasi Knight-Georgetown Institute, yang bekerja untuk menghubungkan pembuat kebijakan dan pihak lain dengan penelitian kebijakan teknologi independen, mengatakan mungkin ada “pengorbanan yang signifikan” terhadap larangan enkripsi, dan perubahan lain mungkin lebih efektif. Misalnya saja bukti disajikan oleh negara menunjukkan bahwa rekomendasi profil Meta sendiri menghubungkan orang dewasa dan anak di bawah umur, sebuah fitur yang menimbulkan bahaya yang lebih jelas tanpa banyak manfaat, dan Torrez juga meminta pengadilan untuk menghentikannya. “Ada peluang untuk melakukan intervensi pada tingkat tersebut dan mencoba mencegah terjadinya lebih banyak interaksi berbahaya tanpa harus mengatasi enkripsi,” kata Chapman.
Tidak ada satu pun perubahan fitur yang mungkin menyelesaikan seluruh masalah keselamatan anak dan remaja, kata Chapman, itulah sebabnya Torrez berencana untuk meminta beberapa lapisan perubahan. Namun, efektivitas keseluruhan dari setiap upaya perbaikan juga akan bergantung pada cara penerapan dan pemantauannya. Misalnya, metodologi apa yang digunakan Meta untuk melaporkan tingkat deteksi CSAM baru sebesar 99 persen? Bagaimana cara ia menghitung atau menduga apa yang belum ditangkapnya? Hal yang sama berlaku untuk keakuratan dan keandalan verifikasi usia yang diwajibkan.
Meta menunjukkan potensi masalah ini dalam argumennya menentang usulan solusi Torrez. “Terlepas dari di mana ambang akurasi ditetapkan, Meta tidak akan pernah dapat membuktikan bahwa sistem memenuhi standar tersebut, karena melakukan perhitungan memerlukan Meta mendeteksi 100% CSAM untuk digunakan sebagai penyebut,” tulis perusahaan tersebut dalam pengajuan hukum. Wakil ketua Torrez, James Grayson, mengatakan dalam panggilan pers bahwa pengadilan dan pemantau independen yang ditunjuk akan memiliki keleluasaan dalam melakukan pelacakan; kantor belum mengidentifikasi siapa monitor ini.
“Tuntutan yang diajukan di New Mexico tidak tepat sasaran dan memberikan paparan tambahan yang besar terhadap jenis eksploitasi lainnya”
Meta dan kelompok lain yang menentang pendekatan Kejaksaan Agung mengatakan hasil yang diinginkannya kontraproduktif. “Tuntutan yang dibuat di New Mexico tidak tepat sasaran dan memberikan paparan tambahan yang besar terhadap jenis eksploitasi lainnya,” kata Maureen Flatley, presiden Stop Child Predators, sebuah kelompok yang mengadvokasi lebih banyak dana untuk penegakan hukum pidana terhadap predator anak, dan telah menerima dana dari Grup perdagangan yang didukung meta, NetChoice. “Gagasan bahwa platform harus bertanggung jawab untuk mengusir semua orang ini sama saja seperti mengatakan kepada Asosiasi Bankir AS, ‘Omong-omong, Anda bertanggung jawab atas semua perampokan bank mulai sekarang,’ dan itu menggelikan.”
“Fokus Jaksa Agung New Mexico pada satu platform adalah strategi salah arah yang mengabaikan ratusan aplikasi lain yang digunakan remaja setiap hari,” kata juru bicara Meta, Chris Sgro dalam sebuah pernyataan. “Usulan mandat yang diajukan oleh negara bagian ini melanggar hak-hak orang tua dan menghambat kebebasan berekspresi bagi semua warga New Mexico. Terlepas dari itu, kami tetap berkomitmen untuk memberikan pengalaman yang aman, sesuai usia, dan telah meluncurkan banyak perlindungan yang diinginkan oleh negara bagian tersebut, termasuk 13 tindakan keselamatan pada tahun lalu.”
Namun Torrez juga menargetkan industri teknologi yang lebih luas. Dia baru-baru ini mengunjungi Washington, DC, untuk mengadvokasi perlindungan baru bagi anak-anak di dunia maya dan merombak Pasal 230, undang-undang yang melindungi platform teknologi agar tidak bertanggung jawab atas postingan penggunanya. “Meskipun kami mampu menang di pengadilan distrik di Santa Fe, saya masih menganggap undang-undang yang ada saat ini menciptakan banyak ambiguitas,” katanya. Tepi pada kunjungan itu. “Jika Pasal 230 bukanlah sesuatu yang bisa disembunyikan oleh perusahaan-perusahaan ini, maka hal ini akan meningkatkan peluang mereka untuk benar-benar mengajukan kasusnya ke juri.”
Namun Chapman mengatakan regulasi melalui tuntutan hukum bukanlah “cerita yang tidak biasa” di AS. “Baik itu tembakau, opioid, rokok elektronik, ada preseden untuk tindakan hukum yang mendorong pembahasan kebijakan yang lebih luas.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
