Suatu hari setelahnya Jurnal Wall Street menerbitkan cerita blockbuster tentang temuan buruk Meta tentang kesehatan mental gadis remaja di Instagram, CEO Mark Zuckerberg bertanya-tanya apakah Meta harus mengubah cara mereka mempelajari potensi bahaya pada platformnya.
“Peristiwa baru-baru ini membuat saya mempertimbangkan apakah kita harus mengubah pendekatan terhadap penelitian dan analisis seputar masalah sosial,” tulis Zuckerberg dalam email tertanggal 15 September 2021 kepada para eksekutif puncak termasuk COO saat itu Sheryl Sandberg dan kepala urusan global Nick Clegg. Sehari sebelumnya, Jurnal menerbitkan sebuah cerita berdasarkan dokumen yang diperoleh dari pelapor yang kemudian terungkap adalah Frances Haugen, yang menunjukkan bahwa penelitian perusahaan itu sendiri menemukan bahwa “Tiga puluh dua persen gadis remaja mengatakan bahwa ketika mereka merasa tidak enak dengan tubuh mereka, Instagram membuat mereka merasa lebih buruk.” Baris subjek email Zuckerberg berbunyi: “Penelitian dan analisis isu sosial — istimewa dan rahasia.”
Email tahun 2021 dibuka segelnya pada hari Kamis setelah dikumpulkan oleh Jaksa Agung New Mexico Raúl Torrez sebagai bagian dari a kasus yang menuduh Meta secara menipu memposisikan produknya sebagai produk yang aman bagi remaja ketika mereka menyadari adanya pilihan desain berbahaya yang diklaim oleh negara sebagai anak-anak yang kecanduan dan membiarkan predator anak berkembang biak. Dalam pengaduannya, kantor Kejaksaan Agung menuduh bahwa pengungkapan kerugian yang diidentifikasi Meta di platformnya “akan mengoreksi sifat pernyataan publik yang menyesatkan dan menipu yang menyatakan bahwa platformnya ‘aman’.” Tepi dalam sebuah pernyataan bahwa perusahaan “bangga atas komitmen berkelanjutan kami untuk melakukan penelitian yang transparan dan terdepan di industri. Seperti yang telah kami lakukan selama bertahun-tahun, kami terus menggunakan wawasan ini untuk melakukan perbaikan yang berarti, seperti memperkenalkan akun remaja dengan perlindungan bawaan dan menyediakan alat bagi orang tua untuk mengelola pengalaman remaja mereka.”
Email hanyalah salah satu contohnya percakapan internal diharapkan terungkap selama persidangan itu, dan dalam a serangkaian kasus dengan klaim serupa di Kalifornia. Pernyataan pembukaan dalam kasus New Mexico diperkirakan akan dimulai minggu depan.
Dalam emailnya, Zuckerberg menulis bahwa tampaknya rekan-rekan Meta berhasil menghindari kritik publik terhadap isu-isu sosial dengan melakukan penelitian yang kurang proaktif mengenai dampak buruk pada platform mereka. “Apple, misalnya, sepertinya tidak mempelajari hal ini,” tulisnya. “Sejauh yang saya pahami, mereka tidak memiliki siapa pun yang meninjau atau memoderasi konten dan bahkan tidak memiliki alur laporan di iMessage. Mereka mengambil pendekatan bahwa apa yang mereka lakukan di platform adalah tanggung jawab orang-orang, dan karena Apple tidak mengambil tanggung jawab itu sendiri, mereka belum membentuk staf atau sejumlah besar penelitian yang meneliti trade-off dalam pendekatan mereka. Secara mengejutkan, hal ini berhasil dengan baik bagi mereka.”
“[W]ketika Apple mencoba melakukan sesuatu terhadap CSAM, mereka dikritik habis-habisan karenanya”
Meskipun Apple tampaknya menghindari kritik, dalam pandangan Zuckerberg, Meta malah “menghadapi lebih banyak kritik” karena melaporkan lebih banyak materi pelecehan seksual terhadap anak (CSAM)yang “membuatnya tampak seperti ada lebih banyak perilaku serupa di platform kami.” Di sisi lain, ia mencatat, “ketika Apple mencoba melakukan sesuatu terhadap CSAM, mereka mendapat kritik keras karena hal tersebut, yang mungkin mendorong mereka untuk menggandakan pendekatan awal mereka.” Zuckerberg mungkin mengacu pada pengumuman Apple pada awal tahun itu fitur baru yang dimaksudkan untuk melindungi anak-anaktermasuk memindai foto iCloud pengguna untuk mencari CSAM. Namun para pendukung privasi khawatir langkah ini akan menciptakan pintu belakang (backdoor) raksasa untuk pengawasan akun pengguna. apel nanti berjalan kembali proposal. Apple tidak segera menanggapi permintaan komentar di email tersebut.
Apple dan Meta punya perdebatan panjang di muka umum dan tertutup atas pendekatan mereka yang berbeda terhadap masalah kebijakan seperti privasi dan verifikasi usia. Namun Zuckerberg juga memiliki pengamatan serupa terhadap rekan-rekan Meta lainnya. “YouTube, Twitter, dan Snap mengambil pendekatan serupa, pada tingkat yang lebih rendah,” tulisnya. “YouTube tampaknya sengaja menyembunyikan diri agar tidak terdeteksi radar dan tidak menjadi pusat perhatian. Twitter dan Snap mungkin tidak memiliki sumber daya untuk melakukan penelitian semacam ini.” Banyak platform yang secara publik telah berbagi penelitian dan inisiatif selama bertahun-tahun mempelajari keamanan platform mereka, termasuk Komite Penasihat Pemuda dan Keluarga YouTube terdiri dari para ahli independen untuk memandu kesejahteraan remaja di platform, serta Indeks Kesejahteraan Digital Snap (dimulai pada tahun 2022).
“Saya pikir kami patut mendapat pujian atas upaya yang kami lakukan untuk mempelajari, memahami, dan memperbaiki masalah sosial di platform kami.”
Zuckerberg tampaknya yakin tanggapan publik terhadap penelitian internalnya tidak adil. “Saya pikir kami patut dipuji atas upaya yang kami lakukan untuk mempelajari, memahami, dan memperbaiki masalah sosial di platform kami,” tulisnya. “Sayangnya, media lebih cenderung menggunakan penelitian atau rekomendasi apa pun yang dihasilkan untuk mengatakan bahwa kami tidak melakukan semua yang kami bisa (yang menyiratkan tujuan yang sangat diinginkan) daripada bahwa kami menangani masalah ini dengan lebih serius dibandingkan siapa pun di industri kami dengan mempelajarinya dan mencari solusi, tidak semuanya masuk akal untuk diterapkan karena semuanya memiliki konsekuensi.”
Menanggapi email tersebut, setidaknya beberapa eksekutif puncak mendukung melanjutkan penelitian pada tingkat tertentu mengenai isu-isu sosial, meskipun ada risiko terhadap persepsi publik. “Kebocoran sangat buruk, dan akan terus terjadi, kecuali kita menemukan cara untuk memberantasnya,” tulis Javier Olivan, VP produk sentral saat itu. “Mengingat hal tersebut – apakah masih layak untuk mencoba memahami isu-isu ini? Saya pikir ini adalah hal yang bertanggung jawab untuk dilakukan / Saya ingin kita terus mencoba memahami bagaimana kita dapat membuat produk kita lebih baik untuk semua orang, tapi mungkin kita harus membatasi permukaannya pada area di mana kita setidaknya melihat tingkat korelasi yang jelas antara penggunaan produk kita / masalah spesifiknya.” David Ginsberg, Wakil Presiden Produk, Pilihan, dan Kompetisi saat itu, mengatakan bahwa “setelah saya sendiri banyak bergumul dengan hal ini beberapa hari terakhir,” dia sangat setuju dengan Olivan. “Saya pikir pekerjaan internal penting untuk menyediakan produk yang baik dan pengalaman pengguna yang baik — terpisah dari tujuan masalah sosial apa pun.”
Beberapa hari kemudian, Guy Rosen, seorang eksekutif produk yang memimpin pekerjaan integritas, berbagi beberapa opsi potensial tentang cara mengubah organisasi perusahaan seputar penelitian internal dan eksternal, termasuk pro dan kontra untuk masing-masing opsi. Rosen menulis bahwa ini hanyalah “latihan pendahuluan/diskresi” untuk memahami “spektrum pilihan.” Pilihan tersebut berkisar dari memusatkan tim yang meneliti topik-topik sensitif dalam upaya untuk mengontrol akses terhadap materi dengan lebih baik, hingga pilihan paling ekstrem dengan membubarkan tim yang meneliti topik-topik sensitif dan melakukan outsourcing yang berfungsi bila diperlukan. Pada akhirnya, para eksekutif merekomendasikan opsi yang tidak terlalu ekstrim yaitu memusatkan tim peneliti, dan berencana mengumumkannya segera setelah kesaksian kongres CEO Instagram Adam Mosseri yang akan datang. Mosseri, yang baru ditambahkan ke thread email, menimpali bahwa “Mengumumkan ini setelah saya bersaksi [sic] lebih buruk dari sebelumnya, dan kami berbicara [about] ini. Ini akan bocor, dan akan terlihat seperti aku menyembunyikan sesuatu.” Meta berakhir mengumumkan perubahannya sebelum kesaksian Mosseri, dan telah mengatakannya terus belajar topik sensitif seperti kesejahteraan remaja.
Dalam email awal, Zuckerberg menyesalkan kebocoran dokumen internal membuat pekerjaan itu lebih sulit dilakukan. “Ini mungkin menjadi alasan mengapa industri lainnya memilih pendekatan berbeda terhadap masalah ini.”
Koreksi, 5 Februari: Versi sebelumnya salah mengeja Frances Haugen.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
