Pada awal tahun 2022, dua staf kebijakan Google bertemu dengan tiga orang wanita yang menjadi korban penipuan yang mengakibatkan video-video eksplisit mereka beredar secara daring—termasuk melalui hasil penelusuran Google. Para wanita tersebut termasuk di antara ratusan orang dewasa muda yang menanggapi iklan yang mencari model baju renang, tetapi kemudian dipaksa tampil dalam video seks yang didistribusikan oleh situs web GirlsDoPorn. Situs tersebut ditutup pada tahun 2020Dan seorang produserBahasa Indonesia: seorang pemegang bukuDan seorang juru kamera kemudian mengaku bersalah atas perdagangan sekstetapi video-video tersebut terus bermunculan di pencarian Google lebih cepat daripada para wanita itu meminta penghapusan.
Para wanita tersebut, yang didampingi oleh seorang pengacara dan pakar keamanan, menyampaikan banyak ide tentang bagaimana Google dapat menyembunyikan klip-klip kriminal dan merendahkan tersebut dengan lebih baik, menurut lima orang yang hadir atau diberi pengarahan pada pertemuan virtual tersebut. Mereka ingin Google Search melarang situs web yang dikhususkan untuk GirlsDoPorn dan video-video dengan tanda airnya. Mereka menyarankan agar Google dapat meminjam hard drive 25 terabyte tempat konsultan keamanan siber para wanita tersebut, Charles DeBarber, menyimpan setiap episode GirlsDoPorn, mengambil sidik jari matematis, atau “hash,” dari setiap klip, dan memblokirnya agar tidak muncul lagi dalam hasil pencarian.
Kedua staf Google dalam pertemuan tersebut berharap dapat menggunakan apa yang mereka pelajari untuk mendapatkan lebih banyak sumber daya dari atasan. Namun, pengacara korban, Brian Holm, meninggalkan pertemuan dengan perasaan ragu. Tim kebijakan berada dalam “posisi sulit” dan “tidak memiliki wewenang untuk melakukan perubahan di dalam Google,” katanya.
Reaksi naluriahnya benar. Dua tahun kemudian, tidak satu pun ide yang dimunculkan dalam rapat tersebut yang telah dilaksanakan, dan video-video tersebut masih muncul dalam pencarian.
WIRED telah berbicara dengan lima mantan karyawan Google dan 10 pembela korban yang telah berkomunikasi dengan perusahaan tersebut. Mereka semua mengatakan bahwa mereka menghargai bahwa karena perubahan terbaru yang telah dilakukan Google, para korban pelecehan seksual berbasis gambar seperti penipuan GirlsDoPorn dapat dengan lebih mudah dan berhasil Hapus hasil pencarian yang tidak diinginkanNamun, mereka frustrasi karena manajemen di raksasa pencarian itu belum menyetujui proposal, seperti gagasan hard drive, yang mereka yakini akan lebih sepenuhnya memulihkan dan menjaga privasi jutaan korban di seluruh dunia, kebanyakan dari mereka adalah wanita.
Sumber-sumber tersebut menjelaskan pertimbangan internal yang sebelumnya tidak dilaporkan, termasuk alasan Google tidak menggunakan alat industri yang disebut StopNCII yang membagikan informasi tentang citra intim nonkonsensual (NCII) dan kegagalan perusahaan untuk menuntut situs web porno memverifikasi persetujuan agar memenuhi syarat untuk lalu lintas pencarian. Tim peneliti Google sendiri telah diterbitkan langkah-langkah yang dapat diambil perusahaan teknologi terhadap NCII, termasuk menggunakan StopNCII.
Sumber-sumber tersebut percaya bahwa upaya-upaya seperti itu akan lebih baik dalam mengatasi masalah yang semakin berkembang, sebagian melalui memperluas akses ke alat AI yang membuat deepfake eksplisitBahasa Indonesia: termasuk salah satu korban GirlsDoPorn. Laporan keseluruhan ke hotline Revenge Porn di Inggris lebih dari dua kali lipat tahun lalu, menjadi sekitar 19.000, begitu pula jumlah kasus yang melibatkan konten sintetis. Setengah dari lebih dari 2.000 warga Inggris dalam survei baru-baru ini khawatir menjadi korban deepfake. Gedung Putih pada bulan Mei mendesak tindakan yang lebih cepat oleh anggota parlemen dan industri untuk mengekang NCII secara keseluruhan. Pada bulan Juni, Google bergabung dengan tujuh perusahaan lain dan sembilan organisasi dalam mengumumkan kelompok kerja untuk mengoordinasikan tanggapan.
Saat ini, korban dapat menuntut pelaku pelecehan atau mengajukan tuntutan hukum terhadap situs web yang menghosting konten, tetapi kedua cara tersebut tidak dijamin, dan keduanya dapat memakan biaya mahal karena biaya hukum. Meminta Google untuk menghapus hasil dapat menjadi taktik yang paling praktis dan sesuai dengan tujuan akhir untuk menjauhkan konten yang melanggar dari mata teman, manajer perekrutan, calon tuan tanah, atau teman kencan—yang kemungkinan besar akan menggunakan Google untuk mencari orang.
Seorang juru bicara Google, yang meminta identitasnya dirahasiakan untuk menghindari pelecehan dari para pelaku, menolak berkomentar mengenai panggilan telepon dengan para korban GirlsDoPorn. Ia mengatakan bahwa memerangi apa yang disebut perusahaan sebagai citra eksplisit nonkonsensual (NCEI) tetap menjadi prioritas dan bahwa tindakan Google jauh melampaui apa yang diwajibkan secara hukum. “Selama bertahun-tahun, kami telah berinvestasi besar dalam kebijakan dan perlindungan terdepan di industri untuk membantu melindungi orang-orang yang terkena dampak konten berbahaya ini,” katanya. “Tim di seluruh Google terus bekerja keras untuk memperkuat perlindungan kami dan dengan cermat mengatasi tantangan yang muncul untuk melindungi orang-orang dengan lebih baik.”
