Beberapa minggu yang lalu, pencarian Google untuk “deepfake nudes jennifer aniston” memunculkan setidaknya tujuh hasil yang tinggi yang konon memiliki gambar eksplisit dari aktris tersebut yang dibuat oleh AI. Kini gambar tersebut telah menghilang.
Manajer produk Google Emma Higham mengatakan bahwa penyesuaian baru terhadap cara perusahaan memberi peringkat hasil, yang telah diluncurkan tahun ini, telah memangkas paparan terhadap gambar eksplisit palsu hingga lebih dari 70 persen pada penelusuran yang mencari konten tersebut tentang orang tertentu. Jika hasil yang bermasalah pernah muncul, algoritme Google bertujuan untuk mempromosikan artikel berita dan konten noneksplisit lainnya. Penelusuran Aniston kini menampilkan artikel seperti “Bagaimana Porno AI Deepfake Taylor Swift Menjadi Ancaman” dan tautan lainnya seperti peringatan jaksa agung Ohio tentang “penipuan dukungan selebriti deepfake” yang menargetkan konsumen.
“Dengan perubahan ini, orang-orang dapat mengetahui dampak deepfake terhadap masyarakat, daripada melihat halaman-halaman yang berisi Gambar-gambar palsu yang sebenarnya tanpa persetujuan,” tulis Higham dalam posting blog perusahaan pada hari Rabu.
Perubahan peringkat mengikuti investigasi WIRED bulan ini yang mengungkap bahwa dalam beberapa tahun terakhir manajemen Google menolak sejumlah gagasan yang diajukan oleh staf dan pakar luar untuk memerangi masalah yang berkembang dari penggambaran intim orang yang tersebar daring tanpa izin mereka.
Sementara Google mempermudah permintaan penghapusan konten eksplisit yang tidak diinginkan, para korban dan pendukung mereka mendesak langkah-langkah yang lebih proaktif. Namun, perusahaan telah berusaha untuk tidak menjadi regulator internet yang terlalu ketat atau membahayakan akses ke pornografi yang sah. Pada saat itu, seorang juru bicara Google mengatakan sebagai tanggapan bahwa beberapa tim bekerja keras untuk memperkuat perlindungan terhadap apa yang disebutnya sebagai citra eksplisit nonkonsensual (NCEI).
Ketersediaan generator gambar AI yang semakin luas, termasuk beberapa yang memiliki sedikit batasan dalam penggunaannya, telah menyebabkan peningkatan dalam NCEI, menurut para pendukung korban. Alat-alat tersebut telah memudahkan siapa saja untuk membuat gambar-gambar eksplisit palsu dari individu mana pun, baik itu teman sekelas sekolah menengah atau selebritas besar.
Di bulan Maret, analisis WIRED menemukan bahwa Google telah menerima lebih dari 13.000 permintaan untuk menghapus tautan ke belasan situs web terpopuler yang menghosting deepfake eksplisit. Google menghapus hasil pada sekitar 82 persen kasus.
Sebagai bagian dari tindakan keras Google yang baru, Higham mengatakan bahwa perusahaan akan mulai menerapkan tiga langkah untuk mengurangi kemungkinan ditemukannya gambar eksplisit yang nyata tetapi tidak diinginkan menjadi gambar yang sintetis dan tidak diinginkan. Setelah Google menghargai permintaan penghapusan untuk deepfake yang mengandung unsur seksual, Google akan berusaha untuk menyingkirkan duplikat dari hasil pencarian. Google juga akan memfilter gambar eksplisit dari hasil pencarian yang mirip dengan yang dikutip dalam permintaan penghapusan. Dan terakhir, situs web yang menjadi sasaran permintaan penghapusan yang berhasil dalam jumlah besar akan mengalami penurunan peringkat dalam hasil pencarian.
“Upaya ini dirancang untuk memberikan ketenangan pikiran kepada masyarakat, terutama jika mereka khawatir konten serupa tentang mereka akan muncul di masa mendatang,” tulis Higham.
Google telah mengakui bahwa tindakan tersebut tidak berjalan dengan sempurna, dan mantan karyawan serta pendukung korban mengatakan bahwa mereka dapat melakukan lebih dari itu. Mesin pencari tersebut secara jelas memperingatkan orang-orang di AS yang mencari gambar telanjang anak-anak bahwa konten tersebut melanggar hukum. Efektivitas peringatan tersebut tidak jelas, tetapi itu merupakan pencegah potensial yang didukung oleh para pendukung. Namun, meskipun ada undang-undang yang melarang berbagi NCEI, peringatan serupa tidak muncul untuk pencarian yang mencari deepfake seksual orang dewasa. Juru bicara Google telah mengonfirmasi bahwa hal ini tidak akan berubah.
