Buka situs webnya dari satu deepfake eksplisit generator dan Anda akan disuguhkan menu horor. Hanya dengan beberapa klik, ia menawarkan Anda kemampuan untuk mengubah satu foto menjadi klip video eksplisit berdurasi delapan detik, memasukkan wanita ke dalam situasi seksual grafis yang tampak realistis. “Ubah foto apa pun menjadi versi telanjang dengan teknologi AI canggih kami,” tulis teks di situs web tersebut.
Kemungkinan terjadinya penyalahgunaan sangat luas. Di antara 65 “templat” video di situs web tersebut terdapat serangkaian “membuka baju” video yang menampilkan wanita yang digambarkan akan menanggalkan pakaian—tetapi ada juga adegan video eksplisit bernama “mesin bercinta deepthroat” dan berbagai video “air mani”. Setiap video memerlukan sedikit biaya untuk menghasilkannya; menambahkan audio yang dihasilkan AI memerlukan biaya yang lebih besar.
Situs web tersebut, yang tidak disebutkan namanya oleh WIRED untuk membatasi paparan lebih lanjut, memuat peringatan yang mengatakan bahwa orang hanya boleh mengunggah foto yang mereka izinkan untuk diubah dengan AI. Tidak jelas apakah ada pemeriksaan untuk menegakkan hal ini.
Grokchatbot yang dibuat oleh perusahaan Elon Musk, telah digunakan untuk menciptakan ribuan pesan nonkonsensual “menanggalkan pakaian” atau “nudify” gambar bikini—lebih lanjut industrialisasi dan normalisasi proses pelecehan seksual digital. Tapi itu hanya yang paling terlihat—dan jauh dari yang paling eksplisit. Selama bertahun-tahun, ekosistem deepfake, yang terdiri dari lusinan situs web, bot, dan aplikasi, telah berkembang, sehingga mempermudah otomatisasi pelecehan seksual berbasis gambar, termasuk pembuatan materi pelecehan seksual terhadap anak (CSAM). Ekosistem “nudifikasi” ini, dan dampak buruk yang ditimbulkannya terhadap perempuan dan anak perempuan, kemungkinan besar lebih canggih dari yang dipahami banyak orang.
“Ini bukan lagi strip sintetis yang sangat kasar,” kata Henry Ajder, pakar deepfake yang melacak teknologi tersebut. selama lebih dari setengah dekade. “Kita berbicara tentang tingkat realisme yang jauh lebih tinggi dari apa yang sebenarnya dihasilkan, tetapi juga fungsionalitas yang lebih luas.” Jika digabungkan, layanannya mungkin terjadi menghasilkan jutaan dolar per tahun. “Ini adalah momok masyarakat, dan merupakan salah satu bagian terburuk dan tergelap dari revolusi AI dan revolusi media sintetis yang kita lihat,” katanya.
Selama setahun terakhir, WIRED telah melacak bagaimana beberapa layanan deepfake eksplisit telah memperkenalkan fungsi baru dan berkembang pesat untuk menawarkan pembuatan video berbahaya. Model gambar-ke-video biasanya hanya memerlukan satu foto untuk menghasilkan klip pendek. Tinjauan WIRED terhadap lebih dari 50 situs web “deepfake”, yang kemungkinan menerima jutaan penayangan per bulan, menunjukkan bahwa hampir semuanya kini menawarkan pembuatan video eksplisit dan berkualitas tinggi dan sering kali mencantumkan lusinan skenario seksual yang dapat menggambarkan perempuan.
Sementara itu, di Telegram, puluhan saluran dan bot seksual deepfake secara berkala merilis fitur-fitur baru dan pembaruan perangkat lunak, seperti berbagai pose dan posisi seksual. Misalnya, pada bulan Juni tahun lalu, salah satu layanan deepfake mempromosikan “mode seks”, mengiklankannya di samping pesan: “Cobalah pakaian yang berbeda, pose favorit Anda, usia, dan pengaturan lainnya.” Yang lain memposting bahwa “lebih banyak gaya” gambar dan video akan segera hadir dan pengguna dapat “menciptakan apa yang Anda bayangkan dengan deskripsi Anda sendiri” menggunakan perintah khusus untuk sistem AI.
“Ini bukan hanya, ‘Anda ingin menanggalkan pakaian seseorang.’ Ini seperti, ‘Ini semua versi fantasi yang berbeda.’ Itu karena posenya yang berbeda. Itu karena posisi seksual yang berbeda,” kata analis independen Santiago Lakatos, yang bersama dengan outlet media Indikator telah meneliti bagaimana layanan “nudify” sering kali menggunakan infrastruktur perusahaan teknologi besar dan kemungkinan besar menghasilkan banyak uang dalam prosesnya. “Ada versi di mana Anda bisa membuat seseorang [appear] hamil, kata Lakatos.
Tinjauan WIRED menemukan lebih dari 1,4 juta akun terdaftar di 39 bot dan saluran pembuat deepfake di Telegram. Setelah WIRED bertanya kepada Telegram tentang layanan tersebut, perusahaan tersebut menghapus setidaknya 32 alat deepfake. “Pornografi nonkonsensual—termasuk deepfake dan alat yang digunakan untuk membuatnya—sangat dilarang berdasarkan peraturan Telegram. persyaratan layanan,” kata juru bicara Telegram, seraya menambahkan bahwa pihaknya menghapus konten ketika terdeteksi dan telah menghapus 44 juta konten yang melanggar kebijakannya tahun lalu.
Lakatos mengatakan, dalam beberapa tahun terakhir, beberapa situs “deepfake” yang lebih besar telah memperkuat posisi pasar mereka dan kini menawarkan API kepada orang lain yang membuat generator gambar dan video non-konsensual, sehingga memungkinkan lebih banyak layanan bermunculan. “Mereka melakukan konsolidasi dengan membeli situs web lain atau melakukan nudifikasi aplikasi. Mereka menambahkan fitur yang memungkinkan mereka menjadi penyedia infrastruktur.”
Apa yang disebut sebagai deepfake seksual pertama kali muncul di kalangan masyarakat akhir tahun 2017 dan, pada saat itu, mengharuskan pengguna memiliki pengetahuan teknis untuk membuat gambar atau video seksual. Kemajuan luas dalam sistem AI generatif dalam tiga tahun terakhir, termasuk ketersediaan generator foto dan video open source yang canggih, telah memungkinkan teknologi ini menjadi lebih mudah diakses, lebih realistis, dan lebih mudah digunakan.
Video deepfake yang berisi politisi dan konflik di seluruh dunia dibuat untuk menyebarkan misinformasi dan disinformasi. Namun, pemalsuan seksual terus menerus menimbulkan dampak buruk yang luas terhadap perempuan dan anak perempuan. Pada saat yang sama, hukum harus dilindungi masyarakat lambat untuk diterapkan atau tidak diperkenalkan sama sekali.
“Ekosistem ini dibangun berdasarkan model sumber terbuka,” kata Stephen Casper, peneliti yang bekerja pada bidang perlindungan dan tata kelola AI di Massachusetts Institute of Technology, yang telah mendokumentasikan peningkatan penyalahgunaan video deepfake dan perannya dalam generasi citra intim nonkonsensual. “Sering kali ini hanya model sumber terbuka yang digunakan untuk mengembangkan aplikasi yang kemudian digunakan oleh pengguna,” kata Casper.
Para korban dan penyintas gambar intim non-konsensual (NCII), termasuk deepfake dan media lain yang dibagikan secara non-konsensual, hampir selalu perempuan. Gambar palsu dan video nonkonsensual menimbulkan kerugian yang sangat besartermasuk gangguan, penghinaandan perasaan “tidak manusiawi.” Deepfake yang eksplisit telah digunakan untuk melecehkan politisi, selebritas, dan influencer media sosial dalam beberapa tahun terakhir. Tapi mereka juga telah digunakan oleh laki-laki untuk melecehkan rekan kerja Dan teman-temanDan oleh anak laki-laki di sekolah untuk menciptakan keintiman nonkonsensual gambaran teman-teman sekelasnya.
“Biasanya, korban atau orang yang terkena dampak hal ini adalah perempuan dan anak-anak atau jenis gender atau minoritas seksual lainnya,” kata Pani Farvid, profesor psikologi terapan dan pendiri The SexTech Lab di The New School. “Kita sebagai masyarakat global tidak menganggap serius kekerasan terhadap perempuan, apa pun bentuknya.”
“Ada berbagai perilaku berbeda di mana beberapa di antaranya [perpetrators] lebih oportunistik dan tidak melihat dampak buruk yang mereka timbulkan, dan hal ini didasarkan pada bagaimana alat AI juga disajikan, “kata Farvid, seraya menambahkan bahwa beberapa layanan pendamping AI dapat menargetkan orang-orang dengan layanan berbasis gender. “Bagi yang lain, ini karena mereka berada dalam jaringan pelecehan atau jaringan pelecehan anak, atau mereka adalah orang-orang yang sudah terlibat dalam bentuk kekerasan lain, kekerasan berbasis gender, atau kekerasan seksual.”
Sebuah penelitian di Australia, dipimpin oleh peneliti Asher Flynn, melakukan wawancara 25 pencipta dan korban penyalahgunaan deepfake. Studi tersebut menyimpulkan bahwa tiga faktor—alat deepfake yang semakin mudah digunakan, normalisasi pembuatan gambar seksual non-konsensual, dan minimalisasi dampak buruk—dapat berdampak pada pencegahan dan respons terhadap masalah yang terus berkembang. Berbeda dengan penyebaran publik yang luas seperti yang terjadi pada gambar-gambar seksual non-konsensual yang dibuat menggunakan Grok on X, deepfake yang eksplisit lebih cenderung dibagikan kepada korban atau teman dan keluarga mereka secara pribadi, demikian temuan studi tersebut. “Saya hanya menggunakan grup WhatsApp pribadi,” kata salah satu pelaku kepada peneliti. “Dan beberapa dari kelompok ini berjumlah hingga 50 orang.”
Penelitian akademis ini menemukan empat motivasi utama penyalahgunaan deepfake—dari 10 pelaku yang mereka wawancarai, delapan diantaranya diidentifikasi sebagai laki-laki. Hal ini termasuk pemerasan seksual, menyebabkan kerugian pada orang lain, mendapatkan penguatan atau ikatan dari rekan-rekan mereka, dan rasa ingin tahu tentang alat-alat tersebut dan apa yang dapat mereka lakukan dengan alat-alat tersebut.
Beberapa pakar yang diajak bicara oleh WIRED mengatakan banyak komunitas yang mengembangkan alat deepfake memiliki sikap “angkuh” atau santai terhadap kerugian yang ditimbulkannya. “Ada kecenderungan banalitas tertentu dalam penggunaan alat ini untuk menciptakan NCII atau bahkan untuk memiliki akses ke NCII yang mengkhawatirkan,” kata Bruna Martins dos Santos, manajer kebijakan dan advokasi di Witness, sebuah kelompok hak asasi manusia.
Bagi sebagian pelaku yang membuat deepfake, teknologi adalah soal kekuasaan dan kontrol. “Anda hanya ingin melihat apa yang mungkin terjadi,” kata seorang pelaku kekerasan kepada Flynn dan rekan peneliti yang terlibat dalam penelitian tersebut. “Kemudian Anda akan merasakan sensasi seperti dewa saat melihat bahwa Anda mampu menciptakan sesuatu seperti itu.”
