Perusahaan teknologi besar, termasuk Google, Apple, dan Discord, telah memungkinkan orang untuk dengan cepat mendaftar untuk “menanggalkan pakaian” yang berbahaya situs webyang menggunakan AI untuk menghilangkan pakaian dari foto asli agar korban tampak “telanjang” tanpa persetujuan mereka. Lebih dari selusin situs web deepfake ini telah menggunakan tombol masuk dari perusahaan teknologi selama berbulan-bulan.
Analisis WIRED menemukan 16 situs web terbesar yang disebut sebagai situs yang menyediakan layanan “telanjang” dan “mengekspos” menggunakan infrastruktur masuk dari Google, Apple, Discord, Twitter, Patreon, dan Line. Pendekatan ini memungkinkan orang untuk membuat akun dengan mudah di situs web deepfake—memberikan mereka kesan kredibilitas—sebelum mereka membayar kredit dan membuat gambar.
Sementara bot dan situs web yang membuat gambar intim wanita dan anak perempuan tanpa persetujuan sudah ada selama bertahun-tahunjumlahnya meningkat dengan diperkenalkannya AI generatif. Jenis pelecehan “melepas pakaian” ini sangat mengkhawatirkan tersebar luasdengan anak laki-laki remaja yang diduga menciptakan gambar teman sekelas merekaPerusahaan teknologi lambat dalam menangani skala masalah ini, menurut para kritikus, dengan situs web yang muncul di bagian atas hasil pencarian, iklan berbayar yang mempromosikan mereka di media sosial, dan aplikasi muncul di toko aplikasi.
“Ini merupakan kelanjutan dari tren yang menormalkan kekerasan seksual terhadap perempuan dan anak perempuan oleh Big Tech,” kata Adam Dodge, seorang pengacara dan pendiri EndTAB (Ending Technology-Enabled Abuse). “API login adalah alat yang praktis. Kita seharusnya tidak pernah menjadikan kekerasan seksual sebagai tindakan yang praktis,” katanya. “Kita seharusnya membangun tembok di sekitar akses ke aplikasi ini, dan sebaliknya kita memberi orang-orang jembatan gantung.”
Alat-alat sign-in yang dianalisis oleh WIRED, yang digunakan melalui API dan metode autentikasi umum, memungkinkan orang untuk menggunakan akun yang sudah ada untuk bergabung dengan situs web deepfake. Sistem login Google muncul di 16 situs web, Discord muncul di 13 situs web, dan Apple muncul di enam situs web. Tombol X ada di tiga situs web, sedangkan Patreon dan layanan pesan Line muncul di dua situs web yang sama.
WIRED tidak menyebutkan nama situs web tersebut, karena situs-situs tersebut memungkinkan terjadinya penyalahgunaan. Beberapa di antaranya bagian dari jaringan yang lebih luas dan dimiliki oleh individu atau perusahaan yang sama. Sistem login telah digunakan meskipun perusahaan teknologi secara luas memiliki aturan bahwa pengembang negara tidak dapat menggunakan layanan mereka dengan cara yang dapat membahayakan, melecehkan, atau menyerang privasi orang.
Setelah dihubungi oleh WIRED, juru bicara Discord dan Apple mengatakan mereka telah menghapus akun pengembang yang terhubung ke situs web mereka. Google mengatakan akan mengambil tindakan terhadap pengembang jika menemukan ketentuannya dilanggar. Patreon mengatakan pihaknya melarang akun yang memungkinkan pembuatan gambar eksplisit, dan Line mengonfirmasi bahwa pihaknya sedang melakukan penyelidikan tetapi mengatakan tidak dapat mengomentari situs web tertentu. X tidak membalas permintaan komentar tentang cara sistemnya digunakan.
Beberapa jam setelah Jud Hoffman, wakil presiden kepercayaan dan keamanan Discord, mengatakan kepada WIRED bahwa mereka telah menghentikan akses situs web tersebut ke API-nya karena melanggar kebijakan pengembangsalah satu situs web yang menyediakan layanan buka baju memposting di saluran Telegram bahwa otorisasi melalui Discord “untuk sementara tidak tersedia” dan mengklaim bahwa mereka sedang mencoba memulihkan akses. Layanan buka baju itu tidak menanggapi permintaan WIRED untuk memberikan komentar tentang operasinya.
Ekspansi Cepat
Sejak teknologi deepfake muncul ke permukaan, akhir tahun 2017jumlah yang tidak konsensual video intim dan gambar yang dibuat telah berkembang pesat. Meskipun video lebih sulit diproduksi, pembuatan gambar menggunakan situs web dan aplikasi “memakai pakaian” atau “telanjang” telah menjadi hal yang lumrah.
“Kita harus jelas bahwa ini bukan inovasi, ini adalah pelecehan seksual,” kata David Chiu, jaksa kota San Francisco, yang baru-baru ini membuka kantor pengacara gugatan terhadap situs web yang menampilkan orang telanjang dan telanjang dan pembuatnya. Chiu mengatakan 16 situs web yang menjadi fokus gugatan kantornya telah dikunjungi sekitar 200 juta kali dalam enam bulan pertama tahun ini saja. “Situs web ini terlibat dalam eksploitasi mengerikan terhadap perempuan dan anak perempuan di seluruh dunia. Gambar-gambar ini digunakan untuk menindas, mempermalukan, dan mengancam perempuan dan anak perempuan,” tuduh Chiu.
