Selama bertahun-tahun, yang disebut Aplikasi dan situs web “Nudify” telah menjamur secara online, memungkinkan orang untuk membuat gambar nonkonsensual dan kasar dari wanita dan anak perempuantermasuk materi pelecehan seksual anak. Terlepas dari beberapa anggota parlemen dan perusahaan teknologi yang mengambil langkah -langkah untuk membatasi layanan yang berbahaya, setiap bulan, jutaan orang masih mengakses situs web, dan pencipta situs mungkin menghasilkan jutaan dolar setiap tahun, saran penelitian baru.
Analisis 85 situs web nudify dan “menanggalkan” – yang memungkinkan orang untuk mengunggah foto dan menggunakan AI untuk menghasilkan gambar “telanjang” dari subjek dengan hanya beberapa klik – telah menemukan bahwa sebagian besar situs bergantung pada layanan teknologi dari Google, Amazon, dan Cloudflare untuk beroperasi dan tetap online. Temuan, diungkapkan oleh indikatorpublikasi yang menyelidiki penipuan digital, mengatakan bahwa situs web memiliki rata -rata gabungan 18,5 juta pengunjung untuk masing -masing enam bulan terakhir dan secara kolektif mungkin menghasilkan hingga $ 36 juta per tahun.
Alexios Mantzarlis, salah satu pendiri indikator dan peneliti keselamatan online, mengatakan ekosistem nudifier yang keruh telah menjadi “bisnis yang menguntungkan” yang memungkinkan “pendekatan laissez-faire Silicon Valley untuk AI generatif” telah bertahan. “Mereka seharusnya berhenti menyediakan setiap dan semua layanan kepada Nudifiers AI ketika jelas bahwa satu -satunya kasus penggunaan mereka adalah pelecehan seksual,” kata Mantzarlis tentang perusahaan teknologi. Itu semakin ilegal membuat atau berbagi Deepfake Eksplisit.
Menurut penelitian, Amazon dan CloudFlare menyediakan layanan hosting atau pengiriman konten untuk 62 dari 85 situs web, sementara sistem masuk Google telah digunakan pada 54 situs web. Situs web Nudify juga menggunakan sejumlah layanan lain, seperti sistem pembayaran, yang disediakan oleh perusahaan arus utama.
Juru bicara Amazon Web Services Ryan Walsh mengatakan AWS memiliki persyaratan layanan yang jelas yang mengharuskan pelanggan untuk mengikuti undang -undang yang “berlaku”. “Ketika kami menerima laporan potensi pelanggaran ketentuan kami, kami bertindak dengan cepat untuk meninjau dan mengambil langkah -langkah untuk menonaktifkan konten yang dilarang,” kata Walsh, menambahkan bahwa orang dapat melaporkan masalah ke tim keselamatannya.
“Beberapa situs ini melanggar persyaratan kami, dan tim kami mengambil tindakan untuk mengatasi pelanggaran ini, serta mengerjakan solusi jangka panjang,” kata juru bicara Google Karl Ryan, menunjukkan bahwa sistem masuk Google mengharuskan pengembang untuk menyetujui kebijakannya yang melarang konten ilegal dan konten yang melecehkan orang lain.
Cloudflare belum menanggapi permintaan Wired untuk memberikan komentar pada saat penulisan. Wired tidak memberi nama situs web nudifier dalam cerita ini, karena tidak memberi mereka paparan lebih lanjut.
Nudify dan membuka pakaian dan bot memiliki berkembang sejak 2019setelah awalnya memunculkan dari alat dan proses yang digunakan untuk membuat Pertama eksplisit “Deepfakes.” Jaringan interkoneksi perusahaanseperti yang dilaporkan Bellingcat, telah muncul secara online menawarkan teknologi dan menghasilkan uang dari sistem.
Secara umum, layanan menggunakan AI untuk mengubah foto menjadi citra eksplisit nonkonsensual; Mereka sering menghasilkan uang dengan menjual “kredit” atau langganan yang dapat digunakan untuk menghasilkan foto. Mereka telah supercharged oleh gelombang generator gambar AI generatif yang telah muncul dalam beberapa tahun terakhir. Output mereka sangat merusak. Foto media sosial telah dicuri dan terbiasa membuat gambar kasar; Sementara itu, dalam a Bentuk baru cyberbullying dan penyalahgunaanremaja laki -laki di seluruh dunia membuat gambar teman sekelas mereka. Penyalahgunaan gambar intim seperti itu sangat mengerikan bagi para korban, dan gambar bisa Sulit untuk menggosok dari web.
Menggunakan berbagai alat dan data sumber terbuka, termasuk alat analisis situs web yang dibangun dengan, staf indikator dan peneliti investigasi Santiago Lakatos melihat ke dalam infrastruktur dan sistem yang memberi daya pada 85 situs web nudifier. Jaringan pengiriman konten, layanan hosting, perusahaan nama domain, dan layanan webmaster semuanya disediakan oleh campuran dari beberapa perusahaan teknologi terbesar, ditambah beberapa bisnis kecil.
Berdasarkan perhitungan yang menggabungkan biaya berlangganan, perkiraan tingkat konversi pelanggan, dan lalu lintas web yang dikirim situs untuk penyedia pembayaran, para peneliti memperkirakan bahwa 18 situs web menghasilkan antara $ 2,6 juta dan $ 18,4 juta dalam enam bulan terakhir, yang dapat setara dengan sekitar $ 36 juta per tahun. ; Anggaran jutaan dolar. Situs web lain memiliki diklaim untuk menghasilkan jutaan.
Dari 10 situs yang paling banyak dikunjungi, penelitian itu mengatakan, sebagian besar pengunjung berasal dari Amerika Serikat-India, Brasil, Meksiko, dan Jerman membentuk seluruh lima negara teratas di mana orang mengakses situs tersebut. Sementara mesin pencari mengarahkan orang untuk menyulut situs web, situs -situs tersebut semakin menerima pengunjung dari sumber online lainnya. Nudifiers telah menjadi sangat populer sehingga peretas Rusia telah dibuat versi palsu-malware. Selama setahun terakhir, 404 Media telah melaporkan satu pembuatan situs Video yang disponsori dengan penghibur dewasadan situs web juga semakin banyak digunakan Program afiliasi dan rujukan dibayar.
“Analisis kami tentang perilaku nudifier sangat menunjukkan keinginan mereka untuk membangun dan mengakar dalam ceruk industri dewasa,” kata Lakatos. “Mereka kemungkinan akan terus mencoba untuk mencampuri operasi mereka ke dalam ruang konten dewasa, tren yang perlu dilawan oleh perusahaan teknologi arus utama dan industri dewasa juga.”
Banyak masalah perusahaan teknologi yang memungkinkan platform Nudify untuk menggunakan sistem mereka terkenal. Selama bertahun -tahun, jurnalis teknologi telah melaporkan tentang bagaimana ekonomi Deepfake telah digunakan Layanan Pembayaran Mainstreammedia sosial iklanpaparan mesin pencari, dan Teknologi dari perusahaan besar untuk beroperasi. Namun sedikit tindakan komprehensif telah diambil.
“Sejak 2019, aplikasi nudifikasi telah beralih dari beberapa proyek sampingan berkualitas rendah ke industri rumahan bisnis ilegal yang diprofesionalkan dengan jutaan pengguna,” kata Henry Ajder, seorang ahli AI dan Deepfake yang membuat Deepfake WHO DEEPFACE Pertama Terungkap pertumbuhan ekosistem nudifikasi pada tahun 2020. “Hanya ketika bisnis seperti ini yang memfasilitasi aplikasi penyembuhan ”Perjalanan Pelanggan yang buruk‘Ambil tindakan yang ditargetkan akankah kita mulai melihat kemajuan yang berarti dalam membuat aplikasi ini lebih sulit untuk diakses dan diuntungkan. ”
Ada tanda -tanda bahwa situs web Nudify memperbarui taktik dan pendekatan mereka untuk mencoba menghindari potensi tindakan keras atau menghindari larangan. Tahun lalu, Wired melaporkan caranya Situs web Nudify menggunakan sistem masuk tunggal Dari Google, Apple, dan perselisihan untuk memungkinkan orang dengan cepat membuat akun. Banyak akun pengembang dinonaktifkan setelah pelaporan. Indikator mengatakan bahwa pada 54 dari 85 situs web, namun, sistem masuk sederhana Google sedang digunakan, dan pembuat situs web telah mengambil langkah-langkah untuk menghindari deteksi oleh Google. Mereka akan, kata laporan itu, menggunakan “situs perantara” untuk “berpose sebagai URL yang berbeda untuk pendaftaran.”
Sementara perusahaan teknologi dan regulator telah mengambil pendekatan glasial untuk mengatasi Deepfake yang kasar sejak mereka pertama kali muncul lebih dari satu dekade yang lalu, ada beberapa gerakan baru -baru ini. Pengacara kota San Francisco memiliki dituntut 16 Layanan Nonkonsensual-Image-Generasi, Microsoft memiliki diidentifikasi pengembang di belakang celebrity deepfake, dan meta telah mengajukan a gugatan terhadap sebuah perusahaan yang diduga di belakang aplikasi nudify yang, kata Meta, berulang kali memposting iklan di platformnya. Sementara itu, The Kontroversial Take It Down Actyang ditandatangani oleh Presiden AS Donald Trump pada bulan Mei, telah menempatkan persyaratan pada perusahaan teknologi untuk menghilangkan penyalahgunaan citra nonkonsensual dengan cepat, dan pemerintah Inggris membuatnya ilegal untuk membuat Deepfake Eksplisit.
Gerakan mungkin Chip Away Di beberapa layanan nudifier dan pakaian, tetapi tindakan keras yang lebih komprehensif diperlukan untuk memperlambat industri berbahaya yang berkembang. Mantzarlis mengatakan bahwa jika perusahaan teknologi lebih proaktif dan lebih ketat dalam menegakkan kebijakan mereka, kemampuan nudifier untuk berkembang akan berkurang. “Ya, barang ini akan bermigrasi ke sudut -sudut internet yang kurang diatur – tetapi biarkan,” kata Mantzarlis. “Jika situs web lebih sulit ditemukan, akses, dan penggunaan, audiens dan pendapatan mereka akan menyusut. Sayangnya, hadiah beracun dari era AI generatif ini tidak dapat dikembalikan. Tetapi tentu saja dapat dikurangi secara drastis dalam ruang lingkup.”
