Sedikit berakhir setahun yang lalu, MG menjalani kehidupan yang relatif normal di usia dua puluhan di Scottsdale, Arizona. Dia bekerja sebagai asisten pribadi dan menambah penghasilannya dengan menunggu meja di akhir pekan. Seperti kebanyakan wanita seusianya, dia punya Instagram akun, di mana dia sesekali memposting Cerita dan foto dirinya sedang menikmati matcha dan nongkrong di tepi kolam renang bersama teman-temannya, atau pergi ke Pilates.
“Saya tidak pernah peduli untuk tampil menonjol dan menjadi populer di media sosial,” kata MG (yang hanya disebut sebagai MG dalam gugatan untuk melindungi identitasnya). “Saya hanya menggunakannya seperti yang dilakukan kebanyakan orang ketika pertama kali diluncurkan, yaitu untuk berbagi kehidupan mereka dengan orang-orang terdekat mereka.” Dia memiliki lebih dari 9.000 pengikut—pengikut yang banyak, namun tidak sebanding dengan platform yang besar.
Musim panas lalu, dia menerima DM dari salah satu pengikutnya. Tahukah dia, orang yang bertanya padanya, ada foto dan video wanita mirip MG yang beredar di Instagram? MG mengklik tautan tersebut dan melihat beberapa Gulungan yang tampak seperti wajahnya ditumpangkan pada tubuh yang tampak persis seperti miliknya. Wanita di foto itu berpakaian minim, dengan tato di tempat yang sama dengan MG.
MG merasa ngeri. “Jika Anda tidak mengenal saya dengan baik, Anda mungkin mengira itu adalah gambaran diri saya,” katanya. “Rasanya seperti pengecekan kenyataan bahwa saya tidak punya kendali atas citra saya sendiri.”
Dia bahkan lebih terkejut ketika mengetahui bahwa tidak hanya foto-foto dirinya yang telanjang atau berpakaian minim yang direkayasa, beredar di internet, seperti yang dia uraikan dalam pengaduan yang baru-baru ini diajukan—foto-foto itu juga digunakan untuk mengiklankan AI ModelForge, sebuah platform yang mengajari pria cara menghasilkan influencer AI mereka sendiri. Dalam serangkaian kelas dan tutorial online, para pria tersebut diduga mengajari pelanggannya untuk menggunakan perangkat lunak bernama Inti Pencipta untuk melatih model AI menggunakan foto remaja putri yang tidak menaruh curiga, lalu memposting konten yang dihasilkan di Instagram dan TikTok.
“Mereka memberikan pedoman yang lengkap, termasuk instruksi bagaimana memilih orang yang tepat sehingga bukan seseorang yang bisa membela diri, jadi mereka semua memiliki instruksi tentang tipe perempuan apa yang akan digunakan dan di mana mendapatkan foto mereka,” klaimnya. “Itu menjijikkan di setiap levelnya.”
MG adalah salah satu dari tiga penggugat dalam gugatan yang diajukan pada bulan Januari di Arizona terhadap tiga pria Phoenix: Jackson Webb, Lucas Webb, dan Beau Schultz, serta 50 John Does lainnya. Gugatan tersebut menuduh bahwa Webbs dan Schultz menjelajahi internet untuk mencari foto-foto wanita muda yang tidak curiga, kemudian menggunakan AI untuk menghasilkan foto dan video model fiksi yang mirip persis dengan mereka, menjual konten semacam itu di platform berlangganan. Fanvue.
Gugatan tersebut lebih lanjut menuduh bahwa untuk $24,95 per bulan di platform Menggebukpara pria tersebut menjual kursus online yang melatih pria lain, termasuk John Does yang disebutkan dalam setelan tersebut, cara membuat influencer buatan AI berdasarkan foto wanita asli. Para pria tersebut diduga membuat “Cetak Biru” tentang cara mengambil gambar dari akun media sosial perempuan dan memasukkannya ke dalam model AI generatif di CreatorCore, serta aplikasi terpisah yang akan menghapus pakaian perempuan dan menghasilkan gambar dan video seksual eksplisit. Konten semacam itu, klaim gugatan tersebut, menghasilkan jutaan penayangan, dilaporkan menghasilkan pendapatan lebih dari $50.000 dalam satu bulan. (Webbs dan Schultz tidak menanggapi permintaan komentar.)
Skema penghasil uang ini, menurut pengaduan tersebut, memangsa “harem salinan AI yang tidak dapat dibedakan dari perempuan dan anak perempuan yang tidak menaruh curiga,” serta menginstruksikan “predator yang berusaha memangsa” perempuan di media sosial. Menurut gugatan tersebut, pada tahun 2025 platform CreatorCore memiliki lebih dari 8.000 pelanggan yang menghasilkan influencer AI mereka sendiri, yang menghasilkan lebih dari 500.000 gambar dan video.
AI ModelForge adalah salah satu dari banyak perusahaan berkembang yang tampaknya ingin memanfaatkan meluasnya penggunaan kecerdasan buatan dengan mengajari manusia cara membuat “AI influencer” mereka sendiri sebagai pekerjaan sampingan. Pada platform seperti X, wirausahawan gadungan membanggakan tentang metode mereka yang telah dipatenkan untuk mendapatkan ratusan ribu dolar dari model AI, memikat pria muda yang melek teknologi yang ingin mendapatkan uang dengan cepat.
“Prevalensi hal ini sangat mengejutkan saya,” kata Nick Brand, yang bersama pengacara Cristina Perez Hasano, mewakili MG dan dua penggugat lainnya. Para pemuda yang dituduh berada di balik AI ModelForge dalam gugatan tersebut “menargetkan orang-orang biasa yang memiliki profil media sosial dan pengikut media sosial rata-rata.” Salah satu elemen yang lebih berbahaya dalam kasus ini, katanya dalam sebuah wawancara, adalah penggunaan gambar perempuan untuk mengajari laki-laki lain cara menemukan korban. Menurut pengaduan tersebut, para terdakwa mendorong pelanggan untuk menargetkan wanita dengan kurang dari 50.000 pengikut untuk menghindari “masalah hukum.”
“Anak-anak lelaki ini tidak hanya menggunakan AI generatif untuk melepaskan pakaian perempuan—mereka juga menjual kemampuan untuk melakukan hal tersebut kepada laki-laki dan anak laki-laki lain, yang kemudian akan menggunakan citra perempuan lain untuk melakukan hal yang sama,” bantah Brand. MG dan dua penggugat lainnya, menurutnya, adalah “wajah sebuah produk yang merugikan perempuan lain. Ini seperti menjadikan seseorang sebagai wajah ICE yang orang tuanya dideportasi. Ini mengerikan.”
Secara teknis, terdapat undang-undang federal yang mencegah penyebaran pornografi yang dihasilkan oleh AI tanpa persetujuan. Undang-Undang Take It Down, yang disetujui oleh Presiden Trump ditandatangani menjadi undang-undang pada Mei 2025menjadikan penerbitan konten seksual non-konsensual yang dihasilkan oleh AI menjadi ilegal, sehingga mengharuskan platform untuk menghapus konten tersebut dalam waktu 48 jam setelah konten tersebut ditandai. Dan sebagian besar negara bagian AS, termasuk Arizona, sudah melakukannya lulus undang-undang yang melarang apa yang disebut pornografi “deepfake”. Namun Undang-Undang Take It Down baru berlaku pada bulan Mei 2026, dan undang-undang negara bagian cenderung “reaktif dibandingkan proaktif,” kata perwakilan negara bagian Arizona, Nick Kupper.
Awal tahun ini, Kupper memperkenalkan rancangan undang-undang di badan legislatif Arizona yang mewajibkan situs web menggunakan alat deteksi otomatis, seperti verifikasi usia atau formulir persetujuan, untuk mencegah pengunggahan konten AI nonkonsensual. “Ketika ada sesuatu yang online, maka hal itu akan tetap ada di sana selamanya, meskipun para korban menghabiskan jutaan dolar untuk mencoba menghapusnya. Ini seperti pukulan telak—kamu menekan satu, maka yang lain akan muncul.”
Saat ini, jika Anda mengunjungi halaman Linktree untuk AI ModelForge, Anda akan diarahkan ke bisnis yang tampaknya sama dengan nama “TaviraLabs,” sebuah grup Telegram dengan lebih dari 18.000 anggota yang mengiklankan dirinya sebagai “komunitas pelatihan AI Influencer #1.” Selain itu, gugatan tersebut menyebutkan lebih dari selusin akun Instagram yang digunakan oleh para terdakwa untuk mempromosikan AI ModelForge, yang sebagian besar masih aktif. Gugatan tersebut merinci bagaimana akun tersebut terus memposting foto wanita nubile, mobil kencang, dan jam tangan mahal, menulis teks seperti, “Dia bukan pacarku, dia karyawan dengan bayaran terbaik” dan “POV: Kamu membangunnya dalam 20 menit dan dia menghasilkan $13,2k dalam 45 hari pertama.”
Meskipun MG dan penggugat lainnya terus-menerus melobi Instagram untuk menghapus gambar mereka, banyak dari mereka yang masih melakukannya, klaimnya, karena secara teknis mereka tidak melanggar pedoman Instagram seputar konten yang dihasilkan AI. Ketika dimintai komentar, juru bicara Instagram mengatakan pihaknya memiliki “kebijakan yang sangat ketat” terkait gambar intim non-konsensual yang dibuat oleh AI dan non-AI, serta menghapus akun yang memposting konten semacam itu. Ketika diberikan daftar selusin akun yang diduga terkait dengan AI ModelForge, juru bicara tersebut mengatakan bahwa akun tersebut sedang ditinjau.
Gugatan tersebut juga mengutip sejumlah akun TikTok yang mempromosikan bisnis pria tersebut. Saat dimintai komentar, juru bicara TikTok mengatakan akun tersebut ditemukan melanggar pedoman komunitas dan telah dihapus.
MG mengatakan gambar yang dihasilkan oleh AI Model Forge cukup berbeda dari fotonya sendiri sehingga dia dengan putus asa tidak dapat mengklaim bahwa akun tersebut meniru miliknya, yang juga merupakan pelanggaran pedoman Instagram. “Itu wajah saya, tato saya, pakaian berbeda dan tubuh sedikit berbeda,” katanya. “Mereka adalah wanita sejati yang sedang bertransformasi, bukan hanya orang-orang yang dihasilkan oleh AI secara acak.”
Meskipun MG terus-menerus hidup dalam ketakutan terhadap orang-orang dalam hidupnya yang melihat gambar-gambar pornografi dirinya yang dibuat oleh AI, dia mengatakan bahwa mengajukan gugatan telah mengembalikan sedikit hak keagenannya. “Kami ditempatkan di tempat di mana punggung kami menempel ke dinding dan saya ingin perempuan lain tahu bahwa Anda tidak bisa berhenti menjalani hidup Anda,” katanya.
Namun, apa yang terjadi pada MG, seorang wanita dengan kurang dari 10.000 pengikut, memiliki dampak yang menakutkan bagi hampir semua orang yang memiliki kehadiran publik di dunia maya.
“Ini bukan tentang berhati-hati dengan gambar Anda di dunia maya karena sekarang semua orang mengunggahnya di media sosial,” katanya. “Semua orang ada di LinkedIn. Semua orang ada di Instagram. Dan saya ingin orang-orang menyadari bahwa hal ini juga bisa terjadi pada mereka.”
