Buatan berbahasa Cina Aplikasi intelijen Haotian sangat efektif sehingga menghasilkan jutaan dolar dengan menjual teknologi pertukaran wajah Telegram. Layanan ini terintegrasi dengan mudah dengan platform perpesanan seperti WhatsApp dan WeChat dan mengklaim bahwa pengguna dapat mengubah hingga 50 pengaturan—termasuk kemampuan untuk menyesuaikan hal-hal seperti ukuran tulang pipi dan posisi mata—untuk membantu meniru wajah yang mereka tiru. Namun meskipun Haotian adalah platform yang kuat dan serbaguna, para peneliti dan analisis WIRED sendiri menemukan bahwa layanan tersebut telah dipasarkan ke apa yang disebut “penyembelihan babi” penipu dan mereka yang menjalankan operasi penipuan online di Asia Tenggara.
Penipu telah menggunakan Haotian dan alat deepfake lainnya untuk lebih mudah membuktikan penipuan mereka dengan mengizinkan korban untuk “mengobrol melalui video” dengan karakter yang mereka yakini telah mereka ajak bicara sebagai bagian dari peluang investasi, persahabatan, atau bahkan hubungan romantis. Analisis yang dilakukan oleh perusahaan pelacakan mata uang kripto Elliptic terhadap empat dompet mata uang kripto yang terkait dengan Haotian menunjukkan bahwa perusahaan tersebut telah menerima setidaknya $3,9 juta pembayaran dalam beberapa tahun terakhir, termasuk uang dari dompet mata uang kripto yang terkait dengan dugaan aktivitas kriminal, termasuk penipuan. Selain itu, hampir separuh pembayarannya terkait dengan penipuan pasar diberi sanksi oleh pemerintah AS, kata Elliptic.
Hieu Minh Ngo, seorang peretas kriminal yang berubah menjadi penyelidik kejahatan dunia maya di organisasi nirlaba Vietnam yang memerangi penipuan, ChongLuaDao, mengatakan bahwa Haotian, yang muncul sekitar tahun 2021, adalah “salah satu yang pertama dan sangat populer.” Ngo telah melakukan penelitian ekstensif terhadap Haotian dan operasinya. “Hasilnya hampir sempurna,” katanya. “Dan mereka menjadi semakin baik setiap hari. Jika Anda memeriksa dompet kripto, Anda akan melihat uang masuk setiap hari.”
Haotian hanyalah salah satu bagian dari ekosistem teknologi yang lebih luas yang telah muncul di Asia Tenggara booming industri kejahatan dunia maya Dan senyawa penipuan kerja paksa. Dan seiring dengan semakin banyaknya alat pertukaran wajah dan alat deepfake video lainnya yang tersedia, alat-alat tersebut semakin banyak dimasukkan ke dalam penipuan dan jenis kejahatan dunia maya lainnya di seluruh dunia. Dalam dua tahun terakhir, para pejabat yang bekerja di Kantor PBB untuk Narkoba dan Kejahatan telah mengidentifikasi lebih dari 10 alat pertukaran wajah yang berpotensi digunakan oleh penjahat dunia maya di Asia Tenggara, termasuk untuk penipuan mata uang kripto dan peniruan identitas petugas polisi.
Haotian memiliki situs web untuk alat pertukaran wajah, tetapi aplikasi desktopnya terutama dipromosikan melalui saluran Telegram publik, yang diluncurkan pada Oktober 2023 menurut penelitian Ngo. Melalui saluran ini, yang kini memiliki lebih dari 20.000 pelanggan, perusahaan memasarkan versi baru aplikasi, memberikan pembaruan pengembangan, dan menawarkan dukungan teknis. Meskipun memasarkan perangkat lunak melalui Telegram pada dasarnya tidak jahat, para peneliti mengatakan bahwa basis pelanggan Haotian semakin meningkat miring terhadap penipu yang sudah mencari informasi tentang berbagai layanan pasar abu-abu pada aplikasi perpesanan.
Telegram menolak berkomentar. Namun, setelah WIRED menghubungi perusahaan tersebut, saluran Telegram publik utama Haotian dan beberapa akun terkait menjadi tidak dapat diakses atau tampaknya telah dihapus. Telegram tidak membalas permintaan komentar apakah perusahaan menghapus akun-akun tersebut.
Haotian adalah perusahaan yang berbasis di Kamboja yang berkantor pusat di Phnom Penh dan mengiklankan layanan dan dukungan instalasi di lokasi di wilayah tersebut. Peneliti PBB menyoroti layanan “pemasangan di tempat pada hari yang sama” ini dengan tangkapan layar pada tahun 2024 laporan yang menunjukkan logo Haotian di layar ponsel di kemungkinan situs penipuan.
Materi pemasaran perusahaan di situs webnya dan Telegram sering kali merujuk pada kegunaan alat tersebut untuk aktivitas yang berpotensi mencurigakan. Sebuah postingan di Telegram mengatakan bahwa teknologi ini dapat membantu menciptakan “kepribadian elit dan autentik” yang “dipercayai sepenuhnya oleh klien”. (Penipu sering menyebut orang yang ditipu sebagai pelanggan atau klien). Pesan lain disorot oleh para peneliti berkata: “Obrolan tersebut tidak memiliki keaslian? Tidak Ada Kepercayaan? Gunakan perangkat lunak pengubah wajah AI Haotian untuk melakukan panggilan video untuk menyelesaikan semua masalah Anda. Lagi pula, bagaimana mungkin gadis cantik seperti itu bisa berbohong?”
Penelitian diterbitkan pada bulan Maret oleh perusahaan keamanan Di Tehtri melacak berbagai nama domain yang tampaknya telah ditautkan ke Haotian dalam beberapa tahun terakhir, termasuk situs saat ini “haotian.ai,” dan alamat sebelumnya “haotianai.com” dan “haotianai.us.” Sementara itu, penelitian Ngo menemukan bahwa situs Haotian secara terbuka merujuk pada teknik rekayasa sosial. Baik di Telegram maupun situs webnya sendiri, diskusi Haotian tentang rekayasa sosial sering kali menggunakan frasa “精聊” atau “jingliao” yang secara harafiah berarti “obrolan mendalam” atau “obrolan spiritual.” Namun dalam praktiknya, frasa tersebut mengacu pada rekayasa sosial dan khususnya berkonotasi dengan penipuan “penyembelihan babi”.
Ketika WIRED menghubungi akun Telegram Haotian dalam bahasa Inggris untuk mengajukan pertanyaan tentang layanan tersebut, akun tersebut menjawab dalam bahasa Mandarin dengan mengatakan bahwa mereka tidak dapat berkomunikasi dalam bahasa Inggris dan tidak “menerima” wawancara. “Target pelanggan kami adalah streamer hiburan atau penjual langsung,” kata akun Haotian dalam bahasa Mandarin. “Kami hanya menyediakan perangkat lunak pertukaran wajah untuk streaming langsung dan tidak mengizinkan produk kami digunakan untuk aktivitas ilegal.” Dalam beberapa materinya, perusahaan mencatat, menurut terjemahan oleh WIRED, bahwa mereka membatasi pembuatan pornografi deepfake.
Haotian mengatakan kepada WIRED bahwa mereka akan menghentikan akun jika ditemukan digunakan untuk penipuan dan mengatakan “tidak benar” bahwa mereka beriklan ke pusat penipuan. Akun tersebut berspekulasi bahwa jika pemasaran semacam itu ada, “kemungkinan besar” berasal dari akun yang meniru identitas Haotian. Ketika ditanya tentang bahasa di haotian.ai yang tampaknya dipasarkan kepada penipu, akun Telegram Haotian mengatakan bahwa perusahaan tersebut tidak memiliki situs web. Setelah WIRED mengirimi akun tersebut tangkapan layar situs web Haotian saat ini dan tautan ke versi yang diarsipkan, akun Telegram Haotian menghapus seluruh percakapan.
Ada beberapa cara untuk menggunakan perangkat lunak desktop Haotian. Gary Warner, direktur intelijen di perusahaan keamanan siber DarkTower, mengatakan bahwa pertukaran wajah yang paling lancar dilakukan dengan menggunakan wajah perusahaan yang sudah diprogram atau memasukkan sejumlah foto seseorang sehingga perusahaan dapat membuat model wajah dari orang tersebut. Contoh dalam video promosi termasuk Elon Musk dan Leonardo DiCaprio, namun pengguna juga dapat menyediakan materi sehingga sistem dapat menghasilkan wajah mereka sendiri atau wajah orang lain. Semakin sedikit materi sumber yang harus digunakan oleh Haotian, hasilnya akan semakin tidak menarik. Terlepas dari itu, pengguna dapat mengubah tampilan pertukaran wajah mereka menggunakan alat granular untuk mempertajam berbagai atribut wajah. Keluaran video tersebut, menurut peneliti dan video promosi perusahaan, dapat dialirkan ke panggilan video di WhatsApp, Line, Telegram, Facebook, Viber, Zoom, WeChat, dan platform lainnya.
Selain itu, Haotian mengiklankan fitur peniruan identitas dan chatbot dukungan AI di saluran Telegram terkait. Postingan di saluran Telegram perusahaan mengatakan bahwa teknologinya mendukung “mengkloning suara siapa pun untuk panggilan atau pesan suara secara real-time” dan mengubah suara dari suara laki-laki menjadi suara perempuan atau sebaliknya.
Para pendukung dan otoritas keamanan di seluruh dunia semakin banyak melakukan hal ini diperingatkan tentang ancaman penjahat dunia maya yang menggunakan alat pertukaran wajah sebagai bagian dari penipuan. Salah satu tindakan nyata yang dapat dilakukan orang untuk membantu mendeteksi potensi penipuan adalah dengan mewajibkan orang yang diajak ngobrol melalui video melambaikan tangan di depan wajahnya untuk memeriksa gangguan atau distorsi yang dapat mengindikasikan adanya deepfake. Namun, Haotian mengklaim dalam postingannya bahwa mereka telah menambahkan perbaikan sehingga sistem akan bekerja dengan lancar jika seseorang menyentuh wajahnya dengan tangan atau melambaikan tangan di depan wajahnya saat sedang merekam video. Postingan di Telegram juga mengklaim bahwa layanan tersebut mendukung ciuman, berkedip, menjilat bibir, atau subjek memutar atau menggelengkan kepala.
Meskipun versi perangkat lunaknya dapat diunduh dari situs web Haotian, perusahaan tersebut terutama menjual perangkat lunaknya menggunakan langganan. Versi sebelumnya dari situs web Haotian mengatakan bahwa versi perangkat lunaknya yang “berfungsi penuh” bisa berharga $4.980 per tahun, sementara paket yang lebih murah juga tersedia.
Beberapa hari setelah Haotian meluncurkan saluran Telegramnya pada Oktober 2023, penelitian Ngo mengatakan, perusahaan tersebut juga membuat akun Telegram yang ditautkan ke Jaminan Huione, yang terkadang dikenal sebagai Jaminan Haowang. Pasar online, terkait dengan perusahaan Kamboja Huione Group, menyediakan layanan deposit dan escrow melalui Telegrammemfasilitasi penjualan berbagai alat yang diperlukan untuk melakukan penipuan, termasuk penjualan data korban, layanan deepfake, belenggu pelacakan GPS berlistrik yang digunakan dalam perdagangan manusia, dan banyak lagi. Pada bulan Januari, sebelum Jaminan Huione ada menutup kemudian disetujui oleh pemerintah AS untuk membantu memfasilitasi penipuan, para peneliti memperkirakan bahwa platform tersebut telah memfasilitasi lebih dari itu $24 miliar dalam transaksi pasar abu-abu.
Jaminan Huione juga merupakan pemroses pembayaran dan layanan escrow Haotian. Bukti hubungan tersebut telah terlihat selama bertahun-tahun di saluran Telegram terkait kedua perusahaan tempat pelanggan menyelesaikan pembayaran. Log obrolan yang ditinjau oleh WIRED serta temuan dari berbagai peneliti memperkuat hubungan ini.
Tom Robinson, salah satu pendiri dan kepala ilmuwan di perusahaan pelacakan mata uang kripto Elliptic, mengatakan dompet mata uang kripto yang digunakan oleh Haotian telah menerima 3,558 pembayaran dengan total $3,9 juta dalam beberapa tahun terakhir. $1,2 juta di antaranya terjadi antara entitas Haotian dan Huione, dengan transaksi di antara keduanya berakhir pada 7 November. Layanan ini menggunakan stablecoin Tether, juga dikenal sebagai USDT. Ada lebih dari 3.007 pembayaran yang melebihi $100, kata Robinson, dan transaksi masuk terbesar ke Haotian adalah sebesar $14.890, katanya, dengan “sejumlah besar” transaksi sekitar $500.
Beberapa dompet mata uang kripto yang membayar Haotian telah dikaitkan dengan potensi aktivitas kriminal, menurut penelitian Robinson. “Hasil dari setidaknya 52 kasus penipuan yang diketahui telah berakhir di dompet ini,” katanya, seraya menambahkan bahwa akun yang terkait dengan insiden penipuan tersebut ditandai oleh mitra Elliptic. “Itulah yang Anda harapkan jika platform ini digunakan oleh para penipu—bahwa mereka akan membayarnya dari hasil penipuan yang mereka lakukan.”
Meskipun Haotian secara teratur merilis fitur-fitur baru dan meningkatkan kualitas deepfake-nya, tentu saja ini hanyalah salah satu dari banyak alat yang mungkin digunakan penipu sebagai bagian dari operasi mereka. Perekonomian penipuan yang lebih luas juga bergantung pada perdagangan data curian, akun media sosial palsu, dan situs web yang digunakan untuk menipu orang, selain beragam alat digital yang membentuk tumpukan teknologi penipuan.
Andrew Fierman, kepala intelijen keamanan nasional di perusahaan pelacakan mata uang kripto Chainalysis, mengatakan bahwa operasi Haotian secara umum tampak serupa dengan perusahaan lain yang beroperasi pada platform Jaminan Huione yang terkena sanksi—entitas teknologi yang sering memproses beberapa ratus ribu dolar atau beberapa juta dolar. Jumlahnya memang kecil jika dibandingkan dengan skala ekonomi penipuan di Asia Tenggara secara keseluruhan, namun Fierman mengatakan bahwa transaksi tambahan kepada penjual teknologi ini membantu menopang ekosistem ilegal secara keseluruhan.
“Beberapa ribu dolar sudah cukup,” katanya. “Kita tidak berbicara tentang teknologi yang membutuhkan biaya ratusan ribu dolar untuk menjalankan penipuan pemotongan babi. Pembeli kemungkinan tidak hanya membeli perangkat lunak pengenalan suara dan wajah AI, mereka juga ingin mendapatkan data dan membangun situs web serta melakukan aspek lain dari ekosistem teknologi penipuan.”
