Saya tidak mau mengakuinya, tapi saya menghabiskan banyak uang secara online pada musim belanja liburan ini. Dan tidak mengherankan, beberapa pembelian tersebut tidak memenuhi harapan saya. Sebuah photobook yang saya beli rusak dalam perjalanan, jadi saya mengambil beberapa gambar, mengirimkannya melalui email ke pedagang, dan mendapatkan pengembalian dana. Platform belanja online telah lama bergantung pada foto yang dikirimkan oleh pelanggan untuk mengonfirmasi bahwa permintaan pengembalian dana adalah sah. Tetapi AI generatif sekarang mulai merusak sistem itu.
Sedikit Terlalu Mencurigakan
Di Cina aplikasi media sosial RedNoteWIRED menemukan setidaknya selusin postingan dari penjual e-niaga dan perwakilan layanan pelanggan yang mengeluhkan klaim pengembalian dana yang diduga berasal dari AI yang mereka terima. Dalam satu kasus, seorang pelanggan mengeluh bahwa sprei yang mereka beli robek, namun karakter Cina pada label pengiriman tampak seperti omong kosong. Di foto lain, pembeli mengirimkan gambar cangkir kopi yang retak seperti sobekan kertas. “Ini cangkir keramik, bukan cangkir karton. Siapa yang bisa merobek cangkir keramik menjadi beberapa lapisan seperti ini?” penjual menulis.
Para pedagang melaporkan bahwa ada beberapa kategori produk di mana foto kerusakan yang dihasilkan AI paling banyak disalahgunakan: bahan makanan segar, produk kecantikan berbiaya rendahdan barang rapuh seperti cangkir keramik. Penjual sering kali tidak meminta pelanggan mengembalikan barang tersebut sebelum memberikan pengembalian dana, sehingga membuat mereka lebih rentan terhadap penipuan pengembalian.
Pada bulan November, seorang pedagang yang menjual kepiting hidup di Douyin, TikTok versi Tiongkok, menerima foto dari seorang pelanggan yang membuatnya tampak seperti sebagian besar kepiting yang dibelinya tiba dalam keadaan mati, sementara dua lainnya telah melarikan diri. Pembelinya bahkan mengirimkan video yang memperlihatkan kepiting mati tersebut ditusuk dengan jari manusia. Tapi ada sesuatu yang salah.
“Keluarga saya telah membudidayakan kepiting selama lebih dari 30 tahun. Kami belum pernah melihat kepiting mati yang kakinya mengarah ke atas,” kata Gao Jing, sang penjual, dalam sebuah video yang kemudian ia posting di Douyin. Namun yang akhirnya memberikan petunjuk adalah jenis kelamin kepiting. Ada dua laki-laki dan empat perempuan di video pertama, sedangkan klip kedua menampilkan tiga laki-laki dan tiga perempuan. Salah satu dari mereka juga memiliki sembilan kaki, bukan delapan kaki.
Gao kemudian melaporkan penipuan tersebut kepada polisi, yang memutuskan bahwa video tersebut memang palsu dan menahan pembelinya selama delapan hari, menurut pemberitahuan polisi yang dibagikan Gao secara online. Kasus ini menarik perhatian luas di media sosial Tiongkok, sebagian karena ini adalah penipuan pengembalian dana AI pertama yang memicu respons regulasi.
Menurunkan Hambatan
Masalah ini tidak hanya terjadi di Tiongkok. Forter, sebuah perusahaan pendeteksi penipuan yang berbasis di New York, memperkirakan bahwa gambar yang diolah dengan AI yang digunakan dalam klaim pengembalian dana telah meningkat lebih dari 15 persen sejak awal tahun ini, dan terus meningkat secara global.
“Tren ini dimulai pada pertengahan tahun 2024, tetapi telah meningkat pesat selama setahun terakhir karena alat pembuat gambar dapat diakses secara luas dan sangat mudah digunakan.” kata Michael Reitblat, CEO dan salah satu pendiri Forter. Dia menambahkan bahwa AI tidak harus melakukan semuanya dengan benar, karena pekerja ritel garis depan dan tim peninjau pengembalian dana mungkin tidak punya waktu untuk meneliti setiap gambar dengan cermat.
Reitblat mengatakan kelompok kejahatan terorganisir menggunakan taktik yang sama seperti individu untuk mengatur penipuan pengembalian dana dalam skala besar. Dalam satu kasus, katanya, penipu mengajukan klaim pengembalian dana senilai lebih dari satu juta dolar menggunakan gambar yang diubah AI yang menunjukkan retakan atau penyok pada berbagai perlengkapan rumah. Permintaan diajukan dalam jangka waktu yang ketat, tampaknya membebani sistem, dan penipu juga menggunakan alamat IP bergilir untuk menyembunyikan identitas mereka.
Beberapa penjual menggunakan AI untuk melawan AI. Seorang penjual mainan di Tiongkok mendemonstrasikan kepada WIRED bagaimana mereka mengirimkan permintaan pengembalian dana ke chatbot AI untuk menganalisis apakah foto-foto tersebut palsu. Namun alat-alat ini masih jauh dari sempurna saat ini. Ditambah lagi, bahkan dengan konfirmasi dari chatbot, platform ecommerce belum tentu selalu berpihak pada penjual. Reitblat memperingatkan bahwa pengecer pada akhirnya mungkin akan merespons dengan memperketat kebijakan pengembalian barang, namun hal ini akan merugikan pengalaman berbelanja pelanggan yang bertindak dengan itikad baik.
Kisah ini mencerminkan reaksi buruk sebelumnya yang terjadi di pasar digital Tiongkok, ketika penjuallah yang dikritik karena menggunakan foto produk yang dihasilkan AI. Pembeli mengeluh bahwa membeli secara online telah menjadi seperti perjudian, dan Anda tidak pernah tahu apakah produk yang datang benar-benar sesuai dengan gambar.
Namun sebenarnya, tren-tren ini merupakan dua sisi dari masalah yang sama: E-niaga sangat bergantung pada kepercayaan, dan ketersediaan AI yang tersebar luas membuat pengoperasiannya semakin sulit dilakukan dengan asumsi bahwa mayoritas orang adalah pelaku yang jujur. Pagar pembatas yang ada, seperti Tanda air AIseringkali terlalu mudah untuk dihapus. Jika platform belanja menginginkan sistem yang dibangun agar manusia tetap berfungsi, mereka harus memikirkan cara meresponsnya, baik dengan aturan verifikasi baru, kebijakan pengembalian dana yang direvisi, atau mekanisme akuntabilitas yang lebih baik terhadap penipuan yang didukung AI.
Ini adalah edisi Zeyi Yang Dan Louise Matsakis‘ Buletin buatan China. Baca buletin sebelumnya Di Sini.
