“Bigfoot yang dihasilkan AI Baddie, “dengan kuku akrilik dan wig merah muda, berbicara langsung kepada audiens khayalannya menggunakan iPhone.” Kita mungkin harus melanjutkan, “katanya.” Saya ingin laporan palsu tentang ayah bayi saya. ” Video AI ini, yang dihasilkan oleh Google VEO 3, telah mengumpulkan lebih dari satu juta tampilan Instagram. Itu hanya salah satu dari banyak posting viral di Instagram dan Tiktok yang dilihat oleh kabel yang menggambarkan perempuan kulit hitam sebagai primata dan melanggengkan kiasan rasis menggunakan Alat video AI.
Google Saya melihat 3 menjadi hit dengan audiens online ketika turun di konferensi pengembang perusahaan pada bulan Mei. Generasi surealis Karakter Alkitab Dan cryptids, seperti Bigfoot, melakukan vlogging gaya influencer dengan cepat tersebar di media sosial. Vlog Bigfoot yang dihasilkan AI bahkan digunakan oleh Google sebagai titik penjualan dalam iklan yang mempromosikan fitur baru.
Dengan “penjahat bigfoot,” pencipta online mengambil tren yang cukup tidak berbahaya di media sosial dan menggunakannya kembali untuk tidak memanusiakan wanita kulit hitam. “Ada preseden historis di balik mengapa ini menyinggung. Pada hari -hari awal perbudakan, orang kulit hitam dieksekusi secara berlebihan dalam ilustrasi untuk menekankan karakteristik primal,” kata Nicol Turner LeeDirektur Pusat Inovasi Teknologi di Brookings Institution.
“Ini menjijikkan dan mengganggu bahwa kiasan dan gambar rasial ini tersedia untuk dirancang dan didistribusikan pada platform online,” kata Turner Lee.
Salah satu akun Instagram paling populer yang memposting klip yang dihasilkan ini memiliki lima video dengan lebih dari satu juta tampilan, kurang dari sebulan setelah posting pertama akun. Video AI menampilkan hibrida hewan-wanita yang berbicara bahasa Inggris bahasa Afrika-Amerika secara vernakular dengan cara karikatur, dengan karakter yang sering ditampilkan mengenakan topi dan mengancam untuk melawan orang. Dalam satu klip, generasi AI, menggunakan aksen negara, menyiratkan dia mengeluarkan sebotol minuman keras Hennessy yang disimpan dalam alat kelaminnya.
Veo 3 dapat membuat semua yang terlihat di video seperti ini, pemandangan audio yang diucapkan untuk karakter itu sendiri, dari satu prompt. Bio dari akun Instagram yang populer mencakup tautan ke kursus online $ 15 di mana Anda dapat belajar cara membuat video serupa. Dalam video dengan judul -judul seperti “Veo 3 melakukan pengangkatan berat,” tiga guru menggunakan sulih suara untuk melangkah siswa melalui proses mendorong alat video AI untuk klip Bigfoot dan membuat karakter yang konsisten. Alamat email yang tercantum sebagai administrator kursus online memantul pesan kembali ketika Wired mencoba untuk menghubungi pencipta.
Seorang juru bicara Meta, yang memiliki Instagram, menolak mengomentari catatan tersebut. Google dan Tiktok keduanya mengakui permintaan WIRED untuk memberikan komentar, tetapi tidak memberikan pernyataan sebelum publikasi.
Analisis media sosial kami menemukan akun peniru di Instagram dan Tiktok memposting ulang klip “Bigfoot Baddie” atau menghasilkan video serupa. Repost dari satu video di Instagram memiliki 1 juta tampilan pada halaman meme yang berfokus pada AI. Akun Instagram yang berbeda memiliki video “Bigfoot Baddie” lain dengan hampir 3 juta tampilan. Ini bukan hanya di Instagram; Akun di Tiktok yang didedikasikan untuk konten yang dihasilkan AI yang serupa saat ini memiliki lebih dari 1 juta suka. Akun -akun ini tidak segera menanggapi permintaan komentar.
“Jika saya mati di sini, saya lebih baik dibangkitkan dengan BBL,” kata seorang Bigfoot wanita yang dihasilkan AI pada akun yang berbeda, berbicara dengan kamera saat dia menghindari bom saat berlibur di Israel. “Salah satu masalah dengan AI generatif adalah bahwa pencipta alat AI tidak dapat membayangkan semua cara orang dapat satu sama lain,” kata Meredith Broussard, seorang profesor di Universitas New York dan penulis dari Lebih dari sekadar kesalahansebuah buku tentang bias dalam teknologi. “Jadi, mereka tidak dapat memasang sejumlah pagar.
Tangkapan layar dari salah satu video “Bigfoot Baddies” yang dikritik di Instagram. Video ini dihasilkan oleh AI Tools.
Setelah mengklik beberapa video Bigfoot wanita, Instagram menggulung umpan untuk akun pengujian kami segera diisi oleh algoritma dengan video rasis lainnya – termasuk generasi AI dari seorang pria kulit hitam di kapal nelayan dengan bersemangat menangkap sepotong ayam goreng dan merujuk pada simpanse sebagai putranya.
Sementara video AI ini mengecewakan, mereka tidak selalu mengejutkan. Kembali pada tahun 2023, sebagai video yang dihasilkan AI dari Will Smith Eating Spaghetti menjadi viral di media sosial, penulis senior kabel Jason Parham membedah videonya sebagai bentuk penyanyi. “Usia mendatang dari Minstrelsy baru ini akan mengambil bentuk bunglon yang lebih licik, adaptif dan langsung di tipuannya, dari deepfake humanistik dan manipulasi suara yang tepat hingga segala macam penipuan digital,” tulis Parham pada saat itu.
Dengan gelombang terbaru alat video AI generatif ini, yang dipimpin oleh Google VEO 3, tidak pernah semudah ini untuk menghasilkan video AI fotorealistik. Kemudahan menghasilkan banyak video yang dipasangkan dengan penyebaran AI slop yang konsisten di platform media sosial adalah bagian dari apa yang dipopulerkan “penjahat bigfoot” ini. Lebih banyak tren media sosial di mana pencipta menggunakan AI untuk menyerang kelompok minoritas kemungkinan akan berlanjut. “AI tidak hanya membuatnya lebih mudah untuk memanipulasi gambar,” kata Turner Lee. “Tetapi algoritma itu sendiri, dan ekologi algoritma, juga membuatnya lebih mudah untuk berbagi atau meningkatkan konsumsi konten ini.”
