Saat pengiriman DoorDash Pengemudi Livie Rose Henderson memposting video yang menuduh bahwa salah satu pelanggannya melakukan pelecehan seksual terhadapnya pada bulan Oktober, hal itu memicu badai reaksi.
milik Henderson TikTok mengklaim bahwa ketika dia mengantarkan kiriman di Oswego, New York, dia menemukan pintu depan pelanggan terbuka lebar dan di dalam, seorang pria di sofa dengan celana dan pakaian dalam ditarik hingga mata kaki. Henderson dijuluki sebagai “Gadis DoorDash,” dan videonya ditonton puluhan juta kali, termasuk beberapa tanggapan yang mendukung dan menghibur atas apa yang dia alami saat bekerja sebagai seorang wanita muda. Banyak orang lain di platform ini yang membuat video komentar yang mempertanyakan dugaan Henderson sebagai korban, membela pelanggan, dan menyebarkan informasi yang salah, dengan algoritma TikTok yang tampaknya memperkuat “pengambilan gambar” ini. Kemudian, setelah penangkapan Henderson pada 10 November—dia ditahan dibebankan dengan pengawasan yang melanggar hukum dan penyebaran gambar pengawasan yang melanggar hukum—gelombang reaksi baru pun muncul. (Polisi telah menolak tuduhan pelecehan seksual terhadapnya.)
Tak satu pun dari tanggapan ini datang dari pembuat konten dan jurnalis kulit hitam, Mirlie Larose.
Namun suatu hari Larose membuka TikTok dan menemukan lusinan pesan dari teman dan pendukungnya yang khawatir dengan video dia merespons situasi demi kepentingan pelanggan dan keputusan DoorDash untuk memberhentikan Henderson. (Henderson dipecat karena membagikan informasi pribadi pelanggan secara online, kata juru bicara DoorDash Jeff Rosenberg kepada WIRED.) Saat Larose menatap video itu dengan tidak percaya, selama sepersekian detik dia menebak-nebak dirinya sendiri saat dia memerah karena cemas tentang bagian komentar yang “mencabik-cabiknya.”
“Apakah aku memfilmkan ini?” dia bertanya. “Ini wajahku, ini rambutku.”
“Kemudian, dalam waktu tiga atau empat detik, aku menyadari ada yang tidak beres. Tidak mungkin aku mengatakan ini. Aku tidak [want to] bicarakan topik ini, “kata Larose kepada WIRED. Video tersebut dibuat oleh AI.
Situasi ini menyoroti bentuk yang semakin umum wajah hitam digitaldidukung oleh munculnya AI generatif. Istilah yang dipopulerkan oleh kritikus budaya Lauren Michele Jacksonmenggambarkan berbagai jenis “pertunjukan penyanyi” kontemporer di internet. Hal ini terlihat seperti representasi berlebihan dari reaksi GIF, meme, TikTok, dan media visual dan berbasis teks lainnya yang menggunakan citra, bahasa gaul, gerak tubuh, dan budaya Hitam. Ketergantungan TikTok pada konten video pendek yang menarik perhatian, ditambah dengan aplikasi seperti Sora 2, telah mempermudah pembuat konten dan akun bot non-kulit hitam untuk mengadopsi stereotip rasial orang Kulit Hitam menggunakan deepfake. Ini juga dikenal sebagai blackfishing digital.
Di tengah kontroversi DoorDash/Henderson, pengguna TikTok mulai memperhatikan dua video secara khusus: satu dari akun bot dan satu lagi dari pembuat konten berkulit hitam yang menirukan skrip yang sama. Mereka tampaknya mengadopsi posisi DARVO (Deny, Attack, dan Reverse Victim and Offender), meminimalkan tuduhan yang dibuat Henderson dan membenarkan pemecatannya: “Saya melihat video asli yang diposting oleh gadis DoorDash, dan… Saya mengerti mengapa DoorDash memecat Anda dan mengapa Anda diblokir dari aplikasi.” Video selanjutnya mengatakan, “Sedangkan untuk pria itu, saya bisa mengerti mengapa semua orang mengatakan dia melakukannya dengan sengaja. Tapi ketika Anda melihat video aslinya, sofa itu tidak terlihat kecuali Anda memiringkan diri dan melihat ke atas, dan jika Anda benar-benar ingin menghancurkannya, dia ada di dalam rumahnya.” Di sebuah penyataan di Facebook, Departemen Kepolisian Kota Oswego mengatakan pria tersebut “tidak berdaya dan tidak sadarkan diri di sofa karena konsumsi alkohol” dan video tersebut diambil di luar rumahnya. Polisi juga mengatakan mereka “menetapkan bahwa tidak ada kekerasan seksual yang terjadi.”
Ketika deepfake menjadi viral di TikTok, Instagram, X, dan Reddit, ada asumsi bahwa kedua video tersebut dibuat oleh AI karena pokok pembicaraannya sangat identik; beberapa bahkan berspekulasi bahwa DoorDash mengatur sebuah Kampanye PR AI melawan Henderson. DoorDash memberi tahu WIRED bahwa perusahaan tersebut “mengetahui konten buatan AI seputar kasus ini dan sama sekali tidak memaafkan atau mendukungnya.”
Pada kenyataannya, akun bot, uimuthavohaj0gdijuluki pencipta NDR Antonio V’s Video tanggapan DARVO melalui video yang dihasilkan AI menggunakan wajah dan rupa Larose. Video deepfake akun bot tersebut juga menggunakan klip di luar konteks dari video asli Henderson sebagai latar belakang untuk lebih menekankan bahwa Henderson mengarang tuduhan SA-nya untuk mendapatkan “platform.”
Setelah TikTok DIHAPUS Video asli Henderson, dia posting bahwa dia mencoba mengunggahnya lagi, tanpa rekaman penyerangnya. Tapi itu benar dihapus lagidan dia menerima serangan kedua. Dengan tidak adanya rekaman aslinya, gambar yang diubah dari tangkapan layar video TikTok aslinya tampak seolah-olah dia membuka kediaman tersangka pelaku untuk merekamnya, malah melanggar privasinya. Menurut TikTok, perusahaan tersebut menghapus video Henderson karena menampilkan “konten yang menunjukkan atau mempromosikan pelecehan dan eksploitasi seksual, termasuk memiliki, membagikan, atau membuat gambar intim (asli atau editan) dari seseorang tanpa persetujuan mereka.”
Kedua dakwaan terhadap Henderson merupakan kejahatan kelas E, dengan potensi hukuman hingga empat tahun penjara untuk setiap dakwaan.
Larose mengatakan sifat sensitif dari tuduhan tersebut adalah alasan mengapa dia tidak merasa terdorong untuk mengomentari situasi tersebut secara terbuka.
“Pelecehan seksual bukanlah sesuatu yang ingin Anda mainkan, dan Anda tidak dapat dengan bebas membicarakannya tanpa mengetahuinya [all] faktanya.”
Namun akun bot tersebut punya rencana lain, memposting video menggunakan kemiripannya dan milik pembuat konten kulit hitam lainnya tanpa persetujuan mereka.
Larose mengatakan dia sudah mengetahui akun tersebut karena akun tersebut pernah menggunakan wajahnya di 10 video lainnya sebelumnya. Sebagian besar video tersebut berisi komentar mengenai topik budaya pop dan budaya selebriti, yang paling viral adalah tentang lelucon yang tidak beres. Seperti kasus sebelumnya, dia mengatakan dia segera meminta TikTok untuk menghapus video tersebut. Setiap kali, katanya, permintaannya ditolak.
Hingga pencipta kulit hitam yang lebih terkenal, @bukanKHRISmenggabungkan video akun bot tersebut untuk memperingatkan orang lain tentang video deepfake menyesatkan yang dibuat oleh AI dan penggunaan wajah hitam digital sehingga semakin banyak orang yang melaporkan halaman tersebut. Akibatnya, halaman tersebut akhirnya dihapus dari aplikasi.
Namun, selama berhari-hari, kata Larose, akun lain memposting video yang dibuat oleh AI dengan wajahnya—tidak hanya berkaitan dengan insiden DoorDash. “Yang juga menjengkelkan dari situasi ini adalah suara yang mereka gunakan dalam video tertentu tidak adil dan berbahaya, karena mereka meniru jenis suara tertentu. [Black] stereotip.”
WIRED menghubungi dtff2727, salah satu akun bot yang memposting deepfake pembuat Black, untuk dikomentari dan tidak mendapat tanggapan. Hingga tulisan ini dibuat, akun tersebut memiliki total 19 video buatan AI yang mengeksploitasi kemiripan Larose.
Penyanyi digital seperti akun bot dan Influencer AI tidak hanya mengambil keuntungan dari konten ini, namun juga diberikan anonimitas dengan menggunakan wajah hitam digital sambil memancing kemarahan dan memperkuat stereotip tentang komunitas Kulit Hitam secara online.
Sora 2 dari OpenAI, seperti Veo dari Google, telah menambah proliferasi kesalahan AI di TikTok, sebagian besarnya diganggu oleh bias rasis, seksis, mampu, dan klasis.
Sebelum halaman tersebut dihapus, akun TikTok @mustahil_asmr1 memposting konten AI buatan Sora tentang perempuan kulit hitam yang berteriak di depan umum tentang kupon makanan. Klip tersebut menggambarkan wanita kulit hitam yang tampak realistis menggunakan bahasa Inggris Vernakular Afrika Amerika atau blaccent yang dibantai, mengeluh di toko karena tidak dapat menggunakan manfaat SNAP untuk membeli makanan cepat saji atau alkohol, atau bahkan menjual EBT dengan imbalan uang tunai. Beberapa klip memiliki tanda air Sora dan yang lainnya tidak. Namun begitu klip tersebut menjadi viral, hal tersebut memicu kepanikan palsu terhadap orang kulit hitam dan penyalahgunaan negara kesejahteraan yang dilakukan oleh pemerintahan Trump dan Mahkamah Agung. terhenti manfaat SNAP. Baru-baru ini, OpenAI harus memblokir pengguna membuat video Martin Luther King Jr. di aplikasi Sora setelah pemilik properti memprotes penyebaran penggambaran pemimpin hak-hak sipil yang tidak manusiawi dan tidak manusiawi.
Dalam sebuah pernyataan kepada WIRED, juru bicara OpenAI Niko Felix mengatakan bahwa kebijakan OpenAI melarang “menyesatkan orang lain melalui peniruan identitas, penipuan, atau penipuan.” Juru bicaranya mengatakan perusahaan sedang berupaya untuk “mendeteksi pola penyalahgunaan dan menerapkan hukuman atau menghapus konten ketika pelanggaran terjadi.”
Wajah hitam digital lebih dari sekadar tindakan berpura-pura menjadi orang kulit hitam demi hiburan atau keuntungan, kata Yeshimabeit Milner, pendiri dan CEO Data untuk Kehidupan Hitamsebuah kelompok advokasi yang berjuang melawan penggunaan data dan algoritma yang diskriminatif. “Ini tentang memanfaatkan[ing] kekuatan stereotip yang sangat kejam terhadap orang kulit hitam untuk tujuan mendorong agenda politik tertentu. Ada yang menyebutnya rekayasa sosial atau budaya untuk menciptakan kekacauan dan perbincangan, serta perselisihan yang meningkatkan jumlah penonton dan keterlibatan,” katanya.
Demikian pula pada tahun 2018, Skandal Cambridge Analytica mengungkapkan bagaimana data 87 juta pengguna Facebook digunakan untuk menanam dan menabur benih perpecahan politik antara sayap kanan dan kiri. Milner berkata, “Pesan online tepercaya meniru identitas orang kulit hitam, Latin, dan kulit putih serta keseluruhannya [political] organisasi dan cabang untuk membangun konsensus bahwa demografi orang tertentu berpikir dengan cara tertentu.”
Beberapa pembuat konten berkulit hitam menolak kebijakan tersebut. Zaria Imani memberi tahu WIRED bahwa dia mengambil tindakan hukum berdasarkan “pelanggaran hak cipta”. banyak halaman bot dalam video komentar yang dihasilkan AI yang terlibat dalam pengumpulan konten.
Profesor Meredith Broussard, penulis Lebih dari Sekadar Kesalahan: Menghadapi Bias Ras, Gender, dan Kemampuan dalam Teknologimengatakan pembuat konten harus diberikan perlindungan dan pengamanan yang sama seperti selebriti dan karakter berhak cipta, yang memilikinya meningkatkan alarm tentang kemiripannya yang digunakan dalam video AI tanpa izin mereka.
“Ini adalah masalah struktural yang perlu diperbaiki oleh platform ini,” kata Broussard.
Pada bulan Mei 2025, Tindakan Hapus ditandatangani menjadi undang-undang, mengkriminalisasi distribusi gambar intim non-konsensual (asli dan buatan komputer), seperti deepfake yang dibuat oleh AI dan “revenge porn”.
Meskipun perusahaan-perusahaan teknologi besar dapat berupaya meminimalkan dampak buruk yang disebabkan oleh AI, namun semakin jelas bahwa intervensi yang lebih besar diperlukan untuk membuat perusahaan-perusahaan tersebut benar-benar akuntabel, menurut Milner.
“Dengan pendidikan nyata dan tindakan kolektif, kita bisa melakukan lebih dari sekedar menghentikan TikTok. Kita bisa mendorong undang-undang yang akan menjadikan hal ini tidak baik,” ujarnya.
