Mark Wahlberg meluruskan dasi dan berseri -seri di hadirin saat dia duduk di acara bincang -bincang siang hari Tampilan, Menjelang wawancaranya yang diantisipasi dengan panas. Segera, dia gelisah oleh tuan rumah, Joy Behar. Sesuatu yang tidak benar tentang tingkah lakunya. Matanya tampak licik, mencurigakan, bahkan predator. Ada perasaan, hampir, dari lembah yang luar biasa – kehadirannya terasa aneh tidak manusiawi. Instingnya benar, tentu saja, dan dia segera dipaksa untuk membela diri dari rentetan penghinaan yang kejam bermain pada kerentanan terdalamnya. Tapi Wahlberg tetap kuat. Dia mempertahankan ketenangan ketika Behar berteriak padanya untuk turun dari panggung. “Aku akan pergi, tapi bukan karena kamu menendangku,” dia mengumumkan. “Saya akan pergi karena saya terlalu menghormati diri sendiri untuk duduk di sini dan dilecehkan oleh seseorang yang lupa seperti apa kesopanan!” Anggota audiens tertegun – tidak ada yang lebih dari mereka yang menonton di rumah di YouTube, yang dengan cepat jempol dalam kata -kata kepastian mereka.
“Cara untuk pergi Mark. Kami mencintaimu,” kata seorang komentator. “Tampilan harus keluar dari TV,” tambah yang lain. “Saya berharap semua orang yang mereka hina menuntut mereka untuk jutaan dan jutaan sampai mereka bahkan tidak dapat membayar untuk produksi.”
Ini adalah adegan yang telah digambarkan sebagai salah satu momen yang paling banyak dibicarakan dalam sejarah televisi siang hari. Kecuali Mark Wahlberg belum menjadi tamu Tampilan Sejak 2015. Twist yang tak terhindarkan? Tak satu pun dari ini terjadi dalam kenyataan, melainkan berlalu selama video gaya-fiksi penggemar selama 25 menit, dibuat dengan keajaiban kecerdasan buatan untuk berpotensi membodohi 460.000 pemirsa yang haus drama. Hampir tidak mengejutkan mengingat tumpukan AI slop di web telah mencapai tingkat yang tidak dapat dipoles—dengan klip terbaru yang begitu realistis Mereka tersandung zoomer yang paling banyak melek media.
Tapi mungkin yang mengejutkan tentang bentrokan titans yang tidak orisinal ini adalah itu Tak satu pun dari ini juga terjadi di video. Terlepas dari konfrontasi kinetik karakternya, “Mark Wahlberg memulai pandangan setelah pertikaian yang berapi -api dengan Joy Behar” sepenuhnya tidak bergerak, kecuali untuk filter kasar yang ditambahkan pada gambar diam. Ini menghibur para pendengarnya hanya dengan suara AI, menceritakan sebuah skrip yang ditulis LLM yang dipenuhi dengan klise-klise sebagai teater sebagai “clenching kepalan” dan “rahang goyah.” Ini murah, malas – definisi Slop – tetapi entah bagaimana, saluran yang diselenggarakannya, talk show gold, telah berhasil mengumpulkan lebih dari 88.000 pelanggan, banyak dari mereka menyatakan ketidakpercayaan total ketika akhirnya diberitahu oleh komentator lain bahwa apa yang mereka tonton adalah “berita palsu.”
“Video-video ini adalah apa yang kita sebut ‘CheapFake’ daripada Deepfake, karena mereka berkumpul bersama dari pemilihan beraneka ragam gambar dan videoclips nyata, dengan suara dan subtitle AI dasar,” jelas Simon Clark, seorang psikolog kognitif di University of Bristol, yang mengkhususkan diri pada informasi yang salah di-salah. “Pada tingkat yang dangkal, kita mungkin terkejut bahwa orang akan tertipu oleh sesuatu yang tidak canggih ini. Tetapi sebenarnya ada faktor -faktor psikologis yang sedang bermain di sini,” tambahnya, menjelaskan bahwa video tersebut biasanya fokus pada teknik retoris yang mendorong audiensi untuk meninggalkan keterampilan berpikir kritis dengan menyerukan emosi.
Investigasi kabel menemukan 120 saluran YouTube yang menggunakan taktik serupa. Dengan nama -nama yang menyesatkan seperti Starfame, Media Buzz, dan Celebrity Scoop, mereka menyamarkan diri mereka di samping klip kompilasi nyata dari acara seperti Jimmy Kimmel Live! Dan Hari ini dengan Jenna & Friends untuk mendapatkan kredibilitas. Deskripsi saluran mereka memberikan ilusi outlet tabloid melodramatik-beberapa mengubur ai-disclaimer mereka di bawah dinding teks yang menekankan “semua highlight terbaik” atau “momen yang paling tak terlupakan, lucu, dan ikonik,” sementara yang lain menghilangkan sepenuhnya untuk menambah rasa.
YouTube memperbarui kebijakannya pada 15 Juli sebagai langkah untuk menindak konten yang dibuat dengan AI generatif. Platformnya Pusat Bantuan Menyetel bahwa konten yang memenuhi syarat untuk monetisasi harus mematuhi persyaratan YouTube untuk menjadi cukup “otentik” dan “asli” —tapi tidak ada penyebutan AI generatif secara langsung di sampingnya, dengan kebijakan hanya menyatakan bahwa konten yang memenuhi syarat harus “menjadi kreasi asli Anda” dan “tidak diproduksi secara massal atau berkepentingan.” Kebijakan terpisah tentang “mengungkapkan penggunaan konten yang diubah atau sintetis” menyatakan bahwa pembuatnya harus mengungkapkan Ketika konten “membuat orang sungguhan tampak mengatakan atau melakukan sesuatu yang tidak mereka lakukan,” “mengubah rekaman peristiwa atau tempat nyata,” atau “menghasilkan adegan yang tampak realistis yang tidak benar-benar terjadi.”
Wired menjangkau YouTube untuk mengomentari lebih dari 100 saluran fanfic selebriti yang dihasilkan AI, serta klarifikasi tentang bagaimana kebijakan baru YouTube akan ditegakkan.
“Semua konten yang diunggah ke YouTube harus mematuhi pedoman komunitas kami, terlepas dari bagaimana itu dihasilkan. Jika kami menemukan bahwa konten melanggar kebijakan, kami menghapusnya,” Zayna Aston, direktur YouTube EMEA Communications mengatakan dalam sebuah pernyataan kepada Wired. Aston juga menegaskan bahwa saluran yang menggunakan praktik menipu tidak diizinkan pada platform, termasuk yang menggunakan metadata, judul, dan thumbnail yang menyesatkan.
Wired juga dapat mengkonfirmasi bahwa 37 dari acara bincang-bincang selebriti yang ditandai dan saluran gaya-fiksi lainnya dihapus, terutama yang tidak memiliki penafian AI dan beberapa dengan nama saluran yang paling mengerikan, seperti Celebrity Central dan United News.
Alur cerita dalam video-video ini mengikuti pola yang dapat diprediksi yang diputar pada kiasan naratif kuno yang membenarkan perbandingan fiksi penggemar. Seorang selebriti yang sangat dicintai-biasanya aktor pria yang lebih tua seperti Clint Eastwood, Denzel Washington, atau Keanu Reeves-siap sebagai pahlawan, membela diri melawan penjahat, pembawa acara talk show yang condong ke kiri yang mengarahkan percakapan profesional ke dalam ad hominem. Jelas siapa yang condong ke kanan, audiens yang lebih tua untuk berhubungan-yang berfungsi sebagai fic visual Mary Sue. Ada elemen politik yang tidak dapat disangkal yang dimainkan dalam hal siapa yang ditargetkan, dengan video berfokus secara eksklusif pada tokoh -tokoh politik juga merupakan subgenre mereka sendiri.
“Mereka mengutak -atik suara saya atau apa pun yang mereka lakukan, mengutak -atik suara mereka sendiri untuk membuatnya terdengar seperti saya, dan orang -orang mengomentari itu seperti itu saya, dan itu bukan saya,” Washington baru -baru ini mengatakan kepada Wired ketika ditanya tentang AI. “Saya tidak memiliki akun Instagram. Saya tidak punya Tiktok. Saya tidak punya semua itu. Jadi apa pun yang Anda dengar dari itu – itu bahkan bukan saya, dan sayangnya, orang hanya mengikuti, dan itulah dunia yang kalian tinggali.”
Bagi Clark, video-video talk-show adalah daya tarik yang jelas untuk menghasut kemarahan moral-memungkinkan penonton untuk lebih mudah terlibat, dan menyebar, informasi yang salah. “Ini adalah emosi yang bagus untuk memicu jika Anda ingin pertunangan. Jika Anda membuat seseorang merasa sedih atau terluka, maka mereka kemungkinan akan menyimpannya untuk diri mereka sendiri. Sedangkan jika Anda membuat mereka merasa marah, maka mereka kemungkinan akan berbagi video dengan teman-teman yang berpikiran sama dan menulis kata-kata kasar yang panjang dalam komentar,” katanya. Tidak masalah juga, ia menjelaskan, jika peristiwa yang digambarkan tidak nyata atau bahkan dengan jelas dinyatakan sebagai ‘AI-dihasilkan’ jika karakter yang terlibat mungkin akan bertindak seperti ini (setidaknya dalam pikiran pemirsa mereka, setidaknya). Dalam beberapa skenario lainnya. Ekosistem YouTube sendiri juga pasti memainkan peran. Dengan begitu banyak pemirsa yang mengonsumsi konten secara pasif saat mengemudi, membersihkan, bahkan tertidurKonten yang dihasilkan AI tidak perlu lagi terlihat dipoles saat menyatu dengan aliran informasi yang diserap secara pasif.
Reality Defender, sebuah perusahaan yang berspesialisasi dalam mengidentifikasi Deepfake, meninjau beberapa video. “Kami dapat membagikan bahwa beberapa anggota keluarga dan teman kami sendiri (terutama di sisi lansia) telah menemukan video seperti ini dan, meskipun mereka tidak sepenuhnya dibujuk, mereka memang memeriksa dengan kami (mengetahui bahwa kami adalah ahli) untuk validitas, seperti yang ada di pagar,” Ben Colman, Cofounder dan CEO Reality Defender, memberi tahu Wired.
Wired juga menjangkau beberapa saluran untuk memberikan komentar. Hanya satu pencipta, pemilik saluran dengan 43.000 pelanggan, merespons.
“Saya hanya membuat wawancara cerita fiksi, dan saya dengan jelas menyebutkan dalam deskripsi setiap video,” kata mereka, berbicara secara anonim. “Saya memilih format wawancara fiksi karena memungkinkan saya untuk menggabungkan mendongeng, kreativitas, dan sentuhan realisme dengan cara yang unik. Video -video ini terasa mendalam – seperti Anda menonton momen nyata yang terungkap – dan realisme emosional itu benar -benar menarik orang. Ini seperti memberi penonton ‘bagaimana jika?’ Skenario yang terasa dramatis, intens, atau bahkan mengejutkan, sementara masih sepenuhnya fiksi. ”
Tetapi ketika sampai pada motif kemungkinan di balik saluran, yang sebagian besar berbasis di luar AS, baik agenda politik yang ketat maupun karier yang tiba -tiba berputar untuk mendongeng yang mendalam tidak berfungsi sebagai penjelasan yang memadai. Saluran dengan email yang menggunakan istilah “EarningMafia,” Namun, mengisyaratkan niat keuangan yang lebih jelas, seperti halnya sifat berulang saluran – dengan kabel melihat bukti video yang digandakan, dan beberapa saluran yang dioperasikan oleh pencipta yang sama, termasuk beberapa yang memiliki saluran saudara yang ditangguhkan.
Ini tidak mengejutkan, dengan lebih banyak Peternakan Konten Daripada sebelumnya, terutama mereka yang menargetkan yang rentan, saat ini mengokohkan diri mereka di YouTube di samping kebangkitan AI generatif. Di seluruh papan, pencipta memilih topik kontroversial seperti karakter TV anak -anak dalam situasi kompromi, bahkan Percobaan perdagangan seks Sean Combsuntuk menghasilkan keterlibatan sebanyak mungkin – dan pendapatan – sebanyak mungkin.
Sandra Wachter, seorang profesor dan peneliti senior dalam etika data, AI, dan algoritma di University of Oxford, menjelaskan bahwa konten gaya-umpan ini merupakan pusat dari model bisnis platform. “Seluruh idenya adalah membuat Anda tetap di platform selama mungkin, dan sayangnya, pelangi dan unicorn bukanlah hal -hal yang membuat orang tetap terlibat. Yang membuat orang tetap terlibat adalah sesuatu yang keterlaluan atau cabul atau beracun atau marah,” katanya. “Dan jenis konten itu dibuat jauh lebih murah sekarang dengan AI. Ini bisa dilakukan dalam beberapa menit.”
Sebagian besar saluran memberikan lokasi mereka seperti di luar AS, namun selebriti yang dipilih tampaknya hampir stereotip Amerika, seolah -olah mengambil daftar “aktor AS paling populerOleh mereka yang ingin menarik penghuni online yang paling menyenangkan (dan karenanya menguntungkan). Beberapa saluran yang dilihat oleh WIRED juga tampaknya telah mengubah fokus selama bertahun-tahun-banyak yang pernah memposting konten pendidikan dan tutorial tentang mobil, pertanian, atau kebugaran yang lebih lama dengan ledakan yang ada di mana-mana yang ada di mana-mana yang ada di antara ledakan AI ini. Tren terbaru dalam upaya untuk meningkatkan pendapatan rendah.
Ketika diberitahu tentang kebijakan baru YouTube, Wachter mengatakan dia berharap bahwa langkah menuju demonetisasi akan membuat dampak positif – tetapi dia mengatakan kita tidak “sampai ke dasar masalah.”
“Ini adalah sistem yang membiakkan toksisitas karena didasarkan pada menghasilkan klik dan menjaga bola mata tetap terpasang pada layar.”
Jika x posting seperti ini adalah sesuatu yang harus dilalui – tidak akan lama sebelum mereka mulai muncul kembali. Modus operandi saluran seperti ini jelas dan tampaknya mampu mengakali kebijakan keaslian YouTube. Mereka bertujuan untuk tidak menipu menggunakan efek khusus yang canggih tetapi malah menggunakan teknik psikologis kuno, dikombinasikan dengan habitat unik platform, tampak cukup realistis sehingga dapat dipercaya oleh mereka yang menyimpan sikap tersebut. Mereka menarik bagi mereka yang tidak peduli dengan realisme mereka – mencuci pandangan yang tidak berdampak pada mereka. Mereka bermaksud untuk mengamuk-umpan, untuk memicu debat, untuk memicu kemarahan moral. Mereka tidak perlu banyak usaha untuk penampilan mereka. Bisa dibilang, mereka menandai titik transisi antara keinginan mekanis untuk mereplikasi konten manusia dengan tepat – dan sifat manusia yang menakutkan untuk menciptakan sesuatu, cukup baik, untuk meluncur.
Manisha Krishnan berkontribusi pada pelaporan cerita ini.
