‘Pencipta’ AI mungkin saja akan menghancurkan perekonomian influencer

Baru pada bulan Juni Jeremy Carrasco mengunggah video pertamanya ke TikTok dan Instagram. Dalam waktu singkat, dia mengumpulkan lebih dari 300.000 pengikut di setiap platform. Bukan, ini bukan angka Charli D’Amelio, tapi itu menjadikannya salah satu nama terbesar dalam literasi AI di media sosial.

kata Jeremy Tepi bahwa dia selalu ingin mencoba menjadi YouTuber. Sebaliknya, dia mendapati dirinya berada di belakang kamera, bekerja sebagai produser dan sutradara di streaming langsung multikamera. Namun dia akhirnya memutuskan untuk mengambil risiko setelah menyadari bahwa sebagian besar dialog seputar AI generatif didorong oleh perusahaan teknologi. “Kami membutuhkan orang lain yang datang dari sudut pandang pencipta, produser,” katanya. Sementara dia mempertahankan a YouTube halaman, aktif TikTok Dan Instagram bahwa dia telah menemukan audiensnya.

Awalnya, idenya adalah untuk membicarakan tentang cara menggunakan AI. “Saya menyebut halaman saya showtoolsai karena saya sebenarnya cukup optimis terhadap AI dan kemampuan menggunakannya secara etis untuk produksi video.” Namun idealisme tersebut ternyata hanya berumur pendek.

Salah satu hal yang segera dia sadari adalah tidak ada seorang pun yang benar-benar membicarakan dasar-dasar cara mengidentifikasi video AI. “Hal ini diperlukan… dan saya memiliki semua pengetahuan yang diperlukan untuk melakukannya,” katanya. Namun dia juga tahu bahwa percakapan seperti ini tidak akan dimulai oleh para influencer AI saat ini, “perlu ada seseorang yang berasal dari bidang Kreator seperti ini yang dapat memahaminya.”

Dia menemukan ceruk pasarnya dengan cepat, memposting tentang video AI seperti tekstur kabur, mata goyah, atau benda yang muncul dan menghilang di latar belakang. Meskipun fokus utama Jeremy tetap pada literasi AI dan mengidentifikasi sampah yang dihasilkan Sora, dia juga mulai menggali potensi bahaya yang ditimbulkan oleh meningkatnya jumlah dan peningkatan kualitas video yang dihasilkan AI, terutama bagi para pembuat konten.

Pada akhirnya, ekonomi kreator menjadi salah satu perhatian. Dan kini orang-orang bersaing dengan aliran konten buatan AI yang tiada habisnya. Jeremy ingin orang-orang memahami bahwa “ini tidak sulit.” Sora 2 gratis dan telah menghilangkan banyak hambatan bagi orang-orang yang membuat klip, dapat menghasilkan audio, dan, pada pandangan pertama, ini bisa cukup meyakinkan.

Tujuannya di sini tidak harus terlalu jahat. Terkadang ini hanya tentang menghasilkan penayangan dan memanfaatkan Dana Pembuat TikTok. Klip AI berdurasi tujuh detik yang menampilkan seekor kucing melakukan sesuatu yang tidak masuk akal tidaklah berarti apa-apa. Namun jika dirangkai menjadi kompilasi berdurasi satu menit, jika kompilasi tersebut berhasil ditonton lima juta kali, maka pemegang akun dapat memperoleh penghasilan sekitar $1.000, menurut Jeremy. Meskipun hal ini mungkin kedengarannya tidak terlalu berarti, bagi mereka yang berada di a negara berkembangini bisa menjadi sumber pendapatan yang signifikan.

Tentu saja ada aktor yang lebih buruk di luar sana. Beberapa, seperti akun pengobatan AI Tiongkok, Yang Mun (atau Yang Mugs, tergantung situsnya), kata Jeremy, adalah penipuan yang cukup jelas. Di dalamnya, karikatur yang agak menyinggung tentang seorang penyembuh gaya Timur yang mendukung nasihat kesehatan dan kebugaran yang tampaknya sebagian besar ditujukan untuk khalayak Barat. Dengan lebih dari 1,5 juta pelanggan, ada uang yang bisa dihasilkan murni dari penayangan di Instagram. Namun penipuan sebenarnya datang dari mengarahkan pemirsa tersebut ke situs web untuk membeli eBook seharga $11. Jika eBook tersebut ada (setidaknya satu orang telah menghubungi Jeremy dan mengatakan bahwa mereka tidak dapat mengakses buku tersebut), hampir pasti seluruhnya dihasilkan oleh AI, sama seperti videonya.

Lainnya, seperti Maddie Quinntidak hanya mencoba menipu orang untuk mendapatkan uangnya, mereka juga secara aktif mencuri konten orang lain dan membajak kemiripannya. Akun seperti ini mengambil video, biasanya dari kreator wanita, lalu mengganti orang aslinya dengan avatar yang dibuat oleh AI atau mengganti wajahnya dengan avatar AI. Dalam beberapa kasus, seluruh kemiripan pembuat konten dicuri, dimasukkan melalui generator AI, dan kemudian dimasukkan ke OnlyFans.

Pada titik ini, ketika ditanya apakah ia yakin ada penggunaan etis AI generatif di bidang kreator, Jeremy menjawab, “secara umum tidak.” Namun, “ada ukiran-ukiran [for accessibility] dan pertimbangan budaya yang membuat saya tidak bisa langsung mengatakan tidak,” katanya.

Beberapa, seperti Gerbang Singatelah berupaya membuat model pembuatan video etis dengan melatihnya sepenuhnya di perpustakaan mereka sendiri. Tapi itu sederhana datanya tidak cukup untuk menghasilkan sesuatu yang dapat digunakan. “Satu-satunya cara agar video AI dapat dijadikan sebagai alat generatif seperti yang mereka lakukan saat ini,” kata Jeremy, adalah dengan “mencuri banyak data orang… Menurut saya hal tersebut memiliki kelemahan mendasar dan kita harus menolaknya.”

Sayangnya, platform-platform tersebut hanya mempercepat keruntuhan ekonomi kreator yang memicu kebangkitan mereka. Instagram, Facebook, TikTok, dan YouTube sebagian besar membiarkan diri mereka dibanjiri dengan kesalahan AI, dan bahkan tidak secara konsisten menerapkan aturan mereka sendiri dalam memberi label pada konten AI. Hal ini mempersulit pembuat konten untuk meredam kebisingan, dan juga membuat platform tersebut kurang menarik bagi pengguna.

Lebih buruk lagi, mereka semua membuat alat AI generatif mereka sendiri. “Kreator pada dasarnya sama seperti menjalankan biro iklan,” kata Jeremy. Kesepakatan sponsorship adalah cara utama pembuat konten menghasilkan uang, namun AI dengan cepat menemukan cara untuk menghasilkan iklan (sebanyak sangat dipertanyakan kualitas). Dan ketika video AI mengambil alih periklanan, hal ini “akan mengacaukan perekonomian kreator secara keseluruhan.”

Meta, AmazonDan TV Langsung semuanya telah mencoba layanan iklan AI generatif. Pada akhirnya, kata Jeremy, mereka “akan menjual layanan periklanan langsung kepada klien.” Beberapa pembuat konten bahkan mungkin tergoda untuk mencoba memanfaatkan AI untuk mendapatkan keuntungan. Dan, kata Jeremy, “sangat masuk akal untuk mempertanyakan apakah ini benar-benar merupakan peluang bisnis yang baik bagi pembuat konten mana pun, namun menurut saya tidak demikian.”