Selama lima tahun, Caitlyn Jones punya menggunakan Pinterest setiap minggu untuk mencari resep untuk putranya. Pada bulan September, Jones melihat resep slow cooker ayam krim dan brokoli, ditaburi cheddar emas dan sedikit peterseli. Dia segera melihat bahan-bahannya dan menambahkannya ke daftar belanjaannya. Tapi saat dia hendak mulai memasak, karena sudah membeli semuanya, ada satu hal yang menonjol: The resep menyuruhnya untuk memulai dengan “memasukkan” ayam ke dalam slow cooker.
Bingung, dia diklik halaman “Tentang” blog resep. Seorang wanita berpenampilan sangat sempurna balas menatapnya, cahaya keemasan memantul dari celemeknya dan rambutnya yang acak-acakan. Jones langsung menyadari apa yang tampaknya sedang terjadi: Wanita itu dihasilkan oleh AI.
“Halo, saya Souzan Thorne!” halaman itu dibaca. “Saya tumbuh di sebuah rumah di mana dapur adalah jantung dari segalanya.” Gambar-gambar yang menyertainya sempurna tetapi aneh, biografinya tidak jelas dan umum.
“Rasanya bodoh jika saya tidak mengetahui hal ini lebih awal, namun karena saya sedang terburu-buru di toko kelontong, saya bahkan tidak berpikir ini akan menjadi masalah,” kata Jones, yang tinggal di California. Saat kembali ke sudut kuliner, dia membuat hidangan yang meragukan, dan ternyata tidak enak: Ayam yang encer dan hambar meninggalkan rasa tidak enak di mulutnya.
Karena ingin melampiaskannya, dia beralih ke subreddit r/Pinterest, yang telah menjadi alun-alun kota bagi pengguna yang tidak puas. “Pinterest kehilangan semua yang disukai orang, yaitu pin asli dan orang asli,” tulisnya. Dia mengatakan bahwa dia sudah bersumpah untuk sepenuhnya meninggalkan aplikasi tersebut.
“AI slop” adalah istilah untuk konten berkualitas rendah, diproduksi secara massal, dan dihasilkan oleh AI yang menyumbat internet, dari video ke buku ke postingan di Medium. Dan pengguna Pinterest mengatakan situs tersebut penuh dengan hal itu.
Ini adalah “bubur yang tidak menggugah selera yang diberikan secara paksa kepada kami,” Alexios Mantzarlis, direktur Inisiatif Keamanan, Kepercayaan, dan Keselamatan di Cornell Tech, menulis dalam bukunya yang baru-baru ini diterbitkan. taksonomi dari air kotor AI. Dan “Souzan”—yang pencariannya di Google tidak menghasilkan satu pun hasil—hanyalah puncak gunung es.
“Semua platform telah memutuskan bahwa ini adalah bagian dari keadaan normal yang baru,” kata Mantzarlis kepada WIRED. “Ini adalah bagian besar dari konten yang diproduksi secara menyeluruh.”
“Enshitifikasi”
Pinterest diluncurkan pada tahun 2010 dan dipasarkan dirinya sebagai “mesin penemuan visual untuk menemukan ide.” Situs ini tetap bebas iklan selama bertahun-tahun, membangun komunitas kreatif yang setia. Sejak saat itu dewasa kepada lebih dari setengah miliar pengguna aktif. Namun, menurut beberapa pengguna yang tidak senang, feed mereka mulai mencerminkan dunia yang sangat berbeda akhir-akhir ini.
Umpan Pinterest sebagian besar berupa gambar, yang berarti lebih rentan terhadap kesalahan AI dibandingkan situs yang dipimpin video, kata Mantzarlis, karena gambar realistis biasanya lebih mudah dibuat oleh model daripada video. Platform ini juga mengarahkan pengguna ke situs luar, dan klik keluar tersebut lebih mudah dimonetisasi oleh kumpulan konten daripada pengikut di situs.
Masuknya iklan mungkin juga menjadi salah satu penyebabnya. Pinterest punya diganti mereknya dirinya sebagai “asisten belanja bertenaga AI.” Untuk melakukan ini, ia mulai menghujani makanan dengan lebih banyak iklan yang ditargetkan pada akhir tahun 2022, yang mungkin menjadi “konten hebat” bagi pengguna, CEO Bill Ready diberi tahu investor pada saat itu. Saat WIRED menelusuri “pompa balet” di akun Pinterest baru menggunakan browser dalam mode penyamaran, lebih dari 40 persen dari 73 Pin pertama yang ditampilkan adalah iklan.
Tahun lalu, Pinterest juga diluncurkan alat AI generatif untuk pengiklan. Konten sintetis meningkatkan kemampuan pengguna “untuk menemukan dan bertindak berdasarkan inspirasi mereka,” perusahaan menulis di blog bulan April.
Kecerobohan AI telah menjamur di setiap situs media sosial dalam beberapa tahun terakhir. Namun pengguna Pinterest mengatakan konten ini mengkhianati fungsi situs tersebut sebagai pasar untuk memperdagangkan inspirasi dunia nyata.
“Ini adalah kebalikan dari platform yang dulu, tanpa malu-malu memprioritaskan konsumerisme, pendapatan iklan, dan kecerobohan non-manusia dibandingkan konten yang membawa keseluruhan premis situs ini,” kata mahasiswa Sophia Swatling. Tumbuh di daerah pedesaan di bagian utara New York, dia kesulitan menemukan orang-orang kreatif yang mempunyai hobi yang sama. Pinterest adalah penyelamat.
“Keserakahan dan eksploitasi menjadi semakin menonjol, dan kini telah mencapai titik di mana pengalaman pengguna sepenuhnya dirusak,” kata Swatling.
Permasalahan yang diangkat oleh pengguna Pinterest akan termasuk dalam kategori yang oleh Cory Doctorow, aktivis, jurnalis, dan penulis fiksi ilmiah asal Kanada, disebut sebagai “enshittification,” yang mengacu pada menurunnya platform internet yang diandalkan orang secara bertahap karena pencarian keuntungan tanpa henti dengan mengorbankan pengalaman pengguna.
Meskipun jumlah pengguna Pinterest mungkin bertambah, itu tidak berarti mereka menyukai hal-hal kotor, kata Doctorow. Para pendatang baru mungkin merasa tidak ada alternatif lain, sementara para pendatang baru mungkin tidak terlalu membenci sampah dibandingkan dengan menyukai pin dan papan yang telah mereka bagikan dan simpan selama bertahun-tahun, jelasnya.
Perusahaan tahu bahwa jejak digital masyarakat adalah “kekuatan yang sangat kuat,” kata Doctorow kepada WIRED, yang memungkinkan mereka bertindak tanpa penalti. “Bagi saya, disitulah letak enshittifikasinya, kan?”
Toko Hantu
Jika Pinterest berharap bahwa mengandalkan AI akan cukup untuk mempercepat peruntungannya, hal tersebut tidak akan terjadi. Saham perusahaan merosot 20 persen bulan lalu setelah pendapatan kuartal ketiga dan prospek pendapatannya jauh dari ekspektasi analis.
Mengklik Pin yang berisi gambar yang tampaknya dihasilkan AI di Pinterest membawa WIRED ke blog yang menampilkan daftar kata-kata umum yang menawarkan saran yang tidak jelas, dipasangkan dengan gambar yang memiliki ciri khas AI yang sangat halus. Mereka juga dipenuhi dengan iklan banner dan pop-up.
“Ini seperti window shopping tanpa akhir, namun tidak ada toko, tidak ada pintu, tidak ada tanda. Itu hanya jendela yang terlihat sangat bagus,” kata Janet Katz, 60, pengguna jangka panjang Pinterest dari Austin, Texas. Saat mendesain ulang ruang tamunya tahun ini, dia terus memperhatikan gambar-gambar yang dimensi furniturnya tidak bertambah – kursi-kursi tidak sesuai dengan fisika, meja-meja kopi diseimbangkan dengan dua kaki.
“Dekorasinya setara dengan lembah yang luar biasa,” kata Katz. “Kelihatannya hampir nyata, tapi ada sesuatu yang kurang beres.”
WIRED mencoba mengklik 25 iklan untuk istilah pencarian “pompa balet” di Pinterest, yang mengarah ke situs e-niaga yang mengikuti pola: pakaian dengan diskon besar-besaran, tidak ada alamat fisik, dan sering kali menampilkan gambar pemilik butik yang mengkilap dan tampak sintetis yang dipadukan dengan cerita asal. “Saya tumbuh dalam keluarga yang penuh kecintaan terhadap seni, keahlian, dan tradisi,” salah satu situs tersebut menyatakan. Pada dua yang hampir identik situspasangan pensiunan mengumumkan mereka menutup pintunya setelah “26 tahun yang tak terlupakan” di New York City.
Butik-butik tersebut mempunyai beberapa ciri khas dari suatu fenomena diketahui sebagai “toko hantu”, sebuah penipuan online yang membuat situs web palsu, mengklaim menjual produk berkualitas tinggi dengan diskon besar karena penutupannya.
“Seluruh alat produksi seputar kampanye semacam ini telah berubah secara radikal,” Henry Ajder, pakar AI generatif dan salah satu pendiri Program AI dalam Bisnis Universitas Cambridge, mengatakan kepada WIRED. “Ini lebih realistis, lebih murah, dan lebih mudah diakses. Semua itu bersatu untuk menciptakan paket yang menarik untuk memenuhi platform dengan spam sintetis,” katanya.
Situs web tidak menanggapi permintaan komentar WIRED. Saat WIRED membagikan situs-situs ini dengan Pinterest, mereka menonaktifkan 15 situs tersebut karena melanggar kebijakan yang melarang pin yang tertaut ke situs web yang menipu, tidak dapat dipercaya, atau tidak orisinal.
“Meskipun banyak orang menikmati konten GenAI di Pinterest, kami tahu beberapa orang ingin melihatnya lebih sedikit,” kata juru bicara Pinterest kepada WIRED, merujuk pada alat bagi pengguna untuk membatasi konten yang dihasilkan AI. Mereka menambahkan bahwa Pinterest melarang “iklan dan konten berbahaya, termasuk spam—baik itu GenAI atau bukan.”
Mencari Solusi
Masuknya konten yang dihasilkan oleh AI telah membuat beberapa pengguna paranoid bahwa konten dari manusia akan hilang di tengah gelombang pasang.
Keluhan umum mengenai r/Pinterest datang dari pengguna yang mengatakan bahwa tayangan mereka menurun drastis karena alasan yang tidak mereka ketahui, namun mereka curiga bahwa AI menenggelamkan tayangan tersebut. Insinyur perangkat lunak Moreno Dizdarevic, yang juga menjalankan saluran YouTube yang menyelidiki penipuan e-niaga, telah bekerja dengan usaha kecil yang menyampaikan keluhan tersebut.
Salah satu kliennya, seorang ibu rumah tangga dan pembuat perhiasantidak lagi menerima komentar atau suka pada pinnya, dan memperoleh kurang dari 5.000 tampilan halaman setiap bulannya. Dia menemukan lebih banyak kesuksesan ketika memposting di Instagram atau TikTok, kata Dizdarevic, karena “masih ada lebih banyak hubungan antarmanusia,” yang memberinya keunggulan.
Pada bulan April, mengutip keluhan dari pengguna, Pinterest diperkenalkan “Label Gen AI” yang mengungkapkan kapan konten “dimodifikasi oleh AI.” Kemudian, pada bulan Oktober, itu meluncurkan alat memungkinkan pengguna untuk menyesuaikan berapa banyak konten buatan AI yang mereka lihat.
Namun label tersebut hanya muncul setelah pengguna mengklik pin, bukan di feed itu sendiri, dan tidak diterapkan pada iklan. WIRED menemukan beberapa pin buatan AI yang tidak diberi label seperti itu.
Lautan konten dan iklan pengguna yang dihasilkan oleh AI telah menciptakan paradoks bagi perusahaan teknologi, Ajder berkata: “Bagaimana Anda bisa membuktikan bahwa bola mata yang Anda jual sebenarnya adalah bola mata?” dia bertanya.
Perusahaan mungkin beralih ke alat yang memverifikasi konten buatan manusia, kata Ajder. Layanan streaming musik Prancis Deezer, misalnya, berjanji untuk menghapus trek yang sepenuhnya dihasilkan AI dari rekomendasi algoritmiknya, setelah pada bulan September terungkap bahwa unggahan tersebut kini mencapai 28 persen dari pengiriman harian, setara dengan 30.000 lagu per hari.
Namun bagi Jones, transformasi di Pinterest sudah terasa lengkap. Apa yang dulunya merupakan tempat inspirasi sejati, dalam kata-katanya, kini menjadi “menyedihkan.”
