Sebuah postingan Reddit tentang calon pengantin yang meminta tamu pernikahannya mengenakan pakaian dengan warna tertentu dan tidak menarik tentu akan memancing amarah, apalagi tentang pengiring pengantin atau ibu calon pengantin pria yang ingin mengenakan pakaian berwarna putih. Skenario di mana orang tua meminta seseorang di pesawat untuk berpindah tempat duduk agar mereka dapat duduk di samping anak kecilnya kemungkinan besar akan menimbulkan ledakan kemarahan yang sama. Namun postingan tersebut mungkin memicu a reddit kekesalan moderator karena alasan yang berbeda—itu adalah tema umum dalam genre yang sedang berkembang AI-hasil postingan palsu.
Ini adalah contoh yang terlintas di benak Cassie, salah satu dari lusinan moderator r/AmItheBajingan. Dengan lebih dari 24 juta anggota, ini adalah salah satu subreddit terbesar, dan secara eksplisit melarang konten yang dibuat oleh AI dan cerita palsu lainnya. Sejak akhir tahun 2022, ketika ChatGPT pertama kali diluncurkan ke publik, Cassie (yang hanya ingin dipanggil dengan nama depan saja) dan orang lain yang menyumbangkan waktunya untuk memoderasi postingan Reddit telah berjuang dengan masuknya konten AI. Beberapa di antaranya sepenuhnya dihasilkan oleh AI, sementara pengguna lain telah mengedit postingan dan komentar mereka dengan program AI seperti Grammarly.
“Ini mungkin lebih umum daripada yang ingin diakui siapa pun, karena sangat mudah untuk memasukkan postingan Anda ke ChatGPT dan berkata ‘Hei, buat ini lebih menarik,’” kata Cassie, yang berpendapat bahwa setengah dari seluruh konten yang diposting ke Reddit mungkin telah dibuat atau dikerjakan ulang dengan AI dalam beberapa cara.
r/AmItheAsshole adalah pilar budaya Reddit, sebuah format yang telah menginspirasi lusinan bahkan ratusan turunan seperti r/AmIOverreacting, r/AmITheDevil, dan r/AmItheKameena, sebuah subreddit dengan lebih dari 100.000 anggota yang digambarkan sebagai “Apakah saya bajingan, tapi versi India.” Postingan cenderung menampilkan cerita tentang konflik antarpribadi, di mana Redditor dapat mempertimbangkan siapa yang salah (“YTA” berarti “Kamu bajingan,” sementara “ESH” berarti “Semua orang menyebalkan di sini”), siapa yang benar, dan tindakan terbaik apa yang harus diambil. Pengguna dan moderator di varian r/AmItheAsshole ini telah melaporkan melihat lebih banyak konten yang mereka curigai dibuat oleh AI, dan yang lain mengatakan bahwa ini adalah masalah seluruh situs yang terjadi di semua jenis subreddit.
“Jika Anda memiliki sub pernikahan umum atau AITA, hubungan, atau semacamnya, Anda akan terpukul,” kata moderator r/AITAH, varian dari r/AmItheAsshole yang memiliki hampir 7 juta anggota. Moderator ini, seorang pensiunan yang berbicara secara anonim, telah aktif di Reddit selama 18 tahun—sebagian besar keberadaannya—dan juga memiliki pengalaman puluhan tahun dalam bisnis web sebelumnya. Dia memandang AI sebagai potensi ancaman nyata terhadap platform.
“Reddit sendiri harus melakukan sesuatu, atau ular itu akan menelan ekornya sendiri,” katanya. “Ini sampai pada titik di mana AI memberi makan AI.”
Menanggapi permintaan komentar, juru bicara Reddit mengatakan: “Reddit adalah tempat paling manusiawi di Internet, dan kami ingin tetap seperti itu. Kami melarang konten yang dimanipulasi dan perilaku tidak autentik, termasuk akun bot AI yang menyesatkan yang menyamar sebagai orang dan kampanye pengaruh asing. Konten buatan AI yang diberi label jelas umumnya diperbolehkan selama masih dalam aturan komunitas dan aturan seluruh situs kami.” Juru bicaranya menambahkan bahwa ada lebih dari 40 juta “penghapusan konten yang bersifat spam dan dimanipulasi” pada paruh pertama tahun 2025.
Pergeseran Suasana Menjadi Lebih Buruk
Ally, seorang remaja berusia 26 tahun yang mengajar di community college di Florida dan berbicara menggunakan nama depannya hanya untuk privasinya, menyadari bahwa Reddit “benar-benar mengalami kemunduran” dalam setahun terakhir karena AI. Perasaannya dibagikan oleh pengguna lain di subreddits seperti r/EntitledPeople, r/simpleliving, dan r/self, di mana postingan pada tahun lalu mengeluhkan meningkatnya dugaan AI. Kemungkinan bahwa sesuatu dihasilkan oleh AI telah mengikis kepercayaan di antara pengguna. “AI mengubah Reddit menjadi tumpukan sampah,” tulis salah satu akun di r/AmITheJerk. “Bahkan jika postingan yang dicurigai sebagai AI tidak ada, keberadaan AI saja sudah seperti memiliki mata-mata di dalam ruangan. Kecurigaan itu sendiri adalah musuh.” Ally dulu suka membaca subreddit seperti r/AmIOverreacting. Tapi sekarang dia tidak tahu lagi apakah interaksinya nyata, dan dia menghabiskan lebih sedikit waktu di platform dibandingkan tahun-tahun sebelumnya.
“AI membuat semua orang kewalahan,” kata moderator r/AITAH. “Saya melihat orang-orang berupaya keras mencari sumber daya untuk masyarakat, namun dibalas dengan ‘Ha, kamu tertipu, ini semua bohong.’”
Mendeteksi AI
Ada beberapa cara yang sangat mudah untuk membuktikan bahwa sesuatu itu AI atau bukan, dan kebanyakan orang mengandalkan intuisi mereka sendiri. Teks bisa jadi lebih sulit untuk dievaluasi dibandingkan foto dan video, yang seringkali memiliki informasi yang cukup pasti. Lima Redditor yang berbicara dengan WIRED semuanya memiliki strategi berbeda untuk mengidentifikasi teks yang dihasilkan AI. Cassie memperhatikan ketika postingan menyatakan kembali judulnya kata demi kata di badan atau penggunaan mereka tanda hubungserta ketika poster memiliki ejaan dan tanda baca yang buruk dalam riwayat komentarnya tetapi memposting sesuatu dengan tata bahasa yang sempurna. Ally terpesona oleh akun Reddit yang baru dibuat dan postingan dengan emoji di judulnya. Mod r/AITAH mendapatkan kesan “lembah luar biasa” dari postingan tertentu. Namun “informasi” ini juga bisa muncul di postingan yang tidak menggunakan AI sama sekali.
“Pada titik ini, suasananya seperti Anda-tahu-saat-Anda-melihat-itu,” kata Travis Lloyd, mahasiswa PhD di Cornell Tech yang telah penelitian yang dipublikasikan menghadapi tantangan baru berbasis AI yang dihadapi moderator Reddit. “Saat ini, tidak ada alat yang dapat diandalkan untuk mendeteksinya 100 persen setiap saat. Jadi, masyarakat mempunyai strateginya masing-masing, namun hal tersebut belum tentu bisa dilakukan dengan mudah.”
Selain itu, seiring dengan semakin banyaknya teks AI yang muncul, orang-orang mulai meniru kesamaan bahasa yang dihasilkan AI, baik mereka menggunakan AI atau tidak. Di Reddit, umpan balik AI mungkin lebih bersifat inses, karena platform tersebut telah menggugat perusahaan AI serupa Antropis Dan Kebingungan karena diduga menghapus konten Reddit tanpa izin untuk melatih chatbots. Hasil ringkasan AI Google secara terkenal diambil dari komentar Reddit yang sebenarnya merupakan lelucon sarkastik, seperti pengguna yang melakukannya disarankan menggunakan lem untuk membuat keju menempel pada kulit pizza lebih baik.
“AI dilatih oleh manusia, dan manusia meniru apa yang mereka lihat dilakukan orang lain,” kata Cassie. “Manusia menjadi lebih mirip AI, dan AI menjadi lebih mirip manusia.”
Minoritas yang Menargetkan Umpan Kemarahan
Kedua moderator AITA mengatakan bahwa mereka telah mengamati tren postingan umpan kemarahan yang dapat ditulis dengan AI dan tampaknya dibuat hanya untuk memfitnah kaum trans dan populasi rentan lainnya. Moderator r/AITAH mengatakan subreddit tersebut menerima banyak sekali konten anti-trans selama Bulan Pride, sementara Cassie mengatakan bahwa subreddit tersebut sesekali muncul dalam antrean moderasi.
“Hal-hal seperti ‘Orang tua saya tidak menggunakan nama pilihan saya dan saya trans dan saya meledakkan mereka karena beraninya mereka’ atau ‘Seseorang menggunakan jenis kelamin saya dan saya cis tetapi beraninya mereka menggunakan jenis kelamin saya,’” kata Cassie. “Mereka hanya dimaksudkan untuk membuat Anda marah pada orang trans, pada orang gay, pada orang kulit hitam, pada wanita.”
Di subreddits yang berkisar pada berita dan politik, AI telah memungkinkan cara-cara baru untuk menyebarkan disinformasi. Ini adalah sesuatu yang dialami oleh Tom, seorang Redditor yang membantu memoderasi r/Ukraina selama tiga tahun dan hanya menggunakan nama depannya untuk privasi, bersamaan dengan teknik manipulasi sosial seperti astroturfing yang mendahului program seperti ChatGPT. Namun sekarang, AI dapat mengotomatiskan taktik tersebut, sehingga semakin sulit bagi moderator manusia untuk mengikutinya.
“Rasanya seperti seorang pria yang berdiri di lapangan melawan gelombang pasang,” kata Tom. “Anda dapat menimbulkan begitu banyak kebisingan dengan sedikit usaha.”
Di r/Ukraina, yang memiliki hampir satu juta anggota, Tom ingat pernah mendapatkan pelatihan dari mod lain untuk mencoba dan mengurangi penyebaran propaganda Rusia dan bahkan menerima dukungan khusus dari admin Reddit, yang satu langkah lebih tinggi dari para sukarelawan dan benar-benar bekerja dan dibayar oleh Reddit.
Memonetisasi Karma
Selain motivasi ideologis, ada juga cara yang kurang diketahui untuk memonetisasi konten Reddit. Beberapa lebih jelas, seperti Program Kontributor Reddityang memungkinkan pembuat poster menghasilkan uang dengan mendapatkan suara positif (disebut sebagai “karma”) dan penghargaan yang dapat dibeli oleh pengguna lain untuk poster tersebut. Para penipu Reddit secara teoritis dapat menggunakan konten yang dihasilkan AI untuk mengumpulkan karma, mendapatkan keuntungan darinya, dan bahkan menjual akun mereka.
“Akun Reddit saya bernilai banyak uang, dan saya mengetahuinya karena orang-orang terus mencoba membelinya,” kata Tom. “Bisa juga digunakan untuk tujuan jahat, tapi saya curiga sebagian besar dari mereka adalah orang-orang yang bosan dan punya waktu, mereka berkata, ‘Yah, saya bisa menghasilkan seratus dolar dalam sebulan dengan melakukan hampir tidak ada apa-apa.’”
Akun lain memerlukan karma untuk mendapatkan akses postingan di subreddit NSFW yang memiliki persyaratan karma untuk melakukannya, di mana mereka kemudian dapat mempromosikan hal-hal seperti tautan OnlyFans. Baik Cassie maupun moderator r/AITAH telah memperhatikan akun-akun yang memposting di subreddit mereka yang lebih besar untuk mendapatkan karma sebelum melanjutkan memposting konten dewasa. Beberapa dari mereka adalah penipu. Yang lain mungkin hanya mencoba mencari nafkah.
“Kadang-kadang itu nyata, kadang-kadang itu adalah konflik nyata yang pernah mereka alami, kadang-kadang palsu, kadang-kadang itu disebabkan oleh AI,” kata Cassie. “Saya hampir ingin menyebutnya gamifikasi, di mana mereka hanya mencoba menggunakan sistem sebagaimana yang telah diatur.”
Waktu ekstra yang dibutuhkan moderator Reddit untuk menyaring potensi materi AI mencerminkan bagaimana konten AI secara umum telah menciptakan hambatan baru, yang melampaui bidang moderasi media sosial.
“Apa yang dihadapi oleh moderator Reddit adalah apa yang dihadapi orang-orang di seluruh dunia saat ini, yang sedang menyesuaikan diri dengan dunia di mana hanya diperlukan sedikit upaya untuk membuat konten buatan AI yang tampak masuk akal, dan diperlukan lebih banyak upaya untuk mengevaluasinya,” kata Lloyd. “Ini merupakan beban nyata bagi mereka, begitu juga bagi guru dan siapa pun.”
