Penelitian baru-baru ini diterbitkan oleh Pusat Penanggulangan Kebencian Digital (CCDH) menemukan bahwa kemarahan adalah bisnis yang menguntungkan. Sejak dimulainya Konflik Israel-Hamas Oktober lalu, “akun yang mengunggah konten anti-Yahudi dan anti-Muslim mengalami peningkatan tajam dalam jumlah pengikut di X,” demikian simpulan penelitian tersebut, dan perusahaan media sosial tersebut tampaknya menghasilkan uang dari iklan yang muncul di samping unggahan tersebut. Imran Ahmed sangat memahami masalah ini, dan ia telah berupaya keras untuk mengungkap apa yang terjadi ketika kebencian dapat mendatangkan keuntungan. Hal ini telah terjadi sejak 11 September 2001, sehari sebelum ulang tahunnya yang ke-23.
“Saya merasa terhubung dengannya,” Ahmed bercerita kepada saya melalui Zoom. Keluarganya adalah Pashtun, salah satu kelompok etnis terbesar di Afghanistan. Taliban juga Pashtun. “Saya berpikir, saya harus melakukan sesuatu untuk memperbaiki dunia,” katanya. “Memperbaiki kejahatan yang dalam ini, kesalahan yang dalam ini.” Jadi Ahmed kembali kuliah, mempelajari politik di Universitas Cambridge, yang kemudian membawanya ke peran sebagai penasihat politik bagi Hilary Benn, yang saat itu menjabat sebagai menteri luar negeri bayangan di Parlemen.
Namun Parlemen datang dengan serangkaian tantangannya sendiri. Perubahan hidup kedua Ahmed terjadi pada tahun 2016, saat Partai Buruh berkampanye untuk mempertahankan Inggris di Uni Eropa. Saat perdebatan tentang Brexit meningkat, kata Ahmed, partai tersebut mengalami “infiltrasi antisemitisme yang cepat.” Itu adalah musim ketidakpastian. Selama periode ini, kata Ahmed, partai sayap kanan Britain First meluncurkan teori konspirasi berbahaya bahwa UE berusaha mengimpor Muslim dan orang kulit hitam untuk “menghancurkan” warga kulit putih melalui kampanye pemerkosaan. “Kebohongan itu penting dalam mengubah teori itu 4 persen suara yang akhirnya menjadi alasan mengapa Inggris meninggalkan Uni Eropa. Namun kebohongan tersebut juga secara langsung menyebabkan terbunuhnya kolega saya, [Labour MP] saya Cox,” yang ditembak dan ditikam oleh seorang penganut paham supremasi kulit putih. Saat menceritakan kisahnya, Ahmed berhenti sejenak. Cox adalah teman baiknya, dan saya tahu dia belum sepenuhnya melupakan mimpi buruk hari itu.
Kini berusia 45 tahun, Ahmed membentuk CCDH pada tahun 2019 untuk menarik perhatian pada banyaknya disinformasi dan kebencian yang disebarkan secara digital di dunia maya. Ia mengatakan sudah saatnya untuk akhirnya meminta pertanggungjawaban perusahaan teknologi atas kerusakan yang disebabkan oleh media sosial—karena jika tidak ada yang melakukannya, konsekuensi dari tidak adanya tindakan akan menjadi bencana besar.
JASON PARHAM: Elon Musk dituntut Pusat Penanggulangan Kebencian Digital dan hilangSeperti apa pengalaman itu?
IMRAN AHMED: [Long pause followed by laughter] Jadi dia menggugat kami karena dia mengatakan bahwa kita mempengaruhi bisnis periklanannya dengan melakukan riset itu ada di halaman depan The New York Times tentang peningkatan kebencian pada [Twitter] ketika ia mengambil alih. Terjadi peningkatan tiga kali lipat dalam penggunaan kata berawalan huruf N. Setiap hari, penggunaan kata berawalan huruf N meningkat tiga kali lipat pada platformnya seminggu setelah ia mengambil alih dibandingkan dengan rata-rata harian tahun sebelumnya. Dan itu karena ia memasang Bat-Signal, bukan, ketika ia mengambil alih, kepada para rasis dan homofobia dan orang-orang fanatik dari segala jenis dengan mengatakan, platform saya sekarang terbuka untuk bisnis bagi kalian semua.
Twitter memang sudah kacau, tetapi terasa seperti wilayah yang belum dipetakan, terutama setelah dia dipecat sebagian besar staf kepercayaan dan keselamatan.
Dia membiarkan puluhan ribu [bad actors] kembali ke platform yang telah dilarang oleh rezim sebelumnya di Twitter. Dia semacam membuka pintu dari Arkham Asylum dan mengatakan ini sekarang aman ruang bagi kaum rasis dan fanatikDia menggugat kami atas penelitian itu.
Namun untuk menjawab pertanyaan Anda, saya merasa senang. Jika Anda mengangkat cermin ke sebuah platform dan pantulannya sangat buruk, reaksinya adalah menanggapi dengan menuntut cermin tersebut. Padahal, yang seharusnya ia lakukan adalah mencoba memperbaiki platformnya. Namun, ia tidak melakukannya. Ia juga memberi kita tanda bahwa ini benar-benar tentang ekonomi. Anda tahu apa yang membuatnya marah? Bukan orang-orang yang memanggilnya bajingan.
Itu adalah uang. Dia juga mengatakan kepada pengiklan “pergilah bercinta dengan dirimu sendiri“.”
Musk yakin bahwa dengan menciptakan ruang aman bagi kaum rasis, hampir seperti tabrakan mobil yang terus menerus karena kebencian dan kemarahan, maka akan tercipta tontonan yang tidak akan bisa diabaikan oleh siapa pun. Hampir ada teori Kekaisaran Romawi di baliknya: Biarkan kaum rasis dan antirasis beradu pendapat untuk hiburan publik. Publik akan membanjirinya dan kita akan menghasilkan banyak uang melalui iklan. Ternyata teorinya tidak berhasil karena pengiklan berkata, “kami tidak benar-benar ingin memasang iklan kami di tempat sampah ini.” Saya sangat bangga bahwa kami membuktikan bahwa model itu tidak berhasil.
Ketika hakim menolak gugatan tersebutkatanya, itu adalah upaya X untuk “menghukum” orang-orang yang kritis terhadap platform tersebut. Apakah kemenangan itu merupakan validasi atas pekerjaan yang dilakukan CCDH?
Ini adalah pembenaran teori kami tentang pemahaman kami tentang apa yang penting. Sejak awal, kami telah mengatakan bahwa tugas kami adalah menciptakan biaya untuk produksi dan distribusi kebencian serta kebohongan yang mendasari kebencian dan bentuk-bentuk disinformasi lainnya. Itu adalah pembenaran teori perubahan tentang apa yang benar-benar penting.
Kita berada di tahun pemilu yang menentukan, dan disinformasi pemilu adalah meningkatApa yang dipertaruhkan jika kita tidak menghentikannya—atau lebih buruk lagi, orang-orang terus mempercayai kebohongan ini?
Ini bukan hanya pemilihan umum yang penting di AS. Kita sedang berada di tahun pemilihan umum. 2 miliar orang akan memilih dalam pemilihan umum demokratis di seluruh dunia tahun ini. Dan kita telah melihat media sosial dijadikan senjata oleh aktor-aktor jahat—entah itu aktor non-negara, aktor-aktor yang menyebarkan kebencian yang mencoba memengaruhi proses pemilihan, atau partai-partai politik yang menggunakan dinamika pada platform media sosial yang memberikan keuntungan algoritmik bagi kebencian. Itulah sebagian alasan mengapa kita telah melihat peningkatan fasis di Parlemen Eropa. Ada pesan yang dikirim oleh seluruh dunia bahwa mereka tidak mampu membendung gelombang kebencian yang menyebar di media sosial dan mensosialisasikan kembali politik, demokrasi, dan dunia nyata kita dengan cepat.
Kadang-kadang, efeknya terasa tidak terkendali.
Ini adalah siklus pemilihan ketiga di AS—2016, 2020, 2024—di mana media sosial akan memainkan peran yang sangat signifikan dalam pemilihan umum. AS masih belum memahami fakta bahwa demokrasi kita menjadi semakin tidak stabil. Demokrasi menjadi semakin terpolarisasi, semakin penuh kebencian, dan semakin tidak mampu mencapai konsensus. Dengan pemilihan umum 2020, kita melihat bahwa orang-orang bahkan tidak lagi menerima kenyataan bahwa pemilihan umum itu nyata. Penting bagi kita untuk mulai menerapkan transparansi dan akuntabilitas yang diperlukan untuk platform-platform yang mengendalikan ekosistem informasi yang memiliki dampak yang sangat besar pada siklus pemilihan umum kita.
Menurut Anda mengapa begitu sulit untuk mengatur media sosial dan bahaya yang ditimbulkannya?
Negara-negara di seluruh dunia melakukannya. Inggris mengesahkan Undang-Undang Keamanan Daring. Uni Eropa mengesahkan Undang-Undang Layanan Digital. Kanada telah mengesahkannya melalui C-63, dan saya akan memberikan bukti di Ottawa pada suatu saat nanti. Di AS, kita telah melihat perusahaan media sosial melakukan pembelaan paling agresif yang pernah mereka lakukan di seluruh dunia. Mereka menghabiskan puluhan juta dolar untuk melobi di DPR, dalam mendukung kandidat, mencoba menghentikan terjadinya hal yang tak terelakkan.
Sesuatu mesti berhasil, bukan?
Ironisnya, menurut saya hal yang paling mungkin menggerakkan anggota parlemen adalah orang tua, dan khususnya orang tua yang mengkhawatirkan dampak platform media sosial terhadap kesehatan mental anak-anak mereka. Dan itulah masalahnya dengan media sosial, media sosial memengaruhi segalanya. CCDH melihat dampak media sosial, disregulasi terhadap kemampuan kita untuk menangani krisis iklim, terhadap hak seksual dan reproduksi, terhadap kesehatan masyarakat dan vaksin selama pandemi, terhadap kebencian berbasis identitas dan anak-anak. Ini masalah anak-anak—sungguh, ini adalah kasus yang tidak dapat dibantah untuk perubahan.
Saya dan istri akan segera memiliki anak pertama. Saya mengerti apa yang akan Anda lakukan untuk melindungi anak-anak Anda dari bahaya. Saya pikir ketika ada platform yang menyakiti anak-anak kita dalam skala seperti itu, perubahan pasti akan terjadi.
Saya yang optimis berharap Anda benar. Generasi mendatang harus mewarisi dunia yang lebih baik, tetapi banyak hal yang tidak mendukung hal itu.
Tahukah Anda, salah satu hal yang benar-benar membuat saya takut, kami melakukan jajak pendapat tahun lalu yang menunjukkan bahwa untuk pertama kalinya, kaum muda, usia 14 hingga 17 tahun—generasi pertama yang tumbuh dengan platform video berdurasi pendek yang diatur secara algoritmik—adalah generasi dan kelompok usia yang paling percaya pada teori konspirasi di Amerika.
Oh wow.
Orang tua cenderung lebih percaya pada teori konspirasi. Namun, jumlahnya akan berkurang saat Anda bertambah muda dan kemudian pada usia 14 hingga 17 tahun, jumlah itu paling tinggi dari semuanya. Kami melakukannya dengan menguji sembilan teori konspirasi: teori konspirasi transfobik, teori konspirasi yang menyangkal perubahan iklim, teori konspirasi rasis, teori konspirasi antisemit, teori konspirasi tentang negara bagian yang dalam. Dan pada setiap teori, orang muda cenderung lebih percaya. Dan itu karena kami telah menciptakan ekosistem informasi yang pada dasarnya kacau bagi mereka.
Dan keadaan menjadi semakin kacau.
Lihatlah, cara para tiran mempertahankan kekuasaan bukan hanya dengan berbohong kepada rakyat, tetapi dengan membuat mereka tidak dapat mengatakan apa yang sebenarnya. Dan itu menciptakan sikap apatis. Sikap apatis adalah alat bagi para tiran. Itu berlaku di Uni Soviet. Itu berlaku di Afghanistan. Tidak ada rahasia lagi bahwa CCDH adalah pimpinan senior orang-orang yang berasal dari tempat-tempat di mana kita telah melihat kehancuran ekosistem informasi semacam ini yang mengarah pada pemerintahan tirani. Jadi, ya, ada kesadaran bahwa keadaan bisa menjadi sangat buruk dengan sangat cepat. Dan Anda benar ketika mengatakan bahwa kami khawatir tentang anak-anak kami, dan kami ingin membuat dunia kami lebih baik bagi mereka.
OKE.
Namun, inilah masalahnya. Saya pikir anak-anak itu sendiri, mereka mungkin adalah generasi yang sedang disosialisasikan kembali dengan cepat oleh algoritma media sosial dengan cara yang dapat merusak demokrasi yang kita butuhkan untuk memperbaiki masalah ini. Kita memakan anak-anak kita demi uang iklan. Kita memakan anak-anak kita sendiri demi uang iklan yang diberikan kepada sekelompok kecil eksekutif media sosial di San Francisco.
Dan seiring AI menjadi lebih umum, kemungkinan besar masalah ini akan semakin parah.
Media sosial adalah era nuklir disinformasi. Di masa lalu, Anda harus berupaya keras menyebarkan disinformasi. Anda tahu, mencetak pamflet dan mengirimkannya ke orang-orang melalui pos. Media sosial mengubah itu. Mark Zuckerberg pernah apakah ini grafiknya menunjukkan bahwa konten yang lebih melanggar adalah, semakin banyak keterlibatan yang didapat. Dan pada platform yang menghargai keterlibatan dengan amplifikasi, itu berarti bahwa disinformasi mendapat lebih banyak amplifikasi daripada informasi yang baik, bukan? Jadi pada dasarnya Anda memiliki lapangan bermain yang asimetris. Pada platform yang menyebarkan disinformasi dalam skala besar, lihat ekonominya. Tidak ada biaya bagi pengirim untuk setiap orang tambahan, untuk setiap pesan tambahan, tidak ada biaya. Itu seperti bom nuklir. Itu seperti penciptaan energi yang hampir tak terbatas dari beberapa atom uranium-238. Dan kemudian Anda memiliki AI.
Kotoran.
Jadi, satu-satunya biaya di masa lalu untuk dapat menyebarkan pesan-pesan ini tanpa biaya ke satu miliar orang adalah memproduksinya. AI mengubah ekonomi produksi disinformasi dan mengubahnya menjadi nol juga. Jadi, yang kita alami sekarang adalah kita telah beralih dengan sangat, sangat cepat dari era disinformasi konvensional ke era disinformasi nuklir dengan media sosial, dan sekarang ke era disinformasi termonuklir, tempat AI dan media sosial berpadu. Anda dapat membanjiri ekosistem informasi dengan disinformasi yang dihasilkan AI, yang diberi keuntungan algoritmik pada platform media sosial. Anda menciptakan kekacauan mutlak dalam sistem informasi.
Itu sedang terjadi sekarang.
Dan inilah masalahnya, kekacauan tidak selalu mengarah pada 6 JanuariHal ini juga menyebabkan apatis. Artinya kita masuk ke dalam kondisi kecemasan epistemik. , yang mana kita tidak hanya tahu apa yang benar atau tidak, tetapi kita juga tidak tahu bagaimana cara menentukan apa yang benar atau tidak.
Dan kita juga tidak punya sumber daya untuk itu, karena pemerintah kita, sebagian, telah mengecewakan kita.
Situasi sekarang di mana Anda tidak bisa memercayai apa yang Anda lihat atau dengar—itu belum pernah terjadi sebelumnya.
