Pada tahun 2016, ratusan orang Rusia masuk ke gedung perkantoran modern di Jalan Savushkina 55 di St. Petersburg setiap hari; mereka adalah bagian dari peternakan troll yang sekarang terkenal sebagai Badan Penelitian Internet. Siang dan malam, tujuh hari seminggu, para karyawan ini secara manual mengomentari artikel berita, mempostingnya Facebook Dan Twitterdan secara umum berupaya membuat marah orang Amerika mengenai pemilihan presiden yang akan datang.
Ketika skema ini akhirnya terungkap, terdapat liputan media yang luas dan dengar pendapat Senat, dan platform media sosial membuat perubahan dalam cara mereka memverifikasi pengguna. Namun kenyataannya, dengan semua uang dan sumber daya yang dikucurkan ke IRA, dampaknya minimal—tentu saja dibandingkan dengan kampanye lain yang terkait dengan Rusia yang dipimpin oleh Hilary Clinton email bocor sesaat sebelum pemilu.
Satu dekade berlalu, sementara IRA tidak ada lagi, kampanye disinformasi terus berkembang, termasuk penggunaan teknologi AI untuk berkreasi situs web palsu Dan video palsu. Sebuah makalah baru, yang diterbitkan di Science pada hari Kamis, memperkirakan akan terjadi perubahan besar dalam cara kampanye disinformasi akan dilakukan. Alih-alih ratusan karyawan duduk di meja kerja di St. Petersburg, menurut surat kabar tersebut, satu orang dengan akses terhadap alat AI terbaru akan mampu mengendalikan “segerombolan” ribuan akun media sosial, yang tidak hanya mampu membuat postingan unik yang tidak dapat dibedakan dari konten manusia, namun juga berkembang secara mandiri dan dalam waktu nyata—semuanya tanpa pengawasan manusia terus-menerus.
Para peneliti yakin, kawanan AI ini dapat membawa perubahan sudut pandang masyarakat yang tidak hanya mempengaruhi pemilu namun pada akhirnya mengakhiri demokrasi—kecuali jika ada langkah-langkah yang diambil sekarang untuk mencegahnya.
“Kemajuan dalam kecerdasan buatan menawarkan prospek memanipulasi keyakinan dan perilaku pada tingkat populasi yang luas,” kata laporan tersebut. “Dengan meniru dinamika sosial manusia secara adaptif, mereka mengancam demokrasi.”
Makalah ini ditulis oleh 22 pakar dari seluruh dunia, yang berasal dari berbagai bidang termasuk ilmu komputer, kecerdasan buatan, dan keamanan siber, serta psikologi, ilmu sosial komputasi, jurnalisme, dan kebijakan pemerintah.
Pandangan pesimis tentang bagaimana teknologi AI akan mengubah lingkungan informasi juga disampaikan oleh para ahli lain di bidang ini yang telah meninjau makalah ini.
“Menargetkan individu atau komunitas terpilih akan menjadi jauh lebih mudah dan ampuh,” kata Lukasz Olejnik, peneliti senior tamu di Departemen Studi Perang King’s College London dan penulis buku Propaganda: Dari Disinformasi dan Pengaruh hingga Operasi dan Perang Informasi. “Ini adalah lingkungan yang sangat menantang bagi masyarakat demokratis. Kita berada dalam masalah besar.”
Bahkan mereka yang optimis mengenai potensi AI untuk membantu manusia percaya bahwa makalah ini menyoroti ancaman yang perlu ditanggapi dengan serius.
“Kampanye pengaruh yang didukung oleh AI tentu saja berada dalam kondisi kemajuan teknologi saat ini, dan seperti yang dikemukakan dalam makalah ini, hal ini juga menimbulkan kompleksitas yang signifikan terhadap langkah-langkah tata kelola dan respons pertahanan,” kata Barry O’Sullivan, seorang profesor di Fakultas Ilmu Komputer dan TI di University College Cork.
Dalam beberapa bulan terakhir, ketika perusahaan-perusahaan AI berupaya membuktikan bahwa mereka layak mendapatkan hal tersebut ratusan miliar dolar yang telah dituangkan ke dalamnya, banyak yang paling banyak menunjuk agen AI terbaru sebagai bukti bahwa teknologi tersebut pada akhirnya akan memenuhi harapan tersebut. Namun, menurut penulis, teknologi yang sama akan segera digunakan untuk menyebarkan disinformasi dan propaganda dalam skala yang belum pernah ada sebelumnya.
Kawanan yang dijelaskan oleh penulis akan terdiri dari agen-agen yang dikendalikan AI yang mampu mempertahankan identitas yang persisten dan, yang terpenting, memori, sehingga memungkinkan simulasi identitas online yang dapat dipercaya. Para agen akan berkoordinasi untuk mencapai tujuan bersama, sekaligus menciptakan persona dan keluaran individu untuk menghindari deteksi. Sistem ini juga akan mampu beradaptasi secara real time untuk merespons sinyal yang dibagikan oleh platform media sosial dan dalam percakapan dengan manusia di dunia nyata.
“Kita sedang memasuki fase baru peperangan informasi di platform media sosial di mana kemajuan teknologi telah membuat pendekatan bot klasik menjadi ketinggalan jaman,” kata Jonas Kunst, profesor komunikasi di BI Norwegia Business School dan salah satu penulis laporan tersebut.
Bagi para ahli yang telah menghabiskan waktu bertahun-tahun melacak dan memerangi kampanye disinformasi, makalah ini menyajikan masa depan yang mengerikan.
“Bagaimana jika AI tidak hanya sekedar berhalusinasi informasi, tapi ribuan chatbot AI bekerja sama untuk memberikan kedok dukungan akar rumput padahal sebelumnya tidak ada? Itulah masa depan yang dibayangkan oleh makalah ini—peternakan troll Rusia yang menggunakan steroid,” kata Nina Jankowicz, mantan raja disinformasi pemerintahan Biden yang kini menjadi CEO American Sunlight Project.
Para peneliti mengatakan tidak jelas apakah taktik ini sudah digunakan karena sistem yang ada saat ini untuk melacak dan mengidentifikasi perilaku tidak autentik terkoordinasi tidak mampu mendeteksinya.
“Karena ciri-ciri mereka yang sulit ditiru oleh manusia, sangat sulit untuk benar-benar mendeteksi mereka dan menilai sejauh mana keberadaan mereka,” kata Kunst. “Kami kekurangan akses terhadap sebagian besar [social media] platform karena platform menjadi semakin ketat, sehingga sulit untuk mendapatkan wawasan di sana. Secara teknis, hal itu pasti mungkin. Kami cukup yakin bahwa ini sedang diuji.”
Kunst menambahkan bahwa sistem-sistem ini kemungkinan masih akan diawasi oleh manusia ketika sedang dikembangkan, dan memperkirakan bahwa meskipun sistem-sistem tersebut mungkin tidak berdampak besar pada pemilu paruh waktu AS tahun 2026 pada bulan November, sistem-sistem tersebut kemungkinan besar akan digunakan untuk mengganggu pemilihan presiden tahun 2028.
Akun yang tidak dapat dibedakan dengan manusia di platform media sosial hanyalah salah satu permasalahannya. Kemampuan untuk memetakan jaringan sosial dalam skala besar, kata para peneliti, akan memungkinkan mereka yang mengoordinasi kampanye disinformasi untuk menargetkan agen di komunitas tertentu, sehingga memastikan dampak terbesar.
“Dilengkapi dengan kemampuan seperti itu, gerombolan dapat memposisikan diri untuk memberikan dampak maksimum dan menyesuaikan pesan dengan keyakinan dan isyarat budaya masing-masing komunitas, memungkinkan penargetan yang lebih tepat dibandingkan dengan botnet sebelumnya,” tulis mereka.
Sistem seperti ini pada dasarnya dapat memperbaiki diri, dengan menggunakan tanggapan terhadap postingan mereka sebagai umpan balik untuk meningkatkan penalaran agar dapat menyampaikan pesan dengan lebih baik. “Dengan sinyal yang cukup, mereka dapat menjalankan jutaan pengujian mikroA/B, menyebarkan varian unggul dengan kecepatan mesin, dan melakukan iterasi jauh lebih cepat daripada manusia,” tulis para peneliti.
Untuk memerangi ancaman yang ditimbulkan oleh kawanan AI, para peneliti menyarankan pembentukan “AI Influence Observatory,” yang terdiri dari orang-orang dari kelompok akademis dan organisasi non-pemerintah yang bekerja untuk “menstandardisasi bukti, meningkatkan kesadaran situasional, dan memungkinkan respons kolektif yang lebih cepat daripada menerapkan hukuman reputasi yang bersifat top-down.”
Satu kelompok yang tidak termasuk di dalamnya adalah para eksekutif dari platform media sosial itu sendiri, terutama karena para peneliti percaya bahwa perusahaan mereka memberi insentif pada keterlibatan di atas segalanya, dan karena itu memiliki sedikit insentif untuk mengidentifikasi kelompok-kelompok ini.
“Misalnya gerombolan AI menjadi begitu sering sehingga Anda tidak bisa mempercayai siapa pun dan orang-orang meninggalkan platform,” kata Kunst. “Tentu saja, hal ini akan mengancam model. Jika mereka hanya meningkatkan keterlibatan, bagi sebuah platform, lebih baik tidak mengungkapkan hal ini, karena sepertinya ada lebih banyak keterlibatan, lebih banyak iklan yang dilihat, itu akan berdampak positif bagi penilaian perusahaan tertentu.”
Selain kurangnya tindakan dari platform-platform tersebut, para ahli percaya bahwa hanya ada sedikit insentif bagi pemerintah untuk terlibat. “Lanskap geopolitik saat ini mungkin tidak ramah bagi ‘Observatorium’ yang pada dasarnya memantau diskusi online,” kata Olejnik, hal yang disetujui oleh Jankowicz: “Hal yang paling menakutkan tentang masa depan ini adalah hanya ada sedikit kemauan politik untuk mengatasi dampak buruk yang ditimbulkan oleh AI, yang berarti [AI swarms] mungkin akan segera menjadi kenyataan.”
