Disinformasi pro-Rusia Kampanye memanfaatkan alat kecerdasan buatan konsumen untuk memicu “ledakan konten” yang berfokus pada memperburuk ketegangan yang ada di sekitar pemilihan global, Ukraina, dan imigrasi, di antara masalah kontroversial lainnya, menurut Penelitian baru yang diterbitkan minggu lalu.
Kampanye, yang dikenal dengan banyak nama termasuk Operasi Operasi Dan Martrium (Peneliti lain juga mengikatnya Storm-1679), telah beroperasi sejak 2023 dan telah diselaraskan dengan pemerintah Rusia oleh banyak kelompok, termasuk Microsoft dan Institut dialog Strategis. Kampanye ini menyebarkan narasi palsu dengan menyamar sebagai outlet media dengan tujuan nyata menabur divisi di negara -negara demokratis. Sementara kampanye menargetkan penonton di seluruh dunia, termasuk di AStarget utamanya adalah Ukraina. Ratusan video yang dimanipulasi AI dari kampanye telah mencoba memicu narasi pro-Rusia.
Laporan ini menguraikan bagaimana, antara September 2024 dan Mei 2025, jumlah konten yang dihasilkan oleh mereka yang menjalankan kampanye telah meningkat secara dramatis dan menerima jutaan pandangan di seluruh dunia.
Dalam laporan mereka, para peneliti mengidentifikasi 230 bagian konten unik yang dipromosikan oleh kampanye antara Juli 2023 dan Juni 2024, termasuk gambar, video, kode QR, dan situs web palsu. Namun, selama delapan bulan terakhir, Operasi yang berlebihan menghasilkan total 587 konten unik, dengan sebagian besar dari mereka dibuat dengan bantuan alat AI, kata para peneliti.
Para peneliti mengatakan lonjakan konten didorong oleh alat AI kelas konsumen yang tersedia secara online gratis. Akses yang mudah ini membantu memicu taktik kampanye “penggabungan konten,” di mana mereka yang menjalankan operasi dapat menghasilkan banyak konten yang mendorong cerita yang sama berkat AI Tools.
“Ini menandai pergeseran ke arah taktik propaganda yang lebih terukur, multibahasa, dan semakin canggih,” para peneliti dari Reset Tech, sebuah organisasi nirlaba yang berbasis di London yang melacak kampanye disinformasi, dan memeriksa terlebih dahulu, sebuah perusahaan perangkat lunak Finlandia, menulis dalam laporan tersebut. “Kampanye ini secara substansial meningkatkan produksi konten baru dalam delapan bulan terakhir, menandakan pergeseran ke metode pembuatan konten yang lebih cepat dan lebih diskalakan.”
Para peneliti juga terpana oleh berbagai alat dan jenis konten yang dilakukan kampanye. “Apa yang mengejutkan bagi saya adalah keragaman konten, berbagai jenis konten yang mereka mulai gunakan,” Aleksandra Atanasova, memimpin peneliti intelijen open-source di Reset Tech, mengatakan kepada Wired. “Sepertinya mereka telah mendiversifikasi palet mereka untuk menangkap sebanyak mungkin sudut yang berbeda dari cerita -cerita itu. Mereka melapisi berbagai jenis konten, satu demi satu.”
Atanasova menambahkan bahwa kampanye tampaknya tidak menggunakan alat AI khusus untuk mencapai tujuan mereka, tetapi menggunakan generator suara dan gambar bertenaga AI yang dapat diakses oleh semua orang.
Meskipun sulit untuk mengidentifikasi semua alat yang digunakan oleh para operasi kampanye, para peneliti dapat mempersempit ke satu alat khususnya: fluks AI.
Flux AI adalah generator teks-ke-gambar yang dikembangkan oleh Black Forest Labs, sebuah perusahaan yang berbasis di Jerman yang didirikan oleh mantan karyawan stabilitas AI. Menggunakan alat analisis gambar penglihatan, para peneliti menemukan kemungkinan 99 persen bahwa sejumlah gambar palsu yang dibagikan oleh kampanye kelebihan beban – beberapa yang mengklaim menunjukkan migran Muslim kerusuhan dan menyiapkan kebakaran di Berlin dan Paris – dibuat menggunakan generasi gambar dari fluks AI.
Para peneliti kemudian dapat menghasilkan gambar yang secara ketat mereplikasi estetika gambar yang diterbitkan menggunakan petunjuk yang termasuk bahasa diskriminatif – seperti “pria Muslim yang marah.”
Ini menyoroti “bagaimana model teks-ke-gambar AI dapat disalahgunakan untuk mempromosikan rasisme dan memicu stereotip anti-Muslim,” tulis para peneliti, menambahkan bahwa hal itu menimbulkan “masalah etis tentang bagaimana mendorong bekerja di berbagai model generasi AI.”
“Kami membangun beberapa lapisan perlindungan untuk membantu mencegah penyalahgunaan yang melanggar hukum, termasuk metadata asal yang memungkinkan platform untuk mengidentifikasi konten yang dihasilkan AI, dan kami mendukung mitra dalam menerapkan alat moderasi dan sumber tambahan tambahan,” juru bicara Black Forest Labs menulis dalam email ke Wired. “Mencegah penyalahgunaan akan tergantung pada lapisan mitigasi serta kolaborasi antara pengembang, platform media sosial, dan otoritas, dan kami tetap berkomitmen untuk mendukung upaya ini.”
Atansova memberi tahu Wired gambar yang dia dan rekannya ulasan tidak mengandung metadata apa pun.
Penggunaan AI Overload Overload juga menggunakan teknologi kloning AI-Voice untuk memanipulasi video agar tampak seolah-olah tokoh-tokoh terkemuka mengatakan hal-hal yang tidak pernah mereka lakukan. Jumlah video yang diproduksi oleh kampanye melonjak dari 150 antara Juni 2023 dan Juli 2024 hingga 367 antara September 2024 dan Mei 2025. Para peneliti mengatakan sebagian besar video dalam delapan bulan terakhir menggunakan teknologi AI untuk menipu mereka yang melihat mereka.
Dalam satu contoh, misalnya, kampanye menerbitkan sebuah video pada bulan Februari di X yang menampilkan Isabelle Bourdon, seorang dosen senior dan peneliti di Universitas Montpellier Prancis, tampaknya mendorong warga Jerman untuk terlibat dalam kerusuhan massal dan memberikan suara untuk kanan-kanan kanan kanan kanan kanan kanan kanan-jauh kanan kanan-jauh kanan-kanan jauh kanan-kanan jauh kanan-kanan jauh kanan-kanan jauh dari kanan jauh dari kanan-jauh jauh yang jauh kanan-jauh jauh mendorong kanan-jauh jauh paling jauh ke-kanan yang jauh paling jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh jauh Pesta Alternatif untuk Jerman (AFD) dalam pemilihan federal. Ini palsu: Rekaman diambil dari video di saluran YouTube resmi sekolah di mana Bourdon membahas hadiah ilmu sosial baru -baru ini yang dia menangkan. Tetapi dalam video yang dimanipulasi, teknologi kloning Voice membuatnya tampak seolah-olah dia sedang mendiskusikan pemilihan Jerman sebagai gantinya.
Konten yang dihasilkan AI yang diproduksi oleh Operasi Overload dibagikan pada lebih dari 600 saluran telegram, serta oleh akun bot di platform media sosial seperti X dan Bluesky. Dalam beberapa minggu terakhir, konten juga telah dibagikan di Tiktok untuk pertama kalinya. Ini pertama kali terlihat pada bulan Mei, dan sementara jumlah akunnya kecil – hanya 13 – video yang diposting terlihat 3 juta kali sebelum platform menurunkan akun.
“Kami sangat waspada terhadap aktor yang mencoba memanipulasi platform kami dan telah menghapus akun dalam laporan ini,” kata Anna Sopel, juru bicara Tiktok, kepada Wired. “Kami mendeteksi, mengganggu, dan bekerja untuk tetap berada di depan pengaruh operasi secara diam -diam secara berkelanjutan dan melaporkan kemajuan kami secara transparan setiap bulan.”
Para peneliti menunjukkan bahwa sementara Bluesky telah menangguhkan 65 persen dari akun palsu, “X telah mengambil tindakan minimal meskipun ada banyak laporan tentang operasi dan meningkatnya bukti untuk koordinasi.” X dan Bluesky tidak menanggapi permintaan komentar.
Setelah konten palsu dan AI dihasilkan dibuat oleh Operation Overload, kampanye melakukan sesuatu yang tidak biasa: mereka mengirim email ke ratusan media dan organisasi pengecekan fakta di seluruh dunia, dengan contoh konten palsu mereka di berbagai platform, bersama dengan permintaan untuk pemeriksaan fakta untuk menyelidiki apakah itu nyata atau tidak.
Meskipun mungkin tampak berlawanan dengan intuisi untuk kampanye disinformasi untuk mengingatkan mereka yang mencoba menangani disinformasi tentang upaya mereka, untuk operasi pro-Rusia, mendapatkan konten mereka diposting secara online oleh outlet berita nyata-bahkan jika itu ditutupi dengan kata “palsu”-adalah tujuan utama.
Menurut para peneliti, hingga 170.000 email tersebut dikirim ke lebih dari 240 penerima sejak September 2024. Pesan-pesan tersebut biasanya berisi banyak tautan ke konten yang dihasilkan AI, tetapi teks email tidak dihasilkan menggunakan AI, kata para peneliti.
Grup disinformasi pro-Rusia telah lama bereksperimen dengan menggunakan alat AI untuk menambah output mereka. Tahun lalu sebuah kelompok dijuluki Copycopkemungkinan terkait dengan pemerintah Rusia, terbukti menggunakan model bahasa besar, atau LLM, untuk membuat situs web palsu yang dirancang agar terlihat seperti outlet media yang sah. Meskipun upaya ini biasanya tidak mendapatkan banyak lalu lintas, promosi media sosial yang menyertainya dapat menarik perhatian dan dalam beberapa kasus informasi palsu dapat berakhir di atas google Hasil pencarian.
A Terkini Laporan dari Proyek Sinar Matahari Amerika memperkirakan bahwa jaringan disinformasi Rusia memproduksi setidaknya 3 juta artikel yang dihasilkan AI setiap tahun, dan bahwa konten ini meracuni output chatbot bertenaga AI seperti Openai’s ChatGPT dan Google Gemini.
Peneliti memiliki berulang-kali ditampilkan Bagaimana operator disinformasi merangkul alat AI, dan karena semakin sulit bagi orang untuk memberi tahu Real dari konten yang dihasilkan AI, para ahli memprediksi lonjakan konten AI yang memicu kampanye disinformasi akan berlanjut.
“Mereka sudah memiliki resep yang berfungsi,” kata Atanasova. “Mereka tahu apa yang mereka lakukan.”
