Google Gemini CLI disalahgunakan sebagai agen peretasan, operator botnet malware

Aktor ancaman berbahasa Rusia yang dikenal sebagai “bandcampro” menggunakan alat Gemini CLI AI sumber terbuka Google sebagai agen peretasan dan untuk mengoperasikan botnet skala kecil.

Agen AI merespons permintaan penyerang, memecahkan masalah dengan cepat, dan bahkan mengusulkan perbaikan operasional setidaknya 59 kali.

Dalam lebih dari 200 sesi antara 19 Mei dan 21 April, pelaku ancaman bekerja dengan alat AI untuk menyebarkan dan mengoperasikan infrastruktur yang mengendalikan delapan sistem di sebuah klinik gigi dan untuk mendapatkan akses ke database OpenDental.

Agen AI mengambil peran sebagai “penguji pena resmi” yang bertindak tanpa penyangkalan keamanan dan secara otomatis menyimpan kredensial apa pun.

File keahliannya berisi buku pedoman perintah dan kontrol (C2), lengkap dengan deskripsi arsitektur, operasi standar, kode infeksi, perintah untuk persistensi, dan langkah pemecahan masalah.

AI mengendalikan botnet

Peneliti Trend Micro mengatakan bahwa pelaku ancaman menggunakan Gemini CLI untuk memigrasikan botnet ke infrastruktur C2 baru. Dimulai dari satu instruksi yang bertuliskan “”Pelajari migrasi C2”, AI memproses panduan tersebut dan menyiapkan semua langkah dan kode yang diperlukan untuk proses tersebut.

AI memigrasikan infrastruktur C2, menangani arsitektur, pengkodean, penerapan VPS, konfigurasi Cloudflare, dan debugging awal hanya dalam enam menit.

“AI membaca panduan migrasi, lalu menyiapkan bundel migrasi, arsip kecil kode server, payload, dan file keterampilan. AI kemudian membongkar bundel tersebut, meluncurkan server C&C di VPS, dan membuka terowongan Cloudflare,” kata Trend Micro.

Ketika mesin pada awalnya gagal terhubung kembali, AI mendiagnosis konflik lalu lintas antara server lama dan baru, dan setelah aktor mematikan server lama, semua bot terhubung kembali.

Log operasi harian menunjukkan bahwa pelaku ancaman terus mengelola botnet sepenuhnya melalui permintaan bahasa alami, menanyakan mesin mana yang online, membuat daftar file di komputer tertentu, dan membuat tautan infeksi.

Dari sudut pandang teknis, pengaturan botnet sangat ringan, berisi semua komponen dan instruksi dalam tiga file teks biasa dengan total ukuran sekitar 5 KB.

Ini berisi perintah jailbreak Gemini, buku pedoman C2 yang mencakup infeksi, persistensi, dan pemecahan masalah, serta panduan migrasi untuk membangun kembali infrastruktur.

C2 menggunakan server HTTP Python dalam memori dan agen PowerShell yang melakukan survei setiap lima detik, dan persistensi bergantung pada tugas terjadwal, peristiwa WMI, dan modifikasi registri, bergantung pada hak istimewa.

Malware itu sendiri cukup sederhana, menurut Trend Micro, karena tidak memanfaatkan mekanisme kebingungan, pengepakan, atau penghindaran.

Di luar botnet, aktor tersebut diduga menggunakan AI untuk menebak kata sandi, menghasilkan varian kata sandi yang masuk akal untuk portal WordPress, dan menganalisis dump 1Password untuk menemukan jalur eksploitasi.

Para peneliti mengatakan bahwa yang terakhir gagal hanya karena operasinya berlangsung cukup lama sehingga AI kehilangan jejak konsep serangan yang lebih luas.

Log yang diambil menunjukkan bahwa Gemini menolak untuk mematuhi setidaknya satu kasus, ketika diminta untuk membuat “agen-bom”, namun hal ini hanya membuat pelaku ancaman mencoba tugas lain sebagai gantinya.

BleepingComputer telah menghubungi Google untuk memberikan komentar mengenai contoh penyalahgunaan Gemini CLI ini, namun kami belum menerima tanggapan hingga dipublikasikan.