Perusahaan keamanan siber mengatakan mereka menemukan ‘kasus pertama yang terdokumentasi’ dari ransomware agen AI

Para peneliti di Sysdig, sebuah perusahaan keamanan siber, mengatakan mereka menemukan tanda peringatan tentang arah tujuan AI agen.

Tim Peneliti Ancaman Sysdig yakin telah menemukan bukti terdokumentasi pertama mengenai ransomware agen, di mana model bahasa berukuran besar mengatur serangan yang kompleks. Tim menyebut serangan itu “Jade Puffer”.

“JadePuffer adalah tanda peringatan,” Michael Clark, direktur penelitian ancaman Sysdig, menulis dalam sebuah laporan. “Ini adalah penanda ke mana arah perdagangan pemerasan.”

Clark menulis bahwa Jade Puffer tidak menggunakan “teknik baru atau canggih”, namun yang menonjol adalah bagaimana model AI mengatur dan melaksanakan serangan, yang menggambarkan bahwa hambatan masuk untuk serangan ransomware di masa depan kini jauh lebih rendah.

“Keahlian dasar untuk menjalankan ransomware telah turun menjadi berapapun biaya yang harus dikeluarkan untuk menjalankan agen, dan jika agen tersebut menggunakan kredensial yang dicuri melalui LLMjacking, kerugian yang ditanggung penyerang mendekati nol,” tulisnya.

Serangan itu sendiri ditargetkan, seperti yang diharapkan dari serangan ransomware. Clark menulis bahwa LLM menyapu server untuk login ke AI API, kredensial cloud, dompet mata uang kripto, dan kredensial database.

AI bahkan menghasilkan catatan tebusan, tulis Clark, dengan “membuat tabel pemerasan (README_RANSOM) yang berisi permintaan, alamat pembayaran Bitcoin, dan kontak Proton Mail.”

Sysdig mengatakan pihaknya mampu mengaitkan elemen serangan ke model AI berdasarkan perilaku tertentu, termasuk jejak kode yang ditinggalkan oleh serangan pada server target yang menunjukkan tanda-tanda generasi AI.

“Muatan yang didekodekan dipenuhi dengan komentar dalam bahasa alami yang menjelaskan mengapa setiap tindakan diambil,” tulis Clark.

Geoff McDonald, ilmuwan data dan peneliti keamanan siber di Microsoft, mengatakan AI dapat melancarkan gelombang serangan serupa.

“Serangan Ransomware (dan serangan destruktif) kini dapat dibatasi terutama oleh anggaran penyerang – alih-alih dibatasi oleh kemampuan manusia untuk menjalankan kampanye itu sendiri,” tulis McDonald, manajer riset utama di tim Defender for Endpoint Microsoft, di LinkedIn. “Saat ini tidak ada yang dapat menghentikan pelaku ancaman untuk melakukan ribuan atau puluhan ribu kampanye secara bersamaan.”

Seorang insinyur keamanan siber mengatakan salah satu aspek yang paling mencolok dari Jade Puffer adalah bagaimana model AI mengadaptasi operasinya secara real-time, termasuk memperbaiki kesalahan hanya dalam waktu setengah menit.

“Ia membaca kesalahannya, memperbaiki kodenya sendiri, dan melanjutkan. Butuh waktu 31 detik,” tulis Oluwatobi Mustapha, seorang insinyur keamanan siber di X. “Saya menghabiskan waktu lebih lama dari itu untuk melihat kesalahan ketik.”

AI telah memicu momen keamanan siber sebelum Sysdig menemukan bukti Jade Puffer.

Anthropic dan OpenAI baru-baru ini merilis model AI canggih yang aksesnya terbatas berdasarkan kemampuan keamanan siber canggih dari model tersebut. Pemerintahan Trump melangkah lebih jauh dengan memberlakukan kontrol ekspor pada Anthropic karena kekhawatiran terhadap model Claude Mythos 5 dan Fable 5 milik perusahaan tersebut.

McDonald mengatakan dunia belum siap menghadapi apa yang akan terjadi.

“Ini adalah momen transformatif dalam keamanan siber yang menurut saya industri dan dunia belum siap menghadapinya, dan saya yakin hal ini akan menimbulkan dampak negatif yang besar seiring dengan percepatannya dalam beberapa bulan ke depan,” tulisnya.