Microsoft: Peretas menyalahgunakan AI di setiap tahap serangan siber

Microsoft mengatakan pelaku ancaman semakin banyak menggunakan kecerdasan buatan dalam operasi mereka untuk mempercepat serangan, meningkatkan aktivitas berbahaya, dan menurunkan hambatan teknis di semua aspek serangan siber.

Menurut laporan baru Microsoft Threat Intelligence, penyerang menggunakan alat AI generatif untuk berbagai tugas, termasuk pengintaian, phishing, pengembangan infrastruktur, pembuatan malware, dan aktivitas pasca-kompromi.

Dalam banyak kasus, AI digunakan untuk menyusun email phishing, menerjemahkan konten, merangkum data yang dicuri, men-debug malware, dan membantu pembuatan skrip atau konfigurasi infrastruktur.

“Microsoft Threat Intelligence telah mengamati bahwa sebagian besar penggunaan AI yang berbahaya saat ini berpusat pada penggunaan model bahasa untuk memproduksi teks, kode, atau media. Pelaku ancaman menggunakan AI generatif untuk menyusun umpan phishing, menerjemahkan konten, merangkum data yang dicuri, membuat atau men-debug malware, dan merancang skrip atau infrastruktur,” memperingatkan Microsoft.

“Untuk penggunaan ini, AI berfungsi sebagai pengganda kekuatan yang mengurangi hambatan teknis dan mempercepat eksekusi, sementara operator manusia tetap memegang kendali atas tujuan, penargetan, dan keputusan penerapan.”

AI digunakan untuk mendukung serangan siber

Microsoft telah mengamati beberapa kelompok ancaman yang memasukkan AI ke dalam serangan siber mereka, termasuk aktor Korea Utara yang dilacak sebagai pelakunya Jasper Hujan Es (Storm-0287) dan Coral Sleet (Storm-1877), yang menggunakan teknologi tersebut sebagai bagian dari skema pekerja TI jarak jauh.

Dalam operasi ini, alat AI membantu menghasilkan identitas, resume, dan komunikasi yang realistis untuk mendapatkan pekerjaan di perusahaan-perusahaan Barat dan mempertahankan akses setelah dipekerjakan.

Laporan ini juga menjelaskan bagaimana AI digunakan untuk membantu pengembangan malware dan pembuatan infrastruktur, dimana pelaku ancaman menggunakan alat pengkodean AI untuk menghasilkan dan menyempurnakan kode berbahaya, memecahkan masalah kesalahan, atau mem-porting komponen malware ke berbagai bahasa pemrograman.

Beberapa eksperimen malware menunjukkan tanda-tanda malware berkemampuan AI yang secara dinamis menghasilkan skrip atau mengubah perilaku saat runtime.

Microsoft juga mengamati Coral Sleet menggunakan AI untuk dengan cepat membuat situs perusahaan palsu, menyediakan infrastruktur, dan menguji serta memecahkan masalah penerapannya.

Ketika perlindungan AI berupaya mencegah penggunaan AI dalam tugas-tugas ini, Microsoft mengatakan pelaku ancaman menggunakan teknik jailbreak untuk mengelabui LLM agar menghasilkan kode atau konten berbahaya.

Selain penggunaan AI generatif, peneliti Microsoft mulai melihat pelaku ancaman bereksperimen dengan AI agen untuk melakukan tugas secara mandiri dan beradaptasi dengan hasil.

Namun, Microsoft mengatakan AI saat ini digunakan terutama untuk pengambilan keputusan dibandingkan untuk serangan otonom.

Karena banyak kampanye pekerja TI mengandalkan penyalahgunaan akses yang sah, Microsoft menyarankan organisasi untuk memperlakukan skema ini dan aktivitas serupa sebagai risiko orang dalam.

Selain itu, karena serangan yang didukung AI ini mirip dengan serangan siber konvensional, para pembela HAM harus fokus dalam mendeteksi penggunaan kredensial yang tidak normal, memperkuat sistem identitas terhadap phishing, dan mengamankan sistem AI yang mungkin menjadi target serangan di masa depan.

Microsoft tidak sendirian dalam melihat semakin banyak pelaku ancaman yang menggunakan kecerdasan buatan untuk melancarkan serangan dan menurunkan hambatan masuk.

Google baru-baru ini dilaporkan bahwa pelaku ancaman menyalahgunakan AI Gemini di semua tahap serangan siber, hal ini mencerminkan apa yang diamati Amazon dalam kampanye ini.

Amazon dan blog keamanan Cyber ​​dan Ramen juga baru-baru ini melaporkan adanya pelaku ancaman yang menggunakan beberapa layanan AI generatif sebagai bagian dari kampanye yang melanggar lebih dari 600 firewall FortiGate.