Bagaimana GenAI perusahaan dapat memperbesar risiko ransomware — dan cara membendungnya

AI generatif dengan cepat menjadi bagian dari operasi bisnis sehari-hari. Karyawan menggunakan asisten AI untuk meringkas dokumen, mencari pengetahuan perusahaan, menyusun konten, dan mengotomatiskan tugas-tugas rutin. Organisasi juga mulai menerapkan agen AI yang berinteraksi dengan aplikasi bisnis dan menjalankan alur kerja dengan intervensi manusia yang minimal.

Teknologi ini menjanjikan peningkatan produktivitas yang signifikan, namun juga menimbulkan pertimbangan keamanan baru. Ketika AI mendapatkan akses ke identitas, data bisnis, dan sistem yang sama yang telah menjadi target penjahat dunia maya, hal ini dapat meningkatkan kecepatan dan skala serangan ransomware jika tidak diatur dengan baik.

AI tidak menciptakan ancaman ransomware yang sepenuhnya baru. Sebaliknya, ini memperkuat teknik yang sudah digunakan penyerang, khususnya selama pengintaian, penyalahgunaan kredensial, dan pencurian data. Memahami di mana AI mengubah permukaan serangan menjadi bagian penting dari ketahanan siber perusahaan.

Dua model ancaman AI yang harus dipahami oleh organisasi

Diskusi tentang AI dan ransomware sering kali menggabungkan dua model ancaman yang berbeda:

1. Penyerang menggunakan AI untuk meningkatkan operasi mereka sendiri. Kelompok kriminal semakin bergantung pada AI untuk menghasilkan email phishing, menulis kode berbahaya, mengotomatiskan pengintaian, menganalisis informasi yang dicuri, dan menyederhanakan pemerasan. AI memungkinkan penyerang bekerja lebih cepat dan beroperasi pada skala yang lebih besar tanpa mengubah cara kampanye ransomware secara mendasar.
2. Organisasi yang menerapkan AI perusahaan. Asisten dan agen AI semakin terhubung dengan repositori dokumen, platform kolaborasi, aplikasi SaaS, dan basis pengetahuan internal. Jika penyerang membobol identitas atau izin yang terkait dengan sistem ini, AI dapat mempercepat kemampuan mereka untuk menemukan informasi sensitif, menavigasi sistem yang terhubung, dan menyalahgunakan akses yang sah.

Kedua tren ini terjadi secara bersamaan. Ketika penyerang menjadi lebih efisien melalui AI, organisasi harus memastikan penerapan AI mereka tidak memperluas permukaan serangan secara tidak sengaja.

Saat AI perusahaan menciptakan eksposur baru

Tidak semua aplikasi AI menghadirkan tingkat risiko yang sama. Asisten AI terutama mengambil informasi atau menghasilkan konten sebagai respons terhadap perintah. Agen AI melangkah lebih jauh dengan berinteraksi dengan aplikasi bisnis, menggunakan API, dan melakukan tindakan atas nama pengguna.

Semakin besar otonomi dan izin suatu aplikasi, semakin besar potensi dampaknya jika identitas terkaitnya disusupi.

Masalah sebenarnya adalah wewenang yang didelegasikan. Kampanye ransomware modern biasanya dimulai dengan eksploitasi kerentanan, kompromi kredensial, atau penyalahgunaan akses pihak ketiga yang tepercaya. Penyerang kemudian melakukan penemuan, meningkatkan hak istimewa, mengidentifikasi data berharga, dan menyaring informasi sebelum memutuskan apakah akan mengenkripsi sistem, memeras korban, atau keduanya.

laporan Microsoft menganalisis sekitar 38 juta deteksi risiko identitas setiap hari, menggarisbawahi betapa sentralnya serangan identitas. Itu Cloud Security Alliance juga telah mendokumentasikannya kampanye phishing kode perangkat OAuth berskala besar yang menargetkan pengguna Microsoft 365.

Bagaimana kompromi identitas mengubah AI menjadi akselerator serangan

Serangan-serangan ini penting bagi AI perusahaan karena asisten dan agen AI mewarisi identitas dan izin yang didelegasikan ke tempat mereka beroperasi. Ketika penyerang membobol identitas tersebut, mereka juga dapat memperoleh akses ke layanan AI, data perusahaan, dan aplikasi terhubung yang tersedia melalui izin yang sama.

Asisten AI yang terhubung dengan pengetahuan perusahaan dapat secara signifikan mengurangi upaya yang diperlukan untuk menemukan informasi sensitif. Daripada mencari ratusan folder secara manual, penyerang dengan kredensial yang sah dapat meminta asisten AI untuk mengidentifikasi dokumentasi cadangan, prosedur administratif, informasi pelanggan, atau catatan keuangan.

Demikian pula, jika agen AI memiliki izin untuk mengirim email, mengekspor file, atau menggunakan alat bisnis yang terhubung, penyerang yang mengkompromikan identitasnya berpotensi menyalahgunakan kemampuan tersebut untuk mempercepat pencurian data atau tindakan tidak sah. Risiko mendasarnya adalah akses yang berlebihan, bukan AI itu sendiri.

Injeksi cepat adalah kerentanan lapisan aplikasi khusus AI, namun ini hanyalah salah satu bagian dari risiko lebih luas yang disebabkan oleh izin yang berlebihan, integrasi yang tidak aman, dan pengawasan yang tidak memadai.

Instruksi berbahaya yang tertanam dalam dokumen, email, atau konten web dapat memengaruhi perilaku AI saat diambil oleh aplikasi perusahaan.

Dampaknya sangat bergantung pada izin yang diberikan kepada sistem AI, itulah sebabnya panduan keamanan diperlukan organisasi seperti OWASP menekankan kontrol berlapis, hak istimewa paling rendah, dan persetujuan manusia untuk tindakan berisiko tinggi daripada hanya mengandalkan penyaringan cepat.

AI telah membuat kejahatan dunia maya menjadi lebih efisien

Bukti menunjukkan bahwa AI mempercepat kejahatan dunia maya dibandingkan mengubah cara kerja serangan secara mendasar. Itu Laporan Ancaman Siber Acronis Semester 2 2025 mendokumentasikan beberapa contoh AI yang mendukung berbagai tahapan operasi dunia maya:

• Kelompok ancaman GTG-2002 menggunakan AI untuk membuat dan men-debug skrip, membantu pengambilan kredensial, menganalisis informasi yang dicuri, dan mempersonalisasi komunikasi pemerasan, sehingga memungkinkan tim penyerang yang relatif kecil untuk meningkatkan skala operasi mereka.
• Operasi ransomware GLOBAL GROUP memperkenalkan chatbot AI untuk mengotomatiskan negosiasi tebusan setelah kompromi. Meskipun chatbot tidak mengubah rantai infeksi ransomware, chatbot memungkinkan operator untuk menangani lebih banyak korban secara bersamaan sambil menggunakan negosiator manusia untuk kasus-kasus kompleks.
• Peneliti antropik telah mendokumentasikan kelompok yang disponsori negara Tiongkok menggunakan AI agen untuk melaksanakan sebagian besar kampanye spionase dunia maya, termasuk pengintaian, penelitian kerentanan, pengambilan kredensial, dan pengumpulan data.

Sementara itu, operator ransomware-as-a-service semakin banyak mengiklankan otomatisasi yang dibantu AI untuk menghindari pertahanan dan efisiensi operasional. Iklan-iklan tersebut menunjukkan bagaimana operator ransomware memposisikan AI dan apa yang mereka harapkan akan memberikan peningkatan efisiensi, meskipun klaim kemampuan individu mungkin tidak diverifikasi secara independen.

Secara keseluruhan, contoh-contoh ini menunjukkan bahwa AI berfungsi terutama sebagai pengganda kekuatan operasional dibandingkan menciptakan teknik serangan yang benar-benar baru.

Enam kontrol yang mengurangi paparan ransomware yang didukung AI

Organisasi tidak perlu mengganti strategi keamanan yang ada dengan AI perusahaan. Namun, mereka perlu memperluasnya dengan tata kelola, kontrol akses, dan pemantauan khusus AI. Pakar keamanan Acronis menyarankan agar organisasi memperluas praktik tata kelola, identitas, dan perlindungan data yang ada untuk mencakup aplikasi dan alur kerja AI dengan:

1. Memelihara inventaris aplikasi, model, dan integrasi AI yang disetujui dan tidak sah. Setiap alur kerja AI harus memiliki pemilik yang jelas, tujuan bisnis, dan klasifikasi risiko yang sesuai.
2. Memberikan akses dengan hak istimewa paling rendah kepada penggunaaplikasi AI, akun layanan, dan API. Tinjau izin yang didelegasikan secara berkala, cabut kredensial yang tidak digunakan, dan batasi akses AI hanya pada sistem dan informasi yang diperlukan untuk setiap tugas.
3. Menerapkan kontrol pada lalu lintas dan pergerakan data terkait AI. Gunakan gateway web yang aman, kemampuan CASB dan DLP untuk menemukan layanan AI, membatasi akses ke alat yang tidak sah, dan mencegah informasi sensitif diunggah atau ditransfer.
4. Memantau dan mengaudit aktivitas AI. Menghubungkan penggunaan aplikasi AI, peristiwa identitas, akses data, ekspor, dan tindakan agen dengan titik akhir, SaaS, dan telemetri cloud dalam sistem SIEM atau XDR. Pertahankan jejak audit yang menunjukkan pengguna atau akun layanan mana yang memulai suatu tindakan, sumber daya apa yang diakses, dan apakah persetujuan diperlukan.
5. Mempersiapkan penahanan dan pemulihan. Tim keamanan harus dapat mencabut token yang disusupi, menonaktifkan integrasi yang terpengaruh, dan menangguhkan alur kerja AI ketika aktivitas berbahaya terdeteksi. Pencadangan yang tidak dapat diubah dan prosedur pemulihan yang teruji tetap penting untuk memulihkan operasi setelah serangan destruktif, meskipun hal tersebut tidak dapat membalikkan pencurian data atau menghilangkan risiko pemerasan.
6. Menerapkan otorisasi berbasis manusia atau kebijakan untuk tindakan berisiko tinggi, seperti ekspor massal, perubahan administratif, komunikasi eksternal, dan eksekusi kode. OWASP secara eksplisit merekomendasikan hak istimewa terendah dan persetujuan manusia untuk operasi dengan hak istimewa.

Memperluas ketahanan siber ke AI perusahaan

Enterprise AI akan terus berkembang karena manfaat bisnisnya jelas. Tantangannya adalah memastikan bahwa peningkatan produktivitas tidak mengorbankan keamanan.

Pendekatan yang paling efektif adalah dengan menggabungkan AI ke dalam strategi identitas, perlindungan data, dan respons insiden yang ada, dibandingkan memperlakukannya sebagai domain keamanan terpisah. Organisasi harus mengevaluasi kontrol keamanan AI berdasarkan seberapa baik kontrol tersebut berintegrasi dengan tata kelola dan operasi keamanan yang ada sambil memberikan visibilitas terhadap penggunaan AI, izin, dan pelanggaran kebijakan.

Bagi penyedia layanan terkelola (MSP) dan tim keamanan perusahaan, terdapat peluang untuk memperluas strategi ketahanan siber dengan menyertakan tata kelola AI.

Perlindungan Acronis GenAIyang dibangun secara bawaan dalam platform Acronis, membantu organisasi menemukan penggunaan AI bayangan, memeriksa perintah untuk data sensitif, menerapkan kebijakan penggunaan, dan meninjau aktivitas GenAI dalam platform yang sama dengan yang digunakan untuk layanan perlindungan cyber lainnya.

Hal ini memungkinkan organisasi untuk memperkuat tata kelola GenAI dan membuat interaksi dengan alat AI lebih aman tanpa memperkenalkan konsol manajemen mandiri lainnya.

Seiring dengan semakin cepatnya adopsi AI di kalangan perusahaan, organisasi yang menggabungkan tata kelola yang kuat dengan praktik keamanan siber yang mapan akan memiliki posisi yang lebih baik untuk mengurangi risiko ransomware sekaligus mewujudkan manfaat produktivitas AI.

Mencoba Perlindungan Acronis GenAI sekarang dan lihat bagaimana AI generatif dapat membantu melindungi jaringan Anda.

Pengarang: Santiago Pontiroli

Biografi: Santiago Pontiroli adalah Pimpinan Riset Intelijen Ancaman di Acronis Threat Research Unit (TRU), di mana ia memimpin investigasi global terhadap pelaku ancaman tingkat lanjut, ekosistem kejahatan dunia maya, dan teknik serangan yang sedang berkembang. Ia berspesialisasi dalam menganalisis aktor negara, organisasi kriminal, dan kelompok ancaman yang bermotivasi finansial, dengan fokus pada analisis malware, rekayasa balik, dan mengembangkan kemampuan deteksi tingkat lanjut. Dengan pengalaman lebih dari 15 tahun di bidang keamanan siber, ia telah mempresentasikan penelitian orisinal di konferensi internasional terkemuka termasuk Virus Bulletin, CARO, MITRE ATT&CK, BlueHat, AVAR, Nuit du Hack, dan ekoParty.

Disponsori dan ditulis oleh Akronis.