Risiko Cyber Tersembunyi Menggunakan AI Generatif

Acronis

Organisasi semakin berpikir itu ide yang bagus, bahkan kebutuhan mutlak, untuk mengintegrasikan kecerdasan buatan ke dalam operasi mereka. Dan itu bisa keduanya. Tetapi banyak organisasi tidak memahami risiko keamanan siber yang terlibat dengan AI, dan mereka tidak menyadari betapa tidak siap mereka untuk mengamankan penyebaran AI mereka.

Baik untuk produktivitas internal atau inovasi yang menghadapi pelanggan, AI-terutama AI generatif-dapat merevolusi bisnis.

Tetapi jika mereka tidak aman, penyebaran AI dapat menyebabkan lebih banyak masalah daripada manfaat. Tanpa perlindungan yang tepat, AI dapat memperkenalkan kerentanan yang membuka pintu bagi penjahat cyber daripada memperkuat pertahanan.

AI Adopsi melampaui kesiapan keamanan

Nafsu makan untuk AI tidak dapat disangkal. Menurut EY, 92% pemimpin teknologi diperkirakan akan meningkatkan pengeluaran AI pada tahun 2025peningkatan 10% lebih dari 2024. Agen AI muncul sebagai perbatasan yang sangat transformatif, dengan 69% pemimpin teknologi mengatakan organisasi mereka membutuhkannya untuk tetap kompetitif.

Sayangnya, organisasi tidak cukup berpikir tentang keamanan. The World Economic Forum (WEF) melaporkan itu 66% organisasi percaya AI akan secara signifikan mempengaruhi keamanan siber Dalam 12 bulan ke depan, tetapi hanya 37% yang memiliki proses untuk menilai keamanan AI sebelum penyebaran. Bisnis yang lebih kecil bahkan lebih terpapar – 69% tidak memiliki perlindungan untuk penyebaran AI yang aman, seperti memantau data pelatihan atau inventarisasi aset AI.

Accenture menemukan celah yang sama: 77% organisasi tidak memiliki data dasar dan praktik keamanan AI, dan hanya 20% yang menyatakan kepercayaan pada kemampuan mereka untuk mengamankan model AI generatif.

Dalam praktiknya, itu berarti sebagian besar perusahaan merangkul AI dengan sedikit jaminan bahwa sistem dan data mereka benar -benar dilindungi.

Mengapa penyebaran AI yang tidak aman berbahaya

Menyebarkan AI tanpa keamanan bisa menjadi risiko kepatuhan utama. Di luar itu, itu aktif memberdayakan cyberattackersyang dapat mengeksploitasi AI generatif dalam beberapa cara:

Phishing dan penipuan yang digerakkan oleh AI. WEF mencatat bahwa 47% organisasi memandang serangan cyber yang mendukung AI sebagai perhatian utama mereka. Dan untuk alasan yang baik: 42% organisasi mengalami serangan rekayasa sosial tahun lalu.
Manipulasi model. Accenture menyoroti bagaimana cacing AI seperti Morris II dapat menanamkan permintaan jahat ke dalam model, membajak asisten AI untuk mengeluarkan data atau menyebarkan spam.
Penipuan yang diaktifkan oleh Deepfake. Penjahat semakin banyak menggunakan suara, gambar, dan video yang dihasilkan AI untuk melakukan penipuan. Satu serangan meniru menteri pertahanan Italia Dengan suara yang meyakinkan Deepfakes, menipu tokoh -tokoh bisnis terkemuka menjadi dana kabel di luar negeri.

AI menurunkan penghalang untuk masuk untuk penyerang, membuat penipuan lebih cepat, lebih murah dan lebih sulit untuk dideteksi.

Membangun keamanan ke AI sejak awal

Jika organisasi ingin mewujudkan manfaat penuh dari AI dengan aman, mereka perlu mengadopsi pola pikir yang pertama keamanan. Alih -alih retrofiting pertahanan setelah insiden atau menyatukan banyak alat yang berbeda, perusahaan harus mencari solusi keamanan siber yang terintegrasi secara alami sejak awal. Dengan solusi yang mudah dikelola dari konsol pusat dan bekerja bersama tanpa integrasi manual, organisasi dapat:

Embed keamanan ke dalam pipa pengembangan AI. Pengkodean yang aman, enkripsi data, dan pengujian permusuhan harus menjadi standar pada setiap tahap.
Terus memantau dan memvalidasi model. Organisasi perlu menguji sistem AI untuk manipulasi, keracunan data, dan risiko yang muncul lainnya.
Menyatukan strategi ketahanan dunia maya. Keamanan tidak bisa dibungkam. Pertahanan harus diintegrasikan secara alami di seluruh titik akhir, jaringan, lingkungan cloud, dan beban kerja AI. Strategi ini mengurangi kompleksitas dan memastikan penyerang tidak dapat mengeksploitasi tautan yang lemah.

Baik WEF dan Accenture menekankan bahwa organisasi yang paling siap untuk era AI adalah mereka yang memiliki strategi terintegrasi dan kemampuan keamanan siber yang kuat.

Penelitian Accenture menunjukkan bahwa hanya 10% perusahaan telah mencapai apa yang disebutnya “zona siap-reinvention,” yang menggabungkan strategi cyber dewasa dengan kemampuan pemantauan, deteksi, dan respons terintegrasi. Perusahaan dalam kategori itu 69% lebih kecil kemungkinannya untuk mengalami serangan siber bertenaga AI daripada organisasi yang kurang siap.

Peran MSP dan Perusahaan

Untuk Penyedia Layanan Terkelola (MSP), gelombang AI menghadirkan tantangan dan peluang. Klien akan semakin menuntut alat bertenaga AI, tetapi mereka juga akan mengandalkan MSP mereka untuk menjaga mereka tetap aman.

Menurut Acronis CyberTreats Report H1 2025Cyberattackers telah meningkatkan serangan yang diaktifkan AI pada MSP. Lebih dari setengah dari semua serangan pada MSP di H1 2025 adalah upaya phishing, sebagian besar didorong oleh kemampuan AI.

Jadi, MSP harus memberikan perlindungan terintegrasi yang mencakup lingkungan cloud, titik akhir dan AI, memastikan mereka dapat melindungi diri mereka sendiri dan klien mereka.

Bagi perusahaan, jalan ke depan adalah tentang menyeimbangkan ambisi dengan hati -hati. AI dapat meningkatkan efisiensi, kreativitas, dan daya saing, tetapi hanya jika digunakan secara bertanggung jawab.

Organisasi harus menjadikan keamanan AI sebagai prioritas tingkat dewan, menetapkan kerangka kerja tata kelola yang jelas, dan memastikan tim keamanan siber mereka dilatih untuk mengatasi ancaman yang digerakkan oleh AI yang muncul.

Masa depan penyebaran AI terkait dengan keamanan

AI generatif ada di sini untuk tinggal, dan itu hanya akan menjadi lebih tertanam dalam operasi bisnis. Tetapi bergegas ke depan tanpa mengamankan sistem ini seperti membangun gedung pencakar langit di atas pasir: fondasi terlalu lemah untuk mendukung struktur.

Dengan mengadopsi langkah -langkah dan solusi keamanan yang terintegrasi dan proaktif, organisasi dapat memanfaatkan potensi AI tanpa memperkuat paparan mereka terhadap ransomware, penipuan dan ancaman yang berkembang lainnya.

Tentang tru

Itu Unit Penelitian Ancaman Acronis (TRU) adalah tim pakar keamanan siber yang berspesialisasi dalam ancaman intelijen, AI dan manajemen risiko. Tim TRU meneliti ancaman yang muncul, memberikan wawasan keamanan, dan mendukung tim TI dengan pedoman, respons insiden, dan lokakarya pendidikan.