Serangan baru yang dijuluki ‘Echoleak’ adalah kerentanan AI klik nol pertama yang memungkinkan penyerang untuk mengeluarkan data sensitif dari Microsoft 365 Copilot dari konteks pengguna tanpa interaksi.
Serangan itu dirancang oleh peneliti laboratorium Pada Januari 2025, yang melaporkan temuan mereka ke Microsoft. Raksasa teknologi menugaskan CVE-2025-32711 Identifier untuk cacat pengungkapan informasi, peringkatnya kritis, dan memperbaiki sisi server pada bulan Mei, jadi tidak ada tindakan pengguna yang diperlukan.
Juga, Microsoft mencatat bahwa tidak ada bukti eksploitasi dunia nyata, sehingga cacat ini tidak memengaruhi pelanggan.
Microsoft 365 Copilot adalah asisten AI yang dimasukkan ke dalam aplikasi kantor seperti Word, Excel, Outlook, dan tim yang menggunakan model GPT OpenAI dan grafik Microsoft untuk membantu pengguna menghasilkan konten, menganalisis data, dan menjawab pertanyaan berdasarkan file internal, email, dan obrolan internal mereka.
Meskipun diperbaiki dan tidak pernah dieksploitasi secara jahat, Echoleak memiliki signifikansi untuk menunjukkan kelas baru kerentanan yang disebut ‘pelanggaran lingkup LLM,’ yang menyebabkan model bahasa besar (LLM) membocorkan data internal istimewa tanpa niat atau interaksi pengguna.
Karena serangan itu tidak memerlukan interaksi dengan korban, dapat diotomatisasi untuk melakukan exfiltrasi data diam di lingkungan perusahaan, menyoroti betapa berbahayanya kelemahan ini ketika digunakan terhadap sistem yang terintegrasi AI.
Bagaimana echoleak bekerja
Serangan dimulai dengan email berbahaya yang dikirim ke target, berisi teks yang tidak terkait dengan kopilot dan diformat agar terlihat seperti dokumen bisnis yang khas.
Email tersebut menanamkan injeksi prompt tersembunyi yang dibuat untuk menginstruksikan LLM untuk mengekstrak dan mengeluarkan data internal yang sensitif.
Karena prompt diungkapkan seperti pesan normal kepada manusia, ia memotong perlindungan classifier Microsoft XPIA (serangan injeksi silang).
Kemudian, ketika pengguna menanyakan pertanyaan bisnis terkait Copilot, email tersebut diambil ke dalam konteks cepat LLM dengan mesin generasi pengambilan (RAG) karena pemformatan dan relevansinya yang jelas.
Suntikan berbahaya, sekarang mencapai LLM, “menipu” untuk menarik data internal yang sensitif dan memasukkannya ke dalam tautan atau gambar yang dibuat.
AIM Labs menemukan bahwa beberapa format gambar penurunan harga menyebabkan browser untuk meminta gambar, yang mengirim URL secara otomatis, termasuk data tertanam, ke server penyerang.
.jpg)
Sumber: AIM Labs
Microsoft CSP memblokir sebagian besar domain eksternal, tetapi tim Microsoft dan URL SharePoint dipercaya, sehingga ini dapat disalahgunakan untuk mengeluarkan data tanpa masalah.
Sumber: AIM Labs
Echoleak mungkin telah diperbaiki, tetapi meningkatnya kompleksitas dan integrasi yang lebih dalam dari aplikasi LLM ke dalam alur kerja bisnis sudah melimpah pertahanan tradisional.
Tren yang sama terikat untuk menciptakan musuh kelemahan senjata baru dapat dieksploitasi secara diam-diam untuk serangan berdampak tinggi.
Penting bagi perusahaan untuk memperkuat filter injeksi cepat mereka, mengimplementasikan pelingkupan input granular, dan menerapkan filter pasca pemrosesan pada output LLM untuk memblokir respons yang berisi tautan eksternal atau data terstruktur.
Selain itu, mesin kain dapat dikonfigurasi untuk mengecualikan komunikasi eksternal untuk menghindari pengambilan permintaan jahat di tempat pertama.
Mengapa timnya membuang manajemen tambalan manual
Patching digunakan untuk berarti skrip yang kompleks, berjam -jam, dan latihan api yang tak ada habisnya. Tidak lagi.
Dalam panduan baru ini, tines meruntuhkan bagaimana modern IT Orgs naik level dengan otomatisasi. Patch lebih cepat, mengurangi overhead, dan fokus pada pekerjaan strategis – tidak ada skrip kompleks yang diperlukan.
