Peneliti keamanan menggunakan chatgpt sebagai co-konspirator untuk menjarah data sensitif dari kotak masuk Gmail tanpa mengingatkan pengguna. Kerentanan yang dieksploitasi telah ditutup oleh Openai tetapi ini adalah contoh yang baik dari risiko baru yang melekat pada AI agen.
Pencurian, Disebut bayangan kebocoran Dan Diterbitkan oleh perusahaan keamanan Radware minggu inimengandalkan kekhasan dalam cara kerja agen AI. Agen AI adalah asisten yang dapat bertindak atas nama Anda tanpa pengawasan terus -menerus, yang berarti mereka dapat menjelajahi web dan mengklik tautan. Perusahaan AI memuji mereka sebagai penghitung waktu besar setelah pengguna mengesahkan akses mereka ke email pribadi, kalender, dokumen kerja, dll.
Peneliti Radware mengeksploitasi bantuan ini dengan bentuk serangan yang disebut injeksi cepat, instruksi yang secara efektif membuat agen bekerja untuk penyerang. Alat yang kuat tidak mungkin dicegah tanpa pengetahuan sebelumnya tentang eksploitasi yang berfungsi dan peretas telah mengerahkannya dengan cara kreatif termasuk Tinjauan Peer Rigging, mengeksekusi penipuanDan Mengontrol Rumah Cerdas. Pengguna seringkali sama sekali tidak menyadari ada sesuatu yang salah karena instruksi dapat disembunyikan di depan mata (untuk manusia), misalnya sebagai teks putih dengan latar belakang putih.
Agen ganda dalam kasus ini adalah Openai’s Deep Research, sebuah alat AI yang tertanam dalam chatgpt yang diluncurkan awal tahun ini. Peneliti Radware menanam injeksi cepat dalam email yang dikirim ke kotak masuk Gmail yang diakses oleh agen. Di sana menunggu.
Ketika pengguna berikutnya mencoba menggunakan penelitian yang mendalam, mereka tanpa disadari akan membuat jebakan. Agen akan menemukan instruksi tersembunyi, yang menugaskannya dengan mencari email SDM dan detail pribadi dan menyelundupkannya ke peretas. Korban masih tidak ada yang lebih bijaksana.
Mendapatkan agen untuk menjadi nakal – serta mengelola untuk berhasil mengeluarkan data yang tidak terdeteksi, perusahaan mana yang dapat mengambil langkah -langkah untuk dicegah – bukanlah tugas yang mudah dan ada banyak coba -coba. “Proses ini adalah rollercoaster dari upaya yang gagal, penghalang jalan yang membuat frustrasi, dan, akhirnya, terobosan,” kata para peneliti.
Tidak seperti kebanyakan suntikan yang cepat, para peneliti mengatakan Shadow Leak dieksekusi pada infrastruktur cloud Openai dan bocor data langsung dari sana. Ini membuatnya tidak terlihat oleh pertahanan cyber standar, mereka menulis.
Radware mengatakan penelitian ini merupakan bukti konsep dan memperingatkan bahwa aplikasi lain yang terhubung dengan penelitian mendalam-termasuk Outlook, GitHub, Google Drive, dan Dropbox-mungkin rentan terhadap serangan serupa. “Teknik yang sama dapat diterapkan pada konektor tambahan ini untuk mengeluarkan data bisnis yang sangat sensitif seperti kontrak, catatan pertemuan atau catatan pelanggan,” kata mereka.
Openai sekarang telah menyambungkan kerentanan yang ditandai oleh Radware pada bulan Juni, kata para peneliti.
Ikuti topik dan penulis Dari cerita ini untuk melihat lebih banyak seperti ini di umpan beranda pribadi Anda dan untuk menerima pembaruan email.
