adalah reporter yang berbasis di London di Tepi mencakup semua hal tentang AI dan Senior Tarbell Fellow. Sebelumnya, ia menulis tentang kesehatan, sains, dan teknologi Forbes.
Seorang peretas menipu alat pengkodean AI yang populer untuk menginstal OpenClaw — the agen AI sumber terbuka yang viral, OpenClaw yang “benar-benar melakukan sesuatu” — benar-benar di mana saja. Lucu sekali, tapi ini merupakan pertanda akan terjadinya apa yang akan terjadi ketika semakin banyak orang membiarkan perangkat lunak otonom menggunakan komputer mereka atas nama mereka.
Peretas memanfaatkan kerentanan di Cline, agen pengkodean AI sumber terbuka yang populer di kalangan pengembang, yang dimiliki oleh peneliti keamanan Adnan Khan. muncul ke permukaan hanya beberapa hari sebelumnya sebagai bukti konsep. Sederhananya, alur kerja Klein menggunakan Claude dari Anthropic, yang dapat diberikan instruksi licik dan dibuat untuk melakukan hal-hal yang tidak seharusnya, sebuah teknik yang dikenal sebagai injeksi cepat.
Peretas menggunakan akses mereka untuk menyelinap melalui instruksi untuk menginstal perangkat lunak secara otomatis di komputer pengguna. Mereka bisa menginstal apa saja, tapi mereka memilih OpenClaw. Untungnya, agen tersebut tidak diaktifkan saat instalasi, atau ceritanya akan sangat berbeda.
Ini adalah tanda betapa cepatnya segala sesuatunya bisa terurai ketika agen AI diberi kendali atas komputer kita. Mereka mungkin terlihat seperti permainan kata yang cerdas — satu kelompok merayu chatbots untuk melakukan kejahatan dengan puisi — tapi di dunia perangkat lunak yang semakin otonomsuntikan segera adalah risiko keamanan besar yang sangat sulit untuk dipertahankan. Menyadari hal ini, beberapa perusahaan justru membatasi kemampuan alat AI jika mereka dibajak. OpenAI, misalnya, baru-baru ini memperkenalkan yang baru Modus Penguncian untuk ChatGPT mencegahnya memberikan data Anda.
Tentu saja, melindungi diri dari suntikan segera akan lebih sulit jika Anda mengabaikan para peneliti yang secara pribadi melaporkan kelemahan Anda. Khan mengatakan dia memperingatkan Klein tentang kerentanan tersebut beberapa minggu sebelum mempublikasikan temuannya. Eksploitasi tersebut hanya diperbaiki setelah dia mengumumkannya secara terbuka.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
