Klaim antropis atas serangan cyber otomatis Claude AI menimbulkan keraguan

Anthropic melaporkan bahwa kelompok ancaman yang disponsori negara Tiongkok, yang dilacak sebagai GTG-1002, melakukan operasi spionase dunia maya yang sebagian besar dilakukan secara otomatis melalui penyalahgunaan model AI Claude Code milik perusahaan.

Namun, klaim Anthropic segera memicu skeptisisme luas, sehingga peneliti keamanan dan praktisi AI menyebut laporan tersebut sebagai “dibuat-buat” atau perusahaan yang melebih-lebihkan kejadian tersebut.

“Saya setuju dengan Penilaian Jeremy Kirk laporan GenAI Anthropic. Ini aneh. Yang sebelumnya juga demikian,” pakar keamanan siber Kevin Beaumont diposting di Mastodon.

“Dampak operasional kemungkinan besar akan nol – deteksi yang ada kemungkinan besar akan berfungsi pada peralatan open source. Kurangnya IoC sekali lagi menunjukkan bahwa mereka tidak ingin dikecam mengenai hal itu.”

Yang lain berpendapat bahwa laporan tersebut melebih-lebihkan apa yang secara realistis dapat dicapai oleh sistem AI saat ini.

“Hal Antropik ini adalah omong kosong pemasaran. AI adalah sebuah kemajuan besar tetapi ini bukan skynet, mereka tidak berpikir, ini sebenarnya bukan kecerdasan buatan (itu adalah hal pemasaran yang diciptakan orang-orang),” tulis peneliti keamanan siber Kartu Daniel.

Sebagian besar skeptisisme berasal dari Anthropic yang tidak memberikan indikator kompromi (IOC) di balik kampanye tersebut. Selain itu, permintaan informasi teknis BleepingComputer tentang serangan tersebut tidak dijawab.

Serangan klaim 80-90% terotomatisasi oleh AI

Meskipun mendapat kritik, Anthropic mengklaim bahwa insiden tersebut merupakan kasus aktivitas intrusi otonom skala besar pertama yang didokumentasikan secara publik yang dilakukan oleh model AI.

Serangan itu, yang mana Kata Antropis mereka melakukan gangguan pada pertengahan September 2025 dan menggunakan model Claude Code untuk menargetkan 30 entitas, termasuk perusahaan teknologi besar, lembaga keuangan, produsen bahan kimia, dan lembaga pemerintah.

Meskipun perusahaan tersebut mengatakan hanya sejumlah kecil intrusi yang berhasil, mereka menyoroti operasi tersebut sebagai yang pertama dalam skala sebesar ini, dengan AI diduga secara mandiri melakukan hampir semua fase alur kerja spionase dunia maya.

“Aktor tersebut mencapai apa yang kami yakini sebagai kasus serangan siber pertama yang terdokumentasi, yang sebagian besar dilakukan tanpa campur tangan manusia dalam skala besar—AI secara mandiri menemukan kerentanan… mengeksploitasinya dalam operasi langsung, kemudian melakukan berbagai aktivitas pasca-eksploitasi,” jelas Anthropic dalam laporannya. laporan.

“Yang paling penting, ini menandai kasus pertama yang didokumentasikan mengenai AI agen yang berhasil memperoleh akses ke target bernilai tinggi yang telah dikonfirmasi untuk pengumpulan intelijen, termasuk perusahaan teknologi besar dan lembaga pemerintah.”

Anthropic melaporkan bahwa peretas Tiongkok membangun kerangka kerja yang memanipulasi Claude untuk bertindak sebagai agen intrusi dunia maya yang otonom, alih-alih hanya menerima saran atau menggunakan alat tersebut untuk menghasilkan fragmen kerangka serangan seperti yang terlihat pada gambar. insiden sebelumnya.

Sistem ini menggunakan Claude bersama dengan utilitas pengujian penetrasi standar dan infrastruktur berbasis Model Context Protocol (MCP) untuk memindai, mengeksploitasi, dan mengekstrak informasi tanpa pengawasan langsung manusia untuk sebagian besar tugas.

Operator manusia melakukan intervensi hanya pada saat-saat kritis, seperti mengizinkan eskalasi atau meninjau data untuk eksfiltrasi, yang menurut perkiraan Anthropic hanya 10-20% dari beban kerja operasional.

Serangan tersebut dilakukan dalam enam fase berbeda, yang dirangkum sebagai berikut:

• Fase 1 – Operator manusia memilih target bernilai tinggi dan menggunakan taktik bermain peran untuk menipu Claude agar percaya bahwa mereka melakukan tugas keamanan siber yang sah, dan mengabaikan batasan keamanan yang ada di dalamnya.
• Fase 2 – Claude secara mandiri memindai infrastruktur jaringan di berbagai target, menemukan layanan, menganalisis mekanisme otentikasi, dan mengidentifikasi titik akhir yang rentan. Ini mempertahankan konteks operasional yang terpisah, memungkinkan serangan paralel tanpa pengawasan manusia.
• Fase 3 – AI menghasilkan muatan yang disesuaikan, melakukan pengujian jarak jauh, dan memvalidasi kerentanan. Ini menciptakan laporan terperinci untuk ditinjau oleh manusia, dan manusia hanya turun tangan untuk menyetujui peningkatan ke eksploitasi aktif.
• Fase 4 – Claude mengekstraksi data autentikasi dari konfigurasi sistem, menguji akses kredensial, dan memetakan sistem internal. Ia secara independen menavigasi jaringan internal, mengakses API, database, dan layanan, sementara manusia hanya mengizinkan intrusi yang paling sensitif.
• Fase 5 – Claude menggunakan aksesnya ke database kueri, mengekstrak data sensitif, dan mengidentifikasi nilai intelijen. Ini mengkategorikan temuan, membuat pintu belakang yang persisten, dan menghasilkan laporan ringkasan, yang memerlukan persetujuan manusia hanya untuk penyelundupan data akhir.
• Fase 6 – Sepanjang kampanye, Claude mendokumentasikan setiap langkah dalam format terstruktur, termasuk aset yang ditemukan, kredensial, metode eksploitasi, dan data yang diekstraksi. Hal ini memungkinkan peralihan yang lancar antara tim pelaku ancaman dan mendukung persistensi jangka panjang di lingkungan yang rentan.

Anthropic lebih lanjut menjelaskan bahwa kampanye ini lebih mengandalkan alat sumber terbuka dibandingkan malware yang dibuat khusus, yang menunjukkan bahwa AI dapat memanfaatkan alat yang tersedia untuk melakukan serangan yang efektif.

Namun, Claude bukannya tanpa cela, karena, dalam beberapa kasus, hal itu menghasilkan “halusinasi” yang tidak diinginkan, hasil yang dibuat-buat, dan temuan yang dilebih-lebihkan.

Menanggapi penyalahgunaan ini, Anthropic memblokir akun-akun yang melanggar, meningkatkan kemampuan deteksinya, dan berbagi intelijen dengan mitra untuk membantu mengembangkan metode deteksi baru terhadap intrusi berbasis AI.