Sebagai AI generatif mendorong kecepatan pengembangan perangkat lunakhal ini juga meningkatkan kemampuan penyerang digital untuk melakukan serangan termotivasi secara finansial atau didukung negara peretasan. Ini berarti bahwa tim keamanan di perusahaan teknologi memiliki lebih banyak kode untuk ditinjau sambil menghadapi lebih banyak tekanan dari pelaku kejahatan. Pada hari Senin, Amazon untuk pertama kalinya akan mempublikasikan rincian sistem internal yang dikenal sebagai Autonomous Threat Analysis (ATA), yang telah digunakan perusahaan untuk membantu tim keamanannya secara proaktif mengidentifikasi kelemahan pada platformnya, melakukan analisis varian untuk dengan cepat mencari kelemahan lain yang serupa, dan kemudian mengembangkan kemampuan remediasi dan deteksi untuk menutup lubang sebelum penyerang menemukannya.
ATA lahir dari hackathon internal Amazon pada Agustus 2024, dan anggota tim keamanan mengatakan bahwa ATA telah berkembang menjadi alat yang penting sejak saat itu. Konsep utama yang mendasari ATA adalah bahwa ia bukanlah agen AI tunggal yang dikembangkan untuk melakukan pengujian keamanan dan analisis ancaman secara komprehensif. Sebaliknya, Amazon mengembangkan beberapa agen AI khusus yang bersaing satu sama lain dalam dua tim untuk menyelidiki dengan cepat teknik serangan nyata dan berbagai cara penggunaannya terhadap sistem Amazon—dan kemudian mengusulkan kontrol keamanan untuk ditinjau oleh manusia.
“Konsep awal ditujukan untuk mengatasi keterbatasan kritis dalam pengujian keamanan—cakupan terbatas dan tantangan untuk menjaga kemampuan deteksi tetap terkini dalam lanskap ancaman yang berkembang pesat,” Steve Schmidt, kepala petugas keamanan Amazon, mengatakan kepada WIRED. “Cakupan yang terbatas berarti Anda tidak dapat mengakses semua perangkat lunak atau Anda tidak dapat mengakses semua aplikasi karena Anda tidak memiliki cukup sumber daya manusia. Dan sangat bagus untuk melakukan analisis terhadap serangkaian perangkat lunak, namun jika Anda tidak selalu memperbarui sistem pendeteksian terhadap perubahan dalam lanskap ancaman, Anda kehilangan separuh gambarannya.”
Sebagai bagian dari peningkatan penggunaan ATA, Amazon mengembangkan lingkungan pengujian “ketelitian tinggi” khusus yang mencerminkan sistem produksi Amazon secara sangat realistis, sehingga ATA dapat menyerap dan menghasilkan telemetri nyata untuk dianalisis.
Tim keamanan perusahaan juga merancang ATA sehingga setiap teknik yang digunakan, dan kemampuan deteksi yang dihasilkannya, divalidasi dengan pengujian nyata dan otomatis serta data sistem. Agen tim merah yang berupaya menemukan serangan yang dapat digunakan terhadap sistem Amazon menjalankan perintah aktual di lingkungan pengujian khusus ATA yang menghasilkan log yang dapat diverifikasi. Tim biru, atau agen yang berfokus pada pertahanan, menggunakan telemetri nyata untuk memastikan apakah perlindungan yang mereka usulkan efektif. Dan setiap kali agen mengembangkan teknik baru, agen tersebut juga akan mengambil catatan waktu untuk membuktikan bahwa klaimnya akurat.
Keterverifikasian ini mengurangi kesalahan positif, kata Schmidt, dan bertindak sebagai “manajemen halusinasi.” Karena sistem ini dibangun untuk menuntut standar tertentu dari bukti yang dapat diamati, Schmidt mengklaim bahwa “halusinasi secara arsitektural tidak mungkin terjadi.”
Fakta bahwa agen khusus ATA bekerja sama dalam tim—masing-masing menyalurkan keahliannya untuk mencapai tujuan yang lebih besar—meniru cara manusia berkolaborasi dalam pengujian keamanan dan pengembangan pertahanan. Perbedaan yang diberikan oleh AI, kata insinyur keamanan Amazon Michael Moran, adalah kemampuan untuk dengan cepat menghasilkan variasi dan kombinasi baru dari teknik ofensif dan kemudian mengusulkan perbaikan pada skala yang sangat memakan waktu bagi manusia saja.
“Saya mempelajari semua teknik baru dan berkata, ‘Saya ingin tahu apakah ini akan berhasil?’ Dan sekarang saya memiliki seluruh perancah dan banyak hal dasar yang ditangani untuk saya” dalam menyelidikinya, kata Moran, yang merupakan salah satu insinyur yang pertama kali mengusulkan ATA pada hackathon 2024. “Hal ini membuat pekerjaan saya jauh lebih menyenangkan, namun juga memungkinkan segalanya berjalan dengan kecepatan mesin.”
Schmidt juga mencatat bahwa ATA sudah sangat efektif dalam melihat kemampuan serangan tertentu dan menghasilkan pertahanan. Dalam satu contoh, sistem berfokus pada teknik “reverse shell” Python, yang digunakan oleh peretas untuk memanipulasi perangkat target agar memulai koneksi jarak jauh ke komputer penyerang. Dalam beberapa jam, ATA telah menemukan potensi taktik reverse shell baru dan usulan deteksi untuk sistem pertahanan Amazon yang terbukti 100 persen efektif.
ATA melakukan tugasnya secara mandiri, namun menggunakan metodologi “manusia dalam lingkaran” yang memerlukan masukan dari orang sungguhan sebelum benar-benar menerapkan perubahan pada sistem keamanan Amazon. Dan Schmidt dengan mudah mengakui bahwa ATA bukanlah pengganti pengujian keamanan manusia yang canggih dan bernuansa. Sebaliknya, ia menekankan bahwa untuk sejumlah besar tugas-tugas biasa dan hafalan yang terlibat dalam analisis ancaman harian, ATA memberi staf manusia lebih banyak waktu untuk mengerjakan masalah-masalah kompleks.
Langkah selanjutnya, katanya, adalah mulai menggunakan ATA dalam respons insiden waktu nyata untuk identifikasi dan remediasi yang lebih cepat dalam serangan nyata terhadap sistem besar Amazon.
“AI melakukan pekerjaan kasar di balik layar. Ketika tim kami bebas dari analisis positif palsu, mereka dapat fokus pada ancaman nyata,” kata Schmidt. “Saya pikir bagian yang paling positif dari hal ini adalah penerimaan para insinyur keamanan kami, karena mereka melihat ini sebagai peluang di mana bakat mereka dikerahkan pada hal yang paling penting.”
