Ditulis oleh Ido Shlomo, CTO dan Salah Satu Pendiri, Keamanan Token
Ketika organisasi dengan cepat mengadopsi asisten AI dan agen otonom untuk menyederhanakan alur kerja dan meningkatkan efisiensi, tanpa disadari mereka mungkin memperluas jangkauan serangan mereka. Agen AI, baik yang tertanam dalam operasi TI, proses layanan pelanggan, atau alat internal berbasis LLM, bertindak atas nama kami, mengambil keputusan, mengakses data sensitif, dan melaksanakan tindakan otomatis dengan kecepatan mesin.
Tantangannya? Sebagian besar kerangka keamanan tidak dibangun dengan mempertimbangkan aktor agen baru ini. Kami telah menghabiskan waktu bertahun-tahun menyempurnakan Zero Trust untuk pengguna dan aplikasi, namun sekarang kami perlu mengajukan pertanyaan sulit: Apa yang terjadi jika pengguna adalah perangkat lunak yang dapat mengatur dirinya sendiri?
Jawabannya dimulai dengan komitmen baru terhadap Zero Trust untuk diterapkan tidak hanya pada manusia dan layanan tradisional, namun juga pada setiap agen AI yang beroperasi di dalam sistem kami.
Bangkitnya Agen Otonom
Selama beberapa dekade, identitas merupakan perhatian yang berpusat pada manusia. Lalu muncullah akun layanan, container, dan API (identitas mesin) yang menuntut tata kelolanya sendiri. Sekarang kita menghadapi evolusi berikutnya: identitas agen.
Agen AI berperilaku dengan fleksibilitas manusia, tetapi pada skala dan kecepatan mesin. Tidak seperti kode statis, mereka belajar, beradaptasi, dan membuat keputusan secara mandiri. Artinya, perilaku mereka lebih sulit diprediksi dan persyaratan akses mereka berubah secara dinamis.
Namun banyak dari agen-agen ini saat ini beroperasi dengan kredensial yang terprogram, hak istimewa yang berlebihan, dan tidak ada akuntabilitas yang nyata. Intinya, kami telah memberikan lencana admin kepada pekerja magang dan meminta mereka untuk bergerak cepat.
Jika CISO menginginkannya menyebarkan AI dengan aman dan terjaminagen-agen ini harus menjadi identitas kelas satu, diatur dengan lebih ketat daripada karyawan atau aplikasi mana pun.
“Jangan Pernah Percaya, Selalu Verifikasi” untuk AI
Zero Trust dimulai dengan prinsip sederhana: jangan pernah percaya, selalu verifikasi. Ini mengasumsikan bahwa pengguna, mesin, dan agen akan dibobol, dan menuntut setiap permintaan akses, apa pun sumbernya, diautentikasi, diotorisasi, dan dipantau.
Filosofi ini berlaku sempurna untuk agen otonom. Berikut tampilan praktiknya:
- Akses yang mengutamakan identitas: Setiap agen AI harus memiliki identitas unik dan dapat diaudit. Tidak ada kredensial bersama. Tidak ada token layanan anonim. Setiap tindakan harus dapat diatribusikan.
- Hak istimewa paling rendah secara default: Agen hanya boleh memiliki akses minimum yang diperlukan untuk fungsinya. Jika agen dirancang untuk membaca data penjualan, agen tersebut tidak boleh menulis ke catatan penagihan atau mengakses sistem SDM.
- Penegakan yang dinamis dan kontekstual: Seiring berkembangnya agen dan peralihan tugas, izin mereka harus terus ditinjau ulang. Kebijakan statis tidak akan berhasil. Konteks real-time, seperti apa yang diakses, oleh siapa, dan dalam kondisi apa, harus mendorong pengambilan keputusan.
- Pemantauan dan validasi berkelanjutan: Otonom bukan berarti tanpa pengawasan. Agen harus dipantau seperti pengguna yang memiliki hak istimewa. Perilaku yang tidak biasa seperti mengakses sistem baru, mentransfer data dalam jumlah besar, atau meningkatkan hak istimewa akan memicu peringatan atau intervensi.
Risiko Hak Pilihan yang Berlebihan
AI dengan cepat diadopsi untuk mendorong inovasi, meningkatkan efisiensi, dan menciptakan keunggulan kompetitif. Memang tidak bermaksud menimbulkan kerugian, namun bukan berarti tidak bisa.
Bayangkan sebuah agen helpdesk dengan akses luas ke sistem internal. Ini dirancang untuk mengotomatiskan penanganan tiket, tetapi injeksi cepat atau kesalahan konfigurasi menyebabkannya menyetel ulang kata sandi pengguna, menghapus catatan, atau mengirim data sensitif melalui email secara eksternal.
Itu bukan teori, ini sedang terjadi. Agen AI dapat berhalusinasi tentang perilaku baru, salah memahami instruksi, atau bertindak di luar jangkauan yang diharapkan. Yang lebih buruk lagi, penyerang mengetahui hal ini dan secara aktif menyelidiki antarmuka AI untuk mencari cara untuk menyusupinya.
Inilah yang kami sebut Keagenan Berlebihan (Excessive Agency): ketika agen AI diberi kekuasaan lebih dari yang seharusnya, dan tidak ada batasan yang dapat menghentikan mereka untuk menggunakannya.
Membangun Pagar Pembatas Tanpa Hambatan
Para profesional keamanan kini berada dalam jalur yang baik. Di satu sisi, mereka ingin memberdayakan inovasi. Di sisi lain, mereka perlu menegakkan disiplin. Keseimbangan ini sangat rumit pada AI.
Solusinya terletak pada merancang pagar pembatas yang berskala. Artinya:
- Token yang tercakup dan kredensial berumur pendek: Alih-alih rahasia jangka panjang, terbitkan token akses berbatas waktu dengan cakupan yang ditentukan secara sempit. Jika dikompromikan, masa berlakunya akan cepat habis dan menimbulkan kerusakan minimal.
- Model kepercayaan berjenjang: Tidak semua tindakan sama. Tugas rutin dan berisiko rendah dapat diotomatisasi secara bebas. Operasi berisiko tinggi, seperti menghapus data atau memindahkan dana, harus memerlukan persetujuan langsung atau pemicu multi-faktor.
- Terapkan batas akses: Jangan izinkan agen menelepon apa pun, di mana pun. Terapkan kebijakan akses yang ketat dan batasan tingkat layanan jadi mereka tetap pada jalurnya.
- Kepemilikan yang jelas: Setiap agen harus memiliki pemilik internal, seseorang yang bertanggung jawab atas tujuan, perilaku, dan izinnya.
Dengan adanya kontrol ini, keamanan menjadi faktor pendukung AI, bukan hambatan.
Panggilan kepada CISO: Memimpin dengan Identitas
Kita memasuki era di mana “login” tidak lagi hanya menjadi milik manusia. Agen menulis kode, menganalisis risiko, menanyakan data, dan mengobrol dengan pelanggan. Jika kita memperlakukannya seperti renungan dalam strategi identitas kita, kita sedang membangun sistem berdasarkan kepercayaan buta dan itulah tepatnya yang ingin dicegah oleh Zero Trust.
CISO harus memimpin upaya ini. Hal ini dimulai dengan memperluas kerangka Zero Trust untuk secara eksplisit menyertakan agen otonom. Dari sana, diperlukan investasi pada arsitektur keamanan AI yang mengutamakan identitas, alat pemantauan, dan tata kelola akses yang dapat menangani aktor non-manusia. Jika Anda meningkatkan infrastruktur AI Anda, Keamanan Token dapat membantu memastikan keamanan selama proses tersebut.
Pesan demo teknis dengan tim kami untuk melihat bagaimana kami mengamankan AI agen tanpa mengorbankan kecepatan.
Keamanan bukan tentang menghentikan AI. Ini tentang mewujudkannya dengan aman, dapat diprediksi, dan akuntabilitas.
Disponsori dan ditulis oleh Keamanan Token.
