Penulis: Itamar Apelblat, CEO dan Salah Satu Pendiri, Keamanan Token
Belum lama ini, penerapan AI di dalam perusahaan berarti kopilot membuat draf email atau meringkas dokumen. Saat ini, agen AI menyediakan infrastruktur, menjawab tiket dukungan pelanggan, menentukan prioritas peringatan, menyetujui transaksi, menulis kode produksi, dan banyak lagi. Mereka bukan lagi asisten yang pasif. Mereka adalah operator dalam perusahaan.
Bagi CISO, perubahan ini menciptakan masalah yang lazim namun semakin besar: akses.
Setiap agen AI mengautentikasi sistem dan layanan. Ini menggunakan kunci API, token OAuth, peran cloud, atau akun layanan. Ia membaca data, menulis konfigurasi, dan memanggil alat hilir. Dengan kata lain, ia berperilaku persis seperti sebuah identitas, karena ia adalah satu.
Namun di banyak organisasi, agen AI tidak diatur sebagai identitas kelas satu. Mereka mewarisi keistimewaan penciptanya. Mereka beroperasi di bawah cakupan akun layanan yang berlebihan. Mereka diberikan akses luas hanya untuk memastikan semuanya berjalan lancar. Setelah diterapkan, mereka sering kali berevolusi lebih cepat daripada kontrol di sekitarnya.
Ini adalah titik buta yang muncul dalam keamanan AI.
Langkah pertama untuk menutupnya adalah apa yang kami sebut keamanan yang mengutamakan identitas untuk AI: menyadari bahwa setiap agen otonom harus diatur, diaudit, dan dibuktikan seperti halnya beban kerja pengguna manusia atau mesin. Itu berarti identitas unik, peran yang jelas, kepemilikan yang jelas, manajemen siklus hidupkontrol akses, dan kemampuan audit.
Namun inilah kenyataan pahitnya: identitas saja tidak lagi cukup.
Manajemen identitas dan akses tradisional (IAM) menjawab pertanyaan sederhana: Siapa yang meminta akses? Di dunia yang didorong oleh manusia, hal itu sudah cukup. Pengguna memiliki peran dan fungsi pekerjaan. Layanan telah menetapkan cakupannya. Alur kerja relatif dapat diprediksi.
Agen AI mengubah persamaan itu.
Mereka dinamis berdasarkan desain. Mereka menafsirkan masukan, merencanakan tindakan, dan memanggil alat berdasarkan konteks. Agen AI yang memulai misinya untuk menghasilkan laporan triwulanan mungkin, jika diminta atau salah arah, akan mencoba mengakses sistem yang tidak terkait dengan pelaporan. Agen infrastruktur yang dirancang untuk memulihkan kerentanan mungkin beralih ke memodifikasi konfigurasi dengan cara yang melampaui cakupan aslinya.
Ketika hal ini terjadi, kontrol berbasis identitas tidak serta merta menghentikan terjadinya hal tersebut.
IAM tradisional mengasumsikan determinisme. Peran diberikan karena pengguna atau layanan menjalankan fungsi yang ditentukan. Cakupan tindakannya dapat diprediksi.
Agen AI mematahkan asumsi tersebut. Tujuan mereka mungkin tetap, namun jalan yang mereka ambil untuk mencapainya tidak menentu. Mereka bernalar, menyatukan alat-alat, dan mengeksplorasi tindakan alternatif.
Peran statis tidak pernah dirancang untuk aktor yang memutuskan bagaimana bertindak dalam waktu nyata. Jika peran agen mengizinkan tindakan tersebut, akses diberikan, meskipun tindakan tersebut tidak lagi sejalan dengan alasan agen dikerahkan.
Di sinilah izin berdasarkan niat menjadi penting.
Jika identitas menjawab siapa, niat menjawab mengapa.
Izin berbasis niat mengevaluasi apakah misi yang dinyatakan agen dan konteks runtime membenarkan pengaktifan hak istimewanya pada saat itu. Akses tidak lagi sekedar pemetaan statis antara identitas dan peran. Ini menjadi kondisional dengan sengaja.
Pertimbangkan agen AI yang bertanggung jawab menyebarkan kode. Dalam model tradisional, perusahaan mungkin mempunyai izin tetap untuk mengubah infrastruktur. Dalam model yang sadar akan niat, hak istimewa tersebut aktif hanya ketika penerapan dikaitkan dengan peristiwa alur yang disetujui dan permintaan perubahan. Jika agen yang sama mencoba mengubah sistem produksi di luar konteks tersebut, hak istimewa tidak mengaktifkan akses tersebut.
Identitasnya belum berubah, namun maksud dan otorisasinya telah berubah.
Kombinasi ini mengatasi dua mode kegagalan paling umum yang kami lihat dalam penerapan AI.
Pertama, warisan hak istimewa. Pengembang sering kali menguji agen menggunakan kredensial mereka yang lebih tinggi. Hak istimewa tersebut tetap ada di lingkungan produksi, sehingga menciptakan paparan yang tidak perlu. Memperlakukan agen sebagai identitas yang berbeda dapat membantu menghilangkan kebocoran ini.
Kedua, penyimpangan misi. Agen AI dapat melakukan pivot di tengah proses berdasarkan perintah, integrasi, atau masukan yang berlawanan. Kontrol berbasis niat mencegah poros tersebut berubah menjadi akses tidak sah.
Bagi CISO, manfaatnya bukan hanya sekedar kontrol yang lebih ketat. Tata kelolalah yang berskala.
Agen AI berinteraksi dengan ribuan API, platform SaaS, dan sumber daya cloud. Mencoba mengelola risiko dengan menghitung setiap tindakan yang diperbolehkan dengan cepat menjadi tidak terkendali. Penyebaran kebijakan meningkatkan kompleksitas, dan kompleksitas mengikis jaminan.
Model berbasis niat menyederhanakan pengawasan. Tata kelola bergeser dari mengelola ribuan aturan tindakan yang terpisah menjadi mengelola profil identitas yang ditentukan dan batasan tujuan yang disetujui.
Tinjauan kebijakan berfokus pada apakah misi agen sudah sesuai, bukan apakah setiap panggilan API diperhitungkan secara terpisah.
Jejak audit juga menjadi lebih bermakna. Ketika insiden terjadi, tim keamanan tidak hanya dapat menentukan agen mana yang melakukan suatu tindakan, namun juga profil niat apa yang aktif dan apakah tindakan tersebut selaras dengan misi yang disetujui.
Tingkat ketertelusuran seperti itu adalah semakin penting untuk pengawasan peraturan dan akuntabilitas di tingkat dewan.
Masalah yang lebih luas adalah: agen AI berakselerasi lebih cepat daripada yang dirancang untuk ditangani oleh model kontrol akses tradisional. Mereka beroperasi dengan kecepatan mesin, beradaptasi dengan konteks, dan mengatur seluruh sistem dengan cara yang mengaburkan batas antara aplikasi, pengguna, dan otomatisasi.
CISO tidak bisa memperlakukannya hanya sebagai beban kerja saja.
Peralihan ke sistem AI agen memerlukan perubahan dalam pemikiran keamanan. Setiap agen AI harus diperlakukan sebagai identitas yang akuntabel. Dan identitas tersebut harus dibatasi tidak hanya oleh peran statis, namun juga oleh tujuan yang dinyatakan dan konteks operasional.
Jalan ke depan sudah jelas. Inventarisasi agen AI Anda. Tetapkan kepada mereka identitas unik yang dikelola siklus hidup. Mendefinisikan dan mendokumentasikan misi mereka yang disetujui. Dan terapkan kontrol yang mengaktifkan hak istimewa hanya ketika identitas, maksud, dan konteks selaras.
Otonomi tanpa pemerintahan merupakan risiko yang sangat besar. Identitas tanpa niat tidaklah lengkap.
Di era agenik, pemahaman siapa yang bertindak sangat diperlukan. Memastikan mereka bertindak untuk alasan yang benar adalah hal yang membuat AI agen aman.
Jika Anda mengamankan AI agen kami ingin menunjukkan kepada Anda demo teknis Token dan mendengar lebih banyak tentang apa yang sedang Anda kerjakan.
Disponsori dan ditulis oleh Keamanan Token.
