Oleh Itamar Apelblat, CEO dan salah satu pendiri, Keamanan Token
Tantangan Baru dalam Keamanan
Setiap gelombang besar teknologi menciptakan momen tidak nyaman yang sama bagi para pemimpin keamanan. Seringkali, bisnis bergerak terlebih dahulu dan keamanan diminta untuk membuatnya aman setelahnya. Kami melihat pola ini pada adopsi Cloud, SaaS, dan DevOps. Kini, AI agen melakukannya lagi.
Bedanya, agen AI bukan sekadar kategori layanan atau aplikasi. Mereka adalah aktor digital yang mengautentikasi, menerima izin, memanggil API, menulis kode, memicu alur kerja, mengkueri database, dan mengambil tindakan di seluruh lingkungan produksi. Di banyak organisasi, mereka sudah melakukan hal ini dengan kredensial, token API, hibah OAuth, dan peran cloud yang belum diinventarisasi sepenuhnya oleh siapa pun.
Hal ini membuat pertanyaan keamanan pusat menjadi lebih besar daripada “apa yang dapat dikatakan oleh model tersebut?” Pertanyaan sebenarnya yang perlu dijawab adalah: Siapa agen ini, apa yang boleh dilakukannya, siapa yang bertanggung jawab atas tindakannya, dan bisakah kita mencabut atau membatasinya ketika ada perubahan?
Ya, AI agen memiliki masalah identitas dan penyerang mulai menyadarinya.
Mengapa Program Identitas Tradisional Gagal
Pergeseran Identitas Manusia-ke-Mesin
Tim keamanan telah menghabiskan waktu bertahun-tahun untuk membangun program identitas di sekitar manusia. Karyawan bergabung, pindah, dan pergi. Akses dapat ditinjau, manajer dapat mengetahui apa yang dibutuhkan masyarakat, dan perilaku dapat dipantau berdasarkan data dasar yang relatif stabil.
Identitas mesin membebani model itu. Akun layanan, rahasia, sertifikat, identitas beban kerja, dan kunci API dikalikan di lingkungan cloud dan DevOps. Banyak yang memiliki hak istimewa yang berlebihan, kepemilikan yang buruk, dan jarang ditinjau. Namun, sebagian besar identitas mesin bersifat deterministik dan melakukan tugas tertentu dengan cara yang dapat diprediksi.
Masalah Otonomi
Agen AI mematahkan asumsi ini. Seorang agen berperilaku lebih seperti manusia dalam hal ia dapat menafsirkan suatu tujuan, memilih jalur, dan bertindak melintasi sistem. Namun skalanya seperti perangkat lunak dan proses dengan kecepatan mesin.
Itu dapat dibuat dengan cepat, disematkan ke dalam produk SaaS, disalin oleh pengembang, didelegasikan izin oleh pengguna, dan dibiarkan berjalan lama setelah kebutuhan awal hilang.
Kombinasi antara otonomi, skala, dan desentralisasi menciptakan risiko identitas baru yang tidak pernah dirancang untuk ditangani oleh model tradisional.
Hak Istimewa Terkecil Tidak Berskala
Hak istimewa paling rendah secara tradisional adalah ketika manajemen identitas dan akses tidak mampu dilakukan oleh AI agen. Dengan akun manusia atau layanan, hak istimewa paling rendah sering kali berarti memberikan izin statis minimum yang diperlukan untuk suatu peran atau fungsi.
Namun suatu agen mungkin memerlukan akses yang berbeda tergantung pada tujuannya, data yang terlibat, pengguna atau sistem yang bertindak atas namanya, dan lingkungan yang disentuhnya.
Misalnya, agen dukungan yang merangkum tiket tidak memerlukan hak istimewa yang sama seperti agen yang dapat mengeluarkan pengembalian dana, mengubah catatan pelanggan, atau menjalankan perintah dalam produksi.
Agen pengkodean yang berjalan di kotak pasir berbeda dengan agen yang dapat membuka permintaan penarikan, mengakses rahasia, atau menyebarkan infrastruktur.
Akses bagi agen harus bersifat kontekstual, berdasarkan niat, terikat waktu, dan terus dievaluasi ini bukanlah cara kebanyakan perusahaan beroperasi saat ini.
Tiga Masalah Kritis
1. Masalah Visibilitas
Banyak organisasi telah memiliki shadow AI, sama seperti dahulu mereka memiliki shadow IT. Agen dibangun oleh tim internal, tiba melalui platform SaaS yang secara diam-diam menambahkan fitur otonom, berjalan secara lokal pada titik akhir atau di dalam lingkungan pengembang, dan terhubung ke platform otomatisasi, penyedia identitas, konsol cloud, dan sistem tiket.
Jika tim keamanan tidak mengetahui keberadaan agen-agen ini, mereka tidak dapat mengamankan dan mengaturnya. Tanpa mengetahui kredensial mana yang digunakan agen, mereka tidak akan memahami cakupan radius ledakan, dan jika mereka tidak memiliki kemampuan untuk memetakan agen ke pemilik, tujuan, dan siklus hidup, mereka tidak akan dapat meminta pertanggungjawaban siapa pun ketika agen membuat keputusan yang merugikan atau disalahgunakan oleh penyerang.
2. Masalah Hak Istimewa
Agen seringkali diberikan akses yang luas karena lebih mudah saat melakukan eksperimen. Pengembang dapat memberikan token API sehingga prototipe dapat berfungsi, unit bisnis dapat menghubungkan agen ke akun SaaS dengan hak admin, atau tim aplikasi dapat menyematkan rahasia ke dalam alur kerja karena lebih cepat daripada merancang delegasi yang tepat. Jenis jalan pintas ini menciptakan utang identitas, dan AI agen dapat mengakumulasi utang tersebut dalam skala besar dan kecepatan mesin.
3. Injeksi Segera dan Manipulasi Tidak Langsung
Jika agen dapat membaca konten yang tidak tepercaya dan juga mengambil tindakan istimewa, penyerang tidak selalu perlu menyusupi akun tradisional. Mereka mungkin hanya perlu mempengaruhi apa yang bisa diakses oleh agen karena agen tersebut mungkin mempunyai hak istimewa yang berlebihan. Tanpa batasan cakupan dan kontrol akses yang tepat, injeksi cepat menjadi vektor tindakan yang tidak sah.
Jalan ke Depan: Tata Kelola yang Berpusat pada Identitas
Mengapa Keamanan Identitas adalah Hal yang Mendasar
CISO tidak sabar menunggu program keamanan AI terpisah matang secara terpisah. Tata kelola AI agen harus bertumpu pada keamanan identitas. Kontrol yang kita perlukan dimulai dari dasar, namun harus disesuaikan untuk sistem otonom.
Kontrol Penting untuk Identitas Agen
Setiap agen harus memiliki identitas yang berbeda. Akun bersama dan pinjaman kredensial manusia tidak dapat diterima. Setiap agen harus memiliki pemilik, tujuan bisnis, cakupan tindakan yang disetujui, dan siklus hidup yang ditentukan. Akses perlu diberikan berdasarkan tugas, bukan kenyamanan. Hak istimewa harus kedaluwarsa ketika tidak diperlukan lagi dan rahasia harus dilindungi, dirotasi, dan dihapus dari tempat yang dapat diungkap oleh agen.
Penegakan dan Tata Kelola Otomatis
Tinjauan manual tidak berskala ketika agen dapat dibuat oleh pengembang, pengguna bisnis, dan vendor SaaS di seluruh perusahaan. Tata kelola identitas untuk agen harus menemukan agen baru, mengklasifikasikan akses, mendeteksi jalur berisiko, menegakkan kebijakan, dan memicu remediasi tanpa menunggu tinjauan triwulanan.
Kontrol Terdesentralisasi dengan Kebijakan Terpusat
Akuntabilitas memerlukan perubahan: tim keamanan tidak bisa menjadi hambatan utama bagi setiap agen. Model yang lebih baik memungkinkan tim untuk membangun dan mengadopsi agen sambil memerlukan batasan untuk identitas, akses, kepemilikan, pencatatan, dan pencabutan. Kontrol yang terdesentralisasi dengan kebijakan terpusat memungkinkan inovasi tanpa mengorbankan tata kelola.
Belajar Dari Gelombang Teknologi Masa Lalu
Cloud, SaaS, dan DevOps semuanya bergerak lebih cepat dibandingkan model keamanan tradisional. Perusahaan yang berhasil bukanlah perusahaan yang mengatakan tidak. Mereka membangun kembali kendali mereka berdasarkan cara kerja teknologi baru.
Agentic AI kini memaksakan evolusi yang sama. Organisasi yang menganggap hal ini sebagai masalah keamanan AI yang berdiri sendiri akan gagal mencapai sasaran. Ini pada dasarnya adalah masalah identitas, dan memerlukan solusi identitas.
Susun Ulang Pertanyaan Keamanan
Para pemimpin keamanan harus berhenti hanya memikirkan apa yang dihasilkan AI dan mulai fokus pada apa yang bisa dilakukan AI. Risiko yang semakin besar saat ini adalah tindakan otonom yang diambil oleh identitas yang tidak diatur oleh siapa pun, menggunakan akses yang tidak ditinjau oleh siapa pun, menuju hasil yang tidak diinginkan oleh siapa pun. Ini adalah masalah identitas yang menjadi inti AI agen, dan ini adalah masalah yang perlu dipecahkan oleh CISO saat ini.
Waktu untuk bertindak bukan dalam enam bulan. Sekarang. Semakin lama organisasi menunggu untuk menerapkan tata kelola AI agen yang berpusat pada identitas, semakin sulit organisasi tersebut mendapatkan kembali kendalinya.
Mulailah dengan demo dari Token Security untuk melihat bagaimana pendekatan yang berpusat pada identitas dapat berhasil di organisasi Anda.
Disponsori dan ditulis oleh Keamanan Token.
