Ditulis oleh Ido Shlomo, Salah Satu Pendiri dan CTO, Keamanan Token
Asisten AI tidak lagi merangkum catatan rapat, menulis email, dan menjawab pertanyaan. Mereka mengambil tindakan, seperti membuka tiket, menganalisis log, mengelola akun, dan bahkan memperbaiki insiden secara otomatis.
Selamat datang di era AI agen, yang tidak hanya memberi tahu Anda apa yang harus dilakukan selanjutnya – namun juga melakukannya untuk Anda. Agen-agen ini sangat kuat, tetapi mereka juga memperkenalkan sepenuhnya risiko keamanan jenis baru.
Kebangkitan Agen Otonom yang Tenang
Pada awalnya, adopsi AI di dalam perusahaan tampak tidak berbahaya. Alat seperti ChatGPT dan Copilot membantu orang dalam menulis dan coding dasar, namun tidak bertindak secara independen. Itu berubah dengan cepat.
Tanpa tinjauan atau persetujuan keamanan, tim menerapkan sistem AI otonom yang dapat menafsirkan tujuan, merencanakan langkah-langkah, memanggil API, dan memanggil agen lain. Asisten pemasaran AI kini dapat menganalisis data kinerja kampanye dan secara aktif mengoptimalkan penargetan dan anggaran. Agen DevOps dapat memindai insiden dan memulai remediasi tanpa menunggu manusia.
Hasilnya? Sekumpulan agen yang membuat keputusan dan mengambil tindakan lebih cepat daripada yang dapat dipantau oleh manusia.
Ini Bukan “Hanya Bot Lain”
Meskipun organisasi sudah mulai mengelola Identitas Non-Manusia (NHI), seperti akun layanan dan kunci API, AI agen tidak cocok dengan pola yang sama.
Berbeda dengan alur kerja, yang mengikuti serangkaian tindakan yang dapat diprediksi, agen AI memikirkan apa yang harus dilakukan selanjutnya. Ia mampu menyatukan beberapa langkah, mengakses sistem yang berbeda, dan menyesuaikan rencananya sepanjang proses. Fleksibilitas itulah yang menjadikan agen kuat sekaligus berbahaya. Karena agen dapat bertindak lintas batas, tindakan sederhana dengan memberi mereka akses ke database, CRM, dan Slack dapat menjadikan mereka salah satu pengguna terkuat di perusahaan.
Ekosistem multi-agen memperkenalkan tingkat kompleksitas baru. Begitu seorang agen mulai memanggil atau bahkan membuat agen lain, kemampuan untuk melacak suatu tindakan kembali ke manusia yang memulainya mulai kabur.
Shadow AI Sudah Ada di Sini
Bahkan perusahaan yang berhati-hati pun menemukan bayangan AI menyusup ke lingkungan mereka. Seorang manajer produk mendaftar untuk menggunakan alat penelitian AI baru. Sebuah tim menghubungkan bot rapat ke drive internal. Seorang insinyur menjalankan asisten AI lokal yang dapat menanyakan log pelanggan.
Masing-masing layanan secara teknis merupakan layanan dan oleh karena itu, masing-masing memerlukan tata kelola. Namun sebagian besar alat ini masuk ke perusahaan tanpa tinjauan formal, pemindaian keamanan, atau catatan identitas.
Alat visibilitas tradisional tidak melihatnya dengan jelas. Alat CASB mungkin menandai domain SaaS baru, tetapi alat tersebut tidak akan menangkap beberapa ratus agen AI yang berjalan secara diam-diam di fungsi cloud atau VM.
Itu tidak berbahaya; itu hanya cepat. Dan kecepatan selalu menjadi musuh pengawasan.
Aturan Baru untuk Tipe Identitas Baru
Jadi, bagaimana Anda mengamankan sesuatu yang mungkin tidak dapat Anda lihat dan beroperasi pada kecepatan alat berat? Tim keamanan perlu menyesuaikan strategi identitas mereka dengan cara baru:
- Lacak kepemilikan dan siklus hidup. Setiap agen membutuhkan pemilik yang disebutkan namanya. Ketika manusia pergi, agen juga harus pergi.
- Terapkan maksud dan konteks. Setiap tindakan agen harus membawa data “atas nama”: siapa yang memicunya, tugas apa yang harus dipenuhi, dan data apa yang berhak disentuh. Kehilangan rantai itu, dan Anda kehilangan akuntabilitas.
- Defaultnya adalah izin hanya-baca. Agen harus memulai dengan akses lihat saja. Hak istimewa menulis harus disetujui secara eksplisit dan dibatasi waktu.
Masalah Siklus Hidup
Sebagian besar perusahaan tidak memiliki proses yang jelas untuk memensiunkan agen AI ketika mereka tidak lagi dibutuhkan. Prototipe pengembang yang dimulai sebagai percobaan pada bulan Maret masih berjalan pada bulan Oktober, menggunakan kredensial yang dibuat oleh seseorang yang tidak lagi bekerja di perusahaan tersebut. Agen lain secara diam-diam berevolusi melalui perubahan cepat dan alat hingga kini memiliki akses ke data pelanggan. Meskipun agen-agen ini tidak jahat, mereka tidak terlihat, gigih, dan kuat.
Itu sebabnya semakin banyak perusahaan yang membuat inventaris agen AI yang mencantumkan setiap agen aktif, tujuan, pemilik, izin, dan masa pakainya. Ini adalah dasar yang diperlukan untuk membuat agen AI dan identitas mereka dapat dikelola.
Pagar Pembatas Karena Ketakutan
Tujuannya bukan untuk menghentikan agen bekerja karena organisasi Anda mengandalkan AI untuk mendapatkan efisiensi dan keunggulan kompetitif. Hal ini untuk memastikan mereka memiliki pengawasan dan tata kelola yang efektif.
Sama seperti organisasi yang tidak memberikan akses kepada admin karyawan baru untuk segala hal, mereka juga perlu memberikan tanggung jawab khusus kepada agen AI, meninjau pekerjaan mereka, dan memeriksa keputusan mereka.
Kuncinya adalah tata kelola yang memungkinkan tim membangun sistem yang secara otomatis membatasi cakupan, mencatat perilaku, dan menghentikan proses jahat sebelum menyebabkan kerugian. Sebab, agen-agen tersebut tidak sekadar merangkum laporan atau melakukan triase tiket. Mereka menutup insiden, menyetujui transaksi, dan berinteraksi langsung dengan pelanggan.
Ketika hal ini terjadi, “shadow AI” tidak lagi menjadi sebuah keingintahuan, namun akan menjadi sebuah krisis.
Kesimpulannya
AI agen bukanlah masalah di masa depan. Itu sudah ada di tumpukan Anda. Jika Anda masih mengelola identitas sebagai manusia atau non-manusia, inilah saatnya memberi ruang bagi kategori ketiga: aktor otonom. Mereka membutuhkan identitas, izin, dan akuntabilitas.
Mereka juga membutuhkan kontrol dan tata kelola, dan semakin cepat kita memperlakukan agen seperti rekan kerja yang memiliki kekuatan super, dan bukan skrip yang memiliki kredensial, maka perusahaan akan semakin aman.
Lihat Keamanan Token Panduan Keamanan AI untuk praktik terbaik lainnya dari 14+ pemimpin industri cybersec.
Disponsori dan ditulis oleh Keamanan Token.
