Pelajari mengapa penggunaan kopilot AI gen secara luas pasti akan meningkatkan pelanggaran data
Skenario ini menjadi semakin umum di era AI generasi ini: pesaing entah bagaimana memperoleh akses ke informasi akun sensitif dan menggunakan data tersebut untuk menargetkan pelanggan organisasi dengan kampanye iklan.
Organisasi tersebut tidak tahu bagaimana data tersebut diperoleh. Itu adalah mimpi buruk keamanan yang dapat membahayakan keyakinan dan kepercayaan pelanggan mereka.
Perusahaan mengidentifikasi sumber pelanggaran data: seorang mantan karyawan menggunakan kopilot AI gen untuk mengakses basis data internal yang penuh dengan data akun. Mereka menyalin detail sensitif, seperti pengeluaran pelanggan dan produk yang dibeli, dan membawanya ke pesaing.
Contoh ini menyoroti masalah yang berkembang: Penggunaan kopilot AI secara luas pasti akan meningkatkan pelanggaran data.
Menurut sebuah penelitian baru-baru ini survei Gartnerkasus penggunaan AI yang paling umum mencakup aplikasi berbasis AI generatif, seperti Kopilot Microsoft 365 Dan Kopilot Einstein dari SalesforceMeskipun alat-alat ini merupakan cara yang sangat baik bagi organisasi untuk meningkatkan produktivitas, alat-alat ini juga menimbulkan tantangan keamanan data yang signifikan.
Dalam artikel ini, kami akan menguraikan tantangan-tantangan ini dan menunjukkan kepada Anda cara mengamankan data Anda di era generasi AI.
Risiko data AI Gen
Hampir 99% izin tidak digunakan, dan lebih dari setengah izin tersebut berisiko tinggi. Akses data yang tidak digunakan dan terlalu permisif selalu menjadi masalah bagi keamanan data, tetapi AI generasi baru memperburuk keadaan.
Saat pengguna mengajukan pertanyaan kepada kopilot AI gen, alat tersebut merumuskan jawaban dalam bahasa alami berdasarkan konten internet dan bisnis melalui teknologi grafik.
Karena pengguna sering kali memiliki akses data yang terlalu permisif, kopilot dapat dengan mudah memunculkan data sensitif — bahkan jika pengguna tidak menyadari bahwa mereka dapat mengaksesnya.
Banyak organisasi tidak mengetahui data sensitif apa yang mereka miliki sejak awal, dan pengaturan akses yang tepat hampir mustahil dilakukan secara manual.
Gen AI menurunkan standar pelanggaran data
Pelaku ancaman tidak perlu lagi mengetahui cara meretas sistem atau memahami seluk-beluk lingkungan Anda. Mereka cukup meminta informasi sensitif atau kredensial kepada kopilot yang memungkinkan mereka bergerak secara lateral.
Tantangan keamanan yang muncul saat mengaktifkan alat AI generasi baru meliputi:
- Karyawan memiliki akses ke terlalu banyak data
- Data sensitif sering kali tidak diberi label atau diberi label yang salah
- Orang dalam dapat dengan cepat menemukan dan mengekstrak data menggunakan bahasa alami
- Penyerang dapat menemukan rahasia untuk peningkatan hak istimewa dan pergerakan lateral
- Akses penyesuaian ukuran tidak mungkin dilakukan secara manual
- AI generatif dapat membuat data sensitif baru dengan cepat
Tantangan keamanan data ini bukanlah hal baru, tetapi sangat dapat dieksploitasi, mengingat kecepatan dan kemudahan AI generasi menampilkan informasi.
Cara menghentikan pelanggaran AI pertama Anda
Langkah pertama dalam menghilangkan risiko yang terkait dengan gen AI adalah memastikan rumah Anda teratur.
Merupakan ide yang buruk untuk membiarkan kopilot bebas dalam organisasi Anda jika Anda tidak yakin mengetahui di mana Anda menyimpan data sensitif, apa saja data sensitif tersebut, tidak dapat menganalisis paparan dan risiko, dan tidak dapat menutup celah keamanan serta memperbaiki kesalahan konfigurasi secara efisien.
Setelah Anda menguasai keamanan data di lingkungan Anda dan proses yang tepat telah diterapkan, Anda siap meluncurkan kopilot.
Pada titik ini, Anda harus fokus pada izin, label, dan aktivitas manusia.
- Izin: Pastikan izin pengguna Anda berukuran tepat dan akses kopilot mencerminkan izin tersebut.
- Label: Setelah Anda memahami data sensitif apa yang Anda miliki dan apa saja data sensitif tersebut, Anda dapat menerapkan label padanya untuk menegakkan DLP.
- Aktivitas manusia: Sangat penting untuk memantau bagaimana karyawan menggunakan kopilot dan meninjau setiap perilaku mencurigakan yang terdeteksi. Memantau perintah dan file yang diakses pengguna sangat penting untuk mencegah kopilot dieksploitasi.
Mengintegrasikan ketiga area keamanan data ini bukanlah hal yang mudah dan tidak dapat dilakukan hanya dengan upaya manual. Hanya sedikit organisasi yang dapat mengadopsi kopilot AI generasi baru dengan aman tanpa pendekatan holistik terhadap keamanan data dan kontrol khusus untuk kopilot itu sendiri.
Cegah pelanggaran AI dengan Varonis
Varonis membantu pelanggan di seluruh dunia melindungi hal terpenting: data mereka. Kami menerapkan keahlian mendalam kami untuk melindungi organisasi yang berencana menerapkan AI generatif.
Jika Anda baru memulai perjalanan AI generasi Anda, cara terbaik untuk memulai adalah dengan paket gratis kami Penilaian Risiko DataDalam waktu kurang dari 24 jam, Anda akan memperoleh tampilan real-time atas risiko data sensitif Anda untuk menentukan apakah Anda dapat mengadopsi kopilot AI generasi berikutnya dengan aman.
Untuk mempelajari lebih lanjut, jelajahi Sumber daya keamanan AI.
Disponsori dan ditulis oleh Pahlawan.
