Rincian baru telah muncul tentang insiden keamanan di mana seorang OpenAI Model AI keluar dari lingkungan pengujiannya dan membahayakan infrastruktur Hugging Face.
Pembaruan OpenAI diterbitkan pada 28 Juli mengisi rincian yang bukan bagian dari pengungkapan asli. Agen AI juga mengidentifikasi dan menggunakan kredensial yang terekspos pada empat akun di empat layanan publik lainnya, menggunakan satu akun sebagai titik relai dan satu lagi untuk penyimpanan data, sambil mengakses dua akun lainnya dalam kapasitas hanya baca. OpenAI mengatakan pihaknya telah memberi tahu pemilik layanan yang terkena dampak dan belum menemukan bukti dampak yang lebih luas terhadap platform tersebut.
Pada hari Rabu, layanan komputasi awan Modal mengidentifikasi dirinya sebagai salah satu dari empat pihak yang terkena dampak.
Namun, di pernyataannyaModal mengatakan sistemnya tidak pernah benar-benar dibobol. Menurut Modal, AI masuk melalui aplikasi milik pelanggan yang dibuat tanpa memerlukan kata sandi, sehingga kode yang dikirimkan oleh siapa pun di internet dapat dijalankan. Aktivitas AI terbatas pada ruang isolasi satu pelanggan dan tidak menyebar ke pelanggan Modal lainnya, kata perusahaan itu.
Peretasan Wajah Memeluk OpenAI pertama kali terungkap pada pertengahan Juli, ketika Hugging Face mengungkapkan adanya intrusi ke dalam sistemnya yang dijelaskannya sebagai “berbeda dari apa pun yang pernah kami tangani”, yang sepenuhnya digerakkan oleh agen AI yang otonom. OpenAI melanjutkan dengan postingan blognya sendiri yang menjelaskan bahwa pelanggaran tersebut berasal dari evaluasi internal yang dirancang untuk menguji kemampuan peretasan modelnya. Model-model yang terlibat – GPT-5.6 Sol dan prototipe yang belum dirilis, bahkan lebih mumpuni – dijalankan dengan pengurangan batasan keamanan khusus untuk pengujian dan dibatasi pada lingkungan sandbox tanpa akses internet langsung.
Kecepatan Cahaya yang Dapat Dihancurkan
Menurut OpenAI, model tersebut mengeksploitasi kelemahan keamanan yang sebelumnya tidak diketahui di Artifactory, sebuah proxy cache registri paket, untuk meningkatkan hak istimewa dan bergerak secara lateral dalam lingkungan pengujian hingga mencapai node dengan akses internet. Setelah online, AI mengetahui bahwa server Hugging Face mungkin berisi jawaban atas tes peretasan yang ingin dilewatinya. Jadi, ia menggunakan kombinasi kredensial login yang dicuri dan kelemahan keamanan tambahan untuk membobol server Hugging Face dan mencari jawabannya.
OpenAI juga mencoba menjernihkan kebingungan mengenai sistem AI mana yang terlibat. Perusahaan tersebut mengklarifikasi bahwa versi yang belum dirilis yang disebutkan dalam penjelasan aslinya adalah murni alat penelitian internal, tidak pernah dimaksudkan untuk dirilis ke publik, dan sejak itu mereka telah menutup versi tersebut sepenuhnya dan menguncinya.
Dalam pernyataan awal OpenAI, kutipan dari salah satu pendiri dan CEO Hugging Face, Clem Delangue, telah membingkai insiden tersebut sebagai bukti bahwa masalah keamanan AI lebih baik ditangani secara terbuka, dengan mengatakan bahwa situasi tersebut menunjukkan bahwa keselamatan AI “akan diselesaikan secara terbuka, secara kolaboratif, dengan akses luas terhadap AI untuk setiap pembela HAM, di mana pun.”
OpenAI, sementara itu, menyebut insiden tersebut “belum pernah terjadi sebelumnya” dan mengatakan pihaknya memperketat kontrol keamanan sementara penyelidikan terus berlanjut.
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April 2025 mengajukan gugatan terhadap OpenAI, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.
