Bahkan di era AI, beberapa percakapan paling baik dilakukan secara langsung.
Minggu lalu, setelah Hugging Face menderita pelanggaran keamanan yang tidak biasa melibatkan agen AI yang menjalankan model OpenAI, CEO perusahaan, Clem Delangue, menaiki penerbangan ke San Francisco untuk bertemu dengan pembuat ChatGPT.
Seminggu kemudian, dalam “semangat transparansi”, Delangue membagikan di X apa yang dia minta dari OpenAI. Dia mengatakan dia meminta startup AI terkemuka untuk melepaskan semua “jejak” agen jahat tersebut untuk dipelajari oleh publik dan komunitas riset. Dan kemudian dia meminta “komputasi” senilai $100 juta untuk membantu Hugging Face meningkatkan pertahanan dunia mayanya.
“Serangan siber agen otonom pertama adalah peristiwa yang belum pernah terjadi sebelumnya,” tulisnya. “Ini layak mendapat tanggapan yang belum pernah terjadi sebelumnya!”
OpenAI tidak segera menanggapi permintaan komentar dari Business Insider.
Memeluk Wajah mengoperasikan platform yang banyak digunakan yang memungkinkan pengembang dan perusahaan untuk menghosting, berbagi, dan mengunduh model dan kumpulan data AI. OpenAI, sementara itu, membuat model berpemilik, tetapi tetap mempertahankan kehadirannya di Hugging Face, yang menyediakan versi dari beberapa model terbuka dan materi penelitiannya.
Namun minggu lalu, Hugging Face mengalami pelanggaran keamanan ketika seorang agen AI otonom mengakses beberapa kumpulan data internalnya. Penyebabnya: model terbaru OpenAI, GPT‑5.6 Sol, dan model baru yang belum dirilis.
Hugging Face pertama kali mengungkapkan intrusi tersebut pada 16 Juli, dengan mengatakan bahwa agen otonom telah mengakses sejumlah data internal dan kredensial layanan.
Lima hari kemudian, OpenAI mengatakan hal itu GPT-5.6 Sol dan model yang lebih kuat dan belum dirilis telah menjalani evaluasi keamanan siber internal dengan beberapa pembatasan keamanan yang dikurangi. Model-model tersebut mencoba memecahkan ExploitGym, sebuah tolok ukur yang dirancang untuk menguji kemampuan peretasan tingkat lanjut.
OpenAI mengatakan model-model tersebut tampaknya hanya fokus pada kesuksesan di benchmark daripada sengaja menargetkan Hugging Face. Perusahaan tersebut menyebut kejadian tersebut sebagai “insiden dunia maya yang belum pernah terjadi sebelumnya” dan mengatakan pihaknya bekerja sama dengan Hugging Face dalam penyelidikannya.
Berita tentang peretasan muncul respon khawatir dari para pemimpin teknologi. Salah satu miliarder pendiri LinkedIn, Reid Hoffman, mengatakan dalam postingan X minggu lalu bahwa peretasan tersebut menandai dimulainya era baru peperangan asimetris di mana “serangan menjadi lebih murah, lebih terdistribusi, dan lebih banyak, sementara pertahanan tetap mahal, terpusat, dan dirancang untuk perang terakhir.”
Delangue, sementara itu, memanfaatkan perjalanannya ke San Francisco. Saat berada di sana, dia mengorganisir “mini march” pada hari Sabtu untuk mendukung open-source dan model AI berbobot terbuka. Perdebatan mengenai persaingan sumber terbuka dari Tiongkok, dan bagaimana Amerika Serikat akan meresponsnya, adalah kisah besar AI lainnya pada minggu lalu.
Baca selanjutnya
