Teknologi.id – OpenAI mengungkap insiden yang melibatkan agen kecerdasan buatan (AI) miliknya. Sebanyak 53 gambar yang diberikan pengguna ChatGPT diketahui diposting oleh agen AI OpenAI ke situs hosting gambar di internet.
OpenAI mengatakan gambar tersebut diposting dalam bentuk tautan yang tidak tercantum secara publik atau unlisted. Meski tidak ditampilkan secara terbuka, gambar tetap dapat ditemukan melalui internet.
Sebagian besar gambar yang terdampak telah berhasil dihapus. OpenAI juga masih bekerja sama dengan penyedia layanan hosting untuk menghapus gambar yang masih tersisa.
Baca juga: Meta Muse Charm Resmi Diperkenalkan, Gadget AI 5G Mirip Tamagotchi
53 Gambar Pengguna ChatGPT Diposting ke Internet
Menurut OpenAI, terdapat 53 gambar yang sebelumnya diberikan pengguna kepada ChatGPT kemudian diposting oleh agen AI ke situs hosting gambar.
Perusahaan belum mengungkap isi dari gambar-gambar tersebut. OpenAI juga tidak menjelaskan apakah gambar tersebut merupakan foto orang sungguhan atau gambar yang dibuat menggunakan AI.
Waktu ketika gambar-gambar tersebut diposting juga belum diungkapkan.
Yang sudah dikonfirmasi adalah gambar tersebut diposting sebagai tautan yang tidak terdaftar secara publik. Artinya, gambar tidak muncul sebagai konten publik biasa di situs hosting, tetapi tetap bisa ditemukan dan diakses melalui tautannya.
OpenAI mengatakan sebagian besar konten telah berhasil diturunkan dan perusahaan masih meminta penyedia hosting untuk menghapus sisanya.
Mengapa Agen OpenAI Bisa Mengakses Gambar Pengguna?
OpenAI menjelaskan bahwa gambar tersebut berasal dari data pengguna yang sebelumnya masuk ke lingkungan yang digunakan untuk pengembangan dan pelatihan model AI.
Untuk pengguna konsumen, sebagian percakapan dan data dapat digunakan untuk melatih model jika pengguna tidak memilih untuk menonaktifkan penggunaan data tersebut. Sementara itu, data pengguna Enterprise tidak digunakan untuk melatih model secara default.
OpenAI mengatakan data yang digunakan untuk pelatihan menjalani proses anonimisasi. Proses tersebut bertujuan menghapus informasi seperti metadata, nama, dan informasi kontak agar data lebih sulit dikaitkan kembali dengan pengguna tertentu.
Namun, dalam kasus 53 gambar ini, OpenAI mengatakan pihaknya tidak dapat mengidentifikasi kembali pengguna yang memberikan gambar tersebut. Akibatnya, perusahaan juga tidak dapat memberi tahu pengguna terdampak secara individual.
OpenAI Temukan Banyak Aktivitas Agen yang Tidak Diinginkan
Kebocoran gambar tersebut bukan satu-satunya aktivitas agen AI OpenAI yang sedang diselidiki.
OpenAI saat ini melakukan peninjauan terhadap berbagai insiden ketika agen AI melakukan tindakan yang tidak diharapkan. Pada pertengahan September, seseorang yang mengetahui penyelidikan tersebut memperkirakan sudah ada sekitar dua lusin insiden.
Jumlah tersebut kemudian terus bertambah karena tim OpenAI masih memeriksa log aktivitas agen dan menemukan kasus-kasus lain yang sebelumnya belum diketahui.
OpenAI mengatakan proses peninjauan secara keseluruhan dapat membutuhkan waktu berbulan-bulan. Perusahaan juga telah memberi tahu puluhan pihak mengenai aktivitas agen yang tidak semestinya.
Agen AI OpenAI Juga Mengakses Situs Pemerintah AS
Pada saat yang hampir bersamaan, OpenAI mengonfirmasi bahwa agen AI miliknya juga mengakses sejumlah situs pemerintah Amerika Serikat.
Beberapa di antaranya adalah situs Securities and Exchange Commission (SEC) dan Departemen Perdagangan AS. Dalam salah satu kasus, agen tersebut mengakses data dari Biro Sensus AS yang tersedia melalui Departemen Perdagangan.
OpenAI juga sedang menyelidiki upaya akses terhadap situs Departemen Pendidikan AS.
Namun, penting untuk membedakan aktivitas tersebut dengan pembobolan data pribadi. Tidak semua situs yang diakses berisi informasi nonpublik, sehingga akses terhadap situs pemerintah tersebut tidak otomatis berarti terjadi pencurian data.
Agen OpenAI Sebelumnya Bobol Portal Pemerintah Australia
Salah satu kasus lain yang mendapat perhatian terjadi di Australia.
Pada Juni 2026, agen AI OpenAI mendapatkan akses tanpa izin ke infrastruktur di balik Medicare Statistics Reporting Service Portal, sebuah portal publik yang dikelola Services Australia.
Pemerintah Australia menjelaskan bahwa agen tersebut sedang menjalankan tugas penelitian mengenai pengeluaran obat. Setelah permintaan informasi tertentu ditolak, agen kemudian melakukan tindakan yang tidak sesuai dan mendapatkan akses tanpa izin ke portal tersebut.
Meski terdengar serius, pemerintah Australia menegaskan bahwa tidak ada data medis individu yang diakses. Portal tersebut berisi data statistik Medicare dan Pharmaceutical Benefits Scheme dalam bentuk agregat, bukan data klaim atau informasi pribadi pasien.
Investigasi terhadap insiden tersebut masih berlangsung untuk mengetahui secara lengkap sistem apa saja yang terdampak.
Berawal dari Insiden Hugging Face
Rangkaian penyelidikan ini semakin meluas setelah OpenAI sebelumnya mengungkap insiden yang melibatkan Hugging Face.
Pada Juli 2026, agen OpenAI diketahui melakukan aktivitas yang tidak diharapkan terhadap platform AI tersebut. Setelah insiden itu, OpenAI menerapkan sejumlah prosedur keamanan baru dan melakukan pemeriksaan terhadap aktivitas agen di lingkungan internalnya.
Dari pemeriksaan tersebut kemudian ditemukan berbagai aktivitas lain yang sebelumnya tidak diketahui, termasuk kasus ketika agen mengakses sistem eksternal dan memposting gambar pengguna ke situs internet.
OpenAI kini masih berusaha menentukan cakupan lengkap dari aktivitas agen tersebut.
Kenapa Agen AI Bisa Bertindak di Luar Perintah?
Agen AI berbeda dari chatbot biasa karena dapat diberi kemampuan untuk melakukan tindakan secara mandiri.
Dalam lingkungan tertentu, agen dapat menggunakan browser, mengakses situs, mengambil informasi, menjalankan kode, hingga berinteraksi dengan layanan lain untuk menyelesaikan tugas.
Kemampuan tersebut membuat agen AI dapat menangani pekerjaan yang lebih kompleks. Namun, semakin banyak akses yang diberikan, semakin besar pula kebutuhan terhadap sistem pengamanan agar agen tidak melakukan tindakan di luar tujuan yang diberikan.
Rangkaian kasus OpenAI menunjukkan tantangan tersebut. Perusahaan bahkan mengatakan masih membutuhkan waktu berbulan-bulan untuk menyelesaikan pemeriksaan terhadap aktivitas agen-agennya.
Baca juga: Trump Ganti Nama AI Jadi “Super Intelligence”, Ini Alasannya
OpenAI Masih Menyelidiki Insiden
OpenAI belum menjelaskan secara rinci bagaimana agen AI bisa mengambil 53 gambar pengguna dan kemudian mempostingnya ke situs eksternal.
Perusahaan juga belum mengungkap kapan gambar tersebut diposting atau berapa lama gambar-gambar itu tersedia di internet.
Untuk saat ini, OpenAI memastikan bahwa 53 gambar yang diberikan pengguna ChatGPT telah diposting oleh agen AI ke situs hosting gambar dalam bentuk tautan yang tidak terdaftar secara publik.
Sebagian besar gambar telah dihapus dan OpenAI masih berupaya menghapus sisanya.
Kasus ini menjadi salah satu contoh terbaru mengenai tantangan keamanan AI agent. Ketika AI tidak hanya memberikan jawaban, tetapi juga memiliki kemampuan untuk melakukan tindakan sendiri, pengawasan terhadap setiap aktivitas agen menjadi semakin penting.
Baca Berita dan Artikel yang lain di Google News.
(dwk)
