Dua mantan OpenAI karyawan dan sekelompok organisasi nirlaba keselamatan AI memperingatkan bahwa laboratorium AI Elon Musk, xAIbisa menjadi beban bagi calon investor di luar angkasaX, yang sedang bersiap untuk mengajukan penawaran umum perdana terbesar dalam sejarah Wall Street.
Di sebuah surat ditujukan kepada investor yang diterbitkan pada hari Selasa, para mantan staf menyoroti apa yang mereka gambarkan sebagai “risiko yang tidak dapat diperkirakan” terkait dengan xAI yang dapat mempersulit rencana SpaceX yang dilaporkan untuk meningkatkan hingga $75 miliar sebagai bagian dari IPO-nya. Valuasi swasta perusahaan roket tersebut melonjak hingga lebih dari $1 triliun setelahnya mengakuisisi xAI tahun lalu. Musk mengklaim perusahaan roketnya dapat meluncurkan pusat data ke luar angkasa untuk laboratorium AI miliknya, namun penulis surat tersebut berpendapat bahwa catatan buruk xAI dalam masalah keselamatan dapat mempersulit pandangan investor terhadap perusahaan gabungan tersebut saat bersiap untuk menyerahkan proyeknya. Pengajuan prospektus IPO.
Salah satu penandatangan dan rekan penulis surat tersebut adalah organisasi nirlaba baru bernama Guidelight AI Standards, yang didirikan bersama oleh mantan peneliti keamanan OpenAI. Steven Adler dan mantan penasihat kebijakan OpenAI Page Hedley. Kelompok ini, yang didukung oleh donor swasta, bertujuan untuk meningkatkan praktik keselamatan perusahaan AI terdepan. Organisasi nirlaba keselamatan AI lainnya juga ikut serta, termasuk Legal Advocates for Safe Science and Technology, Encode AI, dan The Midas Project.
Hedley mengatakan kepada WIRED dalam sebuah wawancara bahwa dia yakin xAI memiliki praktik keselamatan terburuk “hampir secara keseluruhan” dibandingkan dengan pengembang AI terdepan lainnya, termasuk OpenAI, Google DeepMind, dan Anthropic. Akibatnya, menurutnya, SpaceX mungkin menghadapi risiko regulasi dan litigasi yang lebih besar dibandingkan laboratorium AI lainnya.
Penulis surat tersebut berpendapat bahwa SpaceX harus melakukan beberapa pengungkapan kepada investor, termasuk apakah xAI bermaksud untuk terus mengembangkan model AI terdepan. SpaceX baru-baru ini mencapai kesepakatan untuk menjual sebagian besar kapasitas GPU-nya ke Anthropicdan surat tersebut mengklaim bahwa perjanjian tersebut “masih belum jelas apakah xAI masih menjadi pesaing AI terdepan dalam perusahaan induk yang lebih besar.” Jika xAI terus mengembangkan model AI terdepan, menurut penulisnya, xAI harus menerbitkan rencana keselamatan dan tata kelola publik.
SpaceX dan xAI tidak segera menanggapi permintaan komentar WIRED.
Surat tersebut juga menguraikan contoh bagaimana xAI tidak mengikuti praktik keselamatan standar industri seperti menerbitkan kerangka kerja terperinci untuk memitigasi risiko seputar model AI yang digunakan dalam serangan siber. Para penulis juga menguraikan insiden keselamatan spesifik di xAI yang menurut mereka memerlukan pengawasan tambahan. Di antara yang paling menonjol adalah ketika chatbot AI andalan xAI, Grok, secara spontan mengangkat genosida kulit putih dalam tanggapannya. Dalam kasus lain, xAI memungkinkan Grok menghasilkan ribuan gambar seksual perempuan dan anak-anakyang tersebar luas di platform media sosial Musk X. Kasus terakhir menjadi pemicunya setidaknya 37 jaksa agung AS untuk mengirim surat yang menuntut agar laboratorium AI Musk mengambil langkah-langkah untuk melindungi perempuan dan anak-anak di platformnya.
Hedley mengatakan jumlah insiden keselamatan yang dialami xAI dan perhatian regulasi yang mereka terima “jauh di luar proporsi pangsa pasarnya.” Ketika para pembuat undang-undang semakin khawatir dengan kemampuan siber model AI yang canggih seperti Claude Mythos dari Antropisperaturan keamanan baru mungkin akan segera hadir. Pemerintahan Trump dilaporkan sudah melakukannya menimbang perintah eksekutif Hal ini akan memberikan badan intelijen AS pengawasan yang lebih besar terhadap model AI.
“Dibutuhkan investasi serius untuk mengendalikannya [AI safety] risiko, dan tampaknya xAI secara historis kurang berinvestasi di sini,” kata Adler. Surat tersebut mengutip laporan dari The Washington Post yang mengatakan xAI baru saja “dua atau tiga” orang-orang yang bekerja di bidang keselamatan pada bulan Januari. “Pertanyaan yang harus ditanyakan oleh investor adalah jika xAI tetap menjadi yang terdepan, seberapa besar biaya yang harus dikeluarkan untuk mengelola hal ini. [risks] secara bertanggung jawab? Jika tidak, apa konsekuensinya?”
Surat tersebut mengakui bahwa laboratorium AI Musk telah melakukan beberapa perbaikan terkait keselamatan baru-baru ini, seperti memperluas perjanjian yang sudah ada dengan Gedung Putih untuk mengizinkan pengujian model AI-nya sebelum diterapkan secara publik. Namun, penulis mengatakan diperlukan lebih banyak pengungkapan agar investor dapat sepenuhnya menilai risiko keselamatan AI yang terkait dengan SpaceX.
“Catatan sejarah xAI cukup serius sehingga memerlukan pengawasan; hal ini tidak dengan sendirinya menutup masa depan yang lebih baik bagi perusahaan,” demikian isi surat tersebut.
Pengawas Baru
Adler dan Hedley mengatakan Guidelight AI Standards bertujuan untuk menciptakan tolok ukur seragam baru yang dapat diikuti oleh laboratorium AI. Mereka juga ingin menawarkan penilaian yang jelas mengenai praktik keselamatan AI yang dapat dengan mudah dipahami oleh orang-orang di luar dunia AI, seperti pembuat kebijakan, investor, dan jurnalis. Surat tentang xAI adalah tindakan publik pertama mereka dalam hal ini.
Para pendiri mengatakan pengalaman mereka bekerja di OpenAI menginspirasi mereka untuk meluncurkan organisasi nirlaba yang mereka harap dapat membantu menjaga akuntabilitas laboratorium AI sebagai pihak ketiga yang independen.
“Saat saya berada di OpenAI, salah satu kabar terbaru bagi saya adalah bahwa orang-orang di dalam juga mengkhawatirkan hal ini. Mereka tidak memiliki semua jawaban,” kata Hedley, yang meninggalkan pembuat ChatGPT pada tahun 2019.
Adler, yang mengundurkan diri dari OpenAI pada tahun 2024, mengatakan bahwa ada tekanan yang signifikan di dalam laboratorium AI komersial untuk menangani masalah keselamatan dengan cepat, yang menurutnya sering kali merupakan hal yang tepat untuk memperkenalkan teknologi tersebut ke seluruh dunia. “Pada saat yang sama, ada beberapa permasalahan—jika Anda mendengarkan staf keselamatan di dalam perusahaan—yang tidak dapat Anda tangani hanya pada waktunya,” katanya.
