Pemimpin strategi keselamatan OpenAI lainnya juga akan mengundurkan diri, bergabung dengan daftar karyawan yang terus bertambah yang telah meninggalkan tim keselamatan dan penyelarasan perusahaan dalam beberapa tahun terakhir.
Johannes Heidecke, kepala Sistem Keamanan OpenAI tim, berangkat saat perusahaan mengatur ulang pekerjaan keselamatan dan penelitiannya di bawah satu pemimpin.
“Kami berterima kasih atas kontribusi Johannes terhadap OpenAI,” Mark Chen, kepala peneliti OpenAI, mengatakan kepada Business Insider. “Kami sangat gembira untuk babak berikutnya di bawah kepemimpinan Mia Glaese di bidang penelitian dan keselamatan.”
OpenAI mengatakan akan mengintegrasikan keselamatan lebih dalam ke seluruh tim penelitiannya di bawah Glaese, yang kini akan menjabat sebagai wakil presiden penelitian dan keselamatan.
Reorganisasi ini dilakukan ketika OpenAI mempertimbangkan kembali hubungan antara penelitian dan upaya keselamatannya. Seorang juru bicara mengatakan kepada Business Insider bahwa “Anda tidak dapat membuat keputusan keselamatan yang baik tanpa memahami kemampuan model yang mendasarinya, dan Anda tidak dapat membuat keputusan penelitian yang baik tanpa memahami implikasi keselamatan.”
Misi OpenAI adalah memastikan hal itu kecerdasan umum buatan — ketika akhirnya tiba — bermanfaat bagi seluruh umat manusia. “Keselamatan – praktik yang memungkinkan dampak positif AI dengan memitigasi dampak negatif – merupakan inti dari misi kami,” kata perusahaan tersebut.
Namun, OpenAI memiliki rekam jejak yang buruk dalam mempertahankan pemimpin tertinggi dalam bidang keselamatan, dan beberapa karyawan yang keluar secara terbuka mempertanyakan komitmen OpenAI terhadap pekerjaan tersebut.
Ketika Jan Leike, yang pernah memimpin tim superalignment OpenAI, mengundurkan diri pada Mei 2024, dia mengatakan perusahaan tersebut memprioritaskan peluncuran produk daripada memastikan keamanannya.
“Selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan dibandingkan produk yang berkilau,” tulis Leike dalam postingan di X pada saat itu. Dia mengatakan OpenAI perlu mencurahkan lebih banyak sumber daya untuk mempersiapkan model masa depan dan bahwa membangun mesin yang lebih pintar dari manusia adalah “usaha yang pada dasarnya berbahaya.”
Salah satu pendiri antropis Dario Amodei adalah wakil presiden penelitian OpenAI sebelum ia mengundurkan diri pada tahun 2020 karena ketidaksepakatan mengenai arah dan pendekatan perusahaan terhadap keselamatan AI. Dia memulai Anthropic setahun kemudian sebagai pembuat model AI yang berkomitmen terhadap keselamatan.
Anthropic juga mengalami kemunduran, terutama pada bulan Februari ketika Mrinank Sharm, yang memimpin Tim Riset Safeguards, keluar dan secara terbuka memperingatkan bahwa perusahaan AI menghadapi tekanan untuk “mengesampingkan hal yang paling penting.” Dylan Scand, seorang peneliti keamanan Antropik, juga mengundurkan diri pada tahun ini Kepala kesiapan OpenAI.
Namun, kepemimpinan keselamatan inti Anthropic sebagian besar tetap utuh dibandingkan dengan OpenAI. Andrew Curran, seorang analis AI terkemuka, menyebut pintu keamanan OpenAI yang selalu berputar membawa kutukan yang mengacu pada Harry Potter.
Berikut delapan pemimpin tim OpenAI yang berfokus pada keselamatan yang mengundurkan diri dalam beberapa tahun terakhir.
Ilya Sutskever, salah satu pendiri
Sutskever, salah satu pendiri OpenAI dan kepala ilmuwan lamanya, keluar pada Mei 2024. Dia ikut memimpin perusahaan Inisiatif penyelarasan super dengan Leike, yang diciptakan untuk mengembangkan metode pengendalian AI super cerdas di masa depan.
Ketika dia pergi, dia mengatakan bahwa kemajuan OpenAI adalah “sebuah keajaiban,” dalam sebuah postingan di X. Dia kemudian mendirikan Safe Superintelligence, sebuah laboratorium AI yang didedikasikan hanya untuk namanya.
Jan Leike, salah satu pendiri
Leike pergi beberapa hari setelah Sutskever. Dia menyampaikan salah satu kritik publik yang paling langsung terhadap pendekatan OpenAI terhadap keselamatan, dengan mengatakan bahwa dia telah mencapai “titik puncaknya” setelah perselisihan berkepanjangan dengan para pemimpin.
OpenAI membubarkan Tim penyelarasan super setelah Leike dan Sutskever keluar dan mendistribusikan sisa karyawannya ke kelompok penelitian lain. Leike bergabung dengan Anthropic untuk mengerjakan penelitian penyelarasan.
Miles Brundage, penasihat senior untuk kesiapan AGI
Brundage meninggalkan OpenAI pada Oktober 2024 setelah enam tahun.
“Baik OpenAI maupun laboratorium terdepan lainnya belum siap, dan dunia juga belum siap,” tulis Brundage dalam esainya di Substack pada saat itu, mengacu pada dampak AI terhadap dunia.
Dia menulis bahwa bertahan di OpenAI merupakan kesepakatan tersirat dengan nilai-nilai perusahaan. “Siapa pun yang bekerja di OpenAI harus menganggap serius fakta bahwa tindakan dan pernyataan mereka berkontribusi terhadap budaya organisasi dan dapat menciptakan ketergantungan jalur positif atau negatif ketika organisasi mulai mengelola kemampuan yang sangat canggih,” tulisnya.
Lilian Weng, wakil presiden penelitian dan keselamatan
Weng, yang sebelumnya memimpin tim Sistem Keamanan OpenAI, meninggalkan perusahaan pada November 2024 setelah hampir tujuh tahun, menurut profil LinkedIn-nya.
Dia tidak secara terbuka menyampaikan kekhawatirannya tentang OpenAI dalam pernyataan kepergiannya. Sebaliknya, ia memuji lingkungan hidup, dengan mengatakan bahwa upaya mereka dalam “melatih model-model ini agar menjadi kuat dan bertanggung jawab telah menetapkan standar industri baru.”
Andrea Vallone, kepala penelitian keamanan model-kebijakan
Vallone keluar pada akhir tahun 2025 setelah memimpin tim yang membentuk cara model OpenAI merespons situasi sensitif, termasuk percakapan yang melibatkan ketergantungan emosional dan krisis kesehatan mental.
Kepergiannya awalnya diumumkan secara internal, dan dia tidak mengkritik OpenAI secara terbuka. Vallone kemudian bergabung dengan tim penyelarasan Anthropic untuk terus mempelajari perilaku dan keselamatan model.
Aleksander Madry, mantan kepala kesiapsiagaan
Madry bergabung dengan OpenAI untuk memimpin tim Kesiapsiagaan, yang mengevaluasi apakah model yang semakin mumpuni dapat menimbulkan risiko yang parah. Dia dikeluarkan dari peran kepemimpinan tersebut pada tahun 2024 dan mengalihkan perhatiannya ke alasan AI sebelum meninggalkan perusahaan pada Mei 2026.
Joshua Achiam, mantan kepala futuris
Achiam pergi pada bulan Juli. Dia sebelumnya memimpin Mission Alignment, sebuah grup yang dibentuk untuk memastikan pengembangan dan penerapan AI perusahaan selaras dengan misi nirlaba perusahaan.
“Tidak ada alasan spesifik mengapa saya pergi, atau alasan spesifik mengapa sekarang. Tapi itu adalah sesuatu yang telah saya pikirkan selama beberapa waktu dan rasanya benar. Dunia sedang berada dalam rahasianya sekarang dan rasanya mungkin untuk mengerjakan misi dari luar tembok laboratorium perbatasan,” tulisnya dalam postingan di X pada bulan Juli.
Johannes Heidecke, kepala Sistem Keselamatan
Heidecke bergabung dengan OpenAI pada tahun 2021 dan mengambil alih Sistem Keamanan setelah kepergian Weng. Timnya membantu mengevaluasi dan memitigasi risiko dalam model OpenAI sebelum dirilis.
Heidecke belum membuat pernyataan publik sejak rencana kepergiannya diumumkan pada hari Jumat. OpenAI mengatakan Heidecke memutuskan untuk keluar karena perusahaan tersebut mengintegrasikan kerja keselamatan lebih erat dengan organisasi penelitiannya yang lebih luas.
Baca selanjutnya
