Kepala futuris OpenAI, Joshua Achiam, memberi tahu rekan-rekannya pada hari Selasa bahwa dia akan meninggalkan perusahaan akhir bulan ini setelah hampir sembilan tahun, WIRED mengetahui. Achiam yang sebelumnya memimpin tim yang bertugas menjunjung tinggi organisasi tersebut misi nirlabamengatakan kepada staf OpenAI bahwa kepergiannya tidak dimotivasi oleh alasan tertentu, tetapi merupakan sesuatu yang telah dia pikirkan selama beberapa waktu.
“Dunia sedang mengetahui rahasianya sekarang dan rasanya mungkin untuk mengerjakan misi dari luar laboratorium perbatasan,” kata Achiam dalam catatan kepada staf yang diperoleh WIRED. “Saya percaya kita bisa mencapai dunia yang damai, kemakmuran yang belum pernah terjadi sebelumnya, dan kemungkinan-kemungkinan yang tak terbayangkan, baik secara sosial maupun ilmiah. Apa pun yang saya lakukan selanjutnya, saya akan terus bekerja sama dengan Anda untuk mewujudkan visi ini.”
OpenAI belum mengumumkan apakah ada orang yang akan mengisi peran Achiam, yang bertugas di tim keamanan dan kebijakan AI perusahaan, dan terlibat dalam mempelajari potensi kerugian dan manfaat yang disebabkan oleh kebangkitan kecerdasan buatan. Achiam bekerja dengan para pemimpin senior perusahaan, termasuk kepala urusan global Chris Lehaneuntuk mengadvokasi peraturan pemerintah yang selaras dengan misi OpenAI: memastikan bahwa AGI bermanfaat bagi seluruh umat manusia.
OpenAI telah mengatur ulang tim keamanan, produk, dan penelitiannya banyak sekali kali sejak ChatGPT diluncurkan pada tahun 2022, setelah itu perusahaan tersebut berkembang pesat dari laboratorium penelitian kecil menjadi perusahaan teknologi besar. Pada tahun 2024, OpenAI mengumumkan pembentukan “tim penyelarasan misi” yang dipimpin oleh Achiam yang bertugas menegakkan misi perusahaan. OpenAI membubarkan grup tersebut pada bulan Februari dan mengumumkan bahwa Achiam akan mengambil peran baru sebagai kepala futuris.
Pada tahun lalu, OpenAI telah berupaya menjembatani kesenjangan antara penelitian AI dan tim kebijakan sebagai bagian dari upaya mengembangkan aturan dan standar yang mengantisipasi arah teknologinya. Ketika kedua departemen mulai berkolaborasi lebih erat, beberapa peneliti OpenAI, termasuk Boaz Barak, Noam Brown, dan Adrien Ecoffet mengatakan bahwa mereka semakin terlibat dalam upaya kebijakan.
Mantan penasihat AI Gedung Putih Dean Ball dimulai di OpenAI minggu ini sebagai kepala masa depan strategis perusahaan, dan dia akan sebentar bekerja sama dengan Achiam. Ball juga diharapkan bekerja sama dengan peneliti dan pemimpin kebijakan dalam perannya.
Achiam adalah pemimpin terbaru yang berfokus pada keselamatan yang meninggalkan OpenAI, bergabung dengan daftar keluar yang terus bertambah sebagai perusahaan bersiap untuk go public. Jan Leike, yang ikut memimpin tim Superalignment OpenAI yang meneliti cara menjaga model AI canggih tetap berada di bawah kendali manusia, keluar untuk bergabung dengan Anthropic pada tahun 2024.
Pada tahun yang sama, kepala penelitian kebijakan Miles Brundage dan Steven Adler, yang memimpin penelitian tentang kemampuan model AI yang berbahaya, keduanya meninggalkan OpenAI untuk mendirikan organisasi nirlaba yang mengadvokasi laboratorium AI untuk mematuhi standar keselamatan dan keamanan yang kuat. Andrea Valloneyang memimpin penelitian OpenAI tentang bagaimana seharusnya ChatGPT merespons pengguna mengalami tekanan mental atau emosionaltersisa untuk bergabung dengan tim Leike di Anthropic pada akhir tahun 2025.
Setelah bergabung dengan OpenAI sebagai pekerja magang pada tahun 2017, Achiam kemudian menjadi ilmuwan riset yang berfokus pada keamanan AI. Dia dikenal secara internal sebagai pembela setia misi OpenAI yang berfokus pada keselamatan, namun juga kontroversial karena pernyataannya. kritik sesekali komunitas keamanan AI yang lebih luas.
Awal tahun ini, dia bersaksi di pengadilan federal bahwa dia menyela pidato perpisahan Elon Musk ketika dia meninggalkan OpenAI pada tahun 2018, dengan mengatakan bahwa rencana miliarder saat itu untuk mengembangkan AGI di Tesla dapat mengorbankan keselamatan. Musk diduga merespons dengan menyebut Achiam sebagai “orang bodoh”, sebuah momen yang diperingati oleh Dario Amodei (sekarang CEO Anthropic) dan David Luan (yang kemudian menjadi kepala laboratorium AGI Amazon) dengan memberikan hadiah. Achiam patung pantat keledai emasbertuliskan kata-kata, “Jangan pernah berhenti bersikap bodoh demi keselamatan.”
