Ada apa di balik eksodus massal di xAI?

Beberapa hari terakhir ini merupakan perjalanan yang luar biasa bagi xAI, yang mengumpulkan pengumuman kepergian staf dan salah satu pendiri. Pada hari Selasa dan Rabu, salah satu pendiri Yuhuai (Tony) Wu diumumkan kepergiannya dan bahwa ini adalah “waktunya untuk [his] bab selanjutnya,” diikuti oleh salah satu pendiri Jimmy Ba dengan a postingan serupa kemudian pada hari itu, menulis bahwa ini adalah “waktunya untuk mengkalibrasi ulang [his] gradien pada gambaran besarnya.” Kepergian tersebut berarti xAI kini tersisa hanya setengah dari 12 pendiri awalnya sebagai staf. A nomor dari staf Juga turun ke X untuk mengumumkan bahwa mereka meninggalkan xAI, dan beberapa di antaranya mengumumkan bahwa mereka memulai perusahaan AI mereka sendiri.

Startup AI milik Elon Musk, oleh satu merger/akuisisi atau lainberada di bawah payung yang sama dengan perusahaan luar angkasanya, SpaceX, dan platform media sosialnya, X. Sejak merger SpaceX diumumkan minggu lalu, rumor beredar tentang laporan tersebut. $1,25 triliun penilaian dan rencana masa depan perusahaan all-in-one, yaitu Musk diumumkan akan melibatkan pusat data “AI berbasis ruang angkasa” dan “mesin inovasi paling ambisius dan terintegrasi secara vertikal di dalam (dan di luar) Bumi.” Dalam pertemuan internal di xAI pada hari Selasa, Musk dilaporkan berbicara tentang rencana untuk membangun pabrik dan kota satelit AI di Bulan.

Seringkali ada titik tolak alami bagi perusahaan pasca-merger, dan Musk telah mengumumkan bahwa beberapa dari kepergian tersebut merupakan reorganisasi yang “sayangnya memerlukan perpisahan dengan beberapa orang.” Namun ada juga tanda-tanda bahwa orang-orang tidak menyukai arah yang diambil Musk.

Salah satu sumber yang berbicara dengan Tepi tentang kejadian di dalam perusahaan, yang keluar awal tahun ini dan meminta anonimitas karena takut akan pembalasan, mengatakan bahwa banyak orang di perusahaan kecewa dengan fokus xAI pada Kreasi NSFW Grok dan mengabaikan keselamatan. Sumber tersebut juga merasa bahwa perusahaan tersebut “terjebak dalam fase mengejar ketertinggalan” dan tidak melakukan sesuatu yang baru atau berbeda secara mendasar dari para pesaingnya. “Meskipun kami melakukan iterasi dengan sangat cepat, kami tidak pernah bisa sampai pada titik seperti, ‘Oh, kami telah melakukan perubahan fungsi langkah atas apa yang telah dirilis oleh OpenAI atau Anthropic atau perusahaan lain,’” katanya.

Penggabungan SpaceX berarti pemegang saham xAI dilaporkan dikeluarkan $250 miliar dalam bentuk saham baru, sehingga karyawan dengan ekuitas seolah-olah memiliki lebih banyak landasan untuk mendanai ide-ide mereka sendiri. Salah satu mantan karyawan, Vahid Kazemi, menulis pada X bahwa “semua laboratorium AI membuat hal yang sama persis, dan itu membosankan. Saya pikir masih ada ruang untuk lebih banyak kreativitas. Jadi, saya memulai sesuatu yang baru.” Mantan staf lainnya dikatakan dia meninggalkan perusahaan untuk “membangun sesuatu yang baru, fokus pada percepatan ilmu pengetahuan.”

Namun mantan karyawan lainnya mengatakan dia meluncurkan perusahaan infrastruktur AI bernama Nuraline bersama mantan karyawan xAI lainnya. Dia menulis“Selama berada di xAI, saya dapat melihat jalan yang jelas menuju pendakian bukit, masalah apa pun yang dapat didefinisikan dengan cara yang terukur. Pada saat yang sama, saya telah melihat bagaimana kecerdasan mentah dapat dilobotomi oleh kesalahan manusia yang paling kecil… Pembelajaran tidak boleh berhenti pada bobot model, namun terus meningkatkan setiap bagian dari sistem AI.”

Musk memposting a rekaman dari pertemuan internal xAI selama 45 menit yang mengumumkan perubahan tersebut, menambahkan bahwa xAI akan dikategorikan ke dalam empat bidang utama: Grok Main and Voice (model utama Grok AI), Coding, Imagine (gambar dan video), dan Macrohard (“yang dimaksudkan untuk melakukan emulasi digital penuh terhadap seluruh perusahaan,” kata Musk).

Sumber yang berangkat awal tahun ini mengatakan peralihan Grok ke konten NSFW sebagian disebabkan oleh pemecatan tim keselamatan, dengan sedikit atau tidak ada sisa proses peninjauan keselamatan untuk model tersebut selain filter dasar untuk hal-hal seperti CSAM. “Keselamatan adalah organisasi mati di xAI,” katanya. Melihat bagan organisasi yang direstrukturisasi yang dibagikan Elon Musk di X, tidak disebutkan tentang tim keselamatan. Sumber tersebut juga mengatakan bahwa selama berada di xAI, dia merasa kepemimpinan memiliki banyak perbedaan pendapat mengenai fitur produk mana yang harus diprioritaskan dan pertikaian terkadang menghambat kemajuan. Banyak keputusan tentang apa yang akan dikirimkan terjadi melalui obrolan grup semua perusahaan di X dengan Musk di dalamnya, katanya.

Sumber kedua, yang meninggalkan xAI sebelum restrukturisasi baru-baru ini dan meminta untuk tidak disebutkan namanya, mengutarakan pendapat bahwa perusahaan Musk sedang mengejar ketertinggalan. “Mencoba melakukan apa yang dilakukan OpenAI setahun yang lalu bukanlah cara Anda mengalahkan OpenAI,” katanya. “Semuanya mengejar ketertinggalan. Hampir tidak ada pertaruhan yang berisiko. Jika sesuatu belum dilakukan sebelumnya, kami tidak akan melakukannya.”

Dia juga menyebutkan kurangnya fokus keselamatan xAI, sebuah masalah yang juga disoroti pelaporan oleh Washington Post awal bulan ini.

“Tidak ada keamanan apa pun di perusahaan – tidak dalam gambarannya [model]bukan di chatbot,” kata sumber kedua. “Dia [Musk] secara aktif mencoba membuat model tersebut lebih tidak terpengaruh karena keselamatan berarti penyensoran, dalam arti tertentu, baginya.”

Sumber kedua juga mengatakan para insinyur di xAI segera “mendorong produksi[uction]” dan untuk waktu yang lama, tidak ada tinjauan manusia yang terlibat.

“Anda bertahan hidup dengan diam dan melakukan apa yang diinginkan Elon,” katanya.