Saat ini, DeepSeek adalah satu-satunya perusahaan AI terkemuka di Tiongkok yang tidak bergantung pada pendanaan dari raksasa teknologi seperti Baidu, Alibaba, atau ByteDance.
Sekelompok Muda Jenius yang Ingin Membuktikan Dirinya
Menurut Liang, ketika dia membentuk tim riset DeepSeek, dia tidak mencari insinyur berpengalaman untuk membangun produk yang dapat menjangkau konsumen. Sebaliknya, ia berfokus pada mahasiswa PhD dari universitas ternama di Tiongkok, termasuk Universitas Peking dan Universitas Tsinghua, yang ingin membuktikan diri. Banyak yang telah diterbitkan di jurnal-jurnal ternama dan memenangkan penghargaan di konferensi akademik internasional, namun tidak memiliki pengalaman industri, menurutnya publikasi teknologi Tiongkok QBitAI.
“Posisi teknis inti kami sebagian besar diisi oleh orang-orang yang lulus tahun ini atau dalam satu atau dua tahun terakhir,” Liang memberi tahu 36Kr pada tahun 2023. Strategi perekrutan membantu menciptakan budaya perusahaan yang kolaboratif di mana orang-orang bebas menggunakan sumber daya komputasi yang luas untuk melaksanakan proyek penelitian yang tidak lazim. Cara kerjanya sangat berbeda dengan perusahaan internet mapan di Tiongkok, di mana tim sering kali bersaing untuk mendapatkan sumber daya. (Contoh terbaru: ByteDance menuduh mantan pekerja magang—seorang pemenang penghargaan akademis bergengsi—yang menyabotase pekerjaan rekan-rekannya demi menimbun lebih banyak sumber daya komputasi untuk timnya.)
Liang mengatakan bahwa mahasiswa lebih cocok untuk melakukan penelitian dengan investasi tinggi dan keuntungan rendah. “Kebanyakan orang, ketika mereka masih muda, dapat mengabdikan diri mereka sepenuhnya pada sebuah misi tanpa pertimbangan utilitarian,” jelasnya. Sarannya kepada calon karyawan adalah bahwa DeepSeek diciptakan untuk “menyelesaikan pertanyaan tersulit di dunia.”
Fakta bahwa para peneliti muda ini hampir seluruhnya berpendidikan di Tiongkok menambah semangat mereka, kata para ahli. “Generasi muda ini juga mencerminkan rasa patriotisme, terutama saat mereka menghadapi pembatasan yang diterapkan AS dan titik-titik hambatan dalam teknologi perangkat keras dan perangkat lunak yang penting,” jelas Zhang. “Tekad mereka untuk mengatasi hambatan-hambatan ini tidak hanya mencerminkan ambisi pribadi tetapi juga komitmen yang lebih luas untuk memajukan posisi Tiongkok sebagai pemimpin inovasi global.”
Inovasi yang Lahir dari Krisis
Pada bulan Oktober 2022, pemerintah AS mulai menerapkan kontrol ekspor yang sangat membatasi perusahaan AI Tiongkok untuk mengakses chip mutakhir seperti H100 milik Nvidia. Perpindahan ini menimbulkan masalah bagi DeepSeek. Perusahaan ini memulai dengan persediaan 10.000 H100, namun masih memerlukan persediaan lebih banyak untuk bersaing dengan perusahaan seperti OpenAI dan Meta. “Masalah yang kami hadapi bukanlah pendanaan, tetapi kontrol ekspor chip canggih,” kata Liang kepada 36Kr dalam wawancara kedua pada tahun 2024.
DeepSeek harus menemukan metode yang lebih efisien untuk melatih modelnya. “Mereka mengoptimalkan arsitektur model mereka menggunakan serangkaian trik teknik—skema komunikasi khusus antar chip, mengurangi ukuran bidang untuk menghemat memori, dan penggunaan pendekatan campuran model secara inovatif,” kata Wendy Chang, seorang insinyur perangkat lunak yang beralih ke kebijakan analis di Mercator Institute for China Studies. “Banyak dari pendekatan ini bukanlah ide baru, namun menggabungkannya dengan sukses untuk menghasilkan model mutakhir adalah suatu prestasi yang luar biasa.”
DeepSeek juga telah mencapai kemajuan signifikan dalam Multi-head Latent Attention (MLA) dan Mixture-of-Experts, dua desain teknis yang menjadikan model DeepSeek lebih hemat biaya dengan memerlukan lebih sedikit sumber daya komputasi untuk pelatihan. Faktanya, model terbaru DeepSeek sangat efisien sehingga memerlukan sepersepuluh daya komputasi model Llama 3.1 Meta yang sebanding untuk melatih, menurut lembaga penelitian Epoch AI.
Kesediaan DeepSeek untuk membagikan inovasi ini kepada publik telah menghasilkan niat baik yang besar dalam komunitas riset AI global. Bagi banyak perusahaan AI Tiongkok, mengembangkan model open source adalah satu-satunya cara untuk mengejar ketertinggalan dari perusahaan-perusahaan Barat, karena hal ini menarik lebih banyak pengguna dan kontributor, yang pada gilirannya membantu model tersebut berkembang. “Mereka kini telah menunjukkan bahwa model-model mutakhir dapat dibuat dengan biaya yang lebih sedikit, meskipun tetap banyak, dan bahwa norma-norma pembuatan model saat ini memberikan banyak ruang untuk optimalisasi,” kata Chang. “Kami yakin akan melihat lebih banyak upaya ke arah ini di masa depan.”
Berita ini dapat menimbulkan masalah bagi kontrol ekspor AS saat ini yang berfokus pada penciptaan hambatan sumber daya komputasi. “Perkiraan yang ada mengenai seberapa besar kekuatan komputasi AI yang dimiliki Tiongkok, dan apa yang bisa mereka capai dengan teknologi tersebut, bisa saja berubah,” kata Chang.
