- Model Llama Nemotron Nvidia dikembangkan dengan cepat, kata Jonathan Cohen, Wakil Presiden Penelitian Terapan.
- Kecepatannya berkat para peneliti di seluruh perusahaan yang bersedia “menyerahkan komputasi mereka.”
- “Hari -hari ini, mata uang dalam peneliti AI mana pun adalah berapa banyak GPU yang mereka dapatkan,” katanya dalam sebuah wawancara.
Di dunia penelitian AI, kecepatan pembangunan sebagian besar dibatasi oleh sumber daya komputasi yang tersedia, menurut Jonathan Cohen, Wakil Presiden Penelitian Terapan di Nvidia.
“Hari -hari ini, mata uang dalam peneliti AI mana pun adalah berapa banyak GPU yang mereka dapatkan aksesnya, dan itu tidak kurang benar di Nvidia daripada di perusahaan lain,” kata Cohen dalam sebuah wawancara tentang Pengembang nvidia.
Cohen memimpin tim yang bertanggung jawab untuk mengembangkan nvidia Hubungi Nemotron keluarga model. Dirilis pada bulan Maret tahun ini, mereka mewakili masuknya perusahaan ke dunia “pemikiran“Sistem AI.
Kecepatan di mana para model datang bersama -sama luar biasa, kata Cohen, mengambil “tidak lebih dari satu hingga dua bulan.” Dia sebagian memuji efisiensi perkembangan mereka kepada pekerja lain yang bersedia mengorbankan kekuatan pemrosesan mereka.
“Jadi, ada banyak peneliti yang tanpa pamrih sepakat untuk melepaskan mereka menghitung Sehingga kita bisa mendapatkan model Llama Nemotron ini dilatih secepat yang kita lakukan, “katanya.
Cohen juga mengaitkan kecepatan pengembangan dengan Nvidia Budaya di seluruh perusahaan memprioritaskan proyek besar, terlepas dari tujuan tim saat ini.
“Bagaimana Anda memiliki tim untuk melakukan sesuatu yang belum pernah Anda lakukan sebelumnya? Bagian dari budaya perusahaan adalah – kami menyebutnya ‘segerombolan’ – di mana Anda mengidentifikasi, ‘Ini adalah sesuatu yang penting,’” katanya. “Dan semua orang, setiap manajer yang memiliki orang yang mungkin dapat berkontribusi, pikirkan, ‘Apakah hal baru ini lebih penting daripada hal saat ini yang dilakukan semua orang di tim saya?’”
Jika manajer dapat menyisihkan siapa pun, mereka akan “menyumbangkan” laporan langsung mereka ke prioritas baru.
“Llama Nemotron akhirnya menjadi upaya yang sangat silang, lintas tim,” tambah Cohen. “Kami memiliki orang -orang dari seluruh perusahaan yang bekerja bersama tanpa struktur organisasi formal.”
Llama Nemotron membutuhkan serangkaian pengorbanan, kata Cohen, baik dalam hal kekuatan komputasi dan personel-tetapi orang dapat mengesampingkan kepentingan diri sendiri untuk kepentingan keseluruhan.
“Sangat menyenangkan melihat, kepemimpinan yang hebat,” katanya. “Ada banyak pengorbanan yang dibuat orang, banyak keputusan yang sangat egois yang menyatukannya, yang luar biasa.”
NVIDIA tidak menanggapi permintaan komentar oleh Business Insider segera sebelum publikasi.
Baca selanjutnya
