Chip baru Google merupakan peluang bagi Nvidia – dan merupakan petunjuk besar tentang arah kemajuan AI selanjutnya

Google pada hari Rabu meluncurkan chip AI generasi terbaru, dan untuk pertama kalinya, chip tersebut membagi lini menjadi dua area fokus: pelatihan dan inferensi.

milik Google Unit Pemrosesan Tensor (TPU) telah berkembang menjadi pesaing yang kredibel terhadap chip Nvidia, yang masih menjadi silikon dominan di industri AI. Anthropic adalah pelanggan TPU yang besar, dan Apple telah menggunakan chip tersebut untuk melatih model AI-nya.

Saat medan pertempuran AI beralih ke inferensi – proses menjalankan model setelah diterapkan – Google merespons dengan tepat.

TPU 8t baru Google dirancang untuk melatih model AI perbatasan terbesar, sedangkan TPU 8i dibuat untuk inferensi. Google mengatakan kedua chip tersebut akan tersedia akhir tahun ini.

Perpecahan ini menandakan adanya pergeseran yang terjadi di seluruh industri. Seiring dengan peningkatan kualitas model dan laboratorium terkemuka yang telah menutup kesenjangan satu sama lain, fokus beralih ke agen dan aplikasi yang berjalan di atas model dan memerlukan lebih banyak daya komputasi. Hal ini menggeser pusat ekonomi AI naik tumpukan ke lapisan inferensi.

Nvidia juga telah mempersiapkan ledakan inferensi. Ini mencapai kesepakatan lisensi senilai $20 miliar dengan pembuat chip inferensi Groq akhir tahun lalu, dan bulan lalu memulai debutnya chip baru yang dirancang untuk inferensi lebih cepat.

Google mengatakan kedua chip barunya merupakan lompatan maju dari Ironwood TPU generasi ketujuh, yang diluncurkan tahun lalu. Chip inferensi 8i yang baru membuat lompatan besar dalam memori bandwidth tinggi (HBM). Google mengatakan ini memecahkan “dinding memori” – kesenjangan antara seberapa cepat prosesor dapat melakukan perhitungan dan seberapa cepat prosesor dapat mengakses data yang dibutuhkan. Untuk menjalankan agen, itu penting.

Mulai dari menjawab pertanyaan hingga mengambil tindakan

Berbicara kepada wartawan pada hari Senin, CEO Google Cloud Thomas Kurian menyebut keputusan untuk membuat dua chip baru sebagai “evolusi alami.”

Kurian juga mengatakan chip baru ini dirancang agar efisien dalam hal jumlah daya yang digunakan “karena kami merasa bahwa efisiensi daya akan menjadi kendala karena orang terus meningkatkan pelatihan dan inferensi.”

Ini juga merupakan pertaruhan Google agen akan menjadi lompatan AI besar berikutnya.

“AI berevolusi dari menjawab pertanyaan menjadi berpikir dan mengambil tindakan,” kata kepala infrastruktur Google Amin Vahdat dan Mark Lohmeyer dalam postingan blog yang mengumumkan chip baru tersebut.

Google, Amazon, dan Microsoft berlomba-lomba membuat silikon khusus yang dapat mengurangi ketergantungan mereka pada Nvidia. Pada saat yang sama, perusahaan-perusahaan ini mengandalkan Nvidia untuk melatih model mereka atau menyewakan chip Nvidia kepada pelanggan melalui pusat data mereka.

Google telah melatih model Gemini menggunakan chip TPU miliknya sendiri, tetapi Google menjual akses ke chip Nvidia melalui Google Cloud. Google mengatakan akan memberi pelanggan akses ke GPU Vera Rubin generasi berikutnya dari Nvidia akhir tahun ini.

Google telah menghabiskan lebih dari satu dekade mengembangkan silikonnya sendiri, namun telah meningkatkan upaya tersebut secara internal selama beberapa tahun terakhir dalam upayanya menarik pelanggan baru. Misalnya saja membuka dukungan untuk alat seperti PyTorch yang memudahkan perusahaan untuk mengadopsi TPU.

Hal ini dapat membantu Google menghilangkan dominasi Nvidia sekaligus memberikan peningkatan yang bagus pada keuntungannya. Morgan Stanley mengatakan dalam catatan bulan Desember bahwa 500.000 chip TPU yang terjual dapat menambah pendapatan sekitar $13 miliar ke neraca Google pada tahun 2027.

Punya sesuatu untuk dibagikan? Hubungi reporter ini melalui email di hlangley@businessinsider.com atau Sinyal di 628-228-1836. Gunakan alamat email pribadi dan perangkat non-kerja; inilah panduan kami untuk berbagi informasi dengan aman.