Era baru Silicon Valley berjalan pada jaringan—dan bukan jenis yang Anda temukan di LinkedIn.
Sebagai industri teknologi menyalurkan miliaran dolar ke pusat data AIpembuat chip baik besar maupun kecil meningkatkan inovasi seputar teknologi yang menghubungkan chip ke chip lain, dan rak server ke rak server lain.
Teknologi jaringan telah ada sejak awal mula komputer, menghubungkan mainframe secara kritis sehingga mereka dapat berbagi data. Dalam dunia semikonduktor, jaringan berperan di hampir setiap tingkat tumpukan—mulai dari interkoneksi antar transistor pada chip itu sendiri, hingga koneksi eksternal yang dibuat antar kotak atau rak chip.
Raksasa chip seperti Nvidia, Broadcom, dan Marvell sudah memiliki jaringan yang bonafid. Namun di tengah booming AI, beberapa perusahaan mencari pendekatan jaringan baru yang membantu mereka mempercepat aliran informasi digital dalam jumlah besar melalui pusat data. Di sinilah startup teknologi mendalam seperti Lightmatter, Celestial AI, dan PsiQuantum, yang menggunakan teknologi optik untuk mempercepat komputasi berkecepatan tinggi, ikut berperan.
Teknologi optik, atau fotonik, sedang mengalami masa kejayaan. Teknologi ini dianggap “lemah, mahal, dan sedikit berguna,” selama 25 tahun hingga booming AI menghidupkan kembali minat terhadap teknologi tersebut, menurut salah satu pendiri dan kepala ilmuwan PsiQuantum, Pete Shadbolt. (Shadbolt muncul di panel minggu lalu yang dihosting bersama oleh WIRED.)
Beberapa pemodal ventura dan investor institusi, yang berharap dapat mengikuti gelombang inovasi chip berikutnya atau setidaknya menemukan target akuisisi yang sesuai, menyalurkan miliaran dolar ke perusahaan rintisan seperti ini yang telah menemukan cara baru untuk mempercepat keluaran data. Mereka percaya bahwa teknologi interkoneksi tradisional, yang mengandalkan elektron, tidak dapat mengimbangi meningkatnya kebutuhan akan beban kerja AI dengan bandwidth tinggi.
“Jika Anda melihat ke belakang secara historis, jaringan sangatlah membosankan untuk dibahas, karena jaringan tersebut berpindah-pindah paket,” kata Ben Bajarin, seorang analis teknologi lama yang menjabat sebagai CEO di firma riset Creative Strategies. “Sekarang, berkat AI, ia harus memindahkan beban kerja yang cukup berat, dan itulah mengapa Anda melihat inovasi seputar kecepatan.”
Energi Chip Besar
Bajarin dan yang lainnya memberikan penghargaan kepada Nvidia karena telah memahami pentingnya jaringan ketika mereka melakukan dua akuisisi penting dalam teknologi tersebut beberapa tahun yang lalu. Pada tahun 2020, Nvidia menghabiskan hampir $7 miliar untuk mengakuisisi perusahaan Israel Mellanox Technologies, yang membuat solusi jaringan berkecepatan tinggi untuk server dan pusat data. Tak lama setelah itu, Nvidia membeli Cumulus Networks, untuk menjalankannya Sistem perangkat lunak berbasis Linux untuk jaringan komputer. Ini adalah titik balik bagi Nvidia, yang dengan tepat bertaruh bahwa GPU dan kemampuan komputasi paralelnya akan menjadi jauh lebih bertenaga ketika digabungkan dengan GPU lain dan ditempatkan di pusat data.
Meskipun Nvidia mendominasi tumpukan GPU yang terintegrasi secara vertikal, Broadcom telah menjadi pemain kunci dalam akselerator chip khusus dan teknologi jaringan berkecepatan tinggi. Perusahaan senilai $1,7 triliun ini bekerja sama dengan Google, Meta, dan yang terbaru, OpenAI, dalam pembuatan chip untuk pusat data. Itu juga berada di garis depan fotonik silikon. Dan bulan lalu, Reuters melaporkan hal itu Broadcom sedang menyiapkan chip jaringan baru disebut Thor Ultra, dirancang untuk menyediakan “hubungan penting antara sistem AI dan seluruh pusat data.”
Pada laporan pendapatannya minggu lalu, raksasa desain semikonduktor ARM mengumumkan rencana untuk mengakuisisi perusahaan jaringan DreamBig senilai $265 juta. DreamBig membuat chiplet AI—sirkuit modular kecil yang dirancang untuk dikemas bersama dalam sistem chip yang lebih besar—dalam kemitraan dengan Samsung. Startup ini memiliki “kekayaan intelektual yang menarik… yang mana [is] sangat penting untuk peningkatan dan perluasan jaringan” kata CEO ARM Rene Haas mengenai laporan pendapatan. (Ini berarti menghubungkan komponen dan mengirim data ke atas dan ke bawah satu cluster chip, serta menghubungkan rak chip dengan rak lainnya.)
Menyala
CEO Lightmatter Nick Harris memilikinya ditunjukkan bahwa jumlah daya komputasi yang dibutuhkan AI kini berlipat ganda setiap tiga bulan—jauh lebih cepat dibandingkan Hukum Moore mendiktekan. Chip komputer menjadi semakin besar. “Kapan pun Anda berada pada teknologi chip terbesar yang dapat Anda buat, semua kinerja setelahnya berasal dari menghubungkan chip-chip tersebut bersama-sama,” kata Harris.
Pendekatan perusahaannya mutakhir dan tidak bergantung pada teknologi jaringan tradisional. Lightmatter membuat fotonik silikon yang menghubungkan chip bersama-sama. Ia mengklaim membuat mesin fotonik tercepat di dunia untuk chip AIpada dasarnya adalah tumpukan silikon 3D yang dihubungkan dengan teknologi interkoneksi berbasis cahaya. Startup ini telah mengumpulkan lebih dari $500 juta selama dua tahun terakhir dari investor seperti GV dan T. Rowe Price. Tahun lalu, valuasinya mencapai $4,4 miliar.
“Masa depan komputasi sebenarnya bergantung pada cahaya,” kata Harris. “Tentu saja kita akan memiliki perangkat elektronik, dan perangkat lunak juga merupakan bagian yang sangat penting dalam hal ini, namun pada tingkat komputasi seperti ini kita memerlukan ide-ide baru, dan sebagian besar teknologi baru dalam komputer melibatkan cahaya.”
Startup Celestial AI juga menarik perhatian—dan investor—karena teknologi interkoneksi optiknya. Awal tahun ini mereka mengumpulkan $250 juta dari Fidelity Management, BlackRock, Tiger Global Management, Temasek, AMD, dan lainnya. CEO Intel Lip-Bu Tan baru-baru ini bergabung dengan dewan direksi perusahaan. Dan pada bulan September, PsiQuantum mengumpulkan $1 miliar dari BlackRock, Ribbit Capital, dan cabang ventura Nvidia, NVentures. PsiQuantum, yang menggunakan teknologi optik untuk membuat chip untuk komputer kuantum, kini bernilai $7 miliar.
Namun, teknologi jaringan optik bukanlah suatu hal yang mudah untuk dilakukan. Pembangunannya mahal dan membutuhkan peralatan yang sangat khusus. Ia juga harus mampu “menyambungkan” ke sistem kelistrikan yang ada.
Bajarin menunjukkan bahwa perusahaan seperti Broadcom dan Marvell memiliki keahlian dan sumber daya untuk bekerja dengan hyperscaler dan memenuhi kebutuhan spesifik mereka dalam chip dan jaringan pusat data AI. Terlepas dari apakah mereka menggunakan teknologi jaringan tradisional atau fotonik yang lebih canggih, perusahaan-perusahaan ini tahu cara meningkatkan skalanya. “Jaringan adalah hal yang membuat komputer berfungsi, namun rasanya industri ini bergerak menuju lebih banyak penyesuaian, yang mungkin lebih sulit bagi perusahaan kecil,” kata Bajarin.
Itu tidak berarti para pemula tidak memiliki IP yang berharga, tambahnya. Permintaan akan kecepatan data yang lebih tinggi, dan teknologi jaringan yang lebih baik, semakin meningkat. Namun imbalan bagi startup eksperimental mungkin masih membutuhkan waktu beberapa tahun ke depan. “Kita semua percaya akan ada dunia dengan masa depan fotonik,” kata Bajarin, “tapi hal itu masih jauh.”
Ini adalah edisi itu Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
