CEO Instagram Adam Mosseri mengatakan relatif mudah untuk mengurangi pengeluaran AI di divisinya.
“Kami telah berhasil sedikit mengekang biaya dengan menghentikan hal-hal konyol yang kami lakukan,” kata Mosseri dalam episode “Lenny’s Podcast” baru-baru ini.
Mosseri tidak merinci proyek-proyek “konyol” tersebut, namun menambahkan, “Tidak sulit untuk membangun insinerator token.”
Ketika pembawa acara Lenny Rachitsky bertanya kepada Mosseri tentang papan peringkat token, jenis yang mendorong munculnya tokenmaxxing, dia berkata, “Itu ide yang buruk.”
Meta adalah salah satu perusahaan terbesar yang dilaporkan menerapkan papan peringkat konsumsi token selama awal kegilaan tokenmaxxing, sebuah pemikiran yang banyak orang di Silicon Valley yang menentangnya. Token adalah unit data yang berfungsi sebagai blok penyusun model bahasa besar yang mendukung alat seperti ChatGPT OpenAI. Sebagian besar penyedia AI memberi harga setidaknya sebagian dari penggunaannya berdasarkan konsumsi token.
Komentar Mosseri muncul ketika perusahaan dari semua ukuran bergulat dengan meningkatnya tagihan AI karena tingkat adopsi yang lebih tinggi di antara karyawan mereka dan semakin kompleksnya tugas yang diminta oleh pekerja untuk diselesaikan oleh AI, berkat munculnya AI agen. Chief Operating Officer Uber, Andrew Macdonald, menarik perhatian besar pada diskusi tersebut setelah dia baru-baru ini meningkatkan kekhawatiran tentang meningkatnya tagihan AI di Uber yang datang dengan hasil yang sedikit.
Seperti orang lain di bidang teknologi, kata Mosseri Biaya AI pada akhirnya akan menurun sebagai perusahaan yang berebut posisi. Dia mengatakan biaya divisinya mungkin masih naik karena pekerja mengonsumsi lebih banyak token.
“Saya pikir biaya akan naik karena kita akan menggunakan lebih banyak token, bukan karena harga akan naik, tapi saya pikir harga akan turun karena semua model terdepan ini akan mengalami perang harga,” katanya. “Jadi, kita lihat saja nanti. Saya pikir ini akan menjadi seperti roller coaster.”
Sementara itu, Mosseri mengatakan token AI telah menjadi bagian dari proses penganggaran dan alokasi, seperti bagaimana dia menentukan cara menyebarkan GPU, penyimpanan, dan RAM, atau penggajian untuk jumlah karyawan.
“Saya pikir Anda dapat membayangkan, setidaknya dalam satu atau dua tahun ke depan, bahwa tingkat gaji seorang insinyur yang kuat mungkin sama dengan gaji atau biaya pekerjaan mereka,” katanya.
Jika pembelanjaan token menjadi sebesar ini, Mosseri mengatakan masuk akal untuk menerapkan semacam pembatasan.
“Batasan tersebut mungkin harus sebanding dengan kepercayaan perusahaan terhadap kemampuan Anda untuk menggunakannya dalam cara ROI yang positif,” katanya. “Tapi saya bisa membayangkan topi menjadi sehat. Saat ini, kita tidak sampai di sana.”
Anggaran bukan satu-satunya hal yang berubah di Instagram
Mosseri mengatakan bahwa ukuran rata-rata tim Instagram dulunya kira-kira “selusin pembuat roti”, kira-kira sejalan dengan Aturan dua pizza yang terkenal dari pendiri Amazon Jeff Bezos.
Kepala Instagram mengatakan perusahaannya tidak berbeda dengan perusahaan teknologi lain yang mengurangi ukuran tim di era AI. Kini, Mosseri mengatakan tim pada umumnya adalah sebuah “pod” yang hanya terdiri dari “enam atau tujuh” karyawan.
“Itu adalah perubahan besar yang baru saja terjadi pada kita tahun ini,” kata Mosseri. “Tetapi karena jumlah orang yang harus dikoordinasikan lebih sedikit, mereka sering kali dapat bergerak lebih cepat dan mengambil keputusan yang lebih baik, yang tidak dirancang oleh komite.”
Di masa lalu, Mosseri mengatakan sebuah tim mungkin memiliki dua atau tiga insinyur Android, dua atau tiga insinyur iOS, dan dua atau tiga insinyur server, dan mungkin seorang karyawan yang lebih umum, seorang manajer proyek, seorang ilmuwan data, “dan seorang peneliti, jika Anda beruntung.”
Kini, pod Instagram terdiri dari “empat hingga enam insinyur yang sedikit lebih generalis” dan seorang anggota staf produk, yang mencerminkan bagaimana divisi tersebut telah mengubah definisi manajer proyek. Anggota terakhir, katanya, seringkali merupakan spesialis yang sangat spesifik dan paling cocok dengan apa pun yang sedang dikerjakan oleh pod tersebut.
Hasil akhirnya, kata Mosseri, adalah “inti yang jauh lebih kecil” yang terdiri dari peran-peran yang lebih umum.
“Apa yang jelas terjadi adalah semua fungsi mulai saling bercampur, dan seluruh industri bergulat dengan apa artinya hal tersebut,” katanya.
Baca selanjutnya
Brent Griffiths adalah reporter senior di Business Insider yang meliput AI dan teknologi.Sebelumnya, dia bekerja di Washington Post sebagai peneliti Power Up dan Finance 202. Dia memulai karirnya di Politico di mana dia bekerja di tim produksi web dan meliput berita terkini. Semangatnya untuk meliput politik semakin besar sejak ia memutuskan untuk meliput kampanye presiden sebagai jurnalis mahasiswa. Dia juga berkontribusi pada Almanak Politik Amerika.
