Kegilaan AI yang terinspirasi Antropik minggu ini, jelasnya

Antropis mengubah arah setelah reaksi pengembang minggu ini. Kisah yang lebih besar adalah apa yang masih dilakukan perusahaan, dan alasannya.

Startup tersebut mengatakan tidak akan lagi mengalami degradasi secara diam-diam Fabel 5 tanggapan ketika pengguna meminta bantuan tentang pengembangan model AI frontier. Sebaliknya, Anthropic mengatakan permintaan ini akan dialihkan ke model yang kurang bagus, Opus 4.8, dan pengembang akan diberitahu.

Ini membahas panik atas Anthropic pada dasarnya sengaja memberikan jawaban yang lebih buruk dan berbohong tentang hal itu. “Kami mohon maaf” kata perusahaan itu.

Namun Anthropic masih membatasi penggunaan model publiknya yang paling kuat untuk pekerjaan pengembangan AI tertentu. Perusahaan mengatakan ini adalah soal keselamatan, dengan alasan bahwa batasan ini menghentikan “musuh asing” menggunakan model teratas Anthropic untuk mengikis keunggulan Amerika dalam AI dan chip.

Penjelasan itu hanya berlaku sejauh ini.

Pembatasan ini juga membantu Anthropic melindungi bisnisnya dari distilasiatau ekstraksi intelijen. Saat itulah pesaing menanyakan model yang kuat, mengumpulkan keluarannya, dan menggunakan data tersebut untuk meningkatkan sistem mereka sendiri. Teknik-teknik ini membantu penyedia model sumber terbuka mengejar Anthropic lebih cepat, dan menurunkan harga perusahaan.

Antropik punya diperingatkan tentang laboratorium Tiongkok yang melakukan ini. Namun ancaman yang sama juga datang dari pengembang model terbuka di AS dan Eropa.

Itulah poin kuncinya. Batasan ini berlaku secara luas bagi siapa pun yang membuat model AI saingannya, dan model Anthropic persyaratan layanan juga melarang siapa pun menggunakan produknya untuk mengembangkan penawaran pesaing.

Menghentikan pesaing terbuka

Jadi, Anthropic memperlakukan pengembang model terbuka Barat seperti halnya pengembang Tiongkok. Hal ini melemahkan gagasan bahwa ini hanya untuk menghentikan musuh asing. Ini juga tentang menghentikan pesaing.

Dan Anda dapat melihat alasannya. Model terbuka adalah pesaing yang kuat. Satu Analisis MIT Sloan dari bulan Januari ditemukan bahwa model terbuka memiliki rata-rata 90% performa model tertutup dan biasanya menutup kesenjangan tersebut dalam waktu 13 minggu. (Setahun sebelumnya, mereka membutuhkan waktu 27 minggu untuk menutup kesenjangan tersebut).

Analisis Buatan melacak performa model AI, dan bagan ini menunjukkan bagaimana model sumber terbuka terus mengikuti perkembangannya.

Papan peringkat Arena menunjukkan tekanan serupa. Pada hari Kamis, model Antropik masih menjadi yang teratas untuk tugas ahli berbasis teks seperti matematika, coding, dan menulis kreatif. Namun MiMo v 2.5 Pro berbobot terbuka dari Xiaomi tidak ketinggalan jauh.

Kemudian lihat harganya. Model terbuka Xiaomi tersebut berharga 43 sen per juta token untuk input, dan 87 sen per juta untuk output. Fable 5 Anthropic berharga $10 per juta token masukan dan $50 per juta token keluaran — setidaknya 20 kali lebih mahal, menurut data Arena.

“Hampir sama bagusnya” dan “jauh lebih murah” pasti menakutkan jika Anda menghabiskan miliaran dolar untuk membangun model terdepan. Tidak heran Anthropic membatasi pesaing seperti ini.

“Ini memang merupakan langkah bisnis,” kata Nicholas Vincent, profesor ilmu komputer di Universitas Simon Fraser, yang mempelajari bagaimana data digunakan dalam model AI. “Tanpa penargetan yang lebih eksplisit terhadap ‘organisasi jahat’ tertentu, akan sulit untuk menyatakan bahwa hal ini bisa lebih berfokus pada keselamatan daripada berfokus pada bisnis.”

Anthropic tidak berutang kepada pesaingnya untuk mendapatkan teknologi terbaiknya. Tapi kita harus jujur ​​mengenai apa yang terjadi: Sebagian soal keselamatan, tapi juga bisnis.

Mendaftarlah untuk buletin Tech Memo BI Di Sini. Hubungi saya melalui email di abarr@businessinsider.com.