Dario Amodei menjelaskan model AI open-weight.
CEO Anthropic pada hari Senin menolak klaim bahwa startup AI miliknya ingin Washington melarang model AI open-weight dan mengatakan bahwa para kritikus telah salah memahami posisi perusahaan.
“Siapa pun yang telah membaca tulisan saya sebelumnya harus tahu bahwa saya tidak menganggap pelarangan tersebut sebagai tindakan yang berguna, namun izinkan saya menyatakannya dengan jelas sehingga tidak ada keraguan: Anthropic tidak pernah menganjurkan pelarangan model bobot terbuka,” tulis Amodei dalam postingan blognya.
“Model kelas terbuka yang tidak memiliki kemampuan berbahaya adalah barang publik,” tambah Amodie.
Daripada melarang model terbuka, Amodei mengatakan dalam postingan blognya bahwa pembuat kebijakan harus fokus untuk mencegah jangkauan chip AI yang canggih pemerintahan otoritermenindak “distilasi” AI skala industri yang digunakan untuk meniru model perbatasan
Klarifikasi ini muncul setelah proposal Senat memicu kekhawatiran bahwa Washington akan melakukan pembatasan model AI berbobot terbuka. Sebagai tanggapan, Nvidia, Microsoft, Meta, Google, OpenAI, dan lusinan perusahaan lainnya menandatangani surat yang mendesak anggota parlemen untuk tidak menerapkan batasan yang luas, dengan CEO Nvidia Jensen Huang muncul sebagai salah satu pendukung paling vokal di industri untuk AI open-weight.
Anthropic menolak untuk menandatangani, memicu spekulasi bahwa mereka ingin melarang model open-weight untuk melindungi bisnisnya.
Postingan Amodei juga mempertajam salah satu garis kesalahan terbesar dalam perdebatan industri AI mengenai model open-weight. Meskipun dia setuju bahwa industri harus meningkatkan persaingan dan memberikan kontrol yang lebih besar kepada pelanggan, dia menolak argumen bahwa mempublikasikan bobot model secara inheren membuat AI lebih aman.
“Saya tidak setuju dengan pernyataan dalam surat tersebut bahwa model open-weight akan mempermudah pengembangan perlindungan atau bahwa akses yang luas terhadap kemampuan akan lebih membantu pembela HAM dibandingkan penyerang,” tulisnya, seraya menambahkan bahwa model yang mampu dapat dengan cepat mempersenjatai virus pada tingkat pandemi, namun mengembangkan pertahanan bisa memakan waktu bertahun-tahun.
“Bagi saya, tampaknya hal yang sebaliknya akan terjadi,” tambah Amodei.
