Pemerintahan Trump mungkin berpikir regulasi adalah hal yang demikian melumpuhkan itu industri AItapi salah satu pemain terbesar di industri ini tidak setuju.
Pada acara Wawancara Besar WIRED pada hari Kamis, Antropis presiden dan salah satu pendiri Daniela Amodei mengatakan kepada editor WIRED Steven Levy bahwa meskipun AI Trump dan raja kripto, David Sacks, mungkin punya tweet bahwa perusahaannya “menjalankan strategi pengendalian peraturan yang canggih berdasarkan rasa takut,” dia yakin bahwa komitmen perusahaannya untuk menyoroti potensi bahaya AI akan membuat industri ini lebih kuat.
“Kami sangat vokal sejak hari pertama karena kami merasakan adanya potensi luar biasa” untuk AI, kata Amodei. “Kami benar-benar ingin seluruh dunia menyadari potensi, manfaat positif, dan keuntungan yang bisa didapat dari AI, dan untuk mencapai hal tersebut, kita harus mengatasi hal-hal sulit dengan benar. Kita harus membuat risikonya dapat dikelola. Dan itulah sebabnya kita sering membicarakannya.”
Lebih dari 300.000 startup, pengembang, dan perusahaan menggunakan beberapa versi model Claude Anthropic dan Amodei mengatakan bahwa, melalui kesepakatan perusahaan dengan merek-merek tersebut, dia mengetahui bahwa, meskipun pelanggan ingin AI mereka dapat melakukan hal-hal hebat, mereka juga ingin AI mereka dapat diandalkan dan aman.
“Tidak ada yang mengatakan, ‘Kami menginginkan produk yang kurang aman,’” kata Amodei, menyamakan laporan Anthropic tentang batasan model dan pembobolan jailbreak dengan laporan perusahaan mobil yang merilis studi uji tabrak untuk menunjukkan bagaimana perusahaan tersebut mengatasi masalah keselamatan. Mungkin tampak mengejutkan melihat boneka uji tabrakan terbang melalui jendela mobil dalam sebuah video, tetapi mengetahui bahwa produsen mobil memperbarui fitur keselamatan kendaraannya sebagai hasil dari pengujian tersebut dapat menjual mobil kepada pembeli. Amodei mengatakan hal yang sama berlaku untuk perusahaan yang menggunakan produk AI Anthropic, sehingga menciptakan pasar yang memiliki pengaturan mandiri.
“Kami menetapkan apa yang hampir dapat Anda anggap sebagai standar keselamatan minimum hanya dengan apa yang kami masukkan ke dalam perekonomian,” katanya. Perusahaan “sekarang membangun banyak alur kerja dan tugas sehari-hari seputar AI, dan mereka berkata, ‘Kami tahu bahwa produk ini tidak terlalu berhalusinasi, tidak menghasilkan konten berbahaya, dan tidak melakukan semua hal buruk ini.’ Mengapa Anda memilih pesaing yang skornya lebih rendah dalam hal itu?”
Foto: Annie Noelker
