Perusahaan AI Antropik sekarang mendukung rancangan undang-undang kontroversial yang dikenal sebagai SB 1047, yang akan mengatur AI di California.
Di sebuah surat dikirim ke Gubernur California Gavin Newsom, CEO Anthropic, Dario Amodei, mengatakan bahwa “manfaat RUU tersebut kemungkinan lebih besar daripada biayanya.” Namun, ia menambahkan bahwa “kami tidak yakin akan hal ini, dan masih ada beberapa aspek RUU yang tampaknya mengkhawatirkan atau ambigu bagi kami.”
Persetujuan hati-hati Anthropic datang hanya sebulan setelah perusahaan mengusulkan serangkaian amandemen terhadap SB 1047 — yang pertama kali diperkenalkan ke badan legislatif negara bagian oleh Senator Scott Wiener pada bulan Februari.
Dalam surat yang dikirim kepada para pemimpin negara bagian pada bulan Juli, Anthropic menyerukan agar lebih banyak fokus pada upaya mencegah perusahaan membangun model yang tidak aman daripada menegakkan hukum yang ketat sebelum insiden bencana terjadi. Anthropic juga menyarankan agar perusahaan dapat menetapkan standar mereka sendiri untuk pengujian keselamatan daripada mematuhi peraturan yang ditetapkan oleh negara bagian.
Versi amandemen RUU yang diterbitkan pada tanggal 19 Agustus mencakup beberapa perubahan. Pertama, RUU membatasi ruang lingkup sanksi perdata untuk pelanggaran yang tidak mengakibatkan kerugian atau risiko yang mengancam jiwa, menurut sebuah postingan oleh Nathan Calvin, penasihat kebijakan senior di Center for AI Safety Action Fund, yang merupakan salah satu sponsor RUU tersebut dan telah bekerja dengan Anthropic sejak RUU tersebut pertama kali diperkenalkan.
Ada juga beberapa perubahan bahasa utama. RUU yang awalnya meminta perusahaan untuk menunjukkan “keyakinan yang wajar” terhadap potensi kerugian, kini meminta mereka untuk menunjukkan “kehati-hatian yang wajar,” yang “membantu memperjelas fokus RUU pada pengujian dan mitigasi risiko,” menurut Calvin. Itu juga “standar paling umum yang ada dalam pertanggungjawaban perbuatan melawan hukum,” tulisnya.
Cerita terkait
Versi yang diperbarui juga mengecilkan badan pemerintah baru yang akan menegakkan regulasi AI, yang dulunya disebut Frontier Model Division, menjadi badan yang dikenal sebagai Board of Frontier Models dan menempatkannya di dalam Government Operations Agency yang sudah ada. Badan tersebut sekarang beranggotakan sembilan orang, bukan lima orang. Namun, dengan itu, persyaratan pelaporan pada perusahaan juga meningkat. Perusahaan harus merilis laporan keselamatan secara publik dan mengirimkan versi yang tidak disunting kepada jaksa agung negara bagian.
RUU yang diperbarui menghapus hukuman sumpah palsu, sehingga menghapus semua tanggung jawab pidana bagi perusahaan dan hanya mengenakan tanggung jawab perdata. Perusahaan kini diharuskan untuk menyerahkan “pernyataan kepatuhan” kepada jaksa agung, bukan “sertifikasi kepatuhan” kepada Frontier Model Division.
Amodei mengatakan RUU tersebut kini “tampaknya bagi kami berada di tengah-tengah antara versi yang kami sarankan dan RUU asli.” Manfaat dari pengembangan protokol keselamatan dan keamanan yang tersedia untuk umum, mengurangi bahaya di hilir, dan memaksa perusahaan untuk mempertanyakan risiko teknologi mereka secara serius akan “secara signifikan meningkatkan” kemampuan industri untuk memerangi ancaman.
Anthropic menyebut dirinya sebagai “perusahaan keselamatan dan penelitian” dan telah memenangkan beberapa Dukungan sebesar $4 miliar dari AmazonPada tahun 2021, sekelompok mantan staf OpenAI, termasuk Dario Amodei dan saudara perempuannya Daniela, mendirikan perusahaan tersebut karena mereka yakin AI akan memberikan dampak dramatis pada dunia dan ingin membangun perusahaan yang akan memastikan perusahaan tersebut selaras dengan nilai-nilai kemanusiaan.
Wiener “sangat senang melihat keterlibatan terperinci yang dilakukan Anthropic dalam ‘surat dukungannya jika diubah,” kata Calvin kepada Business Insider. “Saya sangat berharap hal ini mendorong perusahaan lain untuk juga terlibat secara substantif dan mencoba mendekati beberapa hal ini dengan penuh pertimbangan dan menyadari bahwa jenis pertukaran yang keliru antara inovasi dan keamanan ini tidak akan menguntungkan industri ini dalam jangka panjang.”
Perusahaan lain yang akan terkena dampak undang-undang baru tersebut lebih ragu-ragu. OpenAI mengirim surat minggu ini kepada para pemimpin negara bagian California yang menentang RUU tersebut. Salah satu kekhawatiran utamanya adalah bahwa peraturan baru tersebut akan mendorong perusahaan AI keluar dari California. Meta juga berpendapat bahwa RUU tersebut “secara aktif menghambat peluncuran AI sumber terbuka.”
