Serikat aktor dan kelompok perempuan mendesak Gavin Newsom untuk menandatangani RUU keselamatan AI

Saat Gubernur California Gavin Newsom mempertimbangkan untuk menandatangani atau memveto RUU keselamatan AI SB 1047 yang diperebutkan sengit, SAG-AFTRA dan dua kelompok perempuan mendesaknya untuk menyetujuinya — menambah lebih banyak suara dalam perdebatan yang sudah heboh. Serikat pekerja artis, National Organization for Women (NOW), dan Fund Her masing-masing telah mengirim surat kepada Newsom, yang semuanya telah diperoleh oleh The Verge dan dipublikasikan di sini untuk pertama kalinya.

Surat dari SAG-AFTRABahasa Indonesia: SEKARANGDan Danai Dia menyoroti kekhawatiran tentang potensi AI untuk menyebabkan kerusakan dahsyat jika teknologi tersebut tidak diatur. SAG-AFTRA menguraikan mandat SB 1047 bagi pengembang untuk menguji dan melindungi diri dari bencana yang disebabkan oleh AI, seperti serangan siber pada infrastruktur penting atau pengembangan senjata biologis. NOW dan Fund Her mengutip peringatan dari rakyat di garis depan AI dan membahas dampak teknologi yang berpotensi tidak proporsional terhadap kelompok rentan.

SAG-AFTRA diposting panggilan dukungan kemarin pada X dari 160.000 anggotayang termasuk bintang seperti Scarlett Johansson dan Tom Hanks. SEKARANG, terbesar organisasi feminis di AS dengan sekitar 500.000 anggota, mengatakan hal itu dimotivasi oleh klaim ahli “tentang betapa berbahayanya teknologi luar biasa ini jika tidak dikembangkan dan digunakan secara bertanggung jawab.” Danai Dia, PAC yang memiliki membantu memilih 12 wanita progresif menduduki posisi penting di California pada tahun 2022, menulis tentang “perlombaan untuk mengembangkan AI pemikir independen pertama,” yang pada saat itu “akan terlambat untuk menerapkan pembatas keamanan.”

SAG-AFTRA dan NOW mewakili pelaku kekuatan terkini yang mempertimbangkan rancangan undang-undang California, yang telah menjadi objek kepentingan nasional yang luar biasa dan mengacaukan batas-batas partisan konvensional.

Nomor 1047yang ditulis oleh Senator negara bagian Scott Wiener, akan menjadi undang-undang keselamatan AI paling signifikan di AS. Undang-undang ini menetapkan tanggung jawab perdata bagi pengembang model AI generasi berikutnya seperti ChatGPT jika mereka menyebabkan bencana tanpa menerapkan perlindungan yang sesuai. RUU tersebut juga mencakup perlindungan bagi pelapor pelanggaran bagi karyawan perusahaan AI, yang mengumpulkan mendukung dari whistleblower OpenAI Daniel Kokotajlo dan William Saunders.

NOW menulis dalam suratnya bahwa “standar keamanan AI yang ditetapkan oleh California akan mengubah dunia,” sebuah pandangan yang digaungkan oleh Bill sponsor bersama Dan Hendrycksdirektur Pusat Keamanan AIHendrycks mengatakan The Verge bahwa SB 1047 bisa jadi merupakan “momen Pat Brown” Newsom, merujuk pada gubernur California saat itu penandatanganan undang-undang emisi knalpot mobil yang inovatif pada tahun 1966. Dia mengutip apa yang kemudian dikenal sebagai Efek California: “jika California memimpin dalam regulasi penting, maka negara bagian lainnya akan mengikutinya.”

Memiliki lulus kedua kamar legislatif negara bagian dengan mayoritas kuat pada akhir Agustus, RUU tersebut kini menunggu keputusan Gubernur Newsom, yang akan dikeluarkan pada tanggal 30 September. Kantor gubernur mengatakan bahwa RUU tersebut “biasanya tidak mengomentari undang-undang yang sedang dibahas. Langkah ini akan dievaluasi berdasarkan manfaatnya.”

Meskipun ada komentar ini, nasib SB 1047 mungkin bergantung pada perhitungan politik — sebuah kenyataan yang tampaknya diakui oleh masing-masing pihak saat mereka mengumpulkan dukungan di jam-jam terakhir rancangan undang-undang tersebut.

Koalisi politik aneh yang muncul dalam pertikaian mengenai SB 1047 menandakan masa depan yang tidak menentu bagi pertempuran kebijakan AI. Miliarder Elon Musk mendukung kelompok keadilan sosial dan serikat buruh dalam mendukung RUU tersebut, sementara mantan Ketua DPR Nancy Pelosi, progresif Anggota Kongres DPR Ro KhannaBahasa Indonesia: pendukung Trump kapitalis ventura Marc Andreessendan AI”ibu baptis” ” Fei-Fei Li semuanya menentang.

AI adalah masalah langka yang belum belum diurutkan menjadi kubu-kubu partisan yang jelas. Seiring dengan semakin pentingnya teknologi, perdebatan tentang cara mengaturnya kemungkinan akan semakin intens dan dapat terus mengacaukan kesetiaan yang biasa.

SAG-AFTRA telah menjadi rumah bagi beberapa sentimen anti-AI yang paling organik. Banyak aktor layar lebar melihat AI generatif sebagai ancaman eksistensial terhadap mata pencaharian mereka. Penggunaan teknologi tersebut merupakan salah satu faktor titik lengket dalam aksi mogok aktor tahun 2023, yang mengakibatkan persyaratan bahwa studio memperoleh persetujuan dari para pemain sebelum membuat replika digital mereka (aktor juga harus diberi kompensasi atas penggunaan replika tersebut).

Serikat pekerja surat menulis bahwa “SAG-AFTRA sangat memahami potensi bahaya yang ditimbulkan AI,” mengutip masalah yang dialami oleh para anggotanya dalam bentuk pornografi deepfake tanpa persetujuan dan pencurian foto-foto artis. Disimpulkan bahwa “para pembuat kebijakan memiliki tanggung jawab untuk turun tangan dan melindungi anggota kami dan masyarakat. SB 1047 adalah langkah awal yang terukur untuk membawa kita ke sana.”

Dalam wawancara melalui telepon, presiden organisasi Christian Nunes mengatakan NOW terlibat karena kelompok tersebut khawatir tentang bagaimana AI yang tidak diatur dapat memengaruhi wanita. Dia Dan SEKARANG sebelumnya mendukung upaya untuk melarang deepfake nonkonsensual.

Di masa SEKARANG suratNunes menulis bahwa bahaya yang diperingatkan oleh para ahli AI “akan secara tidak proporsional menimpa kelompok rentan, termasuk perempuan.” Dia menyoroti “dukungan berani Newsom bagi kami dalam menghadapi tekanan lobi yang intens” pada hak reproduksi, upah yang setara, dan cuti keluarga berbayar, dan bahwa dukungan ini “adalah salah satu alasan mengapa perempuan memilih [him] “berkali-kali.”

Meskipun SB 1047 tidak secara eksplisit dirancang untuk mengatasi masalah-masalah utama kelompok-kelompok ini, organisasi-organisasi tersebut tampaknya melihat nilai strategis dalam bergabung dengan koalisi di baliknya. Nunes mengatakan The Verge dia memandang RUU tersebut sebagai bagian dari proyek yang lebih luas untuk meminta pertanggungjawaban Big Tech.

Dukungan terhadap SB 1047 ini melengkapi undang-undang AI lain yang tertunda yang secara lebih langsung membahas masalah khusus kelompok ini. Misalnya, undang-undang federal UU TANPA PALSU bertujuan untuk memerangi deepfake, sementara RUU AI lainnya ada di meja Newsom, didukung oleh SAG-AFTRA, akan mengatur penggunaan replika digital. Dengan mendukung SB 1047 bersamaan dengan inisiatif yang lebih terarah ini, organisasi-organisasi ini tampaknya mengambil pendekatan yang komprehensif terhadap tata kelola AI.

Surat-surat NOW dan Fund Her keduanya menggambarkan persamaan antara AI yang tidak diatur dan sejarah media sosial. Pendiri dan presiden Fund Her, Valerie McGinty menulis kepada The Verge, “Kita telah melihat dampak buruk media sosial terhadap anak-anak kita dan betapa sulitnya untuk mengatasinya. Kita tidak akan terjebak mengejar ketertinggalan lagi jika Gubernur Newsom mengesahkan SB 1047 menjadi undang-undang.”

Tidak jelas apakah surat-surat itu akan cukup bagi RUU tersebut untuk mengatasi kekuatan-kekuatan besar yang menentangnya. Sementara Wiener dan lainnya pendukung menggambarkan regulasi tersebut sebagai “ringan” dan “akal sehat”, industri tersebut, secara umum, ketakutan.

Saat ini AS hampir sepenuhnya bergantung pada pengaturan diri dan tidak mengikat komitmen sukarela untuk mengatur AI dan industri ingin untuk mempertahankannya seperti itu. Sebagai peraturan keselamatan AI AS pertama yang memiliki kekuatan, SB 1047 akan menjadi preseden yang kuat, yang mungkin menjadi motivasi di balik kedua surat ini dan penentangan keras dari industri.

GoogleBahasa Indonesia: MetaDan OpenAI mengambil tidak biasa langkah menulis surat mereka sendiri yang menentang RUU tersebut. Perlawanan dari investor AI bahkan lebih keras, dengan inkubator startup bergengsi Kombinator Y (YC) dan dana ventura Andreessen Horowitz (a16z) memimpin pers penuh untuk membunuh SB 1047. Para penentang terkemuka ini dan lainnya memperingatkan bahwa RUU tersebut bisa mengingatkan eksodus dari California, menyerahkan AS memimpin dalam AI ke Tiongkok, dan menghancurkan komunitas sumber terbuka.

Tentu saja, para pendukung membantah setiap argumen ini. Pada bulan Juli surat menanggapi klaim YC dan a16z tentang RUU tersebut, Wiener menunjukkan bahwa SB 1047 akan berlaku untuk semua perusahaan AI yang tercakup yang menjalankan bisnis di California, pusat AI dunia dan ekonomi terbesar kelima. Dario Amodei, CEO perusahaan AI terkemuka dan pendukung de facto SB 1047 Anthropic, ditelepon ancaman untuk meninggalkan “hanya teater” (meskipun hal ini juga telah diserukan oleh OpenAIBahasa Indonesia: MetaDan Google).

Di dalam dirinya penyataan menentang RUU tersebut, Pelosi menyebutnya “bermaksud baik tetapi kurang informasi.” Dalam wawancara telepon, Wiener berkata, “Saya sangat menghormati Ketua DPR Emerita. Dia adalah yang TERBAIK,” tetapi kemudian menyebut pernyataan Pelosi “tidak menguntungkan” dan mencatat bahwa “beberapa pelopor pembelajaran mesin teratas di dunia mendukung RUU tersebut,” mengutip dukungan dari pembelajaran mendalam “ayah baptis” ” Geoffrey Hinton Dan Joshua BengioWiener juga menyoroti dukungan surat terbuka dipublikasikan pada hari senin dari lebih dari 100 karyawan dan alumni perusahaan AI terkemuka.

Untuk mengevaluasi SB 1047 berdasarkan manfaatnya, surat yang paling meyakinkan mungkin adalah satu diterbitkan oleh Anthropic, yang berbeda dengan rekan-rekannya dengan menulis bahwa “manfaat dari undang-undang yang direvisi kemungkinan lebih besar daripada biayanya.” Surat ini mengikuti putaran amandemen dibuat langsung sebagai tanggapan terhadap perusahaan keluhan sebelumnyaKeluarga chatbot Claude dari Anthropic memimpin dunia dalam beberapa metrikdan perusahaan tersebut kemungkinan akan menjadi salah satu dari segelintir pengembang AI yang secara langsung dilindungi undang-undang tersebut dalam waktu dekat.

Dengan para pemimpin kongres utama berjanji untuk menghalangi peraturan AI federal yang substantif dan menentang SB 1047California mungkin akan melakukannya sendiri, karena sudah ada netralitas jaringan Dan privasi dataSeperti yang ditulis Nunes dari NOW, “Standar keamanan AI yang ditetapkan oleh California akan mengubah dunia,” memberikan Gubernur Newsom kesempatan untuk membuat sejarah dan menjadi contoh “kepemimpinan AI yang seimbang.”

Danai Dia McGinty merangkum sikap para pendukung dalam email kepada The Verge:“Kita harus mendengarkan para ahli yang lebih peduli pada kesejahteraan kita daripada para eksekutif Big Tech yang mengabaikan keamanan AI.”

Menjelang batas waktu 30 September, semua mata tertuju pada Gubernur Newsom untuk melihat bagaimana ia akan membentuk masa depan tata kelola AI di California dan sekitarnya. “Pengalaman saya dengan Gavin Newsom adalah — setuju atau tidak — ia membuat keputusan yang matang berdasarkan apa yang menurutnya terbaik bagi negara bagian,” kata Wiener. “Saya selalu menghargai hal itu darinya.”

Koreksi: Artikel ini awalnya dikutip “Bapak baptis” pembelajaran mendalam Yann LeCun sebagai pendukung SB 1047. LeCun menentang RUU tersebut. Kami menyesali kesalahan tersebut.