Senator Elizabeth Warren (D-MA) dan Rep. Lori Trahan (D-MA) meminta jawaban tentang bagaimana OpenAI menangani whistleblower dan tinjauan keselamatan setelah mantan karyawan mengeluh bahwa kritik internal sering kali dikekang.
“Mengingat adanya perbedaan antara komentar publik Anda dan laporan tindakan OpenAI, kami meminta informasi tentang perlindungan whistleblower dan konflik kepentingan OpenAI untuk memahami apakah intervensi federal mungkin diperlukan,” tulis Warren dan Trahan dalam sebuah pernyataan. surat yang dibagikan secara eksklusif dengan The Verge.
Para anggota parlemen mengutip beberapa contoh di mana prosedur keselamatan OpenAI dipertanyakan. Misalnya, mereka mengatakan, pada tahun 2022, versi GPT-4 yang belum dirilis sedang diuji di versi baru mesin pencari Microsoft Bing di India sebelum menerima persetujuan dari dewan keamanan OpenAI. Mereka juga mengingat pernyataan CEO OpenAI Sam Altman pengusiran singkat dari perusahaan pada tahun 2023 sebagai akibat dari kekhawatiran dewan, sebagian, “terlalu mengkomersilkan kemajuan sebelum memahami konsekuensinya.”
Surat Warren dan Trahan kepada Altman datang ketika perusahaan dihantui oleh banyak sekali masalah keselamatanyang sering kali bertentangan dengan pernyataan publik perusahaan. Misalnya, sumber anonim diberi tahu Surat Kabar Washington Post OpenAI terburu-buru dalam melakukan uji keamanan, tim Superalignment (yang sebagian bertanggung jawab atas keamanan) dibubarkan, dan seorang eksekutif keselamatan mengundurkan diri, dengan menyatakan bahwa “budaya dan proses keselamatan telah dikesampingkan demi produk yang berkilau.” Lindsey Held, juru bicara OpenAI, membantah klaim tersebut Surat Kabar Washington Postlaporan yang menyatakan bahwa perusahaan “tidak mengabaikan proses keselamatan kami, meskipun kami menyadari peluncuran tersebut membuat tim kami stres.”
Para anggota parlemen lainnya juga mencari jawaban tentang praktik keselamatan perusahaan, termasuk sekelompok senator dipimpin oleh Brian Schatz (D-HI) pada bulan Juli. Warren dan Trahan meminta kejelasan lebih lanjut tentang Tanggapan OpenAI terhadap kelompok tersebuttermasuk pembuatan “Jalur Integritas” baru bagi karyawan untuk melaporkan kekhawatiran.
Sementara itu, OpenAI tampaknya sedang dalam posisi menyerang. Pada bulan Juli, perusahaan mengumumkan kemitraan dengan Laboratorium Nasional Los Alamos untuk mengeksplorasi bagaimana model AI tingkat lanjut dapat membantu penelitian biosains dengan aman. Minggu lalu, Altman diumumkan melalui X bahwa OpenAI berkolaborasi dengan Institut Keamanan Kecerdasan Buatan AS dan menekankan bahwa 20 persen sumber daya komputasi di perusahaan akan didedikasikan untuk keamanan (janji yang awalnya dibuat untuk tim Superalignment yang sekarang sudah tidak ada). Dalam posting yang sama, Altman mengatakan bahwa OpenAI telah menghapus klausul nondisparagement untuk karyawan dan ketentuan yang memungkinkan pembatalan ekuitas yang sudah diberikan, isu utama dalam surat Warren dan Trahan.
Surat ini menandakan kepentingan kebijakan utama bagi para anggota parlemen, yang sebelumnya memperkenalkan rancangan undang-undang untuk memperluas perlindungan bagi para whistleblower, seperti Undang-Undang Pengungkap Fakta FTC dan UU Reformasi Pengungkap Fakta SECHal ini juga bisa menjadi sinyal bagi lembaga penegak hukum yang selama ini dilaporkan telah mengarahkan pandangannya pada OpenAI kemungkinan pelanggaran antimonopoli Dan praktik data yang merugikan.
Warren dan Trahan meminta Altman untuk memberikan informasi tentang bagaimana saluran telepon khusus keselamatan AI barunya untuk karyawan digunakan dan bagaimana perusahaan menindaklanjuti laporan. Mereka juga meminta “catatan terperinci” tentang semua waktu produk OpenAI telah “melewati protokol keselamatan” dan dalam keadaan apa suatu produk akan diizinkan untuk melewati tinjauan keselamatan. Para anggota parlemen juga mencari informasi tentang kebijakan konflik OpenAI. Mereka bertanya kepada Altman apakah dia diminta untuk melepaskan diri dari kepemilikan luar dan “perlindungan khusus apa yang ada untuk melindungi OpenAI dari konflik kepentingan finansial Anda.” Mereka meminta Altman untuk menanggapi paling lambat tanggal 22 Agustus.
Warren juga mencatat betapa vokalnya Altman tentang kekhawatirannya mengenai AI. Tahun lalu, di hadapan Senat, Altman memperingatkan bahwa kemampuan AI bisa “sangat mengganggu keamanan publik dan keamanan nasional” dan menekankan ketidakmungkinanan mengantisipasi setiap potensi penyalahgunaan atau kegagalan teknologi. Peringatan ini tampaknya mendapat tanggapan dari para pembuat undang-undang — di negara bagian asal OpenAI, California, Senator negara bagian Scott Wiener mendorong RUU untuk mengatur model bahasa besar, termasuk pembatasan yang akan membuat perusahaan bertanggung jawab secara hukum jika AI mereka digunakan dengan cara yang merugikan.
