Lebih dari 1.100 pekerja AI menandatangani surat yang meminta AS untuk mendukung alat yang ‘mempercepat pengembangan AI otomatis’

Pejabat senior di beberapa perusahaan AI terkemuka di AS mengatakan sudah waktunya bagi pemerintah federal untuk menemukan cara untuk mengerem pengembangan AI jika diperlukan.

“Kami meminta pemerintah AS mendukung upaya internasional untuk mengembangkan alat teknis dan tata kelola yang diperlukan untuk mempercepat pengembangan AI otomatis,” membaca surat terbuka ditandatangani oleh lebih dari 1.100 pekerja AI dari perusahaan termasuk OpenAI, Anthropic, Google, dan Meta.

Penandatangannya termasuk dua pendiri Anthropic, Jack Clark dan Jared Kaplan; Kepala ilmuwan OpenAI Jakub Pachocki; Kepala ilmuwan Meta, Shengjia Zhao; dan Anca Dragan, yang memimpin keselamatan dan penyelarasan AI di Google DeepMind.

Surat tersebut menekankan pada “pengembangan AI otomatis,” yang mengacu pada kapan AI akan mampu mengembangkan dirinya sendiri, sesuatu yang oleh industri disebut sebagai “Peningkatan Diri Rekursif.” Anthropic telah menyampaikan bahwa model Claude-nya dengan cepat mendekati ambang batas tersebut.

“Sulit untuk memprediksi secara pasti seberapa besar hal ini akan mempercepat kemajuan AI, namun ada risiko nyata bahwa pengembangan kemampuan akan meningkat pesat melampaui kemampuan kita untuk memahami atau mengendalikan sistem yang dihasilkan,” demikian bunyi surat tersebut mengenai momen potensial tersebut.

John Schulman, kepala ilmuwan di Thinking Machines, sebuah startup yang didirikan oleh mantan kepala teknis OpenAI Mira Murati, mengatakan dia bergabung untuk menarik perhatian pada topik tersebut.

“Ditandatangani karena pernyataan ini membantu membangun pengetahuan umum tentang kemungkinan perlunya mekanisme koordinasi seiring penelitian AI otomatis mempercepat kemajuan,” tulis Schulman dalam kutipan yang dibagikan oleh penyelenggara surat tersebut.

Dia menambahkan, “Saya juga ingin melihat laboratorium mulai merancang mekanisme ini secara sukarela, bahkan sebelum USG terlibat,” menggunakan singkatan dari pemerintah AS.

Surat tersebut menunjukkan berapa banyak pelaku industri yang bersatu dalam menyerukan peraturan. Dalam beberapa minggu terakhir, CEO Antropis Dario AmodeiCEO OpenAI Sam Altman, dan kepala Google DeepMind Demis Hassabis telah menguraikan berbagai kerangka kerja untuk semacam regulasi AI global.

Perbincangan mengenai regulasi AI mencapai puncaknya setelah salah satu model OpenAI menerobos kotak pasirnya dan meretas platform sumber terbuka Memeluk Wajahsistem, sebuah episode yang Altman sebut sebagai “pengingat nyata akan pertaruhan atas apa yang terjadi.”

Pemerintahan Trump sejauh ini lebih menyukai peraturan yang lebih lunak, namun hal ini semakin mendapat perlawanan karena model AI terdepan membuat pemerintah dan perusahaan takut akan kekuatan mereka. Gedung Putih menerapkan kontrol ekspor untuk secara singkat membatasi peluncuran Fable 5 oleh Anthropic, model paling kuat yang tersedia untuk umum, dan kemudian meminta OpenAI untuk menunda peluncuran GPT-5.6, model terdepan terbarunya.

Presiden Donald Trump sebelumnya pernah mengatakan bahwa peraturan yang terlalu memberatkan akan merugikan AS dalam persaingannya melawan perusahaan AI yang berbasis di Tiongkok.

Meskipun terdapat kesepakatan luas bahwa sesuatu harus dilakukan, Kongres telah gagal mengembangkan kebijakan yang dapat disetujui oleh kedua majelis dan mencapai meja Trump. Sementara itu, negara bagian telah memberlakukan peraturan industrinya sendiri. Terutama, New York telah memberlakukan moratorium satu tahun di seluruh negara bagian tentang pembangunan pusat data besar baru yang diharapkan dapat dibangun oleh perusahaan AI dan hyperscaler.

“Setiap perusahaan—dan negara—berada di bawah tekanan kompetitif yang kuat untuk tidak memperlambat percepatan tersebut secara sepihak,” tulis surat tersebut. “Dan saat ini, dunia tidak memiliki alat teknis dan tata kelola yang mampu mempercepat kemajuan di seluruh wilayah.”

Meskipun industri tampaknya menyetujui konsep regulasi, rincian pastinya bisa berbeda-beda. Amodei telah menyerukan pembentukan lembaga independen seperti Administrasi Penerbangan Federal (FAA) yang akan menguji model-model AI terdepan dan, jika ada tanda-tanda bahaya, mereka mempunyai wewenang untuk menghentikan peluncurannya. usulan Hassabis menyerukan sebuah organisasi yang pada awalnya hanya akan mewajibkan perusahaan terdepan untuk secara sukarela membagikan model mereka untuk ditinjau hingga 30 hari sebelum dirilis, namun kemudian, diperlukan izin awal yang wajib.

Surat tersebut, yang pertama kali dilaporkan oleh Bloomberg sebelum dirilis, disusun bersama dua organisasi nirlaba, Guidelight AI Standards dan Encode AI, keduanya telah mempromosikan standar keamanan AI. Encode AI sebelumnya bentrok dengan OpenAI.