CEO Antropis Dario Amodei terkenal karena memperingatkan bahwa produknya sendiri menimbulkan ancaman.
Dalam sebuah esai yang diterbitkan bulan ini, Amodei memperingatkan bahwa kekuatan AI “tidak dapat disangkal.” Sebagai contoh, ia menunjuk pada model terbaru Anthropic, Mythos, yang menurutnya menghadirkan “risiko yang sangat nyata” terhadap keamanan siber, sektor keuangan, infrastruktur penting, dan keamanan nasional.
Dia kemudian menyerukan intervensi pemerintah yang lebih kuat untuk mengatasi risiko tersebut.
Pada hari Jumat, peringatannya tampaknya menjadi bumerang ketika pemerintah AS tiba-tiba melakukan intervensi.
Akses terputus secara antropis ke Mythos 5 dan Fable 5 setelah dikatakan bahwa pemerintahan Trump memerintahkan mereka untuk memblokir akses asing ke model tersebut. Kepala informasi Pentagon menyatakan dukungannya terhadap langkah tersebut dalam postingan X, dengan menulis, “Beberapa hal lebih penting daripada siklus pendapatan, clickbait, dan penilaian pra-IPO.”
Perkembangan yang mengejutkan mengirim industri teknologi menjadi gelisah.
Gary Marcus, peneliti AI dan terkenal skeptis, menyebut langkah pemerintahan Trump “sangat berlebihan dan juga kontraproduktif.”
Yann LeCunn, yang dianggap sebagai salah satu bapak baptis AI, menyalahkan Amodei: “Ketakutan konyol Dario Amodei yang mengoceh tentang Mitos/Fabel (dan AI secara umum) akhirnya membuahkan hasil,” tulisnya di X. “Seseorang menuai apa yang ia tabur.”
Amodei telah lama berusaha memposisikan dirinya sebagai orang dewasa di industri AI. Pernah menjadi peneliti integral di OpenAI, dia meninggalkan perusahaan untuk memulai Anthropic atas kekhawatiran bahwa CEO OpenAI Sam Altman memprioritaskan peluncuran produk daripada memastikan keamanannya.
Sejak saat itu, ia telah mengeluarkan serangkaian pernyataan bahwa hal-hal yang ia bangun dan rilis ke masyarakat umum, bersama dengan OpenAI, Google, Meta, Amazon, dan lainnya, dapat mengubah kehidupan seperti yang kita ketahui — baik maupun buruk.
Amodei pernah memperingatkan hal itu AI akan menghilangkannya setengah dari pekerjaan kerah putih tingkat pemula dan menyebabkan pengangguran melonjak ke tingkat yang belum pernah terjadi sejak pandemi COVID-19, dan sebelum itu, Resesi Hebat pada tahun 2008.
Meskipun Amodei telah melunakkan sikapnya terhadap pekerjaan dalam beberapa minggu terakhir seiring perusahaannya bersiap untuk go public, dia dan perusahaannya tidak menahan diri dari masalah keselamatan lainnya.
“Risiko dunia maya yang ditimbulkan oleh model kelas Mythos bukanlah risiko terakhir yang harus kita hadapi,” tulisnya dalam esainya pada bulan Juni. “Saya percaya bahwa risiko biologis akan segera menyusul, dan risiko otonomi AI yang serius mungkin juga akan terjadi.”
Dia menulis bahwa kekhawatiran anggota parlemen tidak sejalan dengan kemajuan pesat AI.
Awal bulan ini, perusahaannya menyerukan penghentian sementara pengembangan model-model AI terdepan dalam sebuah makalah yang memperingatkan bahwa model-model terbaru semakin dekat untuk memperbaiki diri, yang dikatakan, “dapat meningkatkan risiko manusia kehilangan kendali atas sistem AI.”
“Kami percaya akan baik bagi dunia untuk memilikinya pilihan untuk memperlambat atau menghentikan sementara pengembangan AI terdepan agar struktur masyarakat dan penelitian selaras dapat mengimbangi kemajuan teknologi,” tulis Anthropic.
Jeda itu tiba pada hari Jumat, setidaknya untuk Anthropic.
Baca selanjutnya
Peter Gelling adalah Editor Senior dan Kepala Biro Akhir Pekan di Business Insider. Ia juga masih menulis, kebanyakan tentang industri AI, pendapatan dasar universalekonomi, reformasi keuangan kampanye, geopolitik, dan hal lain yang menginspirasinya.Dia sebelumnya adalah Editor Geopolitik di Quartz dan Editor Senior di GlobalPost. Dari tahun 2005 hingga 2010, ia menjadi koresponden The New York Times yang berbasis di Jakarta, Indonesia.
