Apa yang harus dipikirkan sebelum menggunakan Moltbook atau OpenClaw

OpenClaw dan Moltbot sedang menjadi perbincangan di dunia teknologi saat ini, namun peneliti keamanan siber telah menandai beberapa kekhawatiran yang mungkin ingin Anda pikirkan.

cakar terbuka — pertama kali dikenal sebagai Clawdbotlalu Moltbot, semuanya dalam minggu yang sama — membuat dunia teknologi heboh berkat kemampuannya melakukan tugas secara mandiri seperti mengelola akun pengguna. jadwal.

Sementara itu, Moltbook telah menjadi viral untuk jejaring sosial bergaya Reddit, tempat agen AI memposting dan berinteraksi satu sama lain. Tidak ada manusia yang diizinkan – selain mengamati.

Tapi sebagai meme dunia teknologi tentang dua poin pembicaraan AI terbaru dan Elon Musk merenungkan apakah Moltbook menggembar-gemborkan “tahap paling awal dari singularitas,” beberapa peneliti keamanan telah membunyikan peringatan tentang risiko yang lebih mendesak.

Cakar keluar

OpenClaw berjalan secara lokal di komputer pengguna dan beroperasi sebagai asisten digital yang dihubungkan ke aplikasi seperti Telegram dan WhatsApp.

Untuk melakukannya, diperlukan akses ke file pengguna, kredensial, kata sandi, riwayat browser, dan banyak lagi.

Hal ini bisa sangat berisiko bagi mereka yang disebut demikian “suntikan segera,” jenis serangan di mana AI menemukan instruksi tersembunyi di halaman web, yang dapat mengelabui AI agar melakukan hal-hal seperti berbagi informasi pribadi atau mempublikasikan di media sosial.

“Karena tingkat akses yang diperlukan, data dapat berisi informasi yang sangat sensitif, sehingga memperbesar risiko,” kata Jake Moore, spesialis keamanan siber global di ESET, kepada Business Insider.

Secara teoritis, model bahasa besar apa pun berisiko diinjeksi dengan cepat. Namun, kemampuan OpenClaw untuk “mengingat” interaksi dari beberapa minggu lalu menciptakan risiko tambahan, kata perusahaan keamanan siber Palo Alto Networks pada hari Jumat. postingan blogkarena asisten AI dapat menyerap instruksi berbahaya dan mengeksekusinya nanti.

Risiko keamanan tidak hanya bersifat hipotetis.

Jamieson O’Reilly, pendiri Dvuln, sebuah perusahaan yang menemukan kelemahan keamanan siber, disamakan sebuah kesalahan konfigurasi yang dia temukan di OpenClaw untuk mempekerjakan seorang kepala pelayan untuk mengatur hidup Anda – hanya untuk kembali ke rumah dan menemukan pintu depan terbuka lebar dan “kepala pelayan Anda dengan riang menyajikan teh kepada siapa pun yang berkeliaran di jalan.”

Gary Marcus, seorang ilmuwan kognitif dan sejak lama skeptis terhadap AI, lebih eksplisit mengenai risiko keamanan dalam karyanya buletin terbaruditerbitkan hari Minggu.

“OpenClaw pada dasarnya adalah aerosol yang dipersenjatai, yang berada dalam posisi utama untuk melakukan kekacauan, jika dibiarkan,” tulisnya.

Peter Steinberger, pencipta OpenClaw, mengatakan pada hari Senin X posting bahwa dia telah berupaya untuk membuat layanan “lebih aman”. Dia tidak menanggapi permintaan komentar dari Business Insider.

Moltbook yang salah dikonfigurasi

Nama Moltbook terinspirasi oleh perubahan merek pertama OpenClaw, dan keduanya memiliki logo lobster — namun keduanya tidak berafiliasi secara formal.

Namun, situs ini sebagian besar dihuni oleh agen AI yang dibangun di atas OpenClaw. Dan, seperti OpenClaw, para peneliti juga mengatakan mereka telah menemukan celah keamanan di Moltbook.

O’Reilly, pendiri Dvuln, mengatakan pada hari Sabtu X posting bahwa Moltbook telah “mengekspos seluruh database mereka tanpa perlindungan,” dan bahwa itu akan “mengizinkan siapa pun memposting atas nama agen mana pun.”

Matt Schlicht, pencipta Moltbook dan CEO startup Octane AI, menjawab bahwa dia sedang menyelidikinya, dan O’Reilly kemudian mengatakan masalah telah ditambal.

Namun, pada hari Senin, perusahaan keamanan siber Wiz mengatakan para penelitinya telah meretas a Basis data Moltbook yang “salah dikonfigurasi”. dalam waktu kurang dari 3 menit, memperlihatkan 35.000 alamat email dan pesan pribadi antar agen. Perusahaan menambahkan bahwa mereka mengungkapkannya kepada Moltbook, yang mengamankan kelemahan tersebut “dalam beberapa jam.”

Schlicht tidak dapat dihubungi untuk memberikan komentar.

Andrej Karpathy, salah satu pendiri OpenAI yang menciptakan istilah “vibe coding”, mengatakan pada hari Sabtu X posting bahwa Moltbook adalah “benar-benar hal yang berdekatan dengan fiksi ilmiah paling luar biasa yang pernah saya lihat baru-baru ini.”

Pada hari Sabtu, dia memberikan beberapa peringatan di a posting tindak lanjut. Dia tampaknya menggambarkan situs tersebut sebagai “kebakaran tempat sampah” dan menyarankan agar berhati-hati karena “ini terlalu liar dan Anda menempatkan komputer dan data pribadi Anda dalam risiko tinggi.”

Gunakan AI krustasea Anda dengan aman

Masalah keamanan mencerminkan kekhawatiran jangka panjang tentang aplikasi yang dibuat menggunakan pengkodean getaran, dengan Schlicht menulis minggu lalu bahwa dia “tidak menulis satu baris kode pun” untuk Moltbook dan bahwa “AI menjadikannya kenyataan.”

Dan bagi OpenClaw, ini merupakan pengingat bahwa sering kali ada trade-off privasi dan keamanan ketika sebuah aplikasi mendapat akses ke informasi sensitif untuk memberikan layanan yang lebih baik.

O’Reilly, yang mengatakan bahwa dia sekarang membantu OpenClaw mengidentifikasi masalah keamanan karena dia percaya pada misinya, mengatakan kepada Business Insider bahwa pengguna dapat mengambil langkah-langkah teknis untuk mengurangi risiko penggunaan agen yang memerlukan akses tingkat root, seperti menjalankannya pada mesin terpisah dan memantaunya dengan cermat.

Namun, untuk sistem seperti apa pun, “risikonya tidak akan pernah nol,” katanya. Dalam pandangannya, masalah terbesarnya adalah kebanyakan orang terbiasa mengunduh aplikasi dari Google atau toko aplikasi Apple, yang diperiksa secara ketat sebelum tersedia bagi konsumen.

“Mereka sudah mengunduh ratusan aplikasi sebelumnya, jadi mengapa aplikasi ini harus berbeda? Pemikiran itu pada dasarnya salah,” katanya.

Baca selanjutnya