Seiring dengan meningkatnya AI mengambil alih pekerjaan programmer modern, dunia keamanan siber telah memperingatkan bahwa alat pengkodean otomatis pasti akan memperkenalkan banyak bug baru yang dapat diretas ke dalam perangkat lunak. Namun, ketika alat pengkodean getaran tersebut mengundang siapa pun untuk membuat aplikasi yang dihosting di web dengan sekali klik, ternyata implikasi keamanannya lebih dari sekadar bug, hingga tidak adanya sama sekali. setiap keamanan—bahkan, terkadang, untuk data perusahaan dan pribadi yang sangat sensitif.
Peneliti keamanan Dor Zvi dan timnya di perusahaan keamanan siber yang ia dirikan, RedAccess, menganalisis ribuan aplikasi web berkode getaran yang dibuat menggunakan alat pengembangan perangkat lunak AI Lovable, Replit, Base44, dan Netlify dan menemukan lebih dari 5.000 di antaranya tidak memiliki keamanan atau autentikasi apa pun. Banyak dari aplikasi web ini memungkinkan siapa saja yang hanya menemukan URL webnya untuk mengakses aplikasi dan datanya. Yang lain hanya memiliki hambatan kecil terhadap akses tersebut, seperti mengharuskan pengunjung masuk dengan alamat email apa pun. Sekitar 40 persen aplikasi mengekspos data sensitif, kata Zvi, termasuk informasi medis, data keuangan, presentasi perusahaan, dan dokumen strategi, serta catatan rinci percakapan pelanggan dengan chatbots.
“Hasil akhirnya adalah organisasi membocorkan data pribadi melalui aplikasi pengkodean getaran,” kata Zvi. “Ini adalah salah satu peristiwa terbesar yang pernah terjadi di mana orang-orang mengungkap informasi sensitif perusahaan atau lainnya kepada siapa pun di dunia.”
Zvi mengatakan penelusuran RedAccess untuk aplikasi web yang rentan ternyata sangat mudah. Lovable, Replit, Base44, dan Netlify semuanya memungkinkan pengguna untuk menghosting aplikasi web mereka di domain milik perusahaan AI tersebut, bukan di domain pengguna. Jadi para peneliti menggunakan pencarian langsung Google dan Bing untuk domain perusahaan AI tersebut dikombinasikan dengan istilah pencarian lainnya untuk mengidentifikasi ribuan aplikasi yang telah diberi kode getaran dengan alat perusahaan tersebut.
Dari 5.000 aplikasi berkode AI yang menurut Zvi dibiarkan dapat diakses publik oleh siapa saja yang hanya mengetikkan URL-nya ke dalam browser, ia menemukan hampir 2.000 aplikasi yang, setelah diperiksa lebih dekat, tampaknya mengungkap data pribadi: Tangkapan layar aplikasi web yang ia bagikan dengan WIRED—beberapa di antaranya diverifikasi WIRED masih online dan terekspos—menunjukkan apa yang tampaknya merupakan tugas kerja rumah sakit dengan informasi identitas pribadi para dokter, informasi detail pembelian iklan perusahaan, apa tampaknya merupakan presentasi strategi masuk ke pasar perusahaan lain, catatan lengkap percakapan chatbot pengecer dengan pelanggan, termasuk nama lengkap dan informasi kontak pelanggan, catatan kargo perusahaan pelayaran, dan berbagai macam catatan penjualan dan keuangan dari berbagai perusahaan lain. Dalam beberapa kasus, kata Zvi, dia menemukan bahwa aplikasi yang terekspos akan memungkinkan dia mendapatkan hak administratif atas sistem dan bahkan menghapus administrator lain.
Dalam kasus Lovable, Zvi mengatakan dia juga menemukan banyak contoh situs phishing yang menyamar sebagai perusahaan besar, termasuk Bank of America, Costco, FedEx, Trader Joe’s, dan McDonald’s, yang tampaknya dibuat dengan alat pengkodean AI dan dihosting di domain Lovable.
Ketika WIRED bertanya kepada empat perusahaan pengkodean AI tentang temuan RedAccess, Netlify tidak menjawab, namun tiga perusahaan lainnya menolak klaim para peneliti dan memprotes karena mereka tidak cukup membagikan temuan mereka atau memberikan cukup waktu bagi mereka untuk merespons. (RedAccess mengatakan pihaknya menghubungi perusahaan tersebut pada hari Senin.) Namun mereka tidak menyangkal bahwa aplikasi web yang ditemukan RedAccess dibiarkan terbuka.
“Dari terbatasnya informasi yang mereka bagikan, [RedAccess’s] klaim inti tampaknya adalah bahwa beberapa pengguna telah menerbitkan aplikasi di web terbuka yang seharusnya bersifat pribadi,” tulis CEO Replit Amjad Masad dalam postingan tanggapan di X. “Replit memungkinkan pengguna untuk memilih apakah aplikasi bersifat publik atau pribadi. Akses aplikasi publik di internet merupakan perilaku yang diharapkan. Pengaturan privasi dapat diubah kapan saja dengan satu klik.”
Juru bicara Lovable menanggapi dalam sebuah pernyataan bahwa “Lovable menanggapi laporan data yang terekspos dan situs phishing dengan serius, dan kami secara aktif bekerja untuk mendapatkan apa yang perlu kami selidiki. Kami memperlakukan ini sebagai masalah yang berkelanjutan. Perlu juga dicatat bahwa Lovable memberi pembuat alat untuk membangun dengan aman, namun bagaimana suatu aplikasi dikonfigurasikan pada akhirnya adalah tanggung jawab pembuatnya.”
Blake Brodie, kepala hubungan masyarakat untuk perusahaan induk Base44, Wix, menulis dalam sebuah pernyataan bahwa “Base44 memberi pengguna alat yang kuat untuk mengonfigurasi keamanan aplikasi mereka sendiri, termasuk kontrol akses dan pengaturan visibilitas.” Dia menambahkan bahwa “menonaktifkan kontrol tersebut adalah tindakan yang disengaja dan langsung, pengguna mana pun dapat melakukannya. Jika aplikasi dapat diakses secara publik, hal tersebut mencerminkan pilihan konfigurasi pengguna, bukan kerentanan platform.”
Brodie juga mencatat bahwa “sangat mudah untuk membuat aplikasi yang tampaknya berisi data pengguna sebenarnya. Tanpa satu contoh terverifikasi yang diberikan kepada kami, kami tidak memiliki cara untuk menilai validitas klaim ini.” RedAccess, pada bagiannya, membantah bahwa mereka tidak memberikan contoh kepada Base44.
Zvi mencatat bahwa untuk beberapa lusin aplikasi web yang terekspos, Zvi bahkan menghubungi pemilik aplikasi tersebut, yang mengonfirmasi bahwa data telah terekspos. RedAccess juga berbagi komunikasi anonim dengan WIRED dalam beberapa kasus yang menunjukkan pengguna Base44 berterima kasih kepada para peneliti karena memperingatkan mereka tentang aplikasi web yang terbuka, yang kemudian diamankan atau dijadikan offline.
Memverifikasi apakah data nyata telah terekspos pada aplikasi web berkode AI tertentu yang tidak aman bisa jadi rumit, kata Joel Margolis, peneliti keamanan yang, bersama rekannya, baru-baru ini menemukan bahwa mainan obrolan AI telah mengungkap 50.000 percakapan mainan itu dengan anak-anak di situs web yang hampir tidak memiliki keamanan. Data dalam aplikasi web berkode getaran mungkin merupakan pengganti, katanya, atau aplikasi tersebut mungkin hanya bukti konsep. Brodie dari Wix berpendapat bahwa dua contoh yang dibagikan WIRED dengan Base44 tampaknya merupakan situs pengujian atau memiliki data yang dihasilkan AI.
Untuk aplikasi web yang ditinjau WIRED, kami tidak dapat memastikan bahwa data pribadi atau perusahaan sama sensitifnya—atau nyata—seperti yang terlihat.
Namun Margolis mengatakan bahwa masalah aplikasi web buatan AI yang mengekspos data sangatlah nyata. Dia mengatakan bahwa dia sering menemukan eksposur yang persis seperti yang dikatalogkan Zvi. “Seseorang dari tim pemasaran ingin membuat situs web. Mereka bukan seorang insinyur dan mungkin mereka tidak memiliki latar belakang atau pengetahuan keamanan sama sekali,” kata Margolis. Alat pengkodean AI, katanya, “lakukan apa yang Anda minta mereka lakukan. Dan kecuali Anda meminta mereka melakukannya dengan aman, mereka tidak akan melakukan apa pun untuk melakukan hal itu.”
Zvi menunjukkan bahwa 5.000 aplikasi yang ditemukan oleh Red Access hanyalah aplikasi yang dihosting di domain alat pengkodean AI itu sendiri, dan kemungkinan ribuan lainnya dihosting di domain yang dibeli pengguna. Dia membandingkan banjirnya paparan data yang diakibatkan oleh aplikasi web berkode AI yang tidak aman bagi perusahaan dengan epidemi data terbuka yang disebabkan oleh pengaturan keamanan bucket penyimpanan Amazon S3 pada tahun-tahun sebelumnya. Perusahaan dari Verizon ke Hiburan Gulat Dunia secara tidak sengaja mengekspos banyak sekali data sensitif karena kesalahan konfigurasi pada layanan penyimpanan cloud Amazon. Namun banyak pihak di industri keamanan siber juga menyalahkan Amazon karena membingungkan pengaturan keamanan yang menyebabkan begitu banyak pelanggan melakukan kesalahan yang sama.
Alat pengkodean aplikasi web AI kini menciptakan gelombang paparan data, yang merupakan hasil dari kombinasi serupa antara kesalahan pengguna dan kurangnya perlindungan, kata Zvi. Namun yang lebih mendasar dibandingkan kegagalan keamanan tertentu yang dilakukan oleh perusahaan pengkodean AI, menurutnya, adalah bahwa alat-alat ini memungkinkan sekelompok orang baru dalam organisasi untuk membuat aplikasi—seringkali dengan sedikit kesadaran akan keamanan dan di luar proses pengembangan perangkat lunak yang biasa digunakan perusahaan untuk memeriksa aplikasi sebelum dirilis.
“Siapa pun dari perusahaan Anda kapan saja dapat membuat aplikasi, dan ini tidak melalui siklus pengembangan atau pemeriksaan keamanan apa pun,” kata Zvi. “Orang-orang bisa mulai menggunakannya dalam produksi tanpa bertanya kepada siapa pun. Dan mereka melakukannya.”
