Gelombang terbaru alat kecerdasan buatan dapat membantu meningkatkan produktivitas secara signifikan, yang sayangnya juga berkaitan dengan penipu dan spammer, yang kini menggunakan AI untuk menciptakan sistem yang lebih meyakinkan, lebih menarik, dan lebih berbahaya untuk serangan mereka.
Google telah membagikan beberapa taktik yang berkembang ini dalam versi terbarunya Laporan Grup Intelijen Ancamanmenguraikan beberapa metode berkembang yang digunakan para penipu untuk menipu korban tanpa disadari.
Seperti yang dijelaskan oleh Google: “Selama beberapa bulan terakhir, Google Threat Intelligence Group (GTIG) telah mengamati pelaku ancaman menggunakan AI untuk mengumpulkan informasi, membuat penipuan phishing yang sangat realistis, dan mengembangkan malware. Meskipun kami belum melihat serangan langsung terhadap model frontier atau produk AI generatif dari pelaku ancaman persisten tingkat lanjut (APT), kami memiliki melihat dan memitigasi serangan ekstraksi model yang sering terjadi (sejenis spionase perusahaan) dari entitas sektor swasta di seluruh dunia – sebuah ancaman yang mungkin akan dihadapi oleh bisnis lain yang menggunakan model AI dalam waktu dekat.”
Google mengatakan bahwa para penipu ini menggunakan AI untuk “mempercepat siklus hidup serangan,” dengan alat AI yang membantu mereka menyempurnakan dan menyesuaikan pendekatan mereka dalam menanggapi deteksi ancaman, sehingga menjadikan penipu menjadi lebih efektif.
Itu masuk akal. Alat AI dapat meningkatkan produktivitas, yang juga berkaitan dengan penggunaannya untuk tujuan negatif, dan jika penipu dapat menemukan cara untuk meningkatkan pendekatan mereka melalui evolusi sistematis, mereka akan melakukannya.
Dan ini bukan hanya penipu tingkat rendah saja.
“Bagi pelaku ancaman yang didukung pemerintah, model bahasa besar telah menjadi alat penting untuk penelitian teknis, penargetan, dan generasi cepat umpan phishing yang beragam. Laporan triwulanan kami menyoroti bagaimana pelaku ancaman dari Republik Demokratik Rakyat Korea (DPRK), Iran, Republik Rakyat Tiongkok (RRT), dan Rusia mengoperasionalkan AI pada akhir tahun 2025 dan meningkatkan pemahaman kami tentang bagaimana penyalahgunaan AI generatif muncul dalam kampanye yang kami ganggu di alam liar.”
Meskipun Google mencatat bahwa penggunaan alat AI oleh pelaku ancaman saat ini tidak “secara mendasar mengubah lanskap ancaman.”
Setidaknya belum.
Google mengatakan bahwa proyek-proyek ini adalah memanfaatkan alat AI dalam berbagai cara:
- Serangan Ekstraksi Model: “Serangan distilasi” sedang meningkat sebagai metode pencurian kekayaan intelektual selama setahun terakhir.
- Operasi yang Ditambah AI: Studi kasus di dunia nyata menunjukkan bagaimana kelompok-kelompok tersebut menyederhanakan pengintaian dan membangun hubungan baik dengan phishing.
- AI Agen: Pelaku ancaman mulai menunjukkan minat untuk membangun kemampuan AI agen untuk mendukung malware dan pengembangan peralatan.
- Malware Terintegrasi AI: Ada keluarga malware baru, seperti HONESTCUE, yang bereksperimen dengan menggunakan antarmuka pemrograman aplikasi (API) Gemini untuk menghasilkan kode yang memungkinkan pengunduhan dan eksekusi malware tahap kedua.
- Ekosistem “Jailbreak” Bawah Tanah: Layanan berbahaya seperti Xanthorox muncul secara diam-diam, mengklaim sebagai model independen namun sebenarnya mengandalkan API komersial yang sudah di-jailbreak dan server Model Context Protocol (MCP) sumber terbuka.
Tidak mengherankan jika alat AI digunakan untuk serangan semacam ini, namun perlu dicatat bahwa penipu juga semakin canggih dan efektif, dengan mempertajam pendekatan mereka dengan model AI generatif terbaru.
Pada dasarnya, ini adalah peringatan bahwa Anda harus berhati-hati dengan tautan yang Anda klik, dan materi yang Anda gunakan, karena penipu semakin pandai mencuri informasi.
Anda dapat membaca laporan ancaman lengkap Google untuk Q4, yang mencakup lebih banyak detail tentang serangan yang dibantu AI, Di Sini.
