Aktor-aktor ancaman menggunakan Grok, asisten AI bawaan X, untuk memotong batasan tautan yang dibatasi oleh platform yang diperkenalkan untuk mengurangi iklan jahat.
Seperti yang ditemukan oleh peneliti Guardio Labs Anak -anakMavertisers sering menjalankan iklan video samar yang berisi umpan konten dewasa dan menghindari memasukkan tautan ke badan utama untuk menghindari diblokir oleh X.
Sebaliknya, mereka menyembunyikannya di bidang kecil “dari:” metadata di bawah kartu video, yang tampaknya tidak dipindai oleh platform media sosial untuk tautan berbahaya.
Sumber: @bananahacks
Selanjutnya, (kemungkinan) aktor yang sama bertanya kepada Grok melalui balasan iklan sesuatu tentang posting, seperti “dari mana video ini,” atau “apa tautan ke video ini.”
Grok mem -parsing Field “dari:” yang tersembunyi dan membalas dengan tautan berbahaya lengkap dalam format yang dapat diklik, memungkinkan pengguna untuk mengkliknya dan langsung ke situs berbahaya.
Karena Grok secara otomatis merupakan akun sistem tepercaya pada platform X, posnya meningkatkan kredibilitas tautan, jangkauan, SEO, dan reputasi, meningkatkan kemungkinan bahwa itu akan disiarkan ke sejumlah besar pengguna.
Peneliti telah menemukan bahwa banyak dari tautan ini menyalurkan melalui jaringan iklan yang teduh, yang mengarah ke penipuan seperti tes captcha palsu, malware mencuri informasi, dan muatan berbahaya lainnya.
Alih -alih diblokir oleh X, mereka malah dipromosikan menjadi pengguna di platform melalui iklan berbahaya yang menerima dorongan lebih lanjut dari Grok.
Tal menyebut teknik mengeksploitasi celah ini “Grokking,” dan mencatat bahwa itu sangat efektif, dalam beberapa kasus memperkuat iklan jahat untuk mencapai jutaan tayangan, seperti yang ditunjukkan di bawah ini.
Solusi potensial termasuk memindai semua bidang, memblokir tautan tersembunyi, dan menambahkan sanitasi konteks ke Grok, sehingga asisten AI tidak secara membabi buta menggemakan tautan ketika ditanya oleh pengguna, tetapi sebaliknya menyaring dan memeriksanya terhadap blocklist.
Tal mengkonfirmasi kepada kami bahwa ia telah menghubungi X untuk melaporkan masalah ini dan menerima konfirmasi tidak resmi bahwa insinyur Grok menerima laporan tersebut.
BleepingComputer juga telah menghubungi X untuk menanyakan apakah mereka mengetahui penyalahgunaan ini dan apakah mereka berencana untuk melakukan sesuatu tentang hal itu, tetapi kami tidak menerima tanggapan berdasarkan waktu publikasi.
