Saya menipu bank saya. Yang diperlukan hanyalah generator suara AI dan panggilan telepon.

Saya mungkin seorang reporter teknologi, tetapi saya tidak mengerti teknologi. Sesuatu rusak, saya mematikannya dan kembali, dan kemudian saya menyerah. Tetapi bahkan saya bisa mendalam dari bank saya sendiri dengan relatif mudah.

AI generatif telah membuatnya lebih mudah untuk menyamar sebagai suara orang. Selama bertahun -tahun, sudah ada Deepfake Politisi, selebritas, dan almarhum Paus yang dibuat untuk menabur informasi di media sosial. Akhir-akhir ini, peretas mampu membuat orang seperti Anda dan saya. Yang mereka butuhkan hanyalah beberapa detik dari suara Anda, yang mungkin mereka temukan di posting video di Instagram atau Tiktok, dan mungkin beberapa informasi seperti ponsel atau nomor kartu debit Anda, yang mungkin dapat mereka temukan dalam kebocoran data di web gelap.

Dalam kasus saya-untuk keperluan cerita ini-saya mengunduh audio wawancara radio yang saya duduk selama beberapa minggu yang lalu, melatih generator suara di atasnya setelah berlangganan layanan dengan beberapa dolar, dan kemudian menggunakan fungsi teks-ke-suara untuk mengobrol dengan bank dengan suara yang terdengar sedikit robot tetapi menakutkan saya. Selama panggilan lima menit, pertama dengan sistem otomatis dan kemudian perwakilan manusia, Deepfake saya tampaknya sedikit memicu kecurigaan.

Ini adalah scammer taktik yang semakin mengadopsi. Mereka memanfaatkan alat generatif-AI yang murah dan tersedia secara luas untuk orang-orang yang dalam dan mendapatkan akses ke rekening bank mereka, atau bahkan membuka rekening atas nama orang lain. Deepfake ini tidak hanya semakin mudah dibuat tetapi juga semakin sulit dideteksi. Tahun lalu, seorang pekerja keuangan di Hong Kong secara keliru membayar $ 25 juta untuk scammers setelah mereka mendalam chief financial officer perusahaan dan anggota staf lainnya dalam panggilan video.

Itu satu oopsie utama, tetapi hari bayaran besar tidak selalu menjadi tujuan. Teknologi ini memungkinkan organisasi kriminal untuk meniru orang dalam skala, mengotomatiskan panggilan suara Deepfake yang mereka gunakan untuk menipu jumlah yang lebih kecil dari banyak orang. Sebuah laporan dari Deloitte memperkirakan bahwa kerugian penipuan di AS dapat mencapai $ 40 miliar pada tahun 2027 sebagai penipu generatif AI Bolsters, yang akan menjadi lompatan dari $ 12,3 miliar pada tahun 2023. Dalam survei Accenture baru -baru ini sebesar 600 Eksekutif Cybersecurity Di bank, 80% responden mengatakan mereka percaya Jenderal AI meningkatkan kemampuan peretas lebih cepat daripada yang bisa ditanggapi oleh bank.

Scammers ini dapat mengambil alat Gen-AI dan menargetkan akun pada skala besar. “Mereka adalah insinyur terbaik, manajer produk terbaik, peneliti terbaik,” kata Ben Colman, CEO Reality Defender, sebuah perusahaan yang membuat perangkat lunak untuk pemerintah, lembaga keuangan, dan bisnis lain untuk mendeteksi kemungkinan bahwa konten dihasilkan oleh AI secara real time. “Jika mereka dapat mengotomatiskan penipuan, mereka akan menggunakan setiap alat.” Selain mencuri suara atau gambar Anda, mereka dapat menggunakan Gen AI untuk memalsukan dokumen, baik untuk mencuri identitas atau membuat yang sama sekali baru, palsu untuk membuka akun untuk menyalurkan uang.

Dalam survei Accenture baru -baru ini terhadap 600 eksekutif keamanan siber di bank, 80% responden mengatakan mereka percaya Jenderal AI meningkatkan kemampuan peretas lebih cepat daripada yang bisa ditanggapi oleh bank.

The Scammers sedang memainkan game angka. Bahkan ketika lembaga keuangan memblokir mereka, mereka dapat mencoba akun lain atau layanan lain. Dengan mengotomatiskan upaya, “para penyerang tidak harus sering melakukannya dengan baik,” kata Colman. Dan mereka tidak peduli hanya mengejar orang terkaya; Penipuan banyak orang dari sejumlah kecil uang bisa menjadi lebih menguntungkan dari waktu ke waktu. Menurut Pusat Keluhan Kejahatan Internet FBI, penipuan online rata -rata pada tahun 2024 keluar hanya di bawah $ 20.000 di lebih dari 250.000 keluhan yang diterima FBI dari orang -orang dari segala usia (mereka yang lebih dari 60 mengajukan keluhan terbanyak dan melihat kerugian terbesar, tetapi bahkan orang di bawah 20 kehilangan gabungan $ 22,5 juta). “Semua orang sama -sama menjadi sasaran,” katanya.

Colman mengatakan beberapa bank telah mencoba untuk mengatasi masalah Deepfake dalam beberapa tahun terakhir, sementara yang lain tidak melihatnya sebagai masalah yang mendesak. Sekarang, semakin banyak menggunakan perangkat lunak untuk melindungi klien mereka. Sebuah survei 2024 eksekutif bisnis (yang bekerja di seluruh industri, tidak hanya di perbankan) menemukan bahwa lebih dari 10% telah menghadapi upaya penipuan Deepfake yang dicoba atau sukses. Lebih dari setengahnya mengatakan bahwa karyawan mereka belum dilatih untuk mengidentifikasi atau mengatasi serangan tersebut.

Saya menjangkau beberapa bank terbesar di AS, bertanya kepada mereka apa yang mereka lakukan untuk mendeteksi dan menutup penipuan Deepfake. Beberapa tidak merespons. Citi menolak untuk membagikan rincian metode dan teknologi deteksi penipuannya. Darius Kingsley, kepala praktik perbankan konsumen di JPMorgan Chase, mengatakan kepada saya bahwa bank melihat “tantangan yang ditimbulkan oleh teknologi yang berkembang pesat yang dapat dieksploitasi oleh aktor buruk” dan “berkomitmen untuk tetap di depan dengan terus memajukan protokol keamanan kami dan berinvestasi dalam solusi canggih untuk melindungi pelanggan kami.”

Melihat Deepfakes adalah pekerjaan yang rumit. Bahkan Openai menghentikan detektor penulisan AI-nya tak lama setelah meluncurkannya pada tahun 2023, beralasan bahwa akurasinya terlalu rendah untuk mendeteksi apakah sesuatu yang dihasilkan oleh chatgptnya sendiri. Gambar, video, dan generasi audio semuanya telah meningkat dengan cepat selama dua tahun terakhir karena alat menjadi lebih canggih: jika Anda ingat betapa mengerikan dan tidak realistisnya Ai Will Smith Makan spaghetti tampak hanya dua tahun yang lalu, Anda akan terkejut melihat apa Generator teks-ke-video Openai, Sorabisa lakukan sekarang. AI generatif telah mendapatkan lompatan dan batas yang lebih baik dalam meliput jejaknya, yang merupakan berita bagus untuk scammers.

Pada panggilan Deepfake saya dengan bank saya, saya telah memalsukan saya membacakan informasi seperti nomor kartu debit saya dan empat digit terakhir dari nomor jaminan sosial saya. Jelas, ini adalah info yang saya miliki, tetapi sangat mudah akhir -akhir ini bagi para penjahat untuk membeli data pribadi semacam ini di web gelap, karena mungkin terlibat dalam kebocoran data. Saya menghasilkan frasa ramah yang meminta bank saya untuk memperbarui alamat email saya, atau mengubah pin saya. Palsu saya berulang kali memohon sistem otomatis untuk menghubungkan saya ke perwakilan, dan kemudian memberikan ceria, “Saya baik -baik saja hari ini, apa kabar?” Salam untuk orang di jalur lain. Saya memiliki Deepfake Me saya meminta lebih banyak waktu untuk menggali kode konfirmasi yang dikirim ke ponsel saya dan kemudian berterima kasih kepada perwakilan atas bantuan mereka.

Pihak berwenang mulai membunyikan alarm tentang betapa mudah dan meluasnya. Pada bulan November, jaringan penegakan kejahatan keuangan memberikan peringatan kepada lembaga keuangan tentang Jenderal AI, Deepfake, dan risiko penipuan identitas. Berbicara di Federal Reserve Bank of New York pada bulan April, Michael Barr, seorang gubernur Federal Reserve, mengatakan bahwa teknologi itu “memiliki potensi untuk penipuan identitas tambahan” dan bahwa serangan Deepfake telah meningkat dua puluh kali lipat dalam tiga tahun terakhir. Barr mengatakan bahwa kita akan membutuhkan kebijakan baru yang menaikkan biaya untuk penyerang dan menurunkan beban bank. Saat ini, risiko yang relatif rendah dan biaya rendah bagi organisasi scammer untuk melakukan sejumlah besar serangan, dan tidak mungkin bagi bank untuk menangkap masing -masing dan setiap orang.

Bukan hanya bank yang mendapat panggilan aneh; Scammers juga akan menggunakan DeepFakes untuk memanggil orang dan menyamar sebagai seseorang yang mereka kenal atau layanan yang mereka gunakan. Ada langkah -langkah yang bisa kami ambil jika permintaan yang mencurigakan datang. “Penipuan ini adalah rasa baru dari metode sekolah lama yang bergantung pada kontak yang tidak terduga dan rasa urgensi yang salah untuk menipu orang agar berpisah dengan uang mereka,” Ashwin Raghu, kepala kebijakan penipuan dan inovasi di Citi, memberi tahu saya dalam sebuah email. Raghu mengatakan orang -orang harus curiga terhadap permintaan mendesak dan panggilan tak terduga – bahkan jika mereka datang dari seseorang yang terdengar seperti teman atau anggota keluarga. Cobalah meluangkan waktu untuk memverifikasi penelepon atau menghubungi orang tersebut dengan cara yang berbeda. Jika panggilan tampaknya berasal dari bank Anda, Anda mungkin ingin menutup telepon dan menghubungi bank kembali menggunakan nomor telepon pada kartu Anda untuk mengonfirmasi.

Untuk semua data pada Anda bahwa scammers dapat menggali menggunakan AI, akan ada hal -hal yang hanya bisa diketahui oleh dua orang. Musim panas yang lalu, seorang eksekutif di Ferrari Mampu menangkap scammer yang mendalam suara CEO perusahaan ketika dia bertanya kepada penelepon buku apa yang dia rekomendasikan hanya beberapa hari sebelumnya. Membatasi apa yang Anda bagikan di media sosial dan kepada siapa salah satu cara untuk menindak kemungkinan Anda akan menjadi target, seperti halnya alat-alat seperti otentikasi dua faktor dan manajer kata sandi yang menyimpan kata sandi yang kompleks dan beragam. Tapi tidak ada cara yang sangat mudah untuk menghindari menjadi target penipuan.

Gagasan kebijakan Barr termasuk menciptakan lebih banyak konsistensi dalam undang -undang kejahatan dunia maya secara internasional dan lebih banyak koordinasi di antara lembaga penegak hukum, yang akan membuat cincin kriminal lebih sulit beroperasi tidak terdeteksi. Dia juga menyerukan peningkatan hukuman pada mereka yang mencoba menggunakan AI generatif untuk penipuan. Tapi itu tidak akan menjadi perbaikan tercepat untuk mengimbangi seberapa cepat teknologi telah berubah.

Meskipun teknologi ini tersedia, kadang -kadang dalam aplikasi gratis dan kadang -kadang untuk pembelian hanya beberapa dolar, masalahnya kurang menjadi proliferasi peretas serigala tunggal, kata Jason Ioannides, wakil presiden global fintech dan sponsor perbankan di paduan, platform pencegahan penipuan. Ini sering dilakukan oleh cincin kejahatan besar dan terorganisir yang dapat bergerak dalam jumlah besar dan didukung oleh otomatisasi untuk melakukan ribuan serangan. Jika mereka mencoba 1.000 kali untuk melewati dan berhasil sekali, mereka kemudian akan memfokuskan upaya mereka untuk memotong di lembaga yang sama, sampai bank memperhatikan tren dan menghasilkan perbaikan untuk menghentikannya. “Mereka mencari kelemahan, dan kemudian mereka menyerangnya,” kata Ioannides. Dia mengatakan bank harus “tetap gesit” dan memiliki “pendekatan berlapis” untuk mendeteksi penipuan yang berkembang dengan cepat. “Anda tidak akan pernah menghentikan 100% penipuan,” katanya. Dan bank -bank umumnya tidak akan sempurna, tetapi pembelaan mereka terletak pada membuat diri mereka “kurang menarik bagi aktor yang buruk” daripada institusi lainnya.

Pada akhirnya, saya tidak dapat benar -benar meretas bank saya. Saya mencoba mengubah pin kartu debit saya dan alamat email saya selama panggilan telepon, tetapi saya diberitahu bahwa saya harus melakukan yang pertama di ATM dan yang kedua online. Saya dapat mendengar saldo akun saya, dan dengan sedikit lebih banyak persiapan dan keahlian, saya mungkin bisa memindahkan sejumlah uang. Setiap bank memiliki sistem dan aturan yang berbeda, dan beberapa mungkin memungkinkan orang untuk mengubah informasi pribadi, seperti email, melalui telepon, yang dapat memberikan scammer akses yang lebih mudah ke akun. Apakah bank saya menangkap penggunaan suara yang dihasilkan, saya tidak yakin, tetapi saya tidur sedikit lebih baik mengetahui ada beberapa perlindungan di tempatnya.

Amanda Hoover adalah koresponden senior di Business Insider yang meliput industri teknologi. Dia menulis tentang perusahaan teknologi dan tren terbesar.