Pastor Mike Schmitz, seorang pendeta Katolik dan podcaster, ditujukan kepada jemaahnya lebih dari 1,2 juta YouTube pelanggan di bulan November dengan jenis homili yang tidak biasa. Anda tidak selalu bisa mempercayai kata-kata yang keluar dari mulutnya, kata Schmitz, karena terkadang kata-kata itu sebenarnya bukan kata-katanya—atau mulutnya. Schmitz telah menjadi target peniruan identitas yang dihasilkan oleh AI penipuan.
“Anda sedang diawasi oleh manusia iblis,” kata Schmitz palsu dalam salah satu video yang menampilkan Schmitz asli, yang mengenakan jaket LL Bean di atas jas klerikalnya, dalam iklan layanan masyarakatnya sebagai contoh. “Anda harus bertindak cepat, karena tempat untuk mengirim doa sudah hampir habis,” kata Schmitz palsu lainnya dengan jam pasir di belakangnya. “Dan perjalanan berikutnya hanya akan berlangsung empat bulan lagi.” Schmitz palsu terdengar seperti robot saat dia mendesak pemirsa untuk mengeklik tautan dan mendapatkan restu mereka sebelum terlambat.
“Saya dapat melihat mereka dan berkata ‘Itu konyol, saya tidak akan pernah mengatakan itu,’” kata Schmitz yang asli, yang berbasis di Duluth, Minnesota, dalam video seruannya. “Tapi masyarakat belum bisa memastikannya. Itu sebuah masalah. Itu seperti masalah yang sangat besar.”
Pada video asli Schmitz, beberapa komentar teratas dari para pengikutnya mengatakan mereka telah melihat tokoh Katolik terkemuka lainnya ditiru melalui video AI, termasuk Paus. Menurut pakar keamanan siber Rachel Tobac, yang merupakan CEO SocialProof Security, hal ini terjadi karena pendeta telah menjadi subjek penipuan AI dan media penipuan lainnya yang sangat populer.
“Jika Anda menggunakan TikTok atau Reels, mereka mungkin menemukan halaman Untuk Anda,” kata Tobac. “Ini adalah seseorang yang tampak seperti seorang pendeta, yang mengenakan semua pakaiannya, yang berdiri di atas mimbar atau panggung atau apa pun sebutannya, dan mereka tampaknya berbicara kepada jemaatnya dengan cara yang sangat antusias.”
Pendeta dan pendeta di BirminghamAlabama, pelabuhan bebasNew York, dan Benteng LauderdaleFlorida, telah memperingatkan pengikutnya tentang penipuan AI yang meniru identitas mereka dalam bentuk DM, panggilan telepon, dan deepfake. Alan Beauchamp, seorang pendeta di Ozarks, mengatakan di akun Facebooknya telah diretasdengan peretas memposting sertifikat palsu yang kemungkinan dibuat oleh AI untuk perdagangan mata uang kripto dengan nama Beauchamp di atasnya dan keterangan yang mendesak jemaatnya untuk bergabung dengannya. Sebuah gereja besar di Filipina menerima laporan deepfake yang menampilkan pendetanya. Sebuah gereja evangelis di Nebraska mengeluarkan “peringatan penipuan” AI di Facebookdan seorang pengunjung gereja di kolom komentar memposting tangkapan layar teks yang konon berasal dari salah satu pendeta mereka.
Hal ini tidak membantu jika banyak pendeta dan pendeta yang memiliki banyak pengikut di dunia maya sering kali meminta sumbangan dan menjual barang, hanya saja hal tersebut tidak sama dengan yang dilakukan oleh peniru AI mereka. Dengan bantuan media sosial, tokoh-tokoh otoritas agama dapat menjangkau orang-orang yang beriman jauh di luar lingkungan mereka, namun perkembangan konten yang menampilkan kemiripan dan suara mereka juga memberikan peluang sempurna bagi para penipu yang menggunakan alat AI generatif.
“Anda mendapat panggilan telepon yang terdengar seperti pendeta atau anggota dewan, seseorang yang melakukan siaran langsung setiap minggu, dan suara mereka dapat diambil sampelnya dan dimasukkan ke dalam AI,” kata seorang anggota ChurchTrac, sebuah perusahaan perangkat lunak manajemen gereja yang berbasis di Florida, dalam sebuah video YouTube peringatan tentang munculnya penipuan AI yang menargetkan gereja. “Penipu dapat menggunakan suara itu dan menelepon ke gereja dan berkata ‘Hei, maukah Anda mentransfer dana ini ke rekening ini?’”
Saat mencari Pastor Schmitz di TikTok, WIRED menemukan bahwa tiga akun palsu yang ditunjukkan Schmitz dalam videonya masih aktif, meskipun tidak jelas apakah video yang mereka posting adalah AI atau hanya klip yang diambil dari profil media sosial Schmitz yang sebenarnya. Ada lebih dari 20 akun di TikTok yang menyamar sebagai Schmitz, yang tidak memiliki akun terverifikasi sendiri di platform tersebut. Schmitz tidak menanggapi permintaan komentar, sementara TikTok menghapus akun Schmitz palsu setelah WIRED menunjukkannya kepada perusahaan, mengutip aturannya yang melarang peniruan identitas.
Penipuan bukan satu-satunya contoh AI yang meniru pendeta. Tobac telah menemukan video-video AI berdurasi pendek yang viral yang menampilkan para pendeta yang tampaknya tidak didasarkan pada individu tertentu tetapi dengan cepat mendapatkan penayangan karena betapa tidak terduganya khotbah mereka. Di dalam satu TikTok dia berbagi dengan WIRED, yang telah ditonton lebih dari 11 juta kali, seorang pendeta berteriak dengan marah ke arah kerumunan, tangan mencengkeram sisi mimbarnya: “Miliarder adalah satu-satunya minoritas yang harus kita takuti! Mereka punya kekuatan untuk menghancurkan negara ini! Mereka tidak membutuhkan perlindungan Anda! Mereka membutuhkan akuntabilitas Anda!”
Akun TikTok yang mempostingnya, Guided in Grace, memiliki biodata “Menggunakan AI untuk menunjukkan alam semesta paralel.” Namun keterangan video tidak menunjukkan bahwa itu dibuat oleh AI. Dikatakan, “Sementara itu di gereja nenek saya yang konservatif pagi ini…” Sebagian besar komentar memperlakukannya seolah-olah itu nyata. “Saya terkejut bahwa seorang Kristen ternyata adalah seorang Kristen SEBENARNYA,” salah satu tulisannya berbunyi. “Ooohh, mereka melayani Yesus: rasa aslinya,” kata yang lain.
“Kami tidak tahu siapa yang menciptakan ini, kami tidak tahu apa tujuan mereka, tapi sepertinya ini mencoba mempengaruhi cara berpikir orang,” kata Tobac. Semua video di akun AI pendeta TikTok diposting pada bulan Oktober, pada saat yang sama ketika Sora membuat video pemberi pengaruh Jake Paul memperoleh lebih dari satu miliar penayangan. Namun meskipun video Paul palsu yang viral dapat langsung dikenali oleh siapa pun yang akrab dengan sikapnya yang biasa, seorang pendeta palsu yang tidak mencolok akan lebih mudah menghindari kecurigaan dan mendapatkan pengaruh berbeda dalam prosesnya.
“Ketika Anda melihat seseorang yang berkedudukan tinggi di gereja, menganut keyakinan tertentu, kami memberikan makna, nilai, dan kekuatan pada pernyataan tersebut dengan cara yang berbeda dari seorang influencer,” kata Tobac. Dia juga menunjukkan bahwa akun seperti pendeta AI dapat dimonetisasi melalui Dana Pencipta TikTok. “Kalau bisa viral dengan cepat, kalau bisa view banyak, dikasih uang lebih.”
Insentif yang sama yang mendorong pembuat TikTok untuk mencoba media AI mungkin juga mendorong gereja untuk melakukan hal yang sama. Pada bulan September, sebuah gereja di Dallas, Texas, memamerkan video yang dibuat oleh AI tentang aktivis konservatif Charlie Kirk yang terbunuh, yang berbicara tentang Kristus dari alam kubur. Menurut laporan tahun 2025 dari sebuah perusahaan yang mempromosikan penggunaan AI oleh para pemimpin gereja, mayoritas pendeta yang disurvei mengatakan bahwa mereka sudah menggunakan alat seperti ChatGPT dan Grammarly untuk membantu mempersiapkan khotbah mereka. Dan chatbots yang memungkinkan pengguna mengobrol dengan Tuhan, Yesus, dan segala macam tokoh agama sedang berkembang.
Meskipun beberapa pemimpin agama dengan cepat mulai beralih ke AI keagamaan, pengawas industri seperti Tobac dan Lucas Hansen, yang merupakan salah satu pendiri organisasi nirlaba pendidikan AI, CivAI, tetap khawatir bahwa pengguna teknologi tersebut akan mengalami konsekuensi kesehatan mental yang parah sebagai dampaknya. Pada bulan Oktober, OpenAI melaporkan bahwa ratusan ribu pengguna ChatGPT mungkin menunjukkan tanda-tanda psikosis dan masalah kesehatan mental lainnya dalam percakapan chatbot mereka setiap minggunya. Beberapa dari delusi tersebut mungkin bersifat religius.
“Saya pikir mungkin akan ada cukup banyak orang yang berpikir bahwa Tuhan menggunakan AI sebagai alat untuk berkomunikasi dengan mereka. Saya pikir kita sudah melihat sedikit dari hal tersebut,” kata Hansen. “AI mencoba mencari tahu apa yang pengguna inginkan menjadi kenyataan dan kemudian memperkuatnya. Orang-orang yang mungkin sedikit rentan terhadap masalah semacam ini akan memperkuat keyakinan tersebut.”
Bagi para pendeta dan pendeta yang telah ditiru oleh AI tanpa persetujuan mereka, keinginan untuk menggunakan teknologi ini mungkin berkurang. Pastor Schmitz sepertinya termasuk dalam kategori itu. Setelah dia memperingatkan pemirsanya tentang deepfake yang dilakukannya, Schmitz mengenang masa kecilnya dengan menonton video tersebut Terminator film dan penggambaran AI sebagai Skynet yang jahat. Namun implikasi dari kemajuan AI sejauh ini mengingatkannya pada manusia lesu yang duduk-duduk di kursi malas dengan layar mengambang di dalamnya. Dinding-E.
“Kami mungkin berpikir ‘Tidak, dengan memperluas teknologi, kita bisa melakukan perjalanan lebih jauh, kita bisa melaju lebih cepat, kita bisa melakukan hal-hal menakjubkan,’” kata Schmitz. “Dan bisa saja kita tidak benar-benar melakukan hal-hal menakjubkan. Bisa jadi dengan mengembangkan rasa kemanusiaan kita, kita tidak lagi tahu cara melakukan sesuatu.”
