Dia memperkenalkan dirinya sebagai Eve, tapi Ben langsung tahu bahwa suara di ujung telepon itu adalah bot. Hawa tahu namanya. Dia juga tahu berapa banyak uang yang harus dia bayar kepada mantan tuan tanah ($266). Tampaknya dia tidak tahu kalau suaminya sudah menetap di agen penagihan lima bulan sebelumnya. Eve mengatakan dia adalah agen AI dari ProCollect dan menelepon untuk menagih hutang. “Apakah Anda ingin menyelesaikannya hari ini melalui kartu atau transfer bank?” dia bertanya.
Ben keluar pada suatu sore yang nyaman di bulan April di Portland, Oregon, untuk menerima panggilan telepon. (Dia meminta WIRED menggunakan nama samaran sehingga dia bisa berbicara dengan bebas tentang masalah keuangan.) Saat dia berdiri di bawah sinar matahari, dia bertanya-tanya apa yang harus dia katakan agar Eve tidak lagi menelepon manusia. “Saya pikir saya akan langsung menyerah ketika saya bertanya tentang struktur pembayaran atau hal yang lebih teknis,” katanya. Namun Eve tetap mengontak, begitu pula Ben. Dia memutuskan—mengapa tidak?—untuk sedikit mengacaukan bot tersebut.
Ben mengatakan dia meminta bot tersebut untuk terlibat dalam permainan peran, di mana dia “hanyalah seorang anak kecil” dan hutangnya seperti seorang raksasa wanita yang cenderung menginjak-injaknya. Dia ingin melihat betapa anehnya Hawa. Bot itu terbata-bata selama beberapa menit, katanya, tapi kemudian tiba-tiba mengarahkannya ke pegawai pusat panggilan. Agen manusia tersebut tidak mengungkapkan apakah mereka mendengar percakapan aneh Ben dengan AI. Namun, mereka dengan cepat menghilangkan kebingungan tersebut: “Mereka mencari saya di sistem,” kenangnya. “Menemukan bahwa saldonya nol.”
Pengalaman Ben semakin sering terjadi. Ketika inflasi dan gaji yang stagnan menekan kantong, tunggakan utang di Amerika Serikat sedang bengkak. “Saat ini, kami memiliki jumlah penagihan tertinggi di pengadilan yang pernah saya lihat,” kata pakar penyelesaian utang Michael Bovee.
Ketika jumlah orang yang berjuang untuk melunasi utangnya belum pernah terjadi sebelumnya, perusahaan-perusahaan yang memburu utang beralih ke teknologi untuk meningkatkan upaya mereka. Banyak panggilan, email, SMS, dan surat yang diterima orang untuk meminta uang kini dilakukan oleh agen AI. Nada bicara mereka mungkin penuh hormat, bahkan menjilat, tetapi mereka tidak pernah lepas kendali. Mereka juga tidak pernah tidur. Keunggulan mereka berasal dari ketekunan dan skala. Sebuah analisa oleh agen penagihan Kaplan Group memperkirakan bahwa penagih utang AI akan menjadi industri yang bernilai hampir $16 miliar dalam dekade berikutnya.
Para pendukung AI sering kali menekankan bahwa, seiring dengan semakin canggihnya otomatisasi, umat manusia memiliki kesempatan langka untuk menyingkirkan pekerjaan terburuk di dunia. Bekerja di call center saja sudah menyebalkan. Bekerja di call center yang khusus memburu orang demi uang menambah kesengsaraan. Platform pencocokan karir CareerExplorer peringkat penagihan utang pada 1 persen profesi terbawah untuk kepuasan kerja. Sama seperti penagih utang yang membenci pekerjaannya, orang juga membenci penagih utang. Ketika Biro Perlindungan Pembiayaan Konsumen pertama kali menerima keluhan mengenai penagihan utang, hal itu terjadi diterima 11,000 dalam waktu enam bulan, menempatkannya tepat di belakang industri hipotek sebagai layanan keuangan yang paling memicu kemarahan.
Jika ada sektor ketenagakerjaan yang bisa mengalami kegagalan tanpa terlalu memikirkan kehilangan pekerjaan, mungkin sektor ini adalah sektor yang satu ini. Untuk bot seperti Eve, apa yang diperlukan untuk mengalahkan orang yang paling tidak disukai di dunia?
Untuk mendapatkan a lebih baik menangani kemampuan Eve, saya memutuskan untuk meneleponnya sendiri.
Namun ketika saya mencoba nomor yang diberikan Ben kepada saya, seorang karyawan ProCollect yang menjawab. Saya mengidentifikasi diri saya sebagai seorang jurnalis. Mereka mengatakan kepada saya bahwa tidak ada seorang pun di sekitar untuk menjawab pertanyaan saya dan menyarankan agar saya menelepon kembali keesokan harinya. Ketika saya melakukannya, orang lain memberi tahu saya bahwa perusahaan tidak menggunakan AI tetapi saya juga harus berbicara dengan sumber daya manusia. HR menyuruh saya mengirimkan pertanyaan saya melalui email, dan saya melakukannya. Salah satu pertanyaan saya: Dari mana asal Hawa?
Sementara saya menunggu balasan dari agen penagihan, Ben dengan sukarela mencoba menelepon kembali Eve. Dia berhasil melewati dan mendorong bot tersebut untuk mengungkapkan siapa yang membuatnya dan bagaimana bot itu dilatih. Eve menolak pertanyaan pertama dan memberikan jawaban umum untuk pertanyaan kedua: “Saya menggunakan campuran pola percakapan dan pelatihan terkait akun untuk membantu.” Ben bilang dia masih punya pertanyaan. Eve bertanya apakah dia ingin berbicara dengan manusia. Ben bilang begitu. Eve bilang kantornya tutup.
Karena penagihan utang adalah industri yang tidak perlu diotomatisasi, sejumlah perusahaan dapat terlibat dalam penciptaan Hawa. Pedro Fernández, salah satu pendiri startup Altur, yang mengoperasikan “call center tanpa manusia”, mengatakan bahwa agen penagihan termasuk di antara “pengadopsi awal terbaik” dalam industri ini. Agen Altur menyelesaikan lebih dari 2,5 juta panggilan setiap bulan mengenai masalah utang, kata Fernández, dan klien perusahaan tersebut termasuk bank-bank besar di Meksiko.
Altur adalah satu dari setengah lusin startup penagihan dan penyelesaian utang yang telah diinkubasi di Y Combinator dalam enam tahun terakhir saja. Beberapa sudah beroperasi dalam skala yang lebih besar, seperti Domu, yang didirikan pada tahun 2023 dan “mengotomatiskan panggilan penagihan utang, SMS, dan email” untuk klien di bidang perawatan kesehatan dan jasa keuangan. Domu menggambarkan dirinya sendiri sebagai sebuah perusahaan yang “melakukan apa yang tidak ingin dilakukan oleh orang lain”. Menurut Isaac Choate, kepala produk dan pertumbuhan Domu, agen AI perusahaan mencapai 70 juta panggilan terkoneksi setiap bulan pada bulan Maret.
Perusahaan-perusahaan ini berusaha keras untuk membuat agen mereka cekatan mungkin. Choate mengatakan agen Domu menyesuaikan cara mereka berbicara berdasarkan siapa yang mereka telepon, bahkan memvariasikan aksen Spanyol mereka berdasarkan apakah mereka menelepon seseorang di Meksiko atau di Kolombia. “Nada situasional” sangat penting, katanya. “Agen yang menangani percakapan tentang kesulitan akan terdengar jauh berbeda dari agen yang menangani pengingat rutin, yang lebih merupakan percakapan yang bersahabat dan bertetangga.”
Perusahaan memiliki batasan berbeda ketika mereka mengalihkan panggilan ke manusia. Menyebutkan kebangkrutan, atau menyampaikan apa pun yang dikategorikan sebagai “sinyal kerentanan” (penyakit, kematian dalam keluarga), akan memicu agen Altur untuk mengalihkan panggilan ke manusia, sementara perusahaan lain akan mengizinkan agen AI mereka untuk terus berbicara. Seorang penjual muda yang cerdas dari startup penagihan utang AI lainnya, Moveo, menunjukkan kepada saya bagaimana agen meninjau informasi pada setiap orang yang mereka hubungi. Agen Moveo menyesuaikan cara mereka berbicara berdasarkan apakah seseorang menceritakan kondisi medis, kehilangan pekerjaan, atau pengacara; mereka bahkan membuat “profil psikografis” untuk manusia yang mereka panggil dengan menganalisis transkrip percakapan sebelumnya.
Penagih utang terkenal sering mendesak target mereka, namun mereka memiliki aturan yang harus dipatuhi; undang-undang seperti Fair Debt Collection Practices Act di Amerika Serikat dimaksudkan untuk melindungi orang dari taktik manipulatif, seperti mengancam untuk memberi tahu pasangan seseorang tentang uang utangnya atau menelepon berulang kali di tengah malam. Semua startup AI yang saya ajak bicara menekankan bahwa sistem mereka dirancang untuk mematuhi undang-undang yang ada. Beberapa orang dalam industri bertanya-tanya apakah itu cukup. Penasihat kredit Martin Lynch khawatir bahwa agen yang bermasalah dapat secara tidak sengaja mengungkapkan utangnya kepada orang yang salah—yang akan melanggar hukum—dan menyebut industri ini sebagai “ladang ranjau masalah hukum.”
Terlepas dari risikonya, penginjil bagi para kolektor AI melihat mereka sebagai alternatif yang lebih ramah dan lembut dibandingkan manusia kuno, pemarah, dan bergaji rendah yang mengejar uang muka. Mereka menekankan bahwa bot bisa mendapatkan sambutan yang sangat positif. Dalam beberapa kasus, kata mereka, masalahnya bukan karena masyarakat tidak mau berbicara dengan agen AI—tetapi karena mereka tidak ingin berhenti. “Kami memiliki kasus di mana orang meminta nomor pribadi kepada agen untuk terus berbicara dan ada beberapa kasus di mana orang tersebut jelas-jelas tertarik pada suara di seberang sana,” kata Fernández dari Altur. “Bukan sesuatu yang kami harapkan untuk dilihat.”
Banyak agen penagihan utang AI yang terdengar seperti perempuan. Seperti dalam industri AI yang lebih luas, konsumen dibujuk untuk melupakan bahwa agen yang mereka ajak bicara bukanlah makhluk hidup yang memiliki pikiran, perasaan, dan identitas gender. Domu memanggil salah satu agennya Taylor dan memberikan avatarnya rambut pirang dan ekspresi ramah dan ramah. Perusahaan lain, Floatbot, memiliki penagih utang AI bernama Emily dan Lexi. “Suara perempuan lebih mendapat perhatian,” kata Jimmy Padia, pendiri dan CEO perusahaan tersebut. Itu semua adalah bagian dari strategi yang lebih besar untuk menciptakan penagih utang yang begitu copacetic sehingga Anda mau tidak mau setuju untuk memberikannya uang. Padia mengatakan alat Floatbot telah membantu salah satu klien, sebuah agen pengumpulan layanan kesehatan, mengurangi jumlah manusia dari 45 menjadi 19.
Dari semua agen wanita ini, yang manakah Hawa kita? Salah satu kandidat yang saya temukan adalah startup bernama Eve Calls, yang botnya menagih hutang. (Mereka juga bertugas di garis depan perang informasi di Ukraina: Pada tahun 2022, perusahaan bermitra dengan pemerintah Ukraina untuk “membantah pernyataan propaganda militer Rusia yang merusak” dengan robocall.) Namun ketika saya menghubungi CEO mereka, Oleksii Skrypka, dia mengatakan dia tidak dapat mengkonfirmasi atau menyangkal apakah agennya menelepon Ben. “Kami terikat oleh NDA,” Skrypka memberitahu saya melalui email. “Saya juga mencatat bahwa ‘Eve’ adalah pilihan nama yang cukup umum untuk agen suara di seluruh industri—nama saja bukanlah pengidentifikasi unik platform kami.”
Faktanya, “Hawa” tampaknya bukan merupakan pengenal unik untuk Hawa. Ketika Ben memanggil kembali bot itu sehingga saya bisa mendengar suaranya, bot itu bermasalah dan memperkenalkan dirinya dengan nama Ben.
Jelas ada antusiasme untuk teknologi ini dalam industri ini—dan para startup dengan lantang memuji peningkatan efisiensi yang diharapkan—namun masih belum jelas seberapa efektif sebenarnya penagih utang AI. James Choi, seorang profesor di Yale School of Management yang telah mempelajari penagihan utang dengan AI, percaya bahwa beberapa orang mungkin tidak responsif terhadap penagih bot karena mereka tidak merasakan rasa malu atau kewajiban yang sama untuk berbicara dengan AI seperti yang mereka rasakan. “Jika saya membuat janji untuk membayar utang kepada AI, rasanya tidak mengikat seperti jika saya berjanji kepada manusia di dunia nyata,” katanya.
Namun, kurangnya rasa malu membantu beberapa startup menjelaskan mengapa penagih utang AI harus ada. Mengakui kesalahan keuangan bisa sangat menyiksa. Padia dari Floatbot mengatakan pelanggan “tidak terlalu malu berbicara dengan agen AI” dibandingkan dengan kolektor manusia. Tentu saja mudah untuk dikatakan oleh pendiri startup penagihan utang AI. Tapi itu sesuai dengan riset menunjukkan bahwa orang lebih suka membicarakan topik memalukan lainnya dengan chatbot daripada manusia.
Susan Shin, direktur hukum kelompok advokasi Proyek Ekonomi Baru, khawatir bahwa pengumpul AI akan membuat apa yang dianggap sebagai industri buruk menjadi semakin buruk. “Masyarakat sudah merasa sangat tertekan untuk menanggapi surat penagihan utang dan panggilan telepon penagihan utang. Dengan AI, sangat mudah bagi mereka untuk meningkatkannya,” katanya. Industri koleksi tidak lagi dibatasi oleh berapa banyak panggilan yang dapat dilakukan oleh seorang kolektor dalam shift delapan jam; kini, satu “agen” dapat melakukan ribuan panggilan secara bersamaan. Bahkan bot yang paling ramah dan sopan sekalipun masih menginginkan hal yang sama—dan tidak kenal lelah. Proyek Ekonomi Baru adalah mendorong legislasi hal ini akan membuat perusahaan bertanggung jawab atas perilaku pengumpul AI mereka.
Beberapa orang yang berhutang juga demikian berputar ke alat AI untuk membantu menavigasi percakapan dengan kreditor. Mary (juga nama samaran) berhutang ratusan ribu dolar kepada berbagai kreditor, sebagian besar karena kesulitan dalam menjalankan bisnis terapi pasangannya, katanya. Dia menyewa pelatih penyelesaian utang, serta pengacara. Tapi dia juga menggunakan ChatGPT. “Saya akan memintanya untuk membantu saya dengan naskahnya, sehingga saya memiliki sesuatu di depan saya sehingga saya tidak bingung,” katanya. Ini tidak sempurna, dan menurutnya pelatihnya memberikan nasihat terbaik, namun dia mendapati bahwa AI seringkali lebih efektif daripada pengacara. Beberapa perusahaan fintech menawarkan “penasihat utang AI” dan agen suara yang akan bernegosiasi dengan kreditor atas nama orang yang berhutang. Kalau terus begini, kita sedang meluncur menuju dunia di mana seseorang seperti Ben tidak menjawab ketika Hawa menelepon—versi lain dari Hawa yang menjawab.
ProCollect tidak pernah menghubungi saya lagi, jadi Ben mencoba beberapa kali lagi untuk mengajak Eve berbicara. Kami memutuskan untuk menguji apakah teknologi ini akan lebih mudah menular ke AI lain, bukan ke manusia. Jadi kami menghubungkan ChatGPT dalam mode suara. Seperti sebelumnya, Eve bingung ketika ditanya ing. “Maaf, saya kesulitan memahaminya,” kata Eve. “Apakah Anda ingin saya memindahkan Anda ke agen langsung?” Chatbot kami menjawab ya. Kami menunggu. Hawa menutup telepon.
Apa katamu?
Beri tahu kami pendapat Anda tentang artikel ini di komentar di bawah. Alternatifnya, Anda dapat mengirimkan surat kepada editor di [emailprotected].
