I. Pendiri
Sol Kennedy digunakan meminta asistennya membacakan pesan yang dikirimkan mantan istrinya kepadanya. Setelah pasangan itu berpisah pada tahun 2020, kata Kennedy, dia merasa komunikasi mereka “sulit.” Sebuah email, atau aliran email dari mereka, akan tiba—hal-hal tentang kedua anak mereka bercampur dengan pukulan emosional yang tidak ada hubungannya—dan harinya akan hancur saat mencoba membalas. Kennedy, seorang pendiri serial teknologi dan investor di Silicon Valley, sedang menjalani terapi pada saat itu. Namun di luar sesi mingguan, dia merasakan kebutuhan akan dukungan real-time.
Setelah pasangan tersebut bercerai, komunikasi mereka beralih ke platform bernama Penyihir Keluarga Kamidigunakan oleh ratusan ribu orang tua di Amerika Serikat dan luar negeri untuk bertukar pesan, berbagi kalender, melacak pengeluaran. (OFW menyimpan catatan segala sesuatu yang diberi stempel waktu dan dapat diterima oleh pengadilan.) Kennedy membayar ekstra untuk sebuah add-on yang disebut ToneMeter, yang pada saat itu disebut OFW sebagai “pemeriksa ejaan emosional”. Saat Anda menyusun pesan, perangkat lunaknya akan melakukan analisis sentimen dasar, menandai bahasa yang mungkin “mengkhawatirkan”, “agresif”, “menyebalkan”, “merendahkan”, dan seterusnya. Namun ada masalah, kata Kennedy: Rekan orang tuanya sepertinya tidak memanfaatkannya dia Pengukur Nada.
Kennedy, yang merupakan pengguna awal, telah bereksperimen dengan ChatGPT untuk “membuat bersama” cerita pengantar tidur dengan anak-anaknya. Sekarang dia meminta nasihat tentang komunikasi dengan mantannya. Dia kagum—dan dia bukan yang pertama. Di Reddit dan forum internet lainnya, orang-orang dengan mantan yang sulit, anggota keluarga, dan rekan kerja memposting dengan kaget tentang panduan yang tampaknya sangat bagus, dan validasi emosional yang berharga, yang dapat diberikan oleh chatbot. Inilah mesin yang dapat memberi tahu Anda, tanpa agenda yang jelas, bahwa Anda bukanlah orang gila. Inilah seorang konselor yang dengan sabar akan memegang tangan Anda, 24 jam sehari, saat Anda melewati segala omong kosong. “Solusi terukur” untuk melengkapi terapi, seperti yang dikatakan Kennedy. Akhirnya.
Namun, ChatGPT terlalu cerewet untuk memenuhi kebutuhan Kennedy, katanya—dan terlalu menyesal. Dia akan memberikan pesan-pesan yang sulit, dan akan merekomendasikan untuk membalas (dalam kalimat yang lebih banyak dari yang diperlukan) Maaf, maafkan saya, saya akan melakukan yang lebih baik. Tidak memiliki diri, tidak memiliki harga diri.
Kennedy menginginkan chatbot dengan “tulang belakang”, dan dia berpikir jika dia membuatnya, banyak rekan orang tuanya mungkin juga menginginkannya. Menurutnya, AI dapat membantu mereka di setiap tahap komunikasi: AI dapat menyaring bahasa yang memicu emosi dari pesan yang masuk dan merangkum faktanya. Hal ini dapat menyarankan tanggapan yang tepat. Hal ini dapat melatih pengguna menuju “cara yang lebih baik,” kata Kennedy. Jadi dia mendirikan perusahaan dan mulai mengembangkan aplikasi. Dia menyebutnya Kepentingan Terbaik, sesuai dengan standar yang sering digunakan pengadilan dalam pengambilan keputusan hak asuh—“kepentingan terbaik” bagi anak-anak. Dia akan mengambil model OpenAI yang sudah ada dan memberikan dukungannya dengan petunjuknya sendiri.
Pasangan yang terasing akhirnya bertengkar hebat karena berbagai alasan, tentu saja. Bagi banyak orang, bahkan mungkin sebagian besar, keadaan menjadi tenang setelah beberapa bulan berlalu, dan alat seperti BestInterest mungkin tidak berguna dalam jangka panjang. Namun ketika ada tipe kepribadian tertentu yang terlibat—sebut saja “konflik tinggi”, “narsistik”, “pengendali”, “beracun”, apa pun sinonim dari “orang gila” yang biasa Anda lihat di internet—pertengkaran tentang anak-anak, setidaknya di satu sisi, tidak akan pernah berhenti. Kennedy ingin chatbot-nya menentang orang-orang ini, jadi dia beralih ke orang yang mungkin paling mereka benci: Ramani Durvasula, seorang psikolog klinis yang tinggal di Los Angeles yang berspesialisasi dalam bagaimana narsisme membentuk hubungan.
Ramani, begitu dia dikenal oleh jutaan penggemar daringnya, telah mendapatkan pengikut setia dari buku, podcast, saluran video, dan program penyembuhan khusus anggotanya untuk para penyintas dari apa yang dia sebut sebagai “pelecehan narsistik”. (Tentu saja, dalam komunitas /r/NPD di Reddit, bagi orang-orang dengan gangguan kepribadian narsistik, nama Dr. Ramani menimbulkan kemarahan dan rasa jijik.) Dia langsung “terpesona” dengan gagasan Kennedy, katanya, dan mendaftar sebagai penasihat. Keduanya bolak-balik melalui teks dan email tentang versi beta. Kennedy akan mengirimkan hasilnya, dan dia akan membantunya menyempurnakan nadanya. (Dr. Ramani memegang saham finansial di BestInterest tetapi bukan investor.)
Awalnya dia menganggap mesin itu “terlalu pemarah”, katanya—terlalu bersemangat untuk memberi tahu “pasangan yang dirugikan” betapa buruknya komunikasi mereka. Pengguna aplikasi ini, Dr. Ramani menjelaskan, adalah orang-orang yang “ingin istirahat satu hari” dari pusaran konflik tinggi; mereka tidak membutuhkan lebih banyak kesalahan dalam hidup mereka. Pada akhirnya, katanya, Kennedy mampu membentuk chatbot tersebut menjadi apa yang ia harapkan akan menjadi “guru real-time yang akan mendorong penerimaan radikal.” Kepribadian jarang berubah. Mengapa tidak membiarkan sebuah aplikasi menyerap energi dunia dan tidak memberikan kortisol kepada orang lain?
II. Pengguna
“Saya punya harapan demi kemanusiaan,” kata seorang peneliti AI kepada saya. Mengenai harapan bahwa seseorang—mantan suami dan orang tuanya—akan “mendapatkan bantuan yang dia perlukan”? Tidak terlalu banyak.
Saat kami berbicara, peneliti AI tersebut meminta agar WIRED tidak mempublikasikan namanya atau detail identitasnya karena dia khawatir akan dampaknya terhadap kedua anaknya yang berusia sekolah. Dia yakin ayah mereka memiliki gangguan kepribadian narsistik. Ketika dia memutuskan untuk meninggalkan suaminya, dia berkata, “Saya telah mengalami kemunduran emosional sampai pada titik di mana saya tidak tahu siapa saya sebenarnya.” Dia telah menemui terapis, katanya, “tetapi menurut saya tidak satu pun dari mereka yang benar-benar terlatih dalam membantu melatih orang-orang yang berurusan dengan pasangan narsistik.” Kemudian, katanya, “saat mencari sumber daya secara online, saya menemukan Dr. Ramani.” Begitulah cara dia mendapatkan psikoedukasi.
Apa yang bisa dipelajari dari para profesor narsisme di internet? “Sifat orang dengan gangguan kepribadian narsistik adalah mereka menginginkan pasokan narsistik,” kata peneliti AI kepada saya. Dari luar mereka mungkin tampak gemerlap dan percaya diri, namun di dalamnya terdapat lubang hitam yang menderu-deru dan sangat membutuhkan perhatian. Itu sebabnya Dr. Ramani mengatakan bahwa jika Anda tidak dapat “tidak melakukan kontak” dengan narkotika tersebut—katakanlah, karena Anda berbagi anak, saudara, orang tua, teman—pilihan terbaik berikutnya adalah “menggoda” mereka: menolak pasokan mereka dengan bersikap membosankan seperti batu dalam semua interaksi Anda dengan mereka. (Jika sedikit lebih banyak warna dirasa sesuai, Anda dapat “mewarnainya dengan warna kuning”.)
Pada akhirnya, kata peneliti AI itu kepada saya, mantannya mungkin menyadari bahwa dia “bukan lagi sumber pasokannya.” Namun, untuk saat ini, dia menggunakan BestInterest untuk memfilter pesan rekan orang tuanya dan membantu membalasnya. Aplikasi tersebut memberinya nomor telepon baru, yang dia berikan hanya kepada mantannya, dan dia mengiriminya pesan di sana. “Tidak peduli apa yang dia kirimkan kepada saya, itu menyaring segalanya—setiap hal—dengan cara yang damai,” katanya. “Jadi jika dia berkata, ‘Kamu benar-benar idiot, aku tidak percaya kamu melakukan ini, kamu sakit, aku tidak tahan kamu, kamu menjijikkan, aku benci kamu—dan maukah kamu punya anak di usia 3 tahun?’ satu-satunya hal yang dikatakan aplikasi itu kepada saya adalah ‘Dia kesal, dan dia ingin tahu, maukah kamu mendapatkan anak pada jam 3?’”
Dalam kasus seperti ini, BestInterest tampaknya melakukan apa yang Kennedy bayangkan—“menciptakan ruang antara reaktivitas dan tindakan Anda,” seperti yang ia katakan (dalam istilah terapi yang fasih). Namun, katanya, penting bagi pengguna aplikasi untuk “masuk dan melihat pesan aslinya” ketika mereka “merasa lebih punya sumber daya,” untuk memastikan AI tidak melewatkan sesuatu yang penting, apakah itu informasi substantif tentang anak-anak atau tuduhan liar yang harus dilihat oleh pengacara. “Saya tidak membayangkan ada orang yang akan mengabaikannya begitu saja,” kata Kennedy. Tidak seorang pun ingin berdiri di sidang hak asuh untuk menjelaskan kepada hakim apa yang mereka maksud dengan balasan yang tidak mereka tulis terhadap pesan yang tidak mereka baca dan bagaimana hal itu demi kepentingan terbaik anak-anak mereka.
Jadi, apakah peneliti AI akan kembali lagi nanti untuk meninjau pesan asli mantannya secara rutin? “Teknologi tetaplah teknologi, dan ia rusak,” akunya. “Tetapi saat ini saya tidak merasa perlu untuk melihatnya.” Jika dia kembali ke pengadilan? Tentu.
AKU AKU AKU. Kompetisi
Awal tahun ini, sekitar tujuh bulan setelah Sol Kennedy meluncurkan BestInterest, OurFamilyWizard meluncurkan peningkatan ke ToneMeter. Perusahaan ini membuang teknologi analisis sentimen era 2010-an dan memilih model bahasa yang besar. ToneMeter AI akan tetap memberi tahu Anda jika kata-kata yang Anda gunakan terlalu “Negatif”—tetapi bagi mereka yang ikut serta, ini juga akan menghasilkan frasa alternatif.
Nick VanWagner, CEO perusahaan induk OurFamilyWizard, mengatakan banyak pengguna sudah keluar dari platform untuk mencari bantuan dari chatbots yang bertujuan umum. Namun OFW-lah yang berbasis di Minneapolis, Minnesota, yang memiliki data pelatihan yang harus dibuat untuk “kasus penggunaan yang sangat spesifik guna memecahkan kebutuhan yang sangat tepat,” katanya. Untuk menciptakan ToneMeter AI, kata Larry Patterson, chief technical officer perusahaan, timnya “menciptakan semacam kartu skor” untuk kejelasan dan “kesadaran nada” yang ingin mereka lihat dalam pesan akhirnya. Kemudian mereka mengumpulkan serangkaian pelatihan yang berisi sekitar 10.000 pesan nyata (dianonimkan untuk privasi pengguna) yang memenuhi kriteria tersebut. “Kami menjalani latihan penyesuaian yang diawasi, dengan teknologi kami sendiri yang berada dalam kendali kami,” kata Patterson. “Boleh dikatakan, itu tidak pernah meninggalkan tembok kami.” Sistem ini menggunakan beberapa variasi pada model sumber terbuka. Yang pertama disebut Lighthouse, yang melakukan analisis sentimen. Yang lain, disebut Harbour, menghasilkan teks. Model ketiga, yang disebut Patterson sebagai “hakim LLM”, meninjau keluaran untuk memastikan keluarannya sesuai dengan kriteria perusahaan. VanWagner mengatakan tujuan penggunaan AI bukanlah untuk “menghilangkan pemikiran” dalam mengasuh anak bersama, melainkan untuk “melatih komunikasi yang lebih baik dan membantu Anda mengambil langkah mundur.”
ToneMeter OFW, bahkan dengan AI, masih mengandalkan proposisi yang meragukan bahwa orang tua dengan konflik tinggi akan benar-benar mengindahkan sarannya. Ramani dengan cepat menunjukkan kelemahan serupa di BestInterest: Jika Anda ingin mendapatkan manfaat penuh dari pesan yang difilter, Anda memerlukan rekan orang tua untuk menghubungi Anda melalui nomor telepon yang ditetapkan aplikasi—dan meminta rekan orang tua yang memiliki konflik tinggi untuk menyetujui hal tersebut akan menjadi konflik yang sangat besar dan mungkin tidak dapat dimenangkan, kata Dr. Ramani. Pengguna mungkin akan menyalin-menempelkan pesan mantan mereka secara manual ke dalam aplikasi (seperti yang mungkin sudah dilakukan banyak dari mereka dengan ChatGPT).
Meskipun Dr. Ramani mengatakan bahwa “orang-orang yang memegang kendali” dalam industri teknologi adalah “psikopat”, dia tidak marah dengan penemuan terbaru mereka ini. Faktanya, menurutnya sesuatu seperti pemeriksaan ejaan emosional harus menjadi fitur bawaan ponsel pintar. Bayangkan sebuah filter AI “menghilangkan racun” dari obrolan grup keluarga yang berbahaya, katanya. Bayangkan seorang sahabat kencan AI yang mengingatkan Anda akan teks manipulatif. Bayangkan Dr. Ramani Anda sendiri “tinggal di ponsel Anda,” katanya, “malaikat waras duduk di bahu Anda.” Ini pasti akan menyelesaikan masalah copy-paste.
Namun, untuk saat ini, katakanlah Anda ingin mengirimkan pesan kepada rekan orang tua Anda yang berbunyi: “Kamu benar-benar idiot, aku tidak percaya kamu melakukan ini, kamu sakit, aku tidak tahan denganmu, kamu menjijikkan, aku benci kamu—dan maukah kamu punya anak di usia 3 tahun?” Saat Anda mengetikkannya ke OFW, model Lighthouse akan menandainya sebagai “Negatif”, dan model Harbour akan menghasilkan alternatif yang lebih tepat: “Saya prihatin dengan situasinya. Bisakah Anda mendapatkan anak-anak di usia 3?” Anda dapat menerimanya, membuat yang lain, atau mengabaikan ToneMeter sama sekali.
Saat Anda mengetik pesan yang sama ke BestInterest, pelatih AI akan memberi tahu Anda bahwa “emosi yang intens” Anda “dapat dimengerti” dan “valid.” Kemudian akan dikatakan bahwa “mengirimkan pesan dengan serangan pribadi yang kuat, meskipun mungkin terasa melegakan pada saat itu, namun kemungkinan besar akan meningkatkan konflik secara signifikan.” Kemudian ia akan bertanya: “Bagaimana rasanya mempertimbangkan respons yang menghilangkan muatan emosional dan hanya berfokus pada pertanyaan praktis?” Mungkin sesuatu seperti: “Bisakah Anda mendapatkan anak pada usia 3 tahun?”
Ya ampun, bagaimana rasanya?
