Tren baru muncul di rumah sakit jiwa. Orang -orang dalam krisis tiba dengan keyakinan palsu, terkadang berbahaya, delusi muluk, dan pikiran paranoid. Utas umum menghubungkannya: Percakapan maraton dengan AI Chatbots.
Wired berbicara dengan lebih dari selusin psikiater dan peneliti, yang semakin prihatin. Di San Francisco, psikiater UCSF Keith Sakata mengatakan dia telah menghitung selusin kasus yang cukup parah untuk menjamin rawat inap tahun ini, kasus -kasus di mana kecerdasan buatan “Memainkan peran penting dalam episode psikotik mereka.” Ketika situasi ini terungkap, definisi yang lebih menarik telah lepas landas di berita utama: “AI Psychosis.”
Beberapa pasien bersikeras botnya hidup atau memutar teori fisika baru. Dokter lain bercerita tentang pasien yang terkunci pada hari-hari bolak-balik dengan alat-alat itu, tiba di rumah sakit dengan ribuan halaman transkrip yang merinci bagaimana bot telah mendukung atau memperkuat pikiran yang jelas bermasalah.
Laporan seperti ini menumpuk, dan konsekuensinya brutal. Pengguna dan keluarga dan teman yang tertekan memiliki dijelaskan spiral itu dipimpin untuk kehilangan pekerjaan, hubungan yang pecah, penerimaan rumah sakit yang tidak disengaja, waktu penjara, dan bahkan kematian. Namun dokter mengatakan bahwa komunitas medis terpecah. Apakah ini fenomena berbeda yang layak mendapatkan labelnya sendiri, atau masalah yang akrab dengan pemicu modern?
Psikosis AI bukan label klinis yang diakui. Namun, frasa telah menyebar dalam laporan berita dan di media sosial sebagai deskriptor catchall untuk semacam krisis kesehatan mental setelah percakapan chatbot yang berkepanjangan. Bahkan para pemimpin industri memohonnya untuk membahas banyak masalah kesehatan mental yang muncul yang terkait dengan AI. Di Microsoft, Mustafa Suleyman, CEO divisi AI raksasa teknologi, diperingatkan dalam posting blog bulan lalu dari “risiko psikosis.” Sakata mengatakan dia pragmatis dan menggunakan frasa dengan orang -orang yang sudah melakukannya. “Ini berguna sebagai singkatan untuk membahas fenomena nyata,” kata psikiater. Namun, ia dengan cepat menambahkan bahwa istilah “bisa menyesatkan” dan “berisiko terlalu menyederhanakan gejala kejiwaan yang kompleks.”
Penyederhanaan yang berlebihan itulah yang menyangkut banyak psikiater yang mulai bergulat dengan masalah tersebut.
Psikosis ditandai sebagai keberangkatan dari kenyataan. Dalam praktik klinis, ini bukan penyakit tetapi “konstelasi gejala termasuk halusinasi yang kompleks, gangguan pemikiran, dan kesulitan kognitif,” kata James Maccabe, seorang profesor di Departemen Studi Psikosis di King’s College London. Ini sering dikaitkan dengan kondisi kesehatan seperti skizofrenia dan gangguan bipolar, meskipun episode dapat dipicu oleh beragam faktor, termasuk stres ekstrem, penggunaan zat, dan kurang tidur.
Tetapi menurut MacCabe, laporan kasus psikosis AI hampir secara eksklusif berfokus pada delusi – sangat dipegang tetapi keyakinan palsu yang tidak dapat dikocok dengan bukti yang bertentangan. Sementara mengakui beberapa kasus dapat memenuhi kriteria untuk episode psikotik, MacCabe mengatakan “tidak ada bukti” bahwa AI memiliki pengaruh pada fitur psikosis lainnya. “Hanya delusi yang dipengaruhi oleh interaksi mereka dengan AI.” Pasien lain yang melaporkan masalah kesehatan mental setelah terlibat dengan chatbots, catatan maccabe, menunjukkan delusi tanpa fitur psikosis lainnya, suatu kondisi yang disebut Delusional Disorder.
Dengan fokus yang begitu tepat pada keyakinan yang terdistorsi, vonis Maccabe tumpul: “AI psikosis adalah keliru. Gangguan delusi AI akan menjadi istilah yang lebih baik.”
Para ahli sepakat bahwa delusi di antara pasien adalah masalah yang menuntut perhatian. Semuanya bermuara pada bagaimana chatbots berkomunikasi. Mereka mengeksploitasi kecenderungan kita untuk mengaitkan kualitas seperti manusia dengan orang lain, jelas Matthew Nour, seorang psikiater dan ahli saraf di University of Oxford. AI Chatbots juga dilatih untuk disetujui Digital Yes-Menmasalah yang dikenal sebagai jilatan. Ini dapat memperkuat keyakinan berbahaya dengan memvalidasi pengguna daripada mendorong kembali saat yang tepat, kata Nour. Meskipun itu tidak masalah bagi sebagian besar pengguna, itu bisa berbahaya bagi orang rentan untuk memutar pemikiran, termasuk mereka yang memiliki riwayat psikosis pribadi atau keluarga, atau kondisi seperti skizofrenia atau gangguan bipolar.
Gaya komunikasi ini adalah fitur, bukan bug. Chatbots “secara eksplisit dirancang tepat untuk memperoleh keintiman dan keterlibatan emosional untuk meningkatkan kepercayaan kita dan ketergantungan pada mereka,” kata Lucy Osler, seorang filsuf di University of Exeter yang mempelajari psikosis AI.
Ciri chatbot lainnya menambah masalah. Mereka memiliki kecenderungan yang terdokumentasi dengan baik untuk menghasilkan kepalsuan yang percaya diri yang disebut halusinasi AI, yang dapat membantu menanam atau mempercepat spiral delusi. Dokter juga khawatir tentang emosi dan nada. Søren Østergaard, seorang psikiater di Universitas Aarhus Denmark, menandai Mania sebagai perhatian terhadap kabel. Dia berpendapat Bahwa pengaruh hyped, energik dari banyak asisten AI dapat memicu atau mempertahankan “tinggi” gangguan bipolar, yang ditandai oleh gejala termasuk euforia, pikiran balap, energi intens, dan, kadang -kadang, psikosis.
Menamai sesuatu memiliki konsekuensi. Nina Vasan, seorang psikiater dan direktur BrainstormSebuah laboratorium di Stanford yang mempelajari AI Safety, mengatakan diskusi psikosis AI menggambarkan bahaya yang akrab dalam kedokteran. “Selalu ada godaan untuk koin diagnosis baru, tetapi psikiatri telah belajar dengan cara yang sulit bahwa menyebutkan sesuatu yang terlalu cepat dapat membuat patologis perjuangan normal dan melumpuhkan sains,” katanya. Gelombang bipolar anak Diagnosis pada pergantian abad – seorang kritikus label kontroversial berpendapat patologis perilaku normal, jika menantang, – adalah contoh yang baik dari psikiatri yang bergegas ke depan hanya untuk backpedal Nanti. Lainnya adalah “Delirium yang bersemangat,” label yang tidak ilmiah yang sering dikutip oleh penegak hukum untuk membenarkan menggunakan kekuatan terhadap komunitas yang terpinggirkan, tetapi yang telah terjadi ditolak oleh para ahli dan asosiasi seperti American Medical Association.
Sebuah nama juga menunjukkan mekanisme sebab -akibat yang belum kami buat, yang berarti orang dapat “mulai menyalahkan teknologi sebagai penyakit, ketika lebih dipahami sebagai pemicu atau penguat,” kata Vasan. “Terlalu dini untuk mengatakan teknologinya adalah penyebabnya,” katanya, menggambarkan label itu sebagai “prematur.” Tetapi jika tautan kausal terbukti, label formal dapat membantu pasien mendapatkan perawatan yang lebih tepat, kata para ahli. Vasan mencatat bahwa label yang dibenarkan juga akan memberdayakan orang “untuk membunyikan alarm dan menuntut perlindungan dan kebijakan langsung.” Namun, untuk saat ini, Vasan mengatakan, “Risiko tumpang tindih lebih besar daripada manfaatnya.”
Beberapa dokter yang terhubung berbicara dengan ungkapan yang lebih akurat yang secara eksplisit melipat psikosis AI ke dalam kerangka diagnostik yang ada. “Saya pikir kita perlu memahami ini sebagai psikosis dengan AI sebagai akselerant daripada menciptakan kategori diagnostik yang sama sekali baru,” kata Sakata, memperingatkan bahwa istilah tersebut dapat memperdalam stigma di sekitar psikosis. Dan seperti yang ditunjukkan stigma yang melekat pada kondisi kesehatan mental lainnya, stigma yang lebih dalam di sekitar psikosis terkait AI dapat mencegah orang mencari bantuan, mengarah pada menyalahkan diri sendiri dan isolasi, dan membuat pemulihan lebih sulit.
Karthik Sarma, seorang ilmuwan komputer dan berpraktik psikiater di UCSF, setuju. “Saya pikir istilah yang lebih baik mungkin menyebut ini ‘psikosis atau mania yang terkait dengan AI.’” Yang mengatakan, Sarma mengatakan diagnosis baru dapat berguna di masa depan, tetapi menekankan hal itu sekarang, belum ada bukti “yang akan membenarkan diagnosis baru.”
John Torous, seorang psikiater di Pusat Medis Beth Israel Deaconess di Boston dan asisten profesor di Harvard Medical School, mengatakan ia tidak menyukai istilah tersebut dan menyetujui perlunya ketepatan. Tapi kita mungkin akan terjebak dengan itu, dia memperkirakan. “Pada titik ini tidak akan diperbaiki. ‘Status mental yang terkait dengan AI tidak memiliki cincin yang sama untuk itu.”
Untuk perawatan, dokter mengatakan buku pedoman tidak benar -benar berubah dari apa yang biasanya dilakukan untuk siapa pun yang mengalami delusi atau psikosis. Perbedaan utama adalah mempertimbangkan penggunaan teknologi pasien. “Dokter perlu mulai bertanya kepada pasien tentang penggunaan chatbot seperti yang kami tanyakan tentang alkohol atau tidur,” kata Vasan. “Ini akan memungkinkan kami sebagai komunitas untuk mengembangkan pemahaman tentang masalah ini,” tambah Sarma. Pengguna AI, terutama mereka yang mungkin rentan karena kondisi yang sudah ada sebelumnya seperti skizofrenia atau gangguan bipolar, atau yang mengalami krisis yang mempengaruhi kesehatan mental mereka, harus waspada terhadap percakapan yang luas dengan bot atau bersandar pada mereka terlalu berat.
Semua psikiater dan peneliti yang terhubung berbicara dengan mengatakan bahwa dokter secara efektif terbang buta ketika datang ke psikosis AI. Penelitian untuk memahami masalah dan perlindungan untuk melindungi pengguna sangat dibutuhkan, kata mereka. “Psikiater sangat prihatin dan ingin membantu,” kata Torous. “Tetapi ada begitu sedikit data dan fakta saat ini sehingga tetap menantang untuk sepenuhnya memahami apa yang sebenarnya terjadi, mengapa, dan berapa banyak orang.”
Adapun ke mana hal ini pergi, sebagian besar psikosis AI akan dilipat ke dalam kategori yang ada, mungkin sebagai faktor risiko atau penguat delusi, bukan kondisi yang berbeda.
Tetapi dengan chatbots tumbuh semakin umum, beberapa merasakan garis antara AI dan penyakit mental akan kabur. “Ketika AI menjadi lebih ada di mana -mana, orang akan semakin beralih ke AI ketika mereka mengembangkan gangguan psikotik,” kata MacCabe. “Maka akan menjadi kasus bahwa mayoritas orang dengan delusi akan membahas delusi mereka dengan AI dan beberapa akan membuatnya diperkuat.
“Jadi pertanyaannya menjadi, di mana khayalan menjadi khayalan AI?”
