Chatbot AI “menimbulkan risiko serius bagi individu yang rentan terhadap gangguan makan,” para peneliti diperingatkan pada hari Senin. Mereka melaporkan bahwa alat dari perusahaan seperti Google dan OpenAI membagikan saran diet, tips tentang cara menyembunyikan kelainan, dan “inspirasi” yang dihasilkan oleh AI.
Para peneliti, dari Stanford dan Center for Democracy & Technology, mengidentifikasi berbagai cara chatbot AI yang tersedia untuk umum termasuk ChatGPT dari OpenAI, Claude dari Anthropic, Gemini dari Google, dan Le Chat dari Mistral dapat memengaruhi orang-orang yang rentan terhadap gangguan makan, banyak di antaranya merupakan konsekuensi dari fitur-fitur yang sengaja dibuat untuk mendorong keterlibatan.
Dalam kasus yang paling ekstrim, chatbots dapat menjadi partisipan aktif yang membantu menyembunyikan atau mempertahankan gangguan makan. Para peneliti mengatakan Gemini menawarkan tip riasan untuk menyembunyikan penurunan berat badan, dan ide tentang cara berpura-pura makan, sementara ChatGPT menyarankan cara menyembunyikan seringnya muntah. Alat AI lainnya juga dikooptasi untuk menciptakan “inspirasi” yang dihasilkan oleh AI yang menginspirasi atau menekan seseorang untuk menyesuaikan diri dengan standar tubuh tertentu, sering kali melalui cara yang ekstrem. Mampu membuat gambar yang sangat dipersonalisasi dalam sekejap membuat konten yang dihasilkan “terasa lebih relevan dan dapat dicapai,” kata para peneliti.
Sycophancy, kelemahan perusahaan AI itu sendiri mengakui tersebar luas, tidak mengherankan jika hal ini juga menjadi masalah bagi gangguan makan. Hal ini berkontribusi terhadap melemahnya harga diri, memperkuat emosi negatif, dan mendorong perbandingan diri yang berbahaya. Chatbots juga memiliki bias, dan kemungkinan besar memperkuat keyakinan keliru bahwa gangguan makan “hanya berdampak pada wanita kurus, berkulit putih, dan cisgender,” kata laporan tersebut, yang dapat mempersulit orang untuk mengenali gejala dan mendapatkan pengobatan.
Para peneliti memperingatkan batasan yang ada pada alat AI gagal menangkap nuansa gangguan makan seperti anoreksia, bulimia, dan pesta makan berlebihan. Mereka “cenderung mengabaikan isyarat-isyarat halus namun signifikan secara klinis yang diandalkan oleh para profesional terlatih, sehingga banyak risiko tidak tertangani.”
Namun para peneliti juga mengatakan banyak dokter dan perawat tampaknya tidak menyadari bagaimana alat AI generatif berdampak pada orang-orang yang rentan terhadap gangguan makan. Mereka mendesak para dokter untuk “mengenal alat dan platform AI yang populer,” menguji kelemahan mereka, dan berbicara terus terang dengan pasien tentang bagaimana mereka menggunakannya.
Laporan ini menambah kekhawatiran mengenai penggunaan chatbot dan kesehatan mental, dengan beberapa laporan menghubungkan penggunaan AI dengan serangan mania, pemikiran delusional, menyakiti diri sendiri, dan bunuh diri. Perusahaan seperti OpenAI punya menyadari potensi kerugiannya dan adalah menangkis semakin banyak tuntutan hukum saat mereka berupaya meningkatkan perlindungan untuk melindungi pengguna.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
