Awal bulan ini, Lyra Health diumumkan chatbot AI “tingkat klinis” untuk membantu pengguna dengan “tantangan” seperti kelelahan, gangguan tidur, dan stres. Ada delapan belas sebutan “klinis” dalam siaran persnya, termasuk “dirancang secara klinis”, “ketat secara klinis”, dan “pelatihan klinis”. Bagi kebanyakan orang, termasuk saya sendiri, “klinis” berarti “medis”. Masalahnya adalah, ternyata tidak berarti medis. Faktanya, “tingkat klinis” tidak berarti apa-apa.
“Tingkat klinis” adalah contoh pemasaran yang dirancang untuk meminjam otoritas dari dunia kedokteran tanpa ikatan akuntabilitas atau regulasi. Kata ini sejalan dengan frasa pemasaran menarik lainnya seperti “tingkat medis” atau “tingkat farmasi” untuk hal-hal seperti baja, silikon, dan suplemen yang menyiratkan kualitas; “kekuatan resep” atau “formulasi dokter” untuk krim dan salep yang menunjukkan potensi; Dan “hipoalergenik” Dan “non-komedogenik” hasil yang disarankan – kemungkinan lebih rendah terjadinya reaksi alergi dan penyumbatan non-pori – yang tidak ada definisi standar atau prosedur pengujiannya.
Para eksekutif Lyra telah mengonfirmasi hal tersebut, pemberitaan Berita Statistik bahwa menurut mereka peraturan FDA tidak berlaku untuk produk mereka. Bahasa medis dalam siaran persnya – yang menyebut chatbot sebagai “panduan AI percakapan yang dirancang secara klinis” dan “pengalaman AI tingkat klinis pertama untuk perawatan kesehatan mental” – hanya bertujuan untuk membantunya menonjol dari pesaing dan untuk menunjukkan seberapa besar perhatian mereka dalam mengembangkannya, klaim mereka.
Lyra memperkenalkan alat AI-nya sebagai tambahan pada layanan kesehatan mental yang sudah disediakan oleh staf manusianya, seperti terapis dan dokter, sehingga memungkinkan pengguna mendapatkan dukungan sepanjang waktu di antara sesi. Menurut Statistikchatbot dapat memanfaatkan percakapan klinis sebelumnya, menampilkan sumber daya seperti latihan relaksasi, dan bahkan menggunakan teknik terapi yang tidak ditentukan.
Uraian tersebut menimbulkan pertanyaan yang jelas tentang apa yang dimaksud dengan “tingkat klinis” di sini? Meski sangat bergantung pada istilah tersebut, Lyra tidak mengatakannya secara eksplisit. Perusahaan tidak menanggapi Tepipermintaan komentar atau definisi spesifik tentang “AI tingkat klinis”.
“Tidak ada arti peraturan khusus untuk istilah ‘AI tingkat klinis’,” kata George Horvath, seorang dokter dan profesor hukum di UC Law San Francisco. “Saya belum menemukan dokumen FDA apa pun yang menyebutkan istilah itu. Hal ini tentu saja tidak ada dalam undang-undang mana pun. Tidak ada dalam peraturan.”
Seperti istilah pemasaran menarik lainnya, sepertinya ini adalah sesuatu yang diciptakan atau dikooptasi oleh perusahaan sendiri. “Ini jelas merupakan istilah yang keluar dari industri,” kata Horvath. “Bagi saya, sepertinya tidak ada satu makna pun… Setiap perusahaan mungkin memiliki definisinya sendiri mengenai apa yang dimaksud dengan hal tersebut.”
Meskipun “istilah itu saja tidak banyak artinya,” Vaile Wright, seorang psikolog berlisensi dan direktur senior kantor inovasi perawatan kesehatan American Psychological Association, mengatakan sudah jelas mengapa Lyra ingin bersandar pada istilah tersebut. “Saya pikir ini adalah istilah yang diciptakan oleh beberapa perusahaan ini sebagai penanda diferensiasi di pasar yang sangat ramai, dan juga sengaja tidak termasuk dalam lingkup Badan Pengawas Obat dan Makanan (FDA).” FDA mengawasi kualitas, keamanan, dan efektivitas berbagai produk makanan dan medis seperti obat-obatan dan implan. Ada beberapa aplikasi kesehatan mental yang termasuk dalam cakupannya dan untuk mendapatkan persetujuan, pengembang harus memenuhi standar keselamatan, keamanan, dan kemanjuran yang ketat melalui langkah-langkah seperti uji klinis yang membuktikan bahwa mereka melakukan apa yang mereka nyatakan dan melakukannya dengan aman.
Rute FDA mahal dan memakan waktu bagi pengembang, kata Wright, menjadikan “bahasa kabur” semacam ini sebagai cara yang berguna untuk menonjol dari yang lain. Ini merupakan tantangan bagi konsumen, kata Wright, namun hal ini diperbolehkan. Jalur peraturan FDA “tidak dikembangkan untuk teknologi inovatif,” katanya, sehingga beberapa bahasa yang digunakan untuk pemasaran menjadi tidak jelas. “Anda tidak benar-benar melihatnya dalam kesehatan mental,” kata Wright. “Tidak ada orang yang mengatakan terapi perilaku kognitif tingkat klinis, bukan? Bukan itu cara kita membicarakannya.”
Selain FDA, Komisi Perdagangan Federal, yang misinya mencakup melindungi konsumen dari pemasaran yang tidak adil atau menipu, dapat memutuskan bahwa ada sesuatu yang terlalu kabur dan menyesatkan masyarakat. Ketua FTC Andrew Ferguson diumumkan penyelidikan terhadap chatbot AI pada awal tahun ini, dengan fokus pada dampaknya terhadap anak di bawah umur – dengan tetap mempertahankan prioritas “memastikan bahwa Amerika Serikat mempertahankan perannya sebagai pemimpin global dalam industri baru dan menarik ini.” Baik FDA maupun FTC tidak menanggapi hal ini Tepipermintaan komentar.
Meskipun perusahaan “benar-benar ingin menikmati kue mereka dan menikmatinya,” Stephen Gilbert, seorang profesor ilmu regulasi perangkat medis di Universitas Teknologi Dresden di Jerman, mengatakan bahwa regulator harus menyederhanakan persyaratan mereka dan membuat penegakan hukum lebih jelas. Jika perusahaan dapat mengajukan klaim semacam ini secara legal (atau dapat melakukan hal tersebut secara ilegal), maka mereka akan melakukannya, katanya.
Ketidakjelasan ini tidak hanya terjadi pada AI – atau pada kesehatan mental, yang memiliki rangkaian produk “kesehatan” yang terdengar ilmiah dan menjanjikan ketelitian tanpa regulasi. Ketidakjelasan linguistik menyebar ke seluruh budaya konsumen seperti jamur pada roti. Kosmetik yang “telah teruji secara klinis”, minuman yang “meningkatkan kekebalan tubuh”, dan vitamin yang menjanjikan bahwa seluruh dunia hidup dalam zona abu-abu peraturan yang memungkinkan perusahaan membuat klaim yang luas dan bernuansa ilmiah namun tidak selalu lolos dari pengawasan. Ini mungkin merupakan hal yang baik untuk dilakukan, tetapi itu legal. Alat AI hanya mewarisi keterampilan linguistik ini.
Perusahaan menyusun segala sesuatunya dengan hati-hati agar aplikasi tidak masuk dalam pengawasan FDA dan memberikan kekebalan hukum pada tingkat tertentu. Itu muncul tidak hanya dalam salinan pemasaran tetapi juga dalam cetakan kecil, jika Anda berhasil membacanya. Sebagian besar alat kesehatan AI menekankan, di suatu tempat di situs mereka atau terkubur di dalam syarat dan ketentuan, bahasa yang menyatakan bahwa alat tersebut bukan pengganti perawatan profesional dan tidak dimaksudkan untuk mendiagnosis atau mengobati penyakit. Secara hukum, hal ini menghentikan pengklasifikasian perangkat tersebut sebagai perangkat medis bukti yang berkembang menyarankan orang menggunakannya untuk terapi dan dapat mengakses alat tersebut tanpa pengawasan klinis.
Ash, sebuah aplikasi terapi konsumen dari Slingshot AI, secara eksplisit dan samar-samar dipasarkan untuk “kesehatan emosional,” sementara Headspace, pesaing Lyra di bidang kesehatan perusahaan, menyebut “pendamping AI” Ebb sebagai “sahabat baru pikiran Anda.” Semua produk tersebut menekankan statusnya sebagai produk kesehatan, bukan sebagai alat terapeutik yang mungkin memenuhi syarat sebagai perangkat medis. Bahkan bot tujuan umum seperti ChatGPT memiliki peringatan serupa, yang secara eksplisit menolak penggunaan medis formal apa pun. Pesannya konsisten: berbicara dan bertindak seperti terapi, namun katakan bahwa itu bukan terapi.
Regulator mulai menaruh perhatian. FDA adalah dijadwalkan akan mengadakan kelompok penasihat untuk membahas perangkat medis kesehatan mental yang didukung AI pada tanggal 6 November, meskipun masih belum jelas apakah hal ini akan dilanjutkan mengingat penutupan pemerintah.
Lyra mungkin memainkan permainan berisiko dengan “AI tingkat klinis” mereka. “Saya pikir mereka akan mendekati batasan dalam diagnosis, pengobatan, dan semua hal lain yang akan mendorong mereka ke dalam definisi perangkat medis,” kata Horvath.
Gilbert, sementara itu, berpendapat bahwa perusahaan AI harus menyebutnya apa adanya. “Tidak ada gunanya membicarakan ‘tingkat klinis’ dalam lingkup yang sama dengan mencoba berpura-pura tidak menyediakan alat klinis,” katanya.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
