OpenAI telah menurun petunjuk minggu ini tentang peran AI sebagai “sekutu layanan kesehatan” — dan hari ini, perusahaan tersebut mengumumkan produk yang sejalan dengan gagasan tersebut: ChatGPT Health.
ChatGPT Health adalah tab sandbox dalam ChatGPT yang dirancang bagi pengguna untuk mengajukan pertanyaan terkait kesehatan dalam apa yang digambarkan sebagai lingkungan yang lebih aman dan dipersonalisasi, dengan fitur riwayat chat dan memori terpisah dibandingkan ChatGPT lainnya. Perusahaan mendorong pengguna untuk menghubungkan rekam medis pribadi dan aplikasi kesehatan mereka, seperti Apple Health, Peloton, MyFitnessPal, Weight Watchers, dan Function, “untuk mendapatkan tanggapan yang lebih personal dan membumi terhadap pertanyaan mereka.” Disarankan untuk menghubungkan rekam medis sehingga ChatGPT dapat menganalisis hasil lab, ringkasan kunjungan, dan riwayat klinis; MyFitnessPal dan Weight Watchers untuk panduan makanan; Apple Health untuk data kesehatan dan kebugaran, termasuk “gerakan, tidur, dan pola aktivitas”; dan Fungsi untuk wawasan tentang tes laboratorium.
Di bidang rekam medis, OpenAI mengatakan pihaknya bermitra dengan b.well, yang akan menyediakan integrasi back-end bagi pengguna untuk mengunggah rekam medis mereka, karena perusahaan tersebut bekerja dengan sekitar 2,2 juta penyedia. Untuk saat ini, ChatGPT Health mengharuskan pengguna untuk mendaftar ke a daftar tunggu untuk meminta akses, karena produk ini dimulai dengan grup beta pengguna awal, namun produk tersebut akan diluncurkan secara bertahap ke semua pengguna, apa pun tingkat langganannya.
Perusahaan memastikan untuk menyebutkan dalam postingan blognya bahwa ChatGPT Health “tidak dimaksudkan untuk diagnosis atau pengobatan,” namun tidak dapat sepenuhnya mengontrol bagaimana orang akhirnya menggunakan AI ketika mereka meninggalkan chat. Oleh perusahaan pengakuan sendiridi komunitas pedesaan yang kurang terlayani, rata-rata pengguna mengirim hampir 600.000 pesan terkait layanan kesehatan setiap minggunya, dan tujuh dari 10 percakapan layanan kesehatan di ChatGPT “terjadi di luar jam klinik normal.” Pada bulan Agustus, dokter menerbitkan laporan tentang kasus seorang pria yang dirawat di rumah sakit selama berminggu-minggu karena kondisi medis abad ke-18 setelah mengikuti saran ChatGPT untuk mengganti garam dalam makanannya dengan natrium bromida. Ikhtisar AI Google menjadi berita utama selama berminggu-minggu setelah diluncurkan karena saran berbahaya, seperti menempelkan lem pada pizza, dan penyelidikan baru-baru ini oleh Penjaga ditemukan bahwa nasihat kesehatan yang berbahaya terus berlanjut, dengan nasihat palsu untuk tes fungsi hati, tes kanker wanita, dan diet yang direkomendasikan bagi mereka yang menderita kanker pankreas.
Dalam postingan blognya, OpenAI menulis bahwa berdasarkan “analisis percakapan yang tidak teridentifikasi”, lebih dari 230 juta orang di seluruh dunia telah menanyakan pertanyaan ChatGPT terkait kesehatan dan kebugaran setiap minggunya. OpenAI juga mengatakan bahwa selama dua tahun terakhir, pihaknya telah bekerja sama dengan lebih dari 260 dokter untuk memberikan umpan balik terhadap keluaran model lebih dari 600.000 kali lipat di 30 area fokus, untuk membantu membentuk respons terhadap produk.
“ChatGPT dapat membantu Anda memahami hasil tes terkini, mempersiapkan janji temu dengan dokter, mendapatkan saran tentang cara melakukan diet dan rutinitas olahraga, atau memahami konsekuensi dari berbagai pilihan asuransi berdasarkan pola perawatan kesehatan Anda,” klaim OpenAI dalam postingan blognya.
Salah satu bagian kesehatan yang tampaknya dihindari oleh OpenAI dalam postingan blognya: kesehatan mental. Ada sejumlah contoh orang dewasa atau anak di bawah umur meninggal karena bunuh diri setelah curhat di ChatGPT, dan dalam postingan blog tersebut, OpenAI secara samar-samar menyebutkan bahwa pengguna dapat menyesuaikan instruksi dalam produk Kesehatan “untuk menghindari penyebutan topik sensitif.” Ketika ditanya pada konferensi hari Rabu dengan wartawan apakah ChatGPT Health juga akan merangkum kunjungan kesehatan mental dan memberikan saran di bidang tersebut, CEO aplikasi OpenAI, Fidji Simo, mengatakan, “Kesehatan mental tentu saja merupakan bagian dari kesehatan secara umum, dan kami melihat banyak orang beralih ke ChatGPT untuk percakapan tentang kesehatan mental,” seraya menambahkan bahwa produk baru ini “dapat menangani bagian mana pun dari kesehatan Anda termasuk kesehatan mental… Kami sangat fokus untuk memastikan bahwa dalam situasi kesusahan, kami merespons dengan tepat dan kami mengarahkan ke profesional kesehatan,” serta dicintai satu atau sumber daya lainnya.
Mungkin juga produk tersebut dapat memperburuk kondisi kecemasan kesehatan, seperti hipokondria. Ketika ditanya apakah OpenAI telah memperkenalkan perlindungan apa pun untuk membantu mencegah orang-orang dengan kondisi seperti itu terjangkit penyakit tersebut saat menggunakan ChatGPT Health, Simo berkata, “Kami telah melakukan banyak upaya untuk menyempurnakan model ini untuk memastikan bahwa kami informatif tanpa harus khawatir dan jika ada tindakan yang harus diambil, kami akan mengarahkan ke sistem layanan kesehatan.”
Terkait masalah keamanan, OpenAI mengatakan bahwa ChatGPT Health “beroperasi sebagai ruang terpisah dengan privasi yang ditingkatkan untuk melindungi data sensitif” dan bahwa perusahaan tersebut memperkenalkan beberapa lapisan enkripsi yang dibuat khusus (tetapi bukan enkripsi ujung ke ujung), menurut pengarahan tersebut. Percakapan dalam produk Kesehatan tidak digunakan untuk melatih model dasarnya, secara default, dan jika pengguna memulai percakapan terkait kesehatan di ChatGPT biasa, chatbot akan menyarankan untuk memindahkannya ke produk Kesehatan untuk “perlindungan tambahan”, sesuai postingan blog. Namun OpenAI pernah mengalami pelanggaran keamanan di masa lalu, terutama a Maret 2023 masalah yang memungkinkan beberapa pengguna melihat judul obrolan, pesan awal, nama, alamat email, dan informasi pembayaran dari pengguna lain. Jika ada perintah pengadilan, OpenAI masih perlu memberikan akses ke data “jika diperlukan melalui proses hukum yang sah atau dalam situasi darurat,” kata kepala kesehatan OpenAI Nate Gross dalam pengarahan.
Ketika ditanya apakah ChatGPT Health mematuhi Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA), Gross mengatakan bahwa “dalam kasus produk konsumen, HIPAA tidak berlaku dalam pengaturan ini — ini berlaku untuk pengaturan perawatan kesehatan klinis atau profesional.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
