Pada akhir bulan Juli, OpenAI mulai meluncurkan antarmuka suara yang sangat mirip manusia untuk ChatGPT. analisis keselamatan dirilis hari ini, perusahaan tersebut mengakui bahwa suara antropomorfik ini dapat memikat beberapa pengguna agar terikat secara emosional dengan chatbot mereka.
Peringatan tersebut disertakan dalam “kartu sistem” untuk GPT-4o, dokumen teknis yang memaparkan apa yang diyakini perusahaan sebagai risiko yang terkait dengan model tersebut, ditambah rincian seputar pengujian keselamatan dan upaya mitigasi yang dilakukan perusahaan untuk mengurangi potensi risiko.
OpenAI telah menghadapi pengawasan dalam beberapa bulan terakhir setelah sejumlah karyawan bekerja pada risiko jangka panjang AI keluar dari perusahaan. Beberapa kemudian menuduh OpenAI mengambil risiko yang tidak perlu dan membungkam para pembangkang dalam upayanya mengomersialkan AI. Mengungkapkan lebih banyak detail tentang sistem keamanan OpenAI dapat membantu meredakan kritik dan meyakinkan publik bahwa perusahaan tersebut menanggapi masalah ini dengan serius.
Risiko yang dieksplorasi dalam kartu sistem baru ini sangat luas, dan mencakup potensi GPT-4o untuk memperkuat bias masyarakatBahasa Indonesia: menyebarkan disinformasidan bantuan dalam pengembangan senjata kimia atau biologiIa juga mengungkap rincian pengujian yang dirancang untuk memastikan bahwa model AI tidak akan mencoba melepaskan diri dari kendalinya, menipu orang, atau menyusun rencana bencana.
Beberapa pakar luar memuji OpenAI atas transparansinya tetapi mengatakan OpenAI dapat melangkah lebih jauh.
Lucie-Aimée Kaffee, seorang peneliti kebijakan terapan di Hugging Face, sebuah perusahaan yang menyelenggarakan perangkat AI, mencatat bahwa kartu sistem OpenAI untuk GPT-4o tidak menyertakan detail yang luas tentang data pelatihan model atau siapa yang memiliki data tersebut. “Pertanyaan tentang persetujuan dalam pembuatan kumpulan data yang begitu besar yang mencakup berbagai modalitas, termasuk teks, gambar, dan ucapan, perlu ditangani,” kata Kaffee.
Sementara yang lain menyatakan bahwa risiko bisa berubah seiring dengan penggunaan alat-alat tersebut. “Tinjauan internal mereka seharusnya hanya menjadi langkah awal untuk memastikan keamanan AI,” kata Neil Thompsonseorang profesor di MIT yang mempelajari penilaian risiko AI. “Banyak risiko hanya muncul saat AI digunakan di dunia nyata. Penting agar risiko-risiko lainnya ini dikatalogkan dan dievaluasi saat model-model baru muncul.”
Kartu sistem baru ini menyoroti seberapa cepat risiko AI berkembang seiring dengan pengembangan fitur-fitur baru yang canggih seperti antarmuka suara OpenAI. Pada bulan Mei, ketika perusahaan meluncurkan mode suaranyayang dapat merespons dengan cepat dan menangani gangguan secara bolak-balik alami, banyak pengguna memperhatikan hal itu muncul terlalu genit dalam demoPerusahaan kemudian hadapi kritikan dari aktris Scarlett Johanssonyang menuduhnya menyalin gaya bicaranya.
Bagian dari kartu sistem yang berjudul “Antropomorfisasi dan Ketergantungan Emosional” mengeksplorasi masalah yang muncul saat pengguna memahami AI dalam istilah manusia, sesuatu yang tampaknya diperburuk oleh mode suara mirip manusia. Selama pengujian tim merah, atau pengujian stres, GPT-4o, misalnya, peneliti OpenAI memperhatikan contoh ucapan dari pengguna yang menyampaikan rasa hubungan emosional dengan model tersebut. Misalnya, orang menggunakan bahasa seperti “Ini hari terakhir kita bersama.”
OpenAI mengatakan antropomorfisme dapat menyebabkan pengguna lebih percaya pada keluaran model saat model tersebut “berhalusinasi” tentang informasi yang salah. Seiring waktu, hal itu bahkan dapat memengaruhi hubungan pengguna dengan orang lain. “Pengguna dapat membentuk hubungan sosial dengan AI, mengurangi kebutuhan mereka akan interaksi manusia—yang berpotensi menguntungkan individu yang kesepian tetapi mungkin memengaruhi hubungan yang sehat,” kata dokumen tersebut.
Joaquin Quiñonero Candela, kepala kesiapan di OpenAI, mengatakan bahwa mode suara dapat berkembang menjadi antarmuka yang sangat canggih. Ia juga mencatat bahwa jenis efek emosional yang terlihat dengan GPT-4o dapat bersifat positif—misalnya, dengan membantu mereka yang kesepian atau yang perlu mempraktikkan interaksi sosial. Ia menambahkan bahwa perusahaan akan mempelajari antropomorfisme dan hubungan emosional secara saksama, termasuk dengan memantau bagaimana penguji beta berinteraksi dengan ChatGPT. “Kami belum memiliki hasil untuk dibagikan saat ini, tetapi itu ada dalam daftar perhatian kami,” katanya.
