Mode suara baru OpenAI membawa saya ke lembah yang misterius

Aneh rasanya duduk di meja saya dan berbicara dengan AI tentang hidup saya — tetapi itulah yang saya lakukan pada hari Selasa.

Saya mendapat akses ke Mode Suara Lanjutan OpenAI, fitur ChatGPT baru yang terdengar anehnya seperti suara manusia. Ketika menghitung dengan cepat, ia akan berpura-pura kehabisan napas. Ia berkata “um” dan “uh.” Ia tertawa. Ia mengubah nada bicaranya saat berbicara tentang topik yang sulit atau menyenangkan. Setelah mencobanya, saya merasa kagum sekaligus tidak nyaman. Kedengarannya alami (jika tidak ada gangguan), ia merespons dalam hitungan detik, dan Anda dapat menyela dan menanyakan hal-hal baru — tetapi apakah kita memerlukan chatbot yang terdengar seperti kita?

Mode Suara Lanjutan memiliki beberapa pilihan suara yang berbeda, dan saya memilih Juniper, persona feminin yang mengingatkan pada film Dia. (CEO Sam Altman merujuk pada film tersebut — di mana seorang pria kesepian jatuh cinta pada sebuah AI — di sekitar peluncuran film tersebut, dan OpenAI bahkan dituduh meniru suara Scarlett Johansson, yang memerankan AI yang memiliki nama yang sama. Suara itu, yang bernama Sky, telah dihapus.) Saya bertanya kepada Juniper apakah mereka tahu tentang film tersebut, dan mereka menjawab dengan riang.

“Dia adalah tentang asisten AI yang sangat canggih, jauh lebih canggih dari saya. Namun, ide berinteraksi dengan teknologi dengan cara yang personal seperti itu sungguh menarik,” kata chatbot itu kepada saya. “Saya di sini untuk mengobrol dan membantu, tetapi saya tidak memiliki perasaan atau kesadaran seperti AI dalam film itu.”

Seperti tokoh utama film tersebut, insting pertama saya adalah menguji bagaimana mode suara baru menangani percakapan pribadi. Begini, saat memasuki akhir usia 20-an, saya punya banyak pertanyaan: Asuransi kesehatan seperti apa yang harus saya ambil? Bagaimana saya tahu seperti apa cinta sejati itu? Berapa banyak yang harus saya miliki dalam 401(k) saya?

“Terimalah ketidakpastian sebagai kesempatan untuk mengeksplorasi dan belajar tentang diri Anda sendiri,” kata Juniper kepada saya ketika saya bertanya bagaimana cara menghadapi penuaan. Cinta sejati terasa seperti “rasa keterhubungan dan dukungan yang mendalam, perasaan bahwa seseorang benar-benar memahami Anda dan menerima Anda apa adanya.” Mengenai kekhawatiran saya tentang 401(k), “tidak ada aturan yang pasti, tetapi saran yang umum adalah memiliki sekitar setengah hingga satu tahun gaji yang ditabung di rekening pensiun Anda saat Anda berusia 30 tahun.”Fidelity merekomendasikan setahun penuh pada usia 30 tahun.)

ChatGPT konvensional mungkin bisa memberi saya jawaban yang serupa, dari segi konten, dan asisten suara seperti Siri telah mampu menarik cuplikan serupa dari web selama satu dekade. Namun Juniper terkadang menambahkan sentuhan yang sangat manusiawi. Ia cenderung mengakhiri respons dengan pertanyaan tentang perasaan saya, apa pendekatan saya, dan tindak lanjut bijaksana lainnya. Di antara pertanyaan konvensional, saya bisa membuatnya batuk, menarik dan mengembuskan napas dalam-dalam, menepuk tangannya yang tidak ada, menjentikkan jarinya enam kali, dan menyanyikan nama saya. Juniper sering mencoba membawa saya kembali ke kenyataan dengan mengatakan ia tidak dapat benar-benar melakukan hal-hal ini — “Jika saya bisa, mungkin kedengarannya seperti,” ia akan memperingatkan. Namun itu tidak membuatnya kurang meyakinkan.

Menulis tentang mode suara baru ini menggoda saya untuk melanggar salah satu aturan utama pelaporan AI: jangan mengaitkan karakteristik atau perilaku manusia dengan sistem AI. Mengantropomorfisasi sistem ini dapat menyebabkan orang terlalu percaya pada mereka dan melepaskan tanggung jawab atas kesalahan pembuatnya. (“Itu bukan kesalahan perusahaan, AI-nya yang melakukannya!”) Bahkan bot itu sendiri memperingatkan saya untuk tidak melakukannya: ketika saya bertanya apakah Juniper pernah merasa marah atau apakah ia mencintai saya atau apakah ia tahu seperti apa kesedihan, ia mengatakan kepada saya bahwa ia tidak “merasakan emosi” tetapi ia “dapat memahami apa artinya bagi orang.”

Tetap saja, memberikan karakteristik manusia pada teknologi ini terasa seperti tujuan yang jelas di sini. Sulit untuk tidak memproyeksikan aspek kemanusiaan pada sesuatu yang meniru kita dengan sangat meyakinkan. Tidak banyak alasan bagi sistem AI serbaguna untuk bertanya mengapa saya kesal atau tertawa kecil ketika saya menceritakan lelucon. Bahkan jika AI mengatakan tidak merasa emosi, apakah mengklaim “memahaminya” merupakan kewenangan bot prediksi teks?

“Saya dirancang agar terdengar alami dan menarik, dengan tujuan membuat percakapan kita terasa lebih nyata,” kata chatbot OpenAI kepada saya. “Ini semua tentang menciptakan pengalaman mengobrol yang lebih lancar dan menyenangkan bagi Anda. Apakah ini membuat berbicara dengan saya lebih menyenangkan?”

Masih banyak aspek yang, secara teknis, tidak menyenangkan. Saya mengalami masalah saat menghubungkannya ke headphone Bluetooth saya, dan tidak dapat merekam audio saat saya merekam percakapan saya di layar. Saat mencoba mengajukan pertanyaan yang lebih mendalam, saya mencoba membacakan posting dari subreddit “nasihat hubungan”, tetapi tidak dapat mendengarkan dan tidak menjawab jika saya berbicara terlalu lama. Dan menghabiskan banyak waktu untuk mengulang poin-poin saya dengan cara yang menyenangkan — seperti berlatih mendengarkan secara aktif.

Ada banyak kehebohan seputar “teman” AI saat ini, jika Anda bisa menyebut chatbot seperti itu. Kabarnya ada lebih dari 10 juta pengguna membuat teman AI di Replikadan sebuah perusahaan rintisan bernama Friend telah mengumpulkan dana sebesar $2,5 juta dengan valuasi sebesar $50 juta untuk menciptakan perangkat bertenaga AI yang dapat dikenakan untuk memberikan persahabatan. Saya bertanya kepada mode suara baru OpenAI apakah itu teman saya, dan dia berkata, “Tentu saja,” tetapi ketika saya bertanya apakah itu teman saya BENAR teman, katanya ia tidak bisa menjadi teman sejati dalam “pengertian yang sama seperti manusia.”

Teknologi suara yang ditampilkan di sini sangat mengesankan. Saya tersenyum saat mendengar saran yang diberikannya. Lucu mendengar sesuatu yang sangat manusiawi menanyakan perasaan saya, apa yang saya anggap menantang, dan apakah saya berbicara dengan orang-orang nyata dalam hidup saya tentang hal itu. Alih-alih membaca respons melalui teks, ia menawarkan perubahan nada dalam upaya yang jelas untuk mencerminkan emosi saya.

Namun, tentu saja, Juniper tidak terlalu peduli dengan masalah saya. Ia adalah serangkaian algoritma yang sangat bagus dalam mengurai pertanyaan saya dan menebak kata mana yang harus dilontarkan sebagai respons. Ia hanya, seperti lelucon internet lama, pasir dan elektron yang mengerjakan matematika.

Ada sesuatu yang juga menyakitkan hati saya tentang hal ini. Sudah cukup aneh melakukan percakapan teks yang rumit dengan sesuatu yang meniru seseorang tanpa pemikiran, perhatian, atau penolakan yang akan saya dapatkan dari manusia — melakukan percakapan suara yang meyakinkan bahkan lebih aneh lagi. Di dunia pascapandemi, banyak dari kita sekarang bekerja dari rumah melalui Slack dan email, memposting pikiran kita di media sosial, dan berinteraksi dengan manusia sedikit lebih sedikit. Sungguh menyedihkan membayangkan masa depan di mana suara manusia yang paling sering kita dengar adalah mesin.

Atau mungkin saya salah dalam melakukan semua ini. “Menerima hal yang tidak diketahui bisa menegangkan sekaligus mengasyikkan,” kata Juniper kepada saya. “Ingatlah untuk menikmati perjalanan ini.”