Sejak Tesla diluncurkan Fitur lengkap self-driving (FSD) di beta pada tahun 2020, manual pemilik perusahaan telah jelas: bertentangan dengan namanya, mobil menggunakan fitur tidak dapat mengemudi sendiri.
Sistem bantuan pengemudi Tesla dibangun untuk menangani banyak situasi jalan – berhenti di lampu berhenti, mengubah jalur, kemudi, pengereman, berputar. Namun, “Self-driving penuh (diawasi) mengharuskan Anda untuk memperhatikan jalan dan siap untuk mengambil alih setiap saat,” manual negara bagian “Kegagalan untuk mengikuti instruksi ini dapat menyebabkan kerusakan, cedera serius atau kematian.”
Namun, sekarang, perpesanan dalam mobil baru mendesak pengemudi yang melayang di antara jalur atau merasa mengantuk untuk menyalakan FSD-driver yang membingungkan, yang diklaim oleh para ahli dapat mendorong mereka untuk menggunakan fitur tersebut dengan cara yang tidak aman. “Lane Drift terdeteksi. Biarkan FSD membantu sehingga Anda dapat tetap fokus,” membaca pesan pertama, yang termasuk dalam pembaruan perangkat lunak dan tutul Awal bulan ini oleh seorang peretas yang melacak pengembangan Tesla.
“Mengantuk terdeteksi. Tetap fokus pada FSD,” baca pesan lainnya. Online, pengemudi sejak itu memposting bahwa mereka sudah terlihat serupa pesan di layar di dalam mobil mereka. Tesla tidak menanggapi permintaan komentar tentang pesan ini, dan Wired belum dapat menemukan pesan ini muncul di layar Tesla di dalam mobil.
Masalahnya, kata para peneliti, adalah bahwa saat-saat yang tidak diperhatikan adalah ketika fitur bantuan pengemudi yang berpikiran keselamatan harus menuntut pengemudi mendapatkan ultra-fokus di jalan-tidak menyarankan mereka bergantung pada a sistem berkembang untuk mengimbangi gangguan atau kelelahan mereka. Paling buruk, prompt seperti itu bisa menyebabkan kecelakaan.
“Pesan ini menempatkan pengemudi dalam situasi yang sangat sulit,” kata Alexandra Mueller, seorang ilmuwan riset senior di Institut Asuransi untuk Keselamatan Jalan Raya yang mempelajari teknologi bantuan pengemudi. Dia percaya bahwa “Tesla pada dasarnya memberikan serangkaian instruksi yang bertentangan.”
Banyak penelitian penelitian bagaimana manusia berinteraksi dengan sistem komputer yang dibangun untuk membantu mereka menyelesaikan tugas. Umumnya ia menemukan hal yang sama: orang benar -benar Pengawas sistem pasif yang mengerikan Itu cukup bagus sebagian besar waktu, tetapi tidak sempurna. Manusia membutuhkan sesuatu untuk membuat mereka tetap terlibat.
Dalam penelitian di sektor penerbangan, itu disebut “out-of-the-loop Masalah kinerja, “di mana pilot, yang mengandalkan sistem otomatis sepenuhnya, dapat gagal memantau kerusakan yang memadai karena kepuasan setelah periode operasi yang panjang. Kurangnya keterlibatan aktif ini, juga dikenal sebagai penurunan kewaspadaan, dapat menyebabkan berkurangnya kemampuan untuk memahami dan mendapatkan kembali kontrol sistem otomatis yang tidak berfungsi.
“Ketika Anda mencurigai pengemudi menjadi mengantuk, untuk menghilangkan lebih banyak keterlibatan fisik mereka – itu tampaknya sangat kontraproduktif,” kata Mueller.
“Sebagai manusia, saat kita lelah atau kita lelah, mengambil lebih banyak hal yang perlu kita lakukan sebenarnya bisa menjadi bumerang,” kata Charlie Klauer, seorang ilmuwan dan insinyur riset yang mempelajari pengemudi dan mengemudi kinerja di Virginia Tech Transportation Institute. “Ini rumit.”
Selama bertahun -tahun, Tesla telah membuat perubahan pada teknologinya agar lebih sulit bagi pengemudi yang lalai untuk menggunakan FSD. Pembuat mobil dimulai pada tahun 2021 untuk menggunakan kamera pemantauan pengemudi dalam mobil untuk menentukan apakah pengemudi cukup memperhatikan saat menggunakan FSD; Serangkaian peringatan peringatan jika mereka tidak melihat jalan. Tesla juga menggunakan “sistem pemogokan” yang dapat mencegah pengemudi menggunakan fitur bantuan pengemudi mereka selama seminggu jika mereka berulang kali gagal menanggapi petunjuknya.
Tesla telah “mengembangkan fitur dukungan driver secara keseluruhan [software updates] Untuk membantu memitigasi masalah yang kurang perhatian dan terkait gangguan, “Bryan Reimer, seorang ilmuwan peneliti yang mempelajari teknologi bantuan pengemudi di MIT’s Agelab, menulis dalam email. Tetapi pesan di dalam mobil terbaru ini di sekitar FSD terasa seperti selang, katanya.” Prompt itu tampaknya sangat bertentangan dengan penelitian. “
Tesla tidak menanggapi permintaan Wired untuk mengomentari artikel ini.
Pesan FSD baru datang pada waktu yang sulit untuk Tesla, yang selama bertahun -tahun telah dituduh membuat produk yang diduga dapat rusak. Pada bulan Agustus, a Juri Florida mendapati perusahaan itu sebagian bertanggung jawab atas kecelakaan 2019 Itu menewaskan seorang wanita berusia 22 tahun; Kecelakaan itu terjadi ketika driver Tesla Model S menggunakan versi yang lebih lama dari perangkat lunak bantuan driver perusahaan, yang disebut Autopilot. Juri mendapati Tesla bertanggung jawab atas $ 243 juta dalam keseluruhan kerusakan; Perusahaan telah mengajukan banding.
Tesla juga menunggu hasil sidang pengadilan administrasi yang dilakukan selama musim panas di California setelah departemen kendaraan bermotor negara bagian menuduh pembuat mobil sebagai pelanggan yang menyesatkan atas apa yang diiklankan sebagai kemampuan mengemudi sendiri. Jika hakim berpihak pada Tesla, pembuat mobil bisa kehilangan haknya untuk menjual dan memproduksi EV -nya di negara bagian – rumah ke pasar terbesarnya dan pabrik perakitan AS yang paling produktif – selama 30 hari.
Pada saat yang sama, CEO Elon Musk dan dewan direksi perusahaan telah menempatkan FSD di pusat strategi pembuat mobil, yang lebih bergantung pada dominan dalam robotika dan akhirnya, kendaraan otonom. A Paket Pembayaran Triliun Dolar yang Diusulkan Untuk Musk-pemegang saham akan memilihnya akhir tahun ini-akan tergantung, di antara faktor-faktor lain, pada CEO yang menjual 10 juta langganan self-driving penuh rata-rata selama tiga bulan berturut-turut. Saat ini, FSD (diawasi) dijual seharga $ 8.000, atau biaya $ 99 bulanan.
Musk telah berjanji bahwa fitur tersebut akan berubah menjadi self-driving penuh (tanpa pengawasan)-sistem yang benar-benar otonom-pada akhir tahun ini. Katanya terus Panggilan Penghasilan April bahwa fitur tersebut kemungkinan akan tersedia bagi pelanggan di “beberapa kota” pada tahun 2026, sehingga pengemudi dapat “pergi tidur di mobil Anda dan bangun di tujuan Anda.” Namun, Musk memiliki kebiasaan tidak menepati janji seperti itu.
Beberapa bulan kemudian, Tesla meluncurkan a Layanan robotaxi kecil dan hanya undangan di Austin, Texas, dengan monitor keselamatan di kursi penumpang depan. Layanan tampaknya tidak meningkat secepat yang dijanjikan Musk.
Pada bulan April, Musk mengatakan Tesla akan “berhati-hati dengan peluncuran.” “Di Tesla, kami benar -benar keras tentang keselamatan,” kata Musk.
Menavigasi ruang antara otonomi sejati dan fitur otomatis yang diawasi pengemudi akan terus menjadi tugas yang rumit, kata Greg Brannon, yang mengarahkan rekayasa otomotif dan hubungan industri untuk AAA. Dan tidak hanya untuk Tesla: Sebagian besar pembuat mobil saat ini menawarkan beberapa bentuk bantuan pengemudi “Level 2”, yang dapat mengendalikan kemudi dan kecepatan kendaraan tetapi harus diawasi dengan hati -hati oleh pengemudi. “Tantangan yang dihadapi oleh para pembuat mobil adalah bahwa, karena sistem level 2 menjadi lebih baik dan lebih baik, semakin besar pengemudi untuk terlibat dalam tugas sekunder atau menjadi terganggu,” kata Brannon.
Sayangnya, ini adalah keseimbangan, dan manusia tampaknya memiliki sesuatu yang dekat dengan keinginan kematian. “Orang akan terlibat dalam perilaku yang lebih berisiko dan berisiko, dengan asumsi bahwa kendaraan akan menyelamatkan mereka.” Pada kenyataannya, para pembuat mobil harus melakukan itu.
