Di Texas malam minggu lalu, seorang nenek berusia 76 tahun bernama Martha Avila sedang berdiri di ruang depan rumahnya di pinggiran kota ketika seorang Tesla Model 3 meluncur ke dalam rumah batanya dengan kecepatan yang dilaporkan lebih dari 70 mil per jam, membunuhnya.
Pengemudi mobil tersebut, Michael Butler, 44 tahun, kemudian mengatakan kepada polisi bahwa dia telah melakukannya Fitur bantuan pengemudi Tesla—yang menurut produsen mobil membuat berkendara lebih aman dan mengurangi stres—terlibat selama kecelakaan. Butler tidak menunjukkan tanda-tanda mabuk, kata Kantor Sheriff Harris County, yang menangani kecelakaan itu, dalam sebuah laporan.
Kini keluarga Avila tidak hanya menggugat Butler tetapi juga Tesla, dengan tuduhan bahwa fitur bantuan pengemudi Full Self-Driving (Supervised) milik pembuat mobil listrik tersebut, yang juga disebut FSD, berperan dalam kematiannya. Fitur ini dirancang untuk menangani aspek-aspek tertentu dalam berkendara—termasuk menavigasi jalan kota dan pemukiman, berhenti di lampu merah dan rambu berhenti, serta berpindah jalur—namun hal ini mengharuskan pengemudi untuk memperhatikan dan tetap siap melakukan intervensi jika sistem melakukan kesalahan. Gugatan tersebut menuduh teknologi Tesla “cacat dalam desain dan sangat berbahaya,” tulis pengacara yang mewakili putri dan menantu Avila dalam gugatan yang diajukan di Pengadilan Distrik Harris County pada hari Selasa. (Menantu laki-lakinya, Justin Barbour, juga ada di rumah dan terluka dalam kecelakaan itu.)
Tesla tidak menanggapi permintaan komentar WIRED. Namun di X, wakil presiden perangkat lunak AI Tesla Ashok Elluswamy menulis bahwa data Tesla menunjukkan bahwa Butler “secara manual mengesampingkan self-driving dengan menekan pedal gas hingga 100 persen” dan “menekan pedal gas bahkan setelah kecelakaan.” CEO Tesla Elon Musk menyatakan bahwa spekulasi bahwa teknologi perusahaan berperan dalam kecelakaan itu “tidak masuk akal.”
Banyak rincian kecelakaan yang belum terungkap, dan sangat mungkin bahwa teknologi Tesla tidak ada hubungannya dengan kematian Avila. Bahkan jika pengemudilah yang paling bertanggung jawab atas apa yang terjadi, produsen mobil listrik masih dapat dianggap bersalah—dan bertanggung jawab atas kerugian moneter yang besar.
“Jika produk dirancang sedemikian rupa sehingga membuat pengemudi rentan terhadap situasi di mana tiba-tiba sistem tidak berfungsi dan mereka kehilangan kesadaran situasional, Tesla dapat dianggap bertanggung jawab,” kata Matthew Wansley, profesor di Fakultas Hukum Cardozo Universitas Yeshiva yang mempelajari teknologi otomotif.
Faktanya, hal itu pernah terjadi sebelumnya. Tahun lalu, juri Florida menemukan bahwa pengemudi Tesla Model S yang menggunakan Autopilot, perangkat lunak bantuan pengemudi Tesla sebelumnya, sebagian besar bertanggung jawab untuk sebuah kecelakaan di mana dia tidak dapat melihat bahwa persimpangan berbentuk T yang dilalui mobilnya telah berakhir. Dia terus menginjak pedal gas, dan Tesla bertabrakan dan membunuh Naibel Benavides Leon yang berusia 22 tahun. Pacarnya, Dillon Angulo, 26 tahun, terluka parah. (Meskipun sering menggembar-gemborkan kemampuan pengumpulan data kendaraannya yang luas, Tesla mengatakan pihaknya tidak dapat memulihkan data penting terkait kasus tersebut; pengacara keluarga Benavides kemudian dapat memulihkannya. dengan bantuan seorang hacker.)
Namun juri juga menemukan, dalam keputusan yang memecahkan preseden, bahwa Tesla berbagi sepertiga tanggung jawab atas kecelakaan itu karena yakin Autopilot efektif. Ditentukan bahwa Tesla bertanggung jawab atas ganti rugi sebesar $200 juta, ditambah tambahan ganti rugi sebesar $43 juta. Seorang hakim menguatkan putusan tersebut awal tahun ini.
Kritik terhadap pendekatan Tesla berpendapat bahwa justru karena FSD cukup hebat maka fitur tersebut menimbulkan masalah. Jika pengemudi percaya bahwa sistem beroperasi dengan baik sepanjang waktu, mereka mungkin tidak siap mengambil alih jika terjadi kesalahan. Dalam kecelakaan jalan raya California tahun 2018, pengemudi di belakang kemudi Model X yang menggunakan Autopilot gagal mengambil alih kemudi sebelum kendaraan tersebut menabrak penghalang, menewaskannya. (Tesla kemudian menyelesaikan gugatan terkait dengan jam crash sebelum dimulai.)
Penyelidikan yang sedang berlangsung yang dilakukan oleh Kantor Kecacatan Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional yang dibuka pada musim gugur lalu juga membahas potensi masalah ini. Investigasi ini dipicu oleh lebih dari 40 insiden yang dilaporkan di mana FSD gagal mematuhi undang-undang lalu lintas, termasuk satu kecelakaan yang disebabkan oleh Tesla yang fiturnya diaktifkan saat menerobos lampu merah. Tinjauan tersebut, tulis agensi tersebut dalam sebuah pengajuan, akan menilai apakah fitur tersebut memberikan pengguna “peringatan sebelumnya atau waktu yang cukup bagi pengemudi untuk merespons perilaku tak terduga atau untuk mengawasi teknologi dengan aman”.
NHTSA memaksa Tesla untuk mengeluarkan penarikan kembali terkait Autopilot pada tahun 2023 setelah penyelidikan selama dua tahun menunjukkan bahwa sistem tersebut mendorong kurangnya perhatian pengemudi. Penarikan kembali dikeluarkan sebagai pembaruan perangkat lunak melalui udara.
Diperkirakan akan terjadi lebih banyak lagi dampak buruk dari krisis di Texas, bahkan jika tuntutan hukum tersebut tidak sampai ke tahap litigasi terbuka. Setidaknya dua lembaga federal sedang menyelidikinya. Dewan Keselamatan Transportasi Nasional, sebuah badan federal independen yang menyelidiki insiden transportasi penting, mengatakan pada hari Rabu bahwa mereka telah membuka penyelidikan bersama dengan Kantor Sheriff Harris County mengenai kecelakaan tersebut. (Peter Knudson, juru bicara badan tersebut, tidak dapat mengatakan apakah mereka telah menerima informasi atau data tambahan dari Tesla sebelum memulai penyelidikan, namun mengatakan bahwa NTSB biasanya menerima “informasi yang sangat umum tentang keadaan kecelakaan tersebut untuk membuat keputusan apakah akan melakukan penyelidikan atau tidak.”)
NHTSA, regulator keselamatan jalan raya terbesar di negara itu, pekan ini mengonfirmasi bahwa pihaknya juga telah membuka penyelidikan atas kecelakaan tersebut.
Dalam sebuah pernyataan, Ryan Zehl, seorang pengacara yang mewakili keluarga Martha Avila dalam gugatan kecelakaan di Texas, mengatakan bahwa keluarganya “sangat terpukul.”
“Kami berkomitmen untuk menentukan secara pasti apa yang terjadi untuk mencegah tragedi serupa terjadi di masa depan,” ujarnya.
