Sebulan yang lalu, sebuah video beredar di media sosial tentang robotaxi Waymo yang terjebak dalam lingkaran bundaran – sebuah insiden terisolasi tanpa penumpang di dalam kendaraan, menurut Waymo.
Tampaknya, hal itu bukan hanya terjadi satu kali saja.
Sekitar waktu yang sama, di robotaxi Waymo lainnya menuju bandara Phoenix, Mike Johns, pendiri dan CEO konsultan AI Digital Mind State, juga mendapati dirinya mengitari tempat parkir, tidak dapat menghentikan mobil atau keluar.
Video-video tersebut diposting dalam waktu beberapa hari satu sama lain. Waymo belum mengkonfirmasi apakah insiden tersebut terjadi pada waktu yang sama atau ada insiden gila serupa lainnya, namun mengatakan pihaknya telah mengeluarkan pembaruan perangkat lunak untuk memperbaiki masalah tersebut.
Johns terjebak di dalam Waymo dan mengalami putaran selama “kurang dari tujuh menit”, namun ia mengatakan hal tersebut “terasa seperti selamanya,” terutama karena ia khawatir akan ketinggalan pesawat dan mempertanyakan apakah mobil tersebut telah diretas. Ini adalah kedua kalinya dia naik robotaxi Waymo.
Juru bicara Waymo membenarkan kejadian tersebut. “Peristiwa ini terjadi pada awal Desember dan sejak itu telah diatasi dengan pembaruan perangkat lunak yang dijadwalkan secara rutin. Kendaraan menyelesaikan perjalanan pengendara dan mereka tidak dikenakan biaya untuk perjalanan tersebut.”
Spesialis dukungan pelanggan Waymo memanggil mobil tanpa disuruh Johns, katanya kepada TechCrunch. Agen tersebut mengatakan dia telah menerima pemberitahuan bahwa mobilnya “mungkin mengalami masalah rute,” menurut a video tentang kejadian yang dibagikan Johns.
Untuk mengatasi masalah ini, spesialis meminta Johns untuk membuka aplikasi Waymo-nya dan “ketuk 'Perjalanan Saya' di sudut kiri bawah [the] app,” yang ditanggapi oleh Johns, “Tidak bisakah kamu melakukannya saja? Anda harus bisa mengatasinya, ambil alih mobilnya, Anda tidak memerlukan telepon saya.
Sebuah pertanyaan yang wajar untuk ditanyakan, mengingat pengambilalihan seperti itu adalah tujuan dari asisten jarak jauh.
“Saya tidak punya pilihan untuk mengendalikan mobil,” akunya.
Waymo memberi tahu TechCrunch bahwa agen dukungan pengendara berbeda dari mereka tim respons armadayang digunakan oleh perangkat lunak mengemudi otonom (dikenal sebagai “Waymo Driver”) untuk membantu jika menghadapi situasi yang tidak biasa di jalan.
Agen pendukung pengendara, seperti yang diajak bicara oleh Johns, dapat menanggapi penjangkauan dari pengendara — pengendara dapat menghubungi melalui aplikasi Waymo dan tombol telepon di dalam kendaraan. Mereka juga dapat “memulai kontak jika diagnosa kendaraan Waymo menunjukkan kebutuhan tersebut.” Namun mereka tidak berinteraksi langsung dengan perangkat lunak mengemudi kendaraan.
Pada akhirnya, kata Johns, mengikuti arahan agen dukungan di aplikasi membuat robotaxi kembali ke jalurnya.
Johns mengatakan Waymo memberikan kompensasi kepadanya atas perjalanan tersebut dan mengarahkannya ke situs webnya untuk mengajukan keluhan. Perusahaan tidak segera menghubunginya setelah kejadian tersebut, namun melakukannya minggu ini setelah videonya diambil outlet berita utama.
“Hal terbesar saya adalah di era digital yang kita jalani ini, kita sangat terputus dari faktor manusia,” kata Johns kepada TechCrunch. “Saya mendukung AI. Saya berada di garis depan antara AI, otomatisasi, robotika, namun tetap ada faktor manusianya.”
Missy Cummings, seorang profesor otonomi dan robotika di Universitas George Mason dan mantan penasihat keselamatan senior di Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional, mengatakan bahwa insiden ini, meskipun kecil, menunjukkan masalah yang lebih besar yang harus diselesaikan oleh perusahaan AV.
“Dalam sistem robot apa pun, ada tombol merah besar di suatu tempat yang, jika ditekan, benda itu akan terlepas,” kata Cummings kepada TechCrunch, sambil mencatat bahwa tombol tersebut mungkin tersembunyi di suatu tempat di dalam mobil sehingga sulit dijangkau. “Dan saya beri tahu Anda bahwa ini adalah langkah pengamanan yang sangat penting karena apa yang terjadi jika mobil…telah diretas oleh seseorang dan ada penumpang di dalam kendaraan? Anda pasti membutuhkan kemampuan untuk menghentikan segala sesuatu di dalam mobil dari jarak jauh sehingga mereka bisa keluar.”
Waymo mengatakan kepada TechCrunch bahwa, sebenarnya, “Kendaraan Waymo memiliki tombol menepi yang tersedia bagi pengendara setiap saat,” yang terletak di aplikasi dan di layar penumpang, namun Johns mengatakan agen dukungan tidak memberitahunya tentang hal ini, dan dia tidak melihatnya.
Cummings juga mencatat bahwa meminta pengendara untuk menjadi peserta aktif dalam perbaikan dengan menggunakan aplikasi mereka “rawan kesalahan” karena potensi masalah konektivitas dan aplikasi yang tidak ramah pengguna.
“Saya terkejut saat dia mencoba membujuknya untuk menghubungi ponselnya untuk memberikan resolusi pada hal ini, padahal ini jelas merupakan situasi mendesak yang perlu segera ditangani,” kata Cummings. “Dia seharusnya berkata, 'Lihat, tarik sudut kiri matras ke lantai dan Anda akan melihat tombol merah. Tekan tombol itu.'”
