Geçtiğimiz hafta Washington'da yaşanan Tesla Model X kazası, otonom araçların güvenliği ve sorumluluk meselesini bir kez daha gündeme getirmiştir. Kaza, Full Self-Driving (FSD) modunda karşı şeride geçmeye çalışan bir Tesla ile diğer yoldan gelen bir Cadillac arasında meydana gelmiş, çarpışmanın şiddetiyle Model X yaklaşık 1/3'ü koparak ayrılmıştır. Polisin incelemesinde FSD sisteminin aktif olduğu doğrulanmasına rağmen, yolcuların yaralanmadan kurtulması, modern araçların pasif güvenlik özelliklerinin etkinliğini göstermektedir. Bu tür olaylar, henüz tam otonom teknoloji geliştirilmekte olan araçların gerçek dünya koşullarındaki performansını sorgulamaktadır.

Tesla'nın FSD sistemi, gelişmiş yapay zeka, kameralar ve bilgisayarla görme teknolojisini kullanan yarı-otonom bir sürüş asistanıdır — tam otonomluk değildir. Sistem, otomobili kontrol edebilir ancak sürücü her zaman hazır konumda olması ve ihtiyaç halinde müdahale etmesi gerekir. Gerçek dünyada, bu kameralar çeşitli hava koşullarında, yoğun ışık değişimlerinde, bulanık çizgilerde veya karmaşık trafik senaryolarında algılama hataları yaşayabilir. Karşı şeride geçiş, özellikle sistem diğer aracın hızını ve mesafesini tam olarak hesaplayamadığında, kritik bir karar noktasıdır. NHTSA araştırmaları, mevcut otonom sistemlerin 100 bin mile bin kazaya kadar sebep olabileceğini göstermektedir.

Otonom araçların güvenliğine ilişkin araştırmalar, teknolojinin insan faktörü ile etkileşiminin karmaşık olduğunu ortaya koymaktadır. Bilişim ve endüstri mühendisliği çalışmaları, şoförlerin otonom moda ilişkin yanlış güven (overconfidence) geliştirerek daha az dikkatli hale gelebildiğini, özellikle uzun yolculuklarda reaksiyon süresinin arttığını göstermiştir. Bu kazada ise sistem kendi hatasını yapsa da, ek denetim ve kalite kontrol mekanizmaları mevcut değil gibi görünmektedir. İleri sürücü yardım sistemlerinin sınırlamaları ve ne zaman elle kontrol gerektirdiğinin tanımı henüz tam olmadığından, benzer kazaların tekrarlanması olasıdır.

Otonom araç teknolojisinin yasal ve etik sorumluluk meselesi, bu olaydan sonra daha da netleşmesi gerekmektedir. Hukuk ve mühendislik uzmanları, sorumluluk modelinin üreticiye mi yoksa sürücüye mi ait olacağı konusunda anlaşamamaktadırlar. AB ve ABD'deki düzenlemeler hala gelişmekte, özellikle "kırmızı senaryolar" (kaçınılmaz kazalar) için sorumluluk çerçevesi tanımlanmamıştır. Bu kaza, Tesla gibi şirketlerin sistemlerinin sınırlamalarını daha açık tanımlaması, kullanıcıları daha kapsamlı eğitmesi ve bağımsız güvenlik denetimlerine tabi olması gerektiğini göstermektedir. Otonom teknoloji vaadkâr olmakla birlikte, insani faktör ve kurumsal denetim güvenliğin temelini oluşturmalıdır.