Tesla FSD v14: Sebepsiz yere direksiyonu kırdı ve beni hendeğe sürmeye çalıştı.

Tesla'nın v14.3.6 sürümündeki Tam Otonom Sürüş sistemi, aracımın daha önce geçtiği bir otoyol çıkışına 110 km/h (68 mph) hızla girmeye çalıştı ve neredeyse bizi doğrudan bir hendeğe itti.

Arabanın kontrolünü ele almaya hazırdım ve aldım da, ama durum korkunçtu. Yolcu koltuğunda oturan arkadaşım korkudan çığlık attı.

Araç içi kameranın gösterdiği şey

Bu olay, Pazar gecesi Quebec'in Mauricie bölgesindeki 55 numaralı otobanda, Tesla'nın en yeni donanım üzerinde çalışan en son ve en iyi FSD (Denetimli) v14.3.6 sistemi çalışırken meydana geldi.

Araç sağ şeritte saatte 110 km hızla ilerliyordu. Yol kuru, her iki yönde de trafik yoktu, yol işaretleri modern ve netti ve üst geçit levhaları yansıtıcıydı. Koşullar FSD sistemi için mükemmeldi. 217 numaralı çıkıştaki üst geçidin altından geçerken, sağ dönüş sinyali yandı ve araç, ekranda hala "Otonom Sürüş" mesajı görünürken, yolun kenarına doğru savrulmaya başladı.

Sorun şu ki, arkamızdaki yamaç çoktan ayrılmaya başlamıştı. O hızda o geç dönüşü yapsaydık, doğrudan çukura düşerdik.

Araç manevrayı gerçekleştirirken hız göstergesi 110, 109, 107 ve 104'e düştü. O anda direksiyonu sıkıca kavradım. 102 km/h hızda ekranda "Otonom Sürüş" yazısı kayboldu.

Bu, pist pozisyonunda bir yalpalama ya da bir anlık tereddüt değildi. Araç, sinyal lambasını yakmaya ve girmemesi gereken bir çıkıştan girmeye karar verdi.

Bunlar FSD sistemi için ideal koşullardı.

Tesla için mümkün olan en basit senaryoyu tasarlıyor olsaydınız, işte bu olurdu.

Bölünmüş bir otoyol. Geceleyin, karşıdan gelen farların ve şerit reflektörlerinin kolayca ayırt edilebilmesini sağlar. Analiz gerektirmeyen sıfır trafik. Net şerit işaretleri. Büyük, iyi aydınlatılmış levhalar.

14. sürümle ilgili gördüğüm her şeye dayanarak, gece otoyollarda ve boş yollarda araç kullanmanın sistemin kesinlikle en iyi özelliği olduğunu söyleyebilirim . Bu şekilde binlerce kilometre yol kat ettim ve hiçbir şeye dokunmama gerek kalmadı. Bu yüzden bu kadar kendime güveniyorum. Ve bu güven, tüm tuzağın ta kendisi.

Bu özel tehlike hakkında Haziran ayında yazmıştım.

İki buçuk ay önce, FSD v14 sisteminin o kadar iyi olduğunu ve beni tehlikeli derecede özgüvenli hale getirdiğini iddia eden bir makale yayınlamıştım. O zaman şöyle yazmıştım: " Neredeyse mükemmel çalışan bir sistem bir tuzak yaratır; sürücüler ona o kadar güvenirler ki dikkat etmeyi bırakırlar, ancak yine de beklenmedik ve bazen kritik arızalar meydana gelir."

Söylediğim her kelimenin arkasındayım ve Pazar gecesi bunu kanıtladı. Kritik müdahaleler arasında birkaç bin kilometre yol kat etmek gerçekten etkileyici bir mühendislik başarısı. Ancak bu aynı zamanda beyninizin taramayı bırakıp dikkat etmeyi öğrenmesini sağlayan bir aralıktır ve Tesla almadan önce iki kez düşünmenizi sağlar.

Tesla'nın v14.3.6 sürüm notlarında, şirketin "FSD sisteminin sinir ağını eğitmek için bir takviyeli öğrenme (RL) aşaması geliştirdiği", "yüzde 20 daha hızlı tepki süreleri" elde etmek için yapay zeka yorumlayıcısını MLIR kullanarak yeniden yazdığı ve "gereksiz sürücü müdahalesini azaltma" olaylarını azaltarak aracın sistem bozulmasına verdiği tepkiyi iyileştirdiği belirtiliyor. Yazılım iyileştiğinde sürücü müdahalesini azaltma olayları azalır ve sürücü müdahale etmeyi bıraktığında da azalır. Tesla, dışarıdan kişilerin bu iki faktör arasında ayrım yapmasına olanak sağlayacak herhangi bir bilgi yayınlamıyor.

Kamuoyuna açıklanan rakamlar pek iç açıcı değil. Tesla, tek bir ayda NHTSA'ya rekor sayıda 207 otonom sürüş ve tam otonom sürüş kazası bildirdi; 2019'dan bu yana bildirilen 3,763 sürücü destek sistemi kaza raporunun %99.9'unda ise olayla ilgili bilgi gizli tutuldu. Musk, yatırımcılara denetimsiz tam otonom sürüşün yıl sonuna kadar ABD'de yaygın olarak kullanılacağını söylemeye devam ederken, Waymo'nun eş CEO'su da yalnızca kamerayla çalışan otonom sürüşün, gerçek bir otonom sürüş sisteminin gerektirdiği özelliklerin gerisinde kaldığını açıklamaya devam ediyor.

DzTecnium görüşü

Az kalsın yaşanacak bir olay sadece bir hikaye, veri değil; ama bence bu, tetikte kalmanın gerekliliğini hatırlatan önemli bir örnek.

Daha önce defalarca belirttiğim gibi, Tesla'nın FSD v14 sistemi gerçekten etkileyici bir ürün. Ancak, FSD'nin başlangıçta pazarlandığı şeyin, yani denetimsiz otonom sürüşün gerisinde kalıyor. Buna hiç yaklaşmıyor ve belki de asla yaklaşamayacak. Bu bir sorun olarak kalacak ve belki de Tesla'nın yaptığı en büyük hata olacak.

Ancak bunu bir kenara bırakıp FSD'yi noktadan noktaya sürücü destek sistemi olarak ele alırsak, gerçekten de muhteşem bir sistem.

Ancak bu göz kamaştırıcı gösteri, kayıtsızlığa (duyarsızlığa) yol açıyor. Tesla da, özellikle CEO Elon Musk'ın "Artık telefonunuzu kullanırken ona bakabilirsiniz" gibi açıklamalarıyla bu konuda yardımcı olmuyor.

Bu açıkça pervasızca bir davranış. Sistem geliştikçe, Tesla'nın sürücüleri bu kayıtsızlık sorununa dikkat etmeye ikna etme konusunda daha iyi olması gerekiyor, tersi değil.