Problemet är att systemen INTE är autonoma men marknadsförs på ett sätt an användarna tror att de är det.
Systemen som finns nu (level 2) och även nästa steg (level 3) är på vissa sätt MER farliga då de invaggar föraren i en känsla av att bilen har kontroll men i praktiken klarar systemet bara 99% körningen men när den där sista procenten inträffar så är föraren helt oförberedd. Volvos nuvarande system är dessutom busenkelt att lura. Ett lätt tryck mot ratten med knät är allt som behövs för att systemet ska hålla sig aktiverat utan att varna.
De helt autonoma systemen som exempelvis Waymo testar har en mycket högre tillförlitlighet.
Problemet med systemen är ju dessutom att de är designade på ett sätt som går tvärtemot hur våra hjärnor funkar. Mycket av det som gör oss trötta när vi kör är just den uppmärksamhet som krävs, så att vi upplever oss mer utvilade efter att ha kört med hjälpsystemet är helt enkelt för att vi varit betydligt mindre uppmärksamma. Vi har medvetet eller omedvetet lämnat över det ansvaret till tekniken.
Ett knep för att bli mer utvilad när man kör är annars att öva och skaffa sig mycket erfarenhet. Något förenklat: ju mer erfarenhet vi får, desto mer av uppgiften börjar lösas av det som nobelpristagaren Daniel Kahneman kallade System 1, dvs det som hjärnan löser mycket snabbt och med minimal energiåtgång så att vi upplever det som att det sker per automatik. Med mindre erfarenhet aktiveras istället System 2 i högre utsträckning, dvs vi behöver tänka och analysera situationen mer aktivt. Detta går långsammare och kräver enormt mycket mer energi än System 1. Alla som har tagit MC-kort och som jämför tiden de övningskörde med hur de upplever körningen efter att ha kört i flera år och kanske några storbanekurser förstår vad detta handlar om.
Så vad hjälpsystemen och de autonoma systemen i själva verket gör är att frikoppla människor från mycket av den erfarenhetsutveckling som gör att mycket av körningen kan ske med hjärnans System 1 istället för det energikrävande och betydligt långsammare System 2 (observera att det som sagt är en förenkling). Vi försämrar alltså drastiskt vår egen förmåga till erfarenhetsutveckling och lägger över det ansvaret på tekniken som vi då blir allt mer beroende av.
Inte ens de mest avancerade modellerna som de autonoma systemen bygger på ligger ens i närheten av människans förmåga till lärande och anpassning i förhållande till energiåtgången. Medan de självkörande systemen måste tränas med enorma mängder data, i princip måste ha tränats på alla tänkbara situationer som kan uppstå på alla platser i världen, kräver enorm beräkningskapacitet och dessutom behöver ha människor som manuellt korrigerar alla fel i modellerna kan en människa på mycket kort tid lära sig att anpassa sig till nya situationer och dessutom använda sin fantasi för att hantera situationer denne inte har upplevt förut. Det är bland annat därför vi fortfarande inte ser självkörande bilar på våra gator. Kanske kommer vi få se det inom några år baserat på den typ av maskininlärning som används idag, men det kommer vara med klara begränsningar och till ett enormt resursslöseri, utöver de problem med tekniken och människan jag tog upp ovan. För att få den utveckling somliga hoppas på tror jag det snarare krävs någon slags paradigmskifte i tekniken och principerna bakom dessa system.
Sedan finns det något som tekniken faktiskt kan hjälpa oss med - "inattentional blindness". Detta hänger delvis ihop med begreppet "selektiv varseblivning" som alla fick lära sig i körskolan. När vi har byggt mycket erfarenhet och vant oss vid en situation har vi en tendens att tappa förmåga att reagera på vissa oväntade saker pga. att hjärnan automatiskt filtrerar bort dem. Vi ser helt enkelt inte det som vi inte förväntar oss att se. Här kan det vara relevant med olika stödsystem som hjälper oss att reagera på sådana saker. Men det får inte ske på bekostnad av utvecklingen av våra egna förmågor.