Noll vision - i praktiken

Harmon Rabb

Gudomlig sporthojare
Gick med
1 May 2004
Ort
Helsingborg
Hoj
Ducati
Om Chalmarforskaren ovan:

"Han är docent vid Chalmers, har jobbat med it-säkerhet i 25 år och forskar specifikt på fordonssäkerhet" läste jag i en annan artikel när jag googlade hans namn. I den hade de hade hackat en bil utifrån och tagit över kontrollen av vissa system.

https://computersweden.idg.se/2.2683/1.658117/bilar-it-sakerhet-forskare

Det är ju bra att han varnar för säkerhetsbrister, men det är ju också en sådan sak som kan få sådana som honom att bli värvade för att just ta itu med den typen av problematik. Utan att veta närmare vad han gör exakt kan man ju tänka sig att han i egenskap av sin roll också kan ha ett stort intresse av att utveckligen av autonoma fordon tar fart.

Krönikören i engelska motortidningen är nog inne på rätt spår att det är ingenjörer, forskare och programmerare som driver på den här utvecklingen med autonoma fordon. Ingen vill hamna på efterkälken likt kapprustningen mellan stormakterna under kalla kriget. Vi får se vart det leder i slutändan. Om det är något som vi vill anamma oss i slutändan eller om man längst vägen kommer till andra slutsatser.

Att sitta passivt i en bil och vara beredd på att ingripa likt en trafikflygare. Det känns som att man lika gärna kan göra allt själv och vara involverad i processen.

Om det mot förmodan uppstår en situation där det är oundvikligt med en fatal olycka med fullt autonoma fordon. Helt säkert kommer det troligtvis aldrig att kunna bli. Hur ska prioriteringarna se ut? De egna passagerarna, motsatt fordon och dess passagerare eller de som är oskyddade gångtrafikanter om den på en bråkdel av en sekund kanske kan simulera alla tänkbara scenarion. T ex ena bilen kanske har högre säkerhet än den andra och man kan simulera utgången.

Är företagen helt bekväma med att ta på sig en roll som bödel den dagen vi inte längre sitter bakom ratten och tar eget personligt ansvar för vår roll i ett olycksscenario?
 

MartinB

Absolut skitlångsammast
Gick med
23 Feb 2004
Ort
Alingsås
Hoj
R6zz. No more crossplejn.
Om Chalmarforskaren ovan:

"Han är docent vid Chalmers, har jobbat med it-säkerhet i 25 år och forskar specifikt på fordonssäkerhet" läste jag i en annan artikel när jag googlade hans namn. I den hade de hade hackat en bil utifrån och tagit över kontrollen av vissa system.

https://computersweden.idg.se/2.2683/1.658117/bilar-it-sakerhet-forskare

Det är ju bra att han varnar för säkerhetsbrister, men det är ju också en sådan sak som kan få sådana som honom att bli värvade för att just ta itu med den typen av problematik. Utan att veta närmare vad han gör exakt kan man ju tänka sig att han i egenskap av sin roll också kan ha ett stort intresse av att utveckligen av autonoma fordon tar fart.

Krönikören i engelska motortidningen är nog inne på rätt spår att det är ingenjörer, forskare och programmerare som driver på den här utvecklingen med autonoma fordon. Ingen vill hamna på efterkälken likt kapprustningen mellan stormakterna under kalla kriget. Vi får se vart det leder i slutändan. Om det är något som vi vill anamma oss i slutändan eller om man längst vägen kommer till andra slutsatser.

Att sitta passivt i en bil och vara beredd på att ingripa likt en trafikflygare. Det känns som att man lika gärna kan göra allt själv och vara involverad i processen.

Om det mot förmodan uppstår en situation där det är oundvikligt med en fatal olycka med fullt autonoma fordon. Helt säkert kommer det troligtvis aldrig att kunna bli. Hur ska prioriteringarna se ut? De egna passagerarna, motsatt fordon och dess passagerare eller de som är oskyddade gångtrafikanter om den på en bråkdel av en sekund kanske kan simulera alla tänkbara scenarion. T ex ena bilen kanske har högre säkerhet än den andra och man kan simulera utgången.

Är företagen helt bekväma med att ta på sig en roll som bödel den dagen vi inte längre sitter bakom ratten och tar eget personligt ansvar för vår roll i ett olycksscenario?

Får man inte supa som ensam person i ett förarlöst fordon är det meningslöst.
 

Two stroke man

Gudomlig sporthojare
Gick med
12 Apr 2005
Ort
Där jag tar av mig hatten
Hoj
Har tappat räkningen
En dator agerar ju rationellt även om det dödar föraren i fordonet.
En vanlig bilist kanske kör över skolklassen hellre än att köra in i fronten på en mötande Scania.
 

RymdBörje

Seriöst fartblind
Gick med
29 May 2010
Ort
Nollberga, mellan Lortåkra och Normlösa
Hoj
Ducati 748, 848
Läs detta om Toyota och programmering. Skräckläsning för den som är lekman och riktigt läskigt för den som har relevanta kunskaper.

Det är inte en fråga om utan när autonoma fordon börjar "improvisera" av vilken anledning det nu än kan vara. Med lite tur så går det inte så illa och har någon det, otur alltså kan det bli till att skrapa upp resterna.
 

Harmon Rabb

Gudomlig sporthojare
Gick med
1 May 2004
Ort
Helsingborg
Hoj
Ducati
En dator agerar ju rationellt även om det dödar föraren i fordonet.
En vanlig bilist kanske kör över skolklassen hellre än att köra in i fronten på en mötande Scania.

Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.
 

notrightrider

The white zone is for loading and unloading only
Gick med
17 Sep 2012
Ort
Halland
Hoj
Pick a number.
Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

Ja, eller där programmeringen väljer att offra dig för the greater good?


Självkörande bilar måste programmeras för att döda - men hur?

Rubriken är sanslös, men texten faktiskt ändå mer skrämmande:

Säg att en situation uppstår där din självkörande bil antingen kan köra in i två fotgängare varvid de dör men du överlever, eller in i en närliggande vägg varvid bara du dör.


https://www.va.se/nyheter/2015/10/29/sjalvkorande-bilar-maste-programmeras-for-att-doda---men-hur/



Det hela går att dra ett steg till: med Big Data kan din bil i framtiden även ha tillgång till din sjukjournal, känna till dina diagnoser - och din prognos.

Kan detta någon gång komma att vägas mot den prognos passagerarna i bilen som styrs rakt emot dig har? Deras liv mot ditt? Vem vinner...? Vem skall ges chans att leva vidare? Vem skall offras?
Vem bestämmer?
 

Kratoz

Gudomlig sporthojare
Gick med
25 Jan 2012
Ort
Borlänge
Hoj
KTM 1290 Super Adventure, Honda CB650 -80
Det där "löste" ju Asimov för länge sedan i samlingen "I, Robot":
1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

och läser man novellerna fanns det ju inga problem med det...:3freak

Sedan tillkom lagen nedan i femte boken av Stiftelsetriologin(!?) :
0. En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.

Alla Asimovs böcker kan förövrigt rekommenderas om man gillar Sci-Fi. :tummenupp
 

RymdBörje

Seriöst fartblind
Gick med
29 May 2010
Ort
Nollberga, mellan Lortåkra och Normlösa
Hoj
Ducati 748, 848
Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.
Om det är ngt som datorer är kass på så är det att improvisera. Och egentligen vill vi väl inte att de skall göra det, improvisera alltså. Så lagom kul på banken, där personalen om man nu ens får träffa någon bara säger "men det är ju datorn som..." när man helt plötsligt inte har några pengar kvar.
 

Harmon Rabb

Gudomlig sporthojare
Gick med
1 May 2004
Ort
Helsingborg
Hoj
Ducati
Ja, eller där programmeringen väljer att offra dig för the greater good?

Rubriken är sanslös, men texten faktiskt ändå mer skrämmande:

https://www.va.se/nyheter/2015/10/29/sjalvkorande-bilar-maste-programmeras-for-att-doda---men-hur/

Det hela går att dra ett steg till: med Big Data kan din bil i framtiden även ha tillgång till din sjukjournal, känna till dina diagnoser - och din prognos.

Kan detta någon gång komma att vägas mot den prognos passagerarna i bilen som styrs rakt emot dig har? Deras liv mot ditt? Vem vinner...? Vem skall ges chans att leva vidare? Vem skall offras?
Vem bestämmer?

Vem avgör som sagt vem som ska leva och vem som ska dö och kan vi förlika oss med den tanken att det är en programmerad algoritm som rangordnar diverse saker.

Den klassiska frågan vem läkaren ska rädda på operationsbordet om det står mellan dig och USA:s president. Ja, jag vet han är inte populär, men hans ämbete är. Vi kan nog alla misstänka vem som får prio 1.

Jag låter hellre läkaren göra avgörandet att rädda USA:s president framför mig än någon algoritm som rationellt offrar mitt liv där det inte ens som sagt är säkert att man har uttömt alla vägar. Jag tror inte att algoritmerna tänker alla tänkbara scenarion. Det är en människa som har programmerat dem från början och som vi alla vet är människan långt ifrån felfri. Jag kan förlåta en läkare som får ta ett beslut på ett ögonblick som sedan kan visa sig vara fel, men jag kan inte förlåta en algoritm som inte har täckt precis allt och är felfri.

Kanske är tärningen redan kastad och det är dit vi är påväg. Någon har bestämt att det är dit de vill föra utvecklingen. Den som lever får se.
 

Two stroke man

Gudomlig sporthojare
Gick med
12 Apr 2005
Ort
Där jag tar av mig hatten
Hoj
Har tappat räkningen
Trots det makabra exemplet. Problemet är just att den agerar rationellt på ett förprogrammerat sätt. Hur vet vi att programmeringen har täckt alla tänkbara scenarion och tolkar situationen helt korrekt? En människa kanske har en lösning helt utanför boxen där programmeringen inte har räckt till.

Tids nog kommer datorn göra det.
Och datorn får inte hjärnsläpp och sätter upp händerna för ögonen i en paniksituation.

Jag tror att redan nu har nog Teslas självkörande bilar bättre statistik än människor och då ska man beakta att utvecklingen precis börjat.

Hur rolig världen sen blir, ja det är en annan femma.
 

Raderad medlem 51742

Guest
Det som oroar mig är egentligen inte automatisering av trafiken i sig. Det är inte bara mängden mjukvara som påverkar våra liv som ökar i rasande takt (och därmed sannolikheten att buggar får allvarliga konsekvenser), utan även vår förmåga att genom bl.a. automatisering och förändrade arbetssätt inom kvalitetsarbetet kunna minska risken för fel. Vi blir allt bättre på det också, även om man kan fråga sig om utvecklingen går tillräckligt fort i förhållande till mängden mjukvara som produceras.

Det som oroar mig är hur en del icke insatta (politiker m.fl.) så huvudlöst vill springa in i "fjamtiden" och tänker att allt det där kommer lösa sig av sig självt. Det kommer det inte att göra. För att skapa bra och säkra system kan vi inte bara tänka att vi skall ersätta människan och att resten löser sig, vi behöver medvetet tänka på hur vi inkluderar människan i systemen så teknik-människa samverkar på ett optimalt sätt.

Det finns många brister hos människan och idag kan automatisering, AI m.m. komplettera oss genom att vara bättre på att lösa en del problem. Tidigare var det bara de mest enkla problemen (de som följer en förutbestämd rutin/process/regelverk) som kunde automatiseras, men även allt mer inom det komplicerade området (som kräver analys och/eller expertkunskap) kan nu ersättas av mjukvara. Svårigheten uppstår när vi behöver lösa s.k. komplexa problem, där det inte går att se ett tydligt samband mellan orsak-verkan förrän först i efterhand och där man behöver experimentera och lära sig för att hitta rätt lösning. Även om utvecklingen inom AI och s.k. maskininlärning går framåt snabbt är vi människor ännu låååångt före maskinerna när det gäller förmågan att lösa komplexa problem och så kommer det vara inom överskådlig framtid.

Ett säkert trafiksystem använder teknik/automatisering för att stödja människan och lösa de enkla, repetitiva och komplicerade problemen, men kan aldrig exkludera människan helt, annat än om vi lyckas skapa så pass förutsägbara trafikmiljöer att vi kan eliminera all komplexitet. Människan behövs för att lösa de komplexa problemen, när vi motorcyklister hamnar bland älgar, barnvagnar och fotgängare. Det är därför nollvisionen, i synnerhet ur ett framtidsperspektiv är fel väg att gå.
 

notrightrider

The white zone is for loading and unloading only
Gick med
17 Sep 2012
Ort
Halland
Hoj
Pick a number.
Jag kan förlåta en läkare som får ta ett beslut på ett ögonblick som sedan kan visa sig vara fel, men jag kan inte förlåta en algoritm som inte har täckt precis allt och är felfri.


Preciis det scenariot tas upp i en av de artiklar som är upphovet till Veckans Affärers artikel ovan:

Human drivers may be forgiven for making an instinctive but nonetheless bad split-second decision, such as swerving into incoming traffic rather than the other way into a field. But programmers and designers of automated cars don’t have that luxury, since they do have the time to get it right and therefore bear more responsibility for bad outcomes.

https://www.theatlantic.com/technology/archive/2013/10/the-ethics-of-autonomous-cars/280360/




Vi rör oss - faktiskt - fortfarande i och omkring ämnet "Noll Vision".
Dock mer insiktsfullt och intressant än vad man upplever att den allmänna debatten i samhället gör - och avsevärt mer initierat än Trafikverket, som ju borde vara den institution i Sverige som reste frågan och höll debatten levande.

Tack för det, Sporthoj!
 

Raderad medlem 51742

Guest
Vi rör oss - faktiskt - fortfarande i och omkring ämnet "Noll Vision".
Dock mer insiktsfullt och intressant än vad man upplever att den allmänna debatten i samhället gör - och avsevärt mer initierat än Trafikverket, som ju borde vara den institution i Sverige som reste frågan och höll debatten levande.

Tack för det, Sporthoj!

Sporthoj har helt klart börjat utforska en ny dimension som ger idéer om automatisering inom helt oväntade områden. Sveriges Radio P1 ersätts av en talsyntes som läser de senaste inläggen härifrån. :hihi
 

BrooklynS

Buy quality, cry once
Gick med
26 Mar 2014
Ort
Luleå
Hoj
Bara fräna hojar
Sporthoj har helt klart börjat utforska en ny dimension som ger idéer om automatisering inom helt oväntade områden. Sveriges Radio P1 ersätts av en talsyntes som läser de senaste inläggen härifrån. :hihi

Den gamla klassikern: Vid kupp ersätts radioutsändningarna med tidigare inspelade sådana, som då naturligtvis inte innehåller något värt att veta...

Ungefär som reklamradion hela tiden med andra ord.
 

Old Badger

SportHojsentusiast
Gick med
12 Aug 2009
Ort
Utanför Sötälje
Hoj
Engelska sporthojar
Vi vet redan nu att människors liv inte är lika mycket värda. Tragikvärket räknar med att 80 bilisters liv räddas med deras räcken. Att människor dör tack vare deras räcken gör inte så mycket eftersom det aldrig blir mer än 80 motorcyklister som dör i deras räcken...

Varför skulle självkörande bilar vara annorlunda? Om några motorcyklister dör när långt fler bilisters liv räddas?
 

Niklasinorr

Mr Kvalitet enligt Ståhlis
Gick med
24 May 2003
Ort
Lulstan
Hoj
KTM EXC 300 TPI samt allt annat med två hjul som jag hittar...
Vi vet redan nu att människors liv inte är lika mycket värda. Tragikvärket räknar med att 80 bilisters liv räddas med deras räcken. Att människor dör tack vare deras räcken gör inte så mycket eftersom det aldrig blir mer än 80 motorcyklister som dör i deras räcken...

Varför skulle självkörande bilar vara annorlunda? Om några motorcyklister dör när långt fler bilisters liv räddas?

Allting handlar precis som du säger om prioritet där några få motorcyklister offras eftersom majoriteten i bilarna räddas. Sen att man bara genom att utforma räcken rätt ÄVEN kan rädda de flesta motorcyklisterna spelar ingen roll eftersom man då är inne på det som ämnet egentligen handlar om, nämligen pengar...
 

Niklasinorr

Mr Kvalitet enligt Ståhlis
Gick med
24 May 2003
Ort
Lulstan
Hoj
KTM EXC 300 TPI samt allt annat med två hjul som jag hittar...
Sen tror jag ärligt talat att de flesta bilisterna faktiskt välkomnar autonoma fordon. De flesta (väldigt stor mängd skulle jag tro) tycker att bilien bara är ett hinder för dem att använda telefonen (ungdomar) eller något nödvändigt ont (Nisse som är ointresserad av bilar, han vill bara komma till jobbet).
Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor... :)
 

Two stroke man

Gudomlig sporthojare
Gick med
12 Apr 2005
Ort
Där jag tar av mig hatten
Hoj
Har tappat räkningen
Sen tror jag ärligt talat att de flesta bilisterna faktiskt välkomnar autonoma fordon. De flesta (väldigt stor mängd skulle jag tro) tycker att bilien bara är ett hinder för dem att använda telefonen (ungdomar) eller något nödvändigt ont (Nisse som är ointresserad av bilar, han vill bara komma till jobbet).
Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor... :)

Och busstid on demand.

Jag skulle gärna ha en dator som körde min bil så att jag kunde krypa upp i kojen och sova. Och när jag vaknar morgonen efter är jag framme.
 

Harmon Rabb

Gudomlig sporthojare
Gick med
1 May 2004
Ort
Helsingborg
Hoj
Ducati
Jag tror att de flesta bilisterna som kör till jobbet på morgonen hellre skulle åka kommunalt om det bara var de själva i bussen/spårvagnen/tunnelbanan och att de slapp alla andra människor... :)

Det kan jag mycket väl tänka mig. Låter väldigt fint, men jag tror inte att det är så det är tänkt att fungera i slutändan. Vad säger att vi kommer att äga egna fordon? Vi lever i en allt mer delad ekonomi.

Hade du velat dela en autonom bil med massor med andra människor om man nu tänker sig att man vill begränsa antalet fordon. Då behövs färre parkeringsplatser och man kan förtäta ännu mera i stadskärnorna på attraktiv mark. Man kan optimera antalet fordon så att en autonom bil kör fram till dig vid behov och lämnar dig där du vill åka. Ungefär som en taxi fast ingen förare som ser till att bilen är fräsch när den lämnas och den åker vidare till nästa. Där har ett någon suttit och grisat ner och tagit lite sprutor som han lämnat. Nästan som en offentlig toalett som är obevakad. Den brukar inte vara särskilt fräsch. Någon som tittar till den lite då och då.
 
Last edited:

Hoztic

Alltid på väg mot nya mål
Gick med
31 Jan 2005
Ort
S-holm, men med hjärtat i Hedesunda
Hoj
K1300S
Det kan jag mycket väl tänka mig. Låter väldigt fint, men jag tror inte att det är så det är tänkt att fungera i slutändan. Vad säger att vi kommer att äga egna fordon? Vi lever i en allt mer delad ekonomi.

Hade du velat dela en autonom bil med massor med andra människor om man nu tänker sig att man vill begränsa antalet fordon. Då behövs färre parkeringsplatser och man kan förtäta ännu mera i stadskärnorna på attraktiv mark. Man kan optimera antalet fordon så att en autonom bil kör fram till dig vid behov och lämnar dig där du vill åka. Ungefär som en taxi fast ingen förare som ser till att bilen är fräsch när den lämnas och den åker vidare till nästa. Där har ett någon suttit och grisat ner och tagit lite sprutor som han lämnat. Nästan som en offentlig toalett som är obevakad. Den brukar inte vara särskilt fräsch. Någon som tittar till den lite då och då.
Och det där fungerar ju bara för dom som åker inom tullarna i Sveriges större städer, och helst om inte alla ska åka samtidigt så klart, och att flera i samma område har arbeten som ligger i närheten av varandras. Det funkar ju lite sådär på sommarsemestern, när man spontant vill åka och handla eller drar iväg ut och fiskar.

Det känns som att mycket av debatten kring modern trafik och transporter är pendling inom små områden, och på standardiserade vägar, typ pendling. Hur bra är en självkörande bil på att köra in på en liten grusväg in till en fiskesjö utan adress? Eller haka på ett släp och ta ett varv genom Byggmax och sedan backa in det på min tomt?
 
Nyheter
Nya Triumph Speed Twin 

Mitt i Triumphs fauna av ho...

MV Agusta firar med Ottantesimo Collection

Screenshot MV Agusta fir...

Helt ny Scout Sixty tillbaka

Nya Scout Sixty importeras ...

BMW visar upp Concept F 450 GS

BMW Motorrad har visat upp ...

Sena 60S intercom

Sena 60 S med förbättrad Me...

Triumph Speed Triple 30 år

Tiden flyger, som man säger...

Nytt varumärke för elmotorcyklar från Royal Enfield

Royal Enfield har tagit ste...

MV AGUSTA OTTANTESIMO COLLECTION

MV Agusta firar sitt 80-års...

Honda ICE Concept med eldriven kompressor

2025 Honda ICE Concept bike...

BMW Concept F 450 GS

BMW Motorrad har visat upp ...

Top