Den lilla tråden om AI

[uncletom]

Man kan ju vända på steken gällande AI's offensiva potential, liksom med internet som i början var framtaget för militär kommunikation, men som senare blev vår tids mest populära sociala nätverk.

Kort sagt all teknik kan användas till både gott som ont.

 

[MickeZX7R]

Kort sagt all teknik kan användas till både gott som ont.

- Helt sant, och en teknik kan använda en annan teknik för att rättfärdiga sin övertygelse om att något är rätt eller fel.
Måtte människan vara tillräckligt intelligent för att kunna inbegripa det oförutsägbara scenariot i sin riskanalys.

 

[Markus]

”Gudfadern”: Synd om mänskligheten utrotades

”Gudfadern”: Synd om mänskligheten utrotades

Högst två decennier. Sen är AI-system smartare än människor. Sannolikheten för att det går riktigt illa? 20 procent, säger Nobelpristagaren Geoffrey Hinton till SvD.

www.svd.se

 

[SJP]

”Gudfadern”: Synd om mänskligheten utrotades

”Gudfadern”: Synd om mänskligheten utrotades

Högst två decennier. Sen är AI-system smartare än människor. Sannolikheten för att det går riktigt illa? 20 procent, säger Nobelpristagaren Geoffrey Hinton till SvD.

www.svd.se

Jag ser den artikeln som helt hittepå.
20%, var har de kommit fram till det? Dratt ur arshulet troligen.
Dessutom, så är det fortfarande en statistiskmotor, hur definierar de intelligens?

 

[Ulvhamne]

”Gudfadern”: Synd om mänskligheten utrotades

”Gudfadern”: Synd om mänskligheten utrotades

Högst två decennier. Sen är AI-system smartare än människor. Sannolikheten för att det går riktigt illa? 20 procent, säger Nobelpristagaren Geoffrey Hinton till SvD.

www.svd.se

Hah, den där snubben har ju iaf lite erfarenhet inom området, men igen, allt som experter säger ligger 20 år in i framtiden kan lika gärna vara 100 år in i framtiden eller omöjligt.
Sedan håller jag med SJP, 20% är en helt påhittad siffra. Han vet fortfarande inte hur AIn som ska bli smartare än människan kommer att se ut, vilken hårdvara den är byggd på, och hur den fungerar , och vad den har för operativa mål, så hur kan han öht komma med ett estimat för sannolikheten att AIn kommer utrota mänskligheten?

 

[Heaven]

Jag ser oron för att generell AI eller superintelligens förgör mänskligheten som en onödig distraktion.

Onödig därför att vi inte ens är i närheten av att se något sådant ännu - det handlar om artskillnad snarare än gradskillnad.

Distraktion därför att det flyttar fokus från de risker med AI som finns här och nu eller i en nära framtid och som kan vara väl så allvarliga. Dessa risker är mer kopplade till vad människor gör med AI som hävarm, avsiktligt eller kanske ännu mer som oförutsedda konsekvenser.

Handlar om allt från de typiska med "bad actors", manipulering osv. till risken att vi som människor och samhälle successivt tappar orienteringen kring sant/falskt och vem/vad vi kan lita på eller förmåga till lärande och utveckling som jag varit inne på tidigare.

Dessutom frågan om vad som händer med samhället när människor görs redundanta i betydligt snabbare takt än de hinner ställa om, liksom vad som händer med vår demokrati när utvecklingen orkestreras av ett fåtal tech-oligarker med enorm makt.

 

[SJP]

risken att vi som människor och samhälle successivt tappar orienteringen kring sant/falskt och vem/vad vi kan lita på eller förmåga till lärande och utveckling som jag varit inne på tidigare.

Du kan vara lugn, den är borta för länge sedan.

 

[Heaven]

Du kan vara lugn, den är borta för länge sedan.

Det går ju inte direkt åt rätt håll i det avseendet.

 

[Kratoz]

Mänsklig idioti tar död på oss långt innan AI's intelligens.

 

[Heaven]

Mänsklig idioti tar död på oss långt innan AI's intelligens.

Ett annat sätt att uttrycka det är att det kommer gå rätt fort för AI att bli intelligentare eftersom vi människor jobbar rätt hårt på att möta den på halva vägen.

 

[Markus]

Jag ser oron för att generell AI eller superintelligens förgör mänskligheten som en onödig distraktion.

Onödig därför att vi inte ens är i närheten av att se något sådant ännu - det handlar om artskillnad snarare än gradskillnad.

Distraktion därför att det flyttar fokus från de risker med AI som finns här och nu eller i en nära framtid och som kan vara väl så allvarliga. Dessa risker är mer kopplade till vad människor gör med AI som hävarm, avsiktligt eller kanske ännu mer som oförutsedda konsekvenser.

Handlar om allt från de typiska med "bad actors", manipulering osv. till risken att vi som människor och samhälle successivt tappar orienteringen kring sant/falskt och vem/vad vi kan lita på eller förmåga till lärande och utveckling som jag varit inne på tidigare.

Dessutom frågan om vad som händer med samhället när människor görs redundanta i betydligt snabbare takt än de hinner ställa om, liksom vad som händer med vår demokrati när utvecklingen orkestreras av ett fåtal tech-oligarker med enorm makt.

För egen del så har jag inte ens i närheten av grundläggande kunskap för att kosta på mig en åsikt men jag noterar att många av de med väldigt mycket kunskap är oroade, så det i sig är värt att notera.

Personligen tror jag det är sjukt överdrivet och påminner inte så lite om när robotar skulle ta över alla verkstadsjobb och därmed ansågs vara ett stort hot mot sysselsättningen.

 

[Heaven]

För egen del så har jag inte ens i närheten av grundläggande kunskap för att kosta på mig en åsikt men jag noterar att många av de med väldigt mycket kunskap är oroade, så det i sig är värt att notera.

Personligen tror jag det är sjukt överdrivet och påminner inte så lite om när robotar skulle ta över alla verkstadsjobb och därmed ansågs vara ett stort hot mot sysselsättningen.

Det knepiga är att det egentligen blir vitt skilda frågor, beroende på om man pratar om risker med dagens AI och kommande AI som kanske mer handlar om mänskliga risker eller om man pratar om risker kopplat till en eventuell framtida superintelligens. Det går inte att klumpa ihop dessa, än mindre försöka få politiker att fatta vettiga beslut om något de inte ens har förutsättningar att begripa.

Ang. robotar och andra teknikskiften tänker jag på årets ekonomipristagare som väl i detta nu sitter och smaskar i sig nobeldessert. Han menar att även om sådana tekniska framsteg lett till välståndsökningar hos vanligt folk har det tagit lång tid (vid den industriella revolutionen 100 år och för elmotorn och internet 10-20 år) medan det som skett på kort sikt snarare varit att det lett till extrem koncentrering av kapital hos en elit. Det gäller att hantera perioden däremellan om det inte skall uppstå ett enormt folkligt missnöje och vi har redan börjat se en hel del sådana tecken, inte minst i USA. Dessutom menar många experter att det inte alls är säkert att det kommer att skapas motsvarande mängd nya jobb, inte ens i närheten, som AI tränger undan - det är ingen naturlag.

 

[Heaven]

Kan tillägga att det sker stora omvälvningar i techsektorn (stör mig som fan på detta begrepp, men skit samma) i detta nu. Har sett berättelserna från människor i en survey som gjorts i branschen globalt och det är ingen munter läsning.

Särskilt i USA verkar det råda en ”shit show” i många bolag just nu. Oerhört många som blivit av med jobben eller som är kvar, men där det inte går att jobba vettigt när folk ser sina karriärer gå upp i rök, är livrädda för att de står på tur och det sämsta hos människor kommer fram, inte minst chefer som själv är rädda.

Naturligtvis handlar det inte i huvudsak om att AI nu går in och i stor skala tar över jobb - det handlar också mycket om bolag som växt för snabbt med nästan gratis kapital och där det byggts upp en hype och som nu ”gör en Elon” och skär bort en stor del - men det sker ett enormt stort skifte just nu. Väldigt många människor har haft roller och kompetenser som helt enkelt inte kommer komma tillbaka, samtidigt som en del bolag istället försöker investera hårt i AI, men där även det troligen är en stor bubbla i många avseenden, som Ulvhamne varit inne på.

Man kan fråga sig hur många som kommer våga satsa på en karriär som ingenjör och/eller inom Tech efter det här.

 

[uncletom]

Jag tror inte AI kommer påverka arbetsmarknaden mer än hur ordbehandlingen påverkat kontorsarbetet. Det är ett *verktyg*, och ingen gudomlig kraft som med sin egen intelligens kommer ta över eller förgöra människorna. Sådan vidskepelse såg vi strax innan skiftet till år 2000, och domedagsprofeternas varningar.

AI är i slutändan bara en bunt algoritmer som är förprogrammerade att på något sätt underlätta för bestämt syfte. Att öht låta något med "AI" ta viktiga beslut är fantasier, ännu mer fantasi att AI skulle "ta över" något alls.

Men visst är det spännande att spekulera i eventuell undergång, sånt har jehovas vittnen hållt på med sedan .. 1870 nån gång. >> https://sv.wikipedia.org/wiki/Jehovas_vittnen

 

[Ulvhamne]

Jag tror inte AI kommer påverka arbetsmarknaden mer än hur ordbehandlingen påverkat kontorsarbetet. Det är ett *verktyg*, och ingen gudomlig kraft som med sin egen intelligens kommer ta över eller förgöra människorna. Sådan vidskepelse såg vi strax innan skiftet till år 2000, och domedagsprofeternas varningar.

AI är i slutändan bara en bunt algoritmer som är förprogrammerade att på något sätt underlätta för bestämt syfte. Att öht låta något med "AI" ta viktiga beslut är fantasier, ännu mer fantasi att AI skulle "ta över" något alls.

Men visst är det spännande att spekulera i eventuell undergång, sånt har jehovas vittnen hållt på med sedan .. 1870 nån gång. >> https://sv.wikipedia.org/wiki/Jehovas_vittnen

Tekniskt sett är inte AI algoritmer, eftersom att definitionen av en algoritm är ett ändligt antal steg av rigida instruktioner.
AI hittades på lite för problem som inte kunde lösas så, som traveling salesman problem.

 

[uncletom]

Tekniskt sett är inte AI algoritmer, eftersom att definitionen av en algoritm är ett ändligt antal steg av rigida instruktioner.

Jag förstår. Men man vill väl ändå programmera en AI att ta bestämda riktningar beroende på vad man vill åstadkomma, eller att AIn ska åstadkomma?

Jag tyckte du tidigare nämnde nåt med att man inkluderade en slump nånstans också i AI's funktioner. Samtidigt förstår jag att digitala slumpgeneratorer inte är riktig *slump*. Men visst kan man väl programmera en AI för en bestämd tillämpning inom vissa ramar och gränser, så att inte AIn typ ballar ur, eller nåt?

 

[Two stroke man]

Om vi utgår ifrån att AI faktiskt blir en realitet någon gång i framtiden så kan man ju fundera på vilken moral vi kan förvänta oss att den har.

Jag filosoferar lite...
Vi människor och även våra husdjur är ju sociala varelser som via miljoner års evolution präglats till att vilja vara varandra till lags för att få vara del av gruppen men också för att vi genetiskt programmerats så.

Ett barn som växer upp lär sig successivt hur de ska bete sig för att bli accepterat och lever vanligtvis med den moralen och det beteendet resten av livet. Det finns ju förstås några undantag som vi brukar kalla psykopater.

Hur kommer en AI att utvecklas då? Den kommer nog inte att uppfostras på samma sätt som ett barn, och även om dess skapare försöker uppfostra den så kommer den nog tolka(uppleva?) det annorlunda. Den kommer nog göra totalt annorlunda värderingar och den kommer om jag får gissa utveckla en helt annan moral om ens någon moral alls.

Det är stor sannolikhet att den kommer fram till att optimalt beteende är vad vi människor definierar som psykopatiskt.

 

[Two stroke man]

En annan följd av det faktum att det troligen går att skapa intelligenta maskiner blir att det sätter rymdresor i ett helt annat perspektiv.

En människa kan inte resa till ett annat solsystem eftersom det tar för lång tid. Men en maskin kan faktiskt skickas iväg till andra solsystem.

Antag då att det finns intelligent liv någonstans i universum, intelligent liv som ligger tusentals/miljontals år före oss i utveckling.
Dom kan ha skickat iväg rymdskepp mot oss för 100-tals eller 1000-tals år sedan med intelligenta maskiner och vem vet när dom i så fall kommer fram?

Nu har jag främst inriktat mig på saker som utgör hot med AI men på kortare sikt tror jag AI kommer förändra världen i en positiv riktning och med så stora steg att industrialiseringen kommer kännas som bronsåldern.

 

[Kratoz]

Vi får se till att damma av Asimov's tre lagar:

1. A robot(AI) may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot(AI) must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot(AI) must protect its own existence as long as such protection does not conflict with the First or Second Law.

Bör kodas i gammal hederlig Visual Basic.

 

[uncletom]

Om vi utgår ifrån att AI faktiskt blir en realitet någon gång i framtiden så kan man ju fundera på vilken moral vi kan förvänta oss att den har.

AI har ingen moral, den lever inte och kommer aldrig att göra det. Den programmeras, till så stor det att även "lära". Du måste alltså programmera AI för att vara hjälpsam, hotfull, vad den ska lära sig och hur. Typ som en låda lego, jag byggde precis allt av mitt stora lego-sortiment när jag var liten, inte allt var godkänt av jehovas vittnen.

Vi får se till att damma av Asimov's tre lagar:

Japp, en trygg loop av 'godheter' åtminstonne jag förväntar mig av vad som helst AI. Så är jag också en optimist.