Den lilla tråden om AI

[uncletom]

Problemet är när man ger den döda koden outputs med riktiga konsekvenser i det fysiska världen. Till exempel krigsvapen, där det kommer en stritsspets istället för en dålig vits som utfunktion av data som trycks in.

Du menar som att ge en liten 4-åring en skarpladdad pistol vid matbordet?

Det är just dessa skräckhistorier som triggar AI-fober och domedagsprofeter. Varför drar du inte nåt om hur farligt det är att hoppa ner i en bassäng med 10 hungriga hajar? Eller donera levern till sjukvården dagen du fyller 60?

Det finns saker som man bara inte gör, även om man är en nyfiken jackass som grubblar över nya sätt att ta livet av sig, utan att ta livet av sig.

 

[SJP]

Det påstås ju att både USA och Soviet utvecklade andraslagsförmåga med "döda-handen system" helt utan att blanda in AI
Sovjets skulle ha varit aktivt 24/7/365 även i fredstid, medans USA skulle slå på sitt vid behov.

Wargames (filmen) var ju byggd på det

Ja, vi har nog passerat event horizon på den sfären av vansinne, för länge sedan, tyvärr.

Det enda som behövs är ett sensorproblem, eller en taskig mjukvaruuppdatering någonstans, så blir det djävulskt många liv i fara.
För alla som har kört en Ford, eller använt Microsoft Windows så känns ju det oerhört tryggt.

Fast det finns å andra sidan bra många biologiska människor som inte heller skall vetros med ett vapen, livsmedel, en röst, pengar, eller en jävla gurka heller för den delen...

 

[Two stroke man]

*Trådstart*

Ja, ungefär så ...

Tyvärr så betyder ju inte avsaknaden av intelligens och medvetenhet att det inte kan komma ett domedagscenario.
Problemet är när man ger den döda koden outputs med riktiga konsekvenser i det fysiska världen. Till exempel krigsvapen, där det kommer en stritsspets istället för en dålig vits som utfunktion av data som trycks in.

Grejen är den att ett dataprogram trots dess tillkortakommanden kan vara väldigt effektivt på att trycka på avtryckaren, sikta och hitta mål etc.
Den kan alltså skjuta bort mänskligheten helt utan att vara medveten om att den gör det, eller att varken vi eller den existerar, eller nånting alls för den delen.

Skit in = skit ut, heter det ju.....

Eller så är den programmerad prefekt ideologiskt och inser det vi alla redan vet, nämligen att det bästa för jordklotet är att utrota människorna.

 

[uncletom]

Det man ska vara orolig för är folk som låter AI bestämma saker.

Ok, och var kan sånt folk vanligtvis befinna sig? I vilken situation skulle AI tillåtas bestämma som skulle kunna utgöra något katastrofalt?

Behörigheten som krävs för ett beslut av ponerad vikt tillskrivs inte en, ens två individer. Du behöver hålla möten om saken där ledamöter röstar i frågan, och sedan kanske det händer nåt.

 

[GuW]

Ja, vi har nog passerat event horizon på den sfären av vansinne, för länge sedan, tyvärr.

Det enda som behövs är ett sensorproblem, eller en taskig mjukvaruuppdatering någonstans, så blir det djävulskt många liv i fara.
För alla som har kört en Ford, eller använt Microsoft Windows så känns ju det oerhört tryggt.

Fast det finns å andra sidan bra många biologiska människor som inte heller skall vetros med ett vapen, livsmedel, en röst, pengar, eller en jävla gurka heller för den delen...

Vista...

 

[SJP]

Du menar som att ge en liten 4-åring en skarpladdad pistol vid matbordet?

Nej, verkligen inte.
En fyraåring är väldigt intelligent, medveten om både sig själv och världen, trots att den saknar referenser.

Det är just dessa skräckhistorier som triggar AI-fober och domedagsprofeter. Varför drar du inte nåt om hur farligt det är att hoppa ner i en bassäng med 10 hungriga hajar? Eller donera levern till sjukvården dagen du fyller 60?

Det finns saker som man bara inte gör, även om man är en nyfiken jackass som grubblar över nya sätt att ta livet av sig, utan att ta livet av sig.

Varför?
Jo för att det inte är det minsta relevant för diskussionen.
Men AI-drivna drönare bestyckade med riktiga vapen och utan en människa fysiskt "in-the-loop" är idag en verklighet som är riktigt förbannat relevant, inte för Chat gpt, men väl för ämnet AI i stort.

 

[SJP]

Eller så är den programmerad prefekt ideologiskt och inser det vi alla redan vet, nämligen att det bästa för jordklotet är att utrota människorna.

Nej, den har fortfarande inget förstånd, inget medvetande, och därmed heller ingen insikt...

Men det betyder ju inte att du inte går att få ut det svaret som en beräkning ur en algoritm...

 

[uncletom]

Men AI-drivna drönare bestyckade med riktiga vapen och utan en människa fysiskt "in-the-loop" är idag en verklighet som är riktigt förbannat relevant,

"AI-drönare", du menar drivs med AI? Hur? Nånstans måste den ju fått instruktioner, ladda batteriet och fylla på ammunition. Vem tilldelar den uppdraget? Vilken typ av uppdrag har den? Och hur används AI i en sån drönare?

Jag medger att jag inte är fullt uppdaterad på hur AI används, jag är dessutom väldigt nyfiken. Var så god.

 

[Two stroke man]

Nej, den har fortfarande inget förstånd, inget medvetande, och därmed heller ingen insikt...

Men det betyder ju inte att du inte går att få ut det svaret som en beräkning ur en algoritm...

Den behöver inte ha förstånd eller medvetande, det är bara en logisk output av den ingångsdata vi redan känner till.

 

[SJP]

Behörigheten som krävs för ett beslut av ponerad vikt tillskrivs inte en, ens två individer. Du behöver hålla möten om saken där ledamöter röstar i frågan, och sedan kanske det händer nåt.

Ja, så står det ju i Demokrati™'s reklamutskick åtminstone, men .....
Fast just på den nivån är det nog mer att oroa sig för galna människor.

Chat-GPT beslut får man nog se mer relevant på privat nivå för lättlurade, lite simpla människor.
Det kan ju fortfarande vara farligt för dem, och människor i deras närhet, men mest så bidrar det nog till att den dåligt informerade massan blir ännu sämre, och (ännu) mer partiskt informerade.

 

[uncletom]

Ok, jag har googlat lite på "intelligenta AI drönare", och får följande:

"Definiera de specifika applikationerna och önskade funktionerna för att implementera AI i drönare. Identifiera mål som objektdetektering, autonom navigering, vägplanering eller dataanalys. Förstå driftkrav, miljöförhållanden och begränsningar för att skräddarsy AI-lösningarna för drönare effektivt."

Liknande har man ju använt för missiler och obemannade farkoster ganska länge nu. Varför skulle detta vara något hot utöver vad vi redan har?

Fast just på den nivån är det nog mer att oroa sig för galna människor.

Sådana har vi ju blivit ganska bekanta med, bl a lastbilen på Drottninggatan. Behövdes ingen AI där.

 

[uncletom]

Letar lite användbar info om just drönare som vapen:

FN vill se globala regler för autonoma vapensystem

Världen står inför avgörande beslut om vilket mandat människan ska ge den nya tekniken. Ska en robot själv få avgöra om den ska gå till attack – och mot vem? FN vill att världens länder kommer överens om gemensamma regler för hur AI ska användas i framtidens krig.

www.svt.se

"Det finns ju hemska scenarier där det i framtiden skulle kunna gå att tekniskt bygga mördarrobotar"

 

[SJP]

Den behöver inte ha förstånd eller medvetande, det är bara en logisk output av den ingångsdata vi redan känner till.

Det behöver inte vara logiskt heller...

 

[uncletom]

Det behöver inte vara logiskt heller...

Hur logiskt som helst. Afrikas fattiga länder är fulla med sponsrade gängledare vars ideer har många likheter med vederbörande ovan avbildad, trots att han varit och solat på Malta en månad.

Visst har AI stor och skrämmande potential, beroende på hur och till vad den används. Att kriga med drönarsvärmar blir nog poppis när man krigat slut på alla män, och sedermera kanske även kvinnor. Men ungefär som med kärnvapen så har ju gubbarna en spärr nånstans, vi har ju inte spräng planeten i bitar än, eller hur.

 

[SJP]

"AI-drönare", du menar drivs med AI? Hur? Nånstans måste den ju fått instruktioner, ladda batteriet och fylla på ammunition. Vem tilldelar den uppdraget? Vilken typ av uppdrag har den? Och hur används AI i en sån drönare?

Jag medger att jag inte är fullt uppdaterad på hur AI används, jag är dessutom väldigt nyfiken. Var så god.

In F-16 Dogfight, AI and Human Pilots Are ‘Roughly an Even Fight,’ Says Kendall

Air Force Secretary Frank Kendall discussed his flight on an AI-controlled F-16 and explained why autonomy is key to the Pentagon’s future.

www.airandspaceforces.com

Tex.

 

[Embargo]

Lång tråd, kort kommentar från mig.

LLM är inte AI. LLM är tillämpad statistik.

Med LLM är det mänsklighetens dumhet som oroar mig. Inget nytt.

Riktig AI är ett långt större hot om/när det kommer.

 

[uncletom]

In F-16 Dogfight, AI and Human Pilots Are ‘Roughly an Even Fight,’ Says Kendall

Air Force Secretary Frank Kendall discussed his flight on an AI-controlled F-16 and explained why autonomy is key to the Pentagon’s future.

www.airandspaceforces.com

Tex.

Jag ser.

Ja, när militären använder AI på det viset blir man aningens bekymrad. Men som sagt, hur mycket mer jävulskap än kärnvapen kan det bli? Vi har ju redan vapen som kan göra sylta av planeten tio gånger om, att lägga sådan kraft i händer på AI, med ändå den felmarginal en dator kan ha, vore slöseri med både pengar och liv.

 

[Ulvhamne]

Rent generellt kan man träna flera olika AI för att göra de olika sakerna i drönare, en för navigering, en för målsökning, och en för att välja när/hur att skjuta. Sedan kan man ha övergripande beslutsträd för att styra vad som ska göras just nu, med lite state kan man få den att agera i princip som en personstyrd drönare. Navigering kan man iofs lösa med vanliga gamla algoritmer, men lite mer avancerade saker som att traversera komplexa miljöer behöver man nog något mer fräsigt till.

Och jag byggde något snarlikt det en gång i tiden för längesedan (2005 tror jag), men på den tiden fanns inte beräkningskraften eller alla uppdateringar för visuell igenkänning för att få det att funka i en drönare. Men nu skulle det antagligen gå att lösa ganska snabbt för ett team på 4-5 skickliga personer på ett halvår/år, med fasta referensramar.

Det största problemet tror jag är visuell tokning av omvärlden och alla felen som finns där.

Håller inte SAAB på med en obemannad variant av Gripen med?

 

[GuW]

Som av en händelse fick jag förslag på en film på youtube när jag slog igång min TV

"I put ChatGPT on a robot and let it explore the world"

En snubbe bygger en enkel robot med en RaspberryPi på, och ber ChatGPT skriva koden till den och sedan styras av ChatGPT för att utforska ett rum och akta sig för den elaka människan med verktyg som kan stänga av roboten.

Jag sover gott om nätterna ett tag till....

Men angående drönarvapnen med AI, det var länge sedan Tyskarna dresserade hundar med en mina på ryggen springa under stridsvagnar.
Det sket sig då hundarna helst sprang in under tyska stridsvagnar som dom kände igen från träningen....

Amerikanernas duvor som valde ut militärfartyg funkade något bättre, dom visade en film bakom ett glas (en tidig variant av pekskärm) på en överflygning av en fartygskonvoj, om duvan pickade på ett militärfartyg zoomades filmen in och duvan fick en godis.

Tanken var styrda bomber med en duva som pilot bakom ett fönster som var en pekskärm, duvan skulle frenetiskt picka sig närmare och närmare militärfartygen i väntan på en massa godis

Eller den mycket enkla men genialiska fladdermusbrandbomben

 

[Two stroke man]

Det behöver inte vara logiskt heller...

Precis, det finns ju oändligt många teoretiska utfall.