Den lilla tråden om AI

[Two stroke man]

AI har ingen moral, den lever inte och kommer aldrig att göra det. Den programmeras, till så stor det att även "lära". Du måste alltså programmera AI för att vara hjälpsam, hotfull, vad den ska lära sig och hur. Typ som en låda lego, jag byggde precis allt av mitt stora lego-sortiment när jag var liten, inte allt var godkänt av jehovas vittnen.


Japp, en trygg loop av 'godheter' åtminstonne jag förväntar mig av vad som helst AI. Så är jag också en optimist.

Liv är inte synonymt med intelligens.

Nej, så länge den behöver programmeras så har den bara den moral som den fått inprogrammerad men nu syftade jag på verklig intelligens som utvecklas dynamiskt.

Det kommer att finnas i framtiden, det är bara en fråga om när.

 

[uncletom]

men nu syftade jag på verklig intelligens som utvecklas dynamiskt.

Det kommer att finnas i framtiden, det är bara en fråga om när.

Det låter ganska fasansfullt. För att om / när, som du säger, en sådan intelligens uppkommer så kan du räkna med motstånd. Frågan är då ifall vi, människan, kommer låta en sådan elak IQ få finnas. Det blir nog en del sabotage från aktivister med sprängda transformatorstationer och kraftverk.

Det blir ju som att spela schack mot datorn, med riktigt fula konsekvenser när man förlorar. Personligen skulle jag använda Biltemas finaste och göra återvinning av chipsburken.

 

[Two stroke man]

Vi får se till att damma av Asimov's tre lagar:

1. A robot(AI) may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot(AI) must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot(AI) must protect its own existence as long as such protection does not conflict with the First or Second Law.

Bör kodas i gammal hederlig Visual Basic.

Det räcker ju att det finns en enda människa som inte vill ha med de där programraderna så kan bollen vara satt i rullning.

 

[MickeZX7R]

Det räcker ju att det finns en enda människa som inte vill ha med de där programraderna så kan bollen vara satt i rullning.

- Exakt så, även om det nu då inte är AI:t självt som åstadkommer bollrullandet i så fall, utan mänskliga faktorn.
Men vem kan sia om ifall en AI-"intelligens" anser att skydda sin egen existens (vilket är en av de tvingande lagarna) är helt i linje med första lagen om det innebär att slå ut en annan AI/dator och inte en människa?

 

[uncletom]

Det räcker ju att det finns en enda människa som inte vill ha med de där programraderna så kan bollen vara satt i rullning.

Ja, det är sant. Men så kan du ju säga om precis allt här i samhället. Det finns faktiskt folk som mördar - med kökskniv.

AI är i första hand ett verktyg. Dina bekymmer har ingen riktig grund annat än mardrömslika scenarion därr AI *blir* en elak mördarrobot. Var inte orolig, om AI börjar mucka på ett otillbörligt vis så ska jag komma ta hand om den.

 

[Heaven]

AI har ingen moral, den lever inte och kommer aldrig att göra det. Den programmeras, till så stor det att även "lära". Du måste alltså programmera AI för att vara hjälpsam, hotfull, vad den ska lära sig och hur. Typ som en låda lego, jag byggde precis allt av mitt stora lego-sortiment när jag var liten, inte allt var godkänt av jehovas vittnen.

Vet inte om jag håller med om att AI inte kan ha någon moral. Jag ser moral som en uppsättning levnadsregler, eller levnadsvisdom om man så vill, för sådant som har visat sig fungera bra för en individ eller på samhällsnivå över tid. Sådant kan AI absolut ha, antingen för att någon har gett den det som mål eller för att den "lärt" sig det. I sin enklaste form kan det ju t ex vara en app som talar om hur man skall träna eller agera i olika situationer - eller hur man skall leva sitt liv så man är en god samhällsmedborgare (annars blir det avdrag på social credit score).

 

[uncletom]

Men vem kan sia om ifall en AI-"intelligens" anser att skydda sin egen existens (vilket är en av de tvingande lagarna) är helt i linje med första lagen om det innebär att slå ut en annan AI/dator och inte en människa?

Visst kan olika AIn 'kriga', du kan få två AIn att spela spel mot varandra, inga problem. Men som jag säger, vi är inte dumma! Vem tar två pincetter och sticker in i var sitt hål i jacket i väggen, bara för att? En människa måste ju skapa 'det onda förhållandet' om AI ska vändas emot människan. AI gör inte så av sig självt.

 

[uncletom]

Vet inte om jag håller med om att AI inte kan ha någon moral. Jag ser moral som en uppsättning levnadsregler, eller levnadsvisdom om man så vill, för sådant som har visat sig fungera bra för en individ eller på samhällsnivå över tid. Sådant kan AI absolut ha, antingen för att någon har gett den det som mål eller för att den "lärt" sig det. I sin enklaste form kan det ju t ex vara en app som talar om hur man skall träna eller agera i olika situationer - eller hur man skall leva sitt liv så man är en god samhällsmedborgare (annars blir det avdrag på social credit score).

Det finns ju redan liknande appar. Min Camillas i Watch, typ en Apple-klocka, talar om för henne när det är dags att resa sig från stolen, och den håller reda på hennes dagliga motion, baserat på nån slags rörelseavkänning.

Jag förstår att ni är nojiga över att AI kan ta över och börja härja omkring mm. Men det är högst osannolikt då AIs användning har andra prion än att utrota sina skapare.

.. fan, jag kommer börja hata datorer snart

 

[Two stroke man]

Ja, det är sant. Men så kan du ju säga om precis allt här i samhället. Det finns faktiskt folk som mördar - med kökskniv.

AI är i första hand ett verktyg. Dina bekymmer har ingen riktig grund annat än mardrömslika scenarion därr AI *blir* en elak mördarrobot. Var inte orolig, om AI börjar mucka på ett otillbörligt vis så ska jag komma ta hand om den.

Hur saker ser ut idag är inte relevant för det du citerar.

 

[Two stroke man]

Visst kan olika AIn 'kriga', du kan få två AIn att spela spel mot varandra, inga problem. Men som jag säger, vi är inte dumma! Vem tar två pincetter och sticker in i var sitt hål i jacket i väggen, bara för att? En människa måste ju skapa 'det onda förhållandet' om AI ska vändas emot människan. AI gör inte så av sig självt.

Jo, människor är dumma i huvudet nåt djävulskt och hälften är ännu dummare.

 

[Heaven]

Det finns ju redan liknande appar. Min Camillas i Watch, typ en Apple-klocka, talar om för henne när det är dags att resa sig från stolen, och den håller reda på hennes dagliga motion, baserat på nån slags rörelseavkänning.

Jag förstår att ni är nojiga över att AI kan ta över och börja härja omkring mm. Men det är högst osannolikt då AIs användning har andra prion än att utrota sina skapare.

.. fan, jag kommer börja hata datorer snart

Bara för att en AI inte har egen vilja innebär det inte att det kan bli dåliga konsekvenser, pga. misstag/fel i modellerna, illvilliga aktörer eller som oförutsedda konsekvenser av att den försöker uppfylla ett helt annat mål. Lyssnar man på de som forskar inom och utvecklar AI-säkerhet kan det vara ett enormt svårt, närmast olösligt, problem att skapa säker AI, beroende på sammanhang förstås.

 

[uncletom]

Jo, människor är dumma i huvudet nåt djävulskt och hälften är ännu dummare.

Jodå, jag fattar. Du KAN ha rätt. Det är bra att du är försiktig. Jag är alltför optimistisk i dom flesta fall.

 

[MickeZX7R]

Visst kan olika AIn 'kriga', du kan få två AIn att spela spel mot varandra, inga problem. Men som jag säger, vi är inte dumma! Vem tar två pincetter och sticker in i var sitt hål i jacket i väggen, bara för att? En människa måste ju skapa 'det onda förhållandet' om AI ska vändas emot människan. AI gör inte så av sig självt.

- Det där var en jämförelse tagen ur hur du ser på det hela som det ser ut idag.
Den typen av argument är ungefär samma sak som att säga att en främmande intelligens någonstans i världsrymden inte skulle kunna ta sig till vår jord pga avståndet.
Den typen av retorik användes för längesedan när man var bombsäker på att jorden var platt därför att den var platt så långt man kunde se.

Om man utgår ifrån att allting utanför vår medvenhetssfär ser likadant ut som det vi känner till här, är det förstås knepigt att förutse det oförutsedda så att säga : ))

Det jag tänker mig är att om man inte ens framöver förstår hur en AI-"intelligens" reagerar och kommunicerar, är man omkörd redan initialt. Om det sedan kickas igång av en människa eller inte, spelar mindre roll i förlängningen. Det blir fortfarande ett AI-hot.

 

[uncletom]

illvilliga aktörer eller som oförutsedda konsekvenser av ett helt annat mål. Lyssnar man på de som forskar inom och utvecklar AI-säkerhet kan det vara ett enormt svårt, närmast olösligt, problem att skapa säker

Naturligtvis. Inget är säkert här i världen. Du har en poäng. Men samma argument kan du ju tillämpa på kärnvapen och dom / den som kontrollerar dessa. Det finns ingen "säkerhet" här i världen som är helt säker. Men vi behöver utgå från vad AI avser från början, inte vad allt möjligt vansinningt den *kan* användas till.

För att vara helt säker, hypotetiskt, så måste vi först slå sönder allt med elektronik i, och sen bränna allt utbildningsmaterial för programmering, och till slut döda alla människor runt omkring så att ingen kan hitta på nåt 'farligt' för oss. Sen kan vi sitta där och känna oss "säkra" tills vi dör av ålder eller svält, för att vi dödat allt och alla omkring oss.

 

[uncletom]

Om man utgår ifrån att allting utanför vår medvenhetssfär ser likadant ut som det vi känner till här, är det förstås knepigt att förutse det oförutsedda så att säga

Ja, men vi kan ju heller inte utgå från vad som helst vi INTE vet, i hopp om att förutse faran från alla möjliga vinklar. Vi har vetenskap som hela tiden går frammåt, och det är den vi behöver förhålla oss till om vi inte ska bli onödigt nojiga.

Jag gör det jag kan med min kunskap, och mer kan jag inte göra. Att försöka göra mer, med något jag inte känner till, är som att vägra gå ut av rädslan för att träffas av en meteorit.

.., och det finns inga utomjordingar. Åtminstonne inte inom överskådligt avstånd. Och OM dom finns, räkna inte med att dom kommer hit.

 

[Heaven]

Naturligtvis. Inget är säkert här i världen. Du har en poäng. Men samma argument kan du ju tillämpa på kärnvapen och dom / den som kontrollerar dessa. Det finns ingen "säkerhet" här i världen som är helt säker. Men vi behöver utgå från vad AI avser från början, inte vad allt möjligt vansinningt den *kan* användas till.

För att vara helt säker, hypotetiskt, så måste vi först slå sönder allt med elektronik i, och sen bränna allt utbildningsmaterial för programmering, och till slut döda alla människor runt omkring så att ingen kan hitta på nåt 'farligt' för oss. Sen kan vi sitta där och känna oss "säkra" tills vi dör av ålder eller svält, för att vi dödat allt och alla omkring oss.

Skillnaden mot kärnvapen är att det är teknologi som är oerhört svår att skaffa sig och som kräver helt enorma resurser. AI är i princip tillgänglig för vem som helst, samtidigt som konsekvenserna i vissa fall kan vara värre än en kärnvapendetonation. Betänk konsekvenserna av en förstörd ungdomsgeneration, ett samhälle där alla misstror varandra eller att vem som helst enkelt kan utveckla kemiska eller biologiska vapen.

 

[uncletom]

Skillnaden mot kärnvapen är att det är teknologi som är oerhört svår att skaffa sig och som kräver helt enorma resurser. AI är i princip tillgänglig för vem som helst, samtidigt som konsekvenserna i vissa fall kan vara värre än en kärnvapendetonation. Betänk konsekvenserna av en förstörd ungdomsgeneration, ett samhälle där alla misstror varandra eller att vem som helst enkelt kan utveckla kemiska eller biologiska vapen.

Ja, du har helt rätt där faktiskt. Det har ju redan hänt, jag ser hur ungar går som zombies från bussen osv, glor ner i sin lilla 'heliga digitalbok'. Minst två generationer är obotligt 'skadade', även om inte dödligt så är dom inte riktigigt friska.

Vi lever ju i en sådan tid just nu där digitala media till stor del styr hur många tänker. Vi behöver ingen AI för att ta död på oss själva

 

[Heaven]

Ja, du har helt rätt där faktiskt. Det har ju redan hänt, jag ser hur ungar går som zombies från bussen osv, glor ner i sin lilla 'heliga digitalbok'. Minst två generationer är obotligt 'skadade', även om inte dödligt så är dom inte riktigigt friska.

Vi lever ju i en sådan tid just nu där digitala media till stor del styr hur många tänker. Vi behöver ingen AI för att ta död på oss själva

Grejen är ju att det där faktiskt ÄR rätt mycket påverkat av AI idag. När folk slarvigt snackar om "algoritmer" handlar det ofta egentligen om AI-modeller som optimerar för att få maximal exponering för annonser och att människor skall stanna på plattformen och interagera med den så mycket som möjligt. Det stora skiftet som är på väg att ske nu är att AI inte bara väljer ut vilket innehåll som vi skall se utan även skapar innehållet - snart i realtid och unikt för DIG, baserat på all data om dig systemet har.

 

[SJP]

Skillnaden mot kärnvapen är att det är teknologi som är oerhört svår att skaffa sig och som kräver helt enorma resurser. AI är i princip tillgänglig för vem som helst, samtidigt som konsekvenserna i vissa fall kan vara värre än en kärnvapendetonation. Betänk konsekvenserna av en förstörd ungdomsgeneration, ett samhälle där alla misstror varandra eller att vem som helst enkelt kan utveckla kemiska eller biologiska vapen.

Njaej,
Det är ju hårt reglerade råvaror som krävs, men sådär jättekrånglig fysik är det ju inte.

 

[Heaven]

Njaej,
Det är ju hårt reglerade råvaror som krävs, men sådär jättekrånglig fysik är det ju inte.

Fysiken går så klart att lösa, men att upparbeta uran och framställa plutonium, göra provsprängningar osv. och samtidigt undgå upptäckt är inte direkt något man fixar hemma i garaget.