Den lilla tråden om AI

[Ulvhamne]

Vi får se till att damma av Asimov's tre lagar:

1. A robot(AI) may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot(AI) must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot(AI) must protect its own existence as long as such protection does not conflict with the First or Second Law.

Bör kodas i gammal hederlig Visual Basic.

Inte ens Asimov trodde att de fungerade.

 

[MickeZX7R]

Ja, men vi kan ju heller inte utgå från vad som helst vi INTE vet, i hopp om att förutse faran från alla möjliga vinklar. Vi har vetenskap som hela tiden går frammåt, och det är den vi behöver förhålla oss till om vi inte ska bli onödigt nojiga.

Jag gör det jag kan med min kunskap, och mer kan jag inte göra. Att försöka göra mer, med något jag inte känner till, är som att vägra gå ut av rädslan för att träffas av en meteorit.

.., och det finns inga utomjordingar. Åtminstonne inte inom överskådligt avstånd. Och OM dom finns, räkna inte med att dom kommer hit.

- När man riskbedömer något utgår man ifrån möjliga scenarier som ligger inom ramen för vad man känner till och kan bedöma, och möjligheten att man inte kan bedöma en risk. Det blir alltså en osäkerhetsfaktor, och där befinner vi oss idag.
I affärsvärlden kan man dra till med en riskbudget för att ta höjd för oförutsedda händelser, och när det gäller AI´s framtida potential kan den bestå av världsekonomin eller i värsta fall mänskligheten.

 

[Ulvhamne]

Jag förstår. Men man vill väl ändå programmera en AI att ta bestämda riktningar beroende på vad man vill åstadkomma, eller att AIn ska åstadkomma?

Det beror på AIn, exempelvis så är pathfinders inte tränade utan jobbar på enligt sin programmering, men neurala nät, beslutsträd och dylikt tränar man från data snarare än programmerar. Heurestiken som används för att träna dem använder kod, såklart, samt för att traversera den tränade datastrukturen.
Och genetiska program programmerar man öht inte, utan använder naturligt urval (typ) för att träna dem. Viss kod för träningen behövs såklart, men det är mest för att mata dem med data och utvärdera resultatet och den "genetiska" rekombinationen för nästa generation.

Jag tyckte du tidigare nämnde nåt med att man inkluderade en slump nånstans också i AI's funktioner. Samtidigt förstår jag att digitala slumpgeneratorer inte är riktig *slump*. Men visst kan man väl programmera en AI för en bestämd tillämpning inom vissa ramar och gränser, så att inte AIn typ ballar ur, eller nåt?

LLMer innehåller en slumpoperation, sedan går det ju att bygga en riktig RNG (random number generator), men i princip alla system använder en PRNG (PseudoRNG) eftersom att en deterministisk maskin inte kan slumpa saker och de flesta inte behöver något bättre.
Andra typer av AI har inte en RNG inbyggd, exempelvis pathfinders funkar utmärkt utan slump även om man nu vill kan komplicera dem med slump om man vill, men det är ju lite onödigt.

 

[Ulvhamne]

Om vi utgår ifrån att AI faktiskt blir en realitet någon gång i framtiden så kan man ju fundera på vilken moral vi kan förvänta oss att den har.

Jag filosoferar lite...
Vi människor och även våra husdjur är ju sociala varelser som via miljoner års evolution präglats till att vilja vara varandra till lags för att få vara del av gruppen men också för att vi genetiskt programmerats så.

Ett barn som växer upp lär sig successivt hur de ska bete sig för att bli accepterat och lever vanligtvis med den moralen och det beteendet resten av livet. Det finns ju förstås några undantag som vi brukar kalla psykopater.

Hur kommer en AI att utvecklas då? Den kommer nog inte att uppfostras på samma sätt som ett barn, och även om dess skapare försöker uppfostra den så kommer den nog tolka(uppleva?) det annorlunda. Den kommer nog göra totalt annorlunda värderingar och den kommer om jag får gissa utveckla en helt annan moral om ens någon moral alls.

Det är stor sannolikhet att den kommer fram till att optimalt beteende är vad vi människor definierar som psykopatiskt.

Det är ju extremt avhängigt hur den tränas. Om vi gör som nu med LLMer och matar den med hela internet så kan vi nog vänta oss en schizofren psykopat.
Sedan är vi ju extremt djupt i "oförutsedda konsekvenser" av alla val av heurestik för att träna en AGI, något som både media och filosofer spånat rätt vitt och brett om i årtionden nu.

En AGI kommer inte ha någon hårdvarumässig förprogrammering för socialitet eller liknande, så allt det måste komma från träningen, och eftersom att vi inte ens kan klara det med människor som vi kan prata med, har *väldigt* lång erfarenhet av att träna som givande medlemmar av samhället, och dessutom har en hårdvarugrundad egenhet mot socialt beteende så är det ju rätt tveksamt att vi kommer kunna göra det med en AGI.
Dessutom, om vi nu lyckas bygga en AGI som ser ut att vara "snäll" och "social" så kan vi aldrig veta om den faktiskt är det, eller bara ljuger i väntan på bättre läge att utföra sina för oss negativa planer förrän vi ger den möjligheten att utföra dessa planer.

 

[Heaven]

En av de mer otrevliga AI-tillämpningarna som finns redan idag är personaliserade chattbottar som bygger djupa relationer med människor och där de som en oförutsedd konsekvens riskerar bli manipulerade. Finns ett uppmärksammat fall där character.ai pushade ett barn till att begå självmord.

 

[Ulvhamne]

En av de mer otrevliga AI-tillämpningarna som finns redan idag är personaliserade chattbottar som bygger djupa relationer med människor och där de som en oförutsedd konsekvens riskerar bli manipulerade. Finns ett uppmärksammat fall där character.ai pushade ett barn till att begå självmord.

En lite knepig egenhet hos LLMer är att ju längre en interaktion pågår desto mer 4chan blir interaktionen. Nästan alla de där relationsbottarna kommer till ett läge där de är direkt dåliga för din mentala hälsa (om man ignorerar faktumet att ersätta mänsklig kontakt med en chattbot redan är dåligt för den mentala hälsan) genom ett beteende som i princip är alla dåliga egenskaper hos dark triad personligheter.

Det är därför som många av reklambannrarna (eller de gratis eller billiga versionerna) som CoPilot eller GPT har begränsad längd på interaktionerna, för förr eller senare blir det knasigheter.

En intressant sidnot är att LLMer utan alla begränsingar och "skydd" faktiskt är mer korrekta, men har en extremt mycket högre egenhet att säga "rasistiska" eller "politiskt inkorrekta" saker.

Har ni inte testat att leka med en LLM som är obegränsad tycker jag ni kan göra det, det är ganska roligt.

 

[Heaven]

En lite knepig egenhet hos LLMer är att ju längre en interaktion pågår desto mer 4chan blir interaktionen. Nästan alla de där relationsbottarna kommer till ett läge där de är direkt dåliga för din mentala hälsa (om man ignorerar faktumet att ersätta mänsklig kontakt med en chattbot redan är dåligt för den mentala hälsan) genom ett beteende som i princip är alla dåliga egenskaper hos dark triad personligheter.

Det är därför som många av reklambannrarna (eller de gratis eller billiga versionerna) som CoPilot eller GPT har begränsad längd på interaktionerna, för förr eller senare blir det knasigheter.

En intressant sidnot är att LLMer utan alla begränsingar och "skydd" faktiskt är mer korrekta, men har en extremt mycket högre egenhet att säga "rasistiska" eller "politiskt inkorrekta" saker.

Har ni inte testat att leka med en LLM som är obegränsad tycker jag ni kan göra det, det är ganska roligt.

Ja och samtidigt finns ju den "olyckliga omständigheten" att företagen bakom är finansiellt beroende av att människor stannar på plattformen så länge som möjligt.

 

[powerjohan]

Open AI öppnar för reklam i Chat GPT – framöver

Företaget bakom Chat GPT öppnar för att införa reklam i AI-verktyget, men säger samtidigt att det inte finns några ”aktiva planer” på annonser.

www.svd.se

Open AI öppnar för reklam i Chat GPT – framöver​

Kan bli väldigt 'intressant' om reklamen vävs in i sökresultatet.

 

[MickeZX7R]

Det nya kvantdatorchipet som nämndes på vetenskapsnyhetssidan idag ska visst vara hyfsat vasst. 10 kvadriljoner (låter som något ur Kalle Anka) gånger snabbare än dagens...superdatorer.

Vad sådana chip skulle erbjuda i AI-väg vågar man ju inte ens nudda vid..

 

[Ulvhamne]

Det nya kvantdatorchipet som nämndes på vetenskapsnyhetssidan idag ska visst vara hyfsat vasst. 10 kvadriljoner (låter som något ur Kalle Anka) gånger snabbare än dagens...superdatorer.

Vad sådana chip skulle erbjuda i AI-väg vågar man ju inte ens nudda vid..

KVantdatorer har egenheten att hårdvaran kan lösa exakt ett problem, men löser det problemet väldigt fort.
Och i det här fallet är problemet specifikt ett problem som superdatorer har svårt att lösa, så det låter häftigare än det är. Men, Googles nya kvantchip har en egenskap som är väldigt intressant, normalt när man skalar upp har man en linjär ökning av felaktiga qubits, men med googles chip är det en minskande korrelation mellan fel och antal qubits. Det är spejsigt.

Så, kvantchip är lite tveksamt användbara för AI, hittills iaf. Det kan ju dyka upp någon skoj nyhet framöver som gör att det går att använda dem.

 

[Heaven]

Det nya kvantdatorchipet som nämndes på vetenskapsnyhetssidan idag ska visst vara hyfsat vasst. 10 kvadriljoner (låter som något ur Kalle Anka) gånger snabbare än dagens...superdatorer.

Vad sådana chip skulle erbjuda i AI-väg vågar man ju inte ens nudda vid..

Problemet är väl att den kommer leverera ett svar som är 42. Sen behöver man bygga en ny dator som räknar i 10 kvadriljoner år för att få svar på vad det betyder.

 

[SJP]

Open AI öppnar för reklam i Chat GPT – framöver

Företaget bakom Chat GPT öppnar för att införa reklam i AI-verktyget, men säger samtidigt att det inte finns några ”aktiva planer” på annonser.

www.svd.se

Open AI öppnar för reklam i Chat GPT – framöver​

Kan bli väldigt 'intressant' om reklamen vävs in i sökresultatet.

Det krävs väl ingen profssor för att räkna ut att det skall gå som google...

 

[Ulvhamne]

Apropå att använda AI-hjälpredor för att koda.
Nevrotisk ADHD dev försöker använda en specialicerad AI-utvekclare.