Den lilla tråden om AI

[Two stroke man]

Ja rent grundläggande är IQ till stor del förmågan att anpassa sig till sin miljö, mentalt och på sikt fysiskt. Att framgångsrikt interagera med andra.

Jag föreslår att vi ser på AI som vår infrastruktur med trafikregler. Trafiken är i grunden farlig om den inte administreras på rätt, dvs ett säkert, sätt. Vi har många hjälpmedel och riktlinjer som hjälper till att hålla trafiken säker. Sen finns det flera olika typer av användare i trafiken.

Vi som klarar oss bra i trafiken har anpassat oss enligt reglerna, några som inte var lika bra på att följa reglerna åtnjuter inte samma förmån att få vistas bland andra trafikanter.

Men sedan systemet för att mäta IQ då? Det kan ju vara hur relativt som helst, eller till vilken grad behöver man generalisera det?

Men det finns inga trafikregler för AI.
AI har bara de regler som sätts av dess ägare.

 

[uncletom]

Det finns nästan oändligt många vägar som har potential att bli hot mot mänskligheten.

Ja, men det kan du säga om precis vilken teknik som helst, i synnerhet skjutvapen och sprängämnen. Visst finns det grupper som använder teknik och mekanik till att sprida terror osv, men som vi ser har världen inte fallit under dom ännu.

Vad du talar om där är bara ett annat medel med vilket kriminella, eller ondskans makter, kan göra i princip det dom gör idag. Det ändrar inte på saken, varken uppåt eller neråt. Som i krig och andra konflikter så finns det alldeles för många kockar / hinder för att scenariot du befarar kan dominera. Jag förstår ditt perspektiv också, men jag är inte orolig för det.

 

[uncletom]

Ponera att någon ensam handelsman för två tusen år sedan skulle fått tillgång till en modern arme från idag? Maskingevär, stridsvagnar, stridsflyg, i en värld där resten av världen står med svärd och pilbåge.

Jodå, jag kan föreställa mig det. Scenariot är skrämmande, men det är väldigt osannolikt att nåt sånt händer.

 

[Two stroke man]

Då ska vi se här...

Intelligens är en mycket generell mental kapacitet som, bland annat, involverar:
förmågan att resonera - LLM kan inte resonera.
planera - LLM kan inte planera.
lösa problem - Kan lösa problem som liknar problem i träningsdatan,
tänka abstrakt - Kan inte tänka öht
förstå komplexa idéer - KAn inte förstå,
lära snabbt och lära av erfarenhet - Kan man säga att det är att lära sig om man saknar förmåga att tänka och resonera?Men LLMer, och flera andra typer av AI kan tränas, men träningen består i att balansera flyttal i ett nätverk av kopplingar (eller liknande, vikta kopplingar mellan tillståndsnoder i ett beslutsträd)

Avsaknaden av förmåga att tänka och resonera utesluter i min mening intelligens. Annars hamnar man i sitsen att i princip all mjukvara som inte är trivial är intelligent.

Beträffande punkten att lära sig, tänk dig ett nyfött barn. Har barnet intelligens? Nja, ingen mätbar. Barnet måste först matas med massor av information innan det börjar utvecklas någon slags förmåga att utvärdera och prioritera val. Påminner väl ganska mycket om en dator idag? Den har i princip bara lite lagrad kunskap.
Kan det nyfödda barnet tänka och resonera? Eller super barnet bara in information?
När barnet efter några veckor, månader har tillräckligt med information kan barnet börja utvärdera information relativt annan information. Ett slags resonerande börjar utvecklas från att bara ha varit information. På vilket sätt skiljer sig det från en dator egentligen?

Tänka abstrakt, nej enligt vårt sätt att se på saken tänker inte en dator precis som det nyfödda barnet, men med tillräckligt mycket information så kommer dator kunna utvärderaa och ta fram slutsatser som bara begränsas av de regler som den programmerats med, att du tänker abstrakt blir helt plötsligt löjligt begränsande i förhållande till en dator som inte har några regler alls utöver fysikens lagar som den fått inprogrammerade. Totalt avsaknad av fördomar i sina analyser(tänkande?) är väl abstrakt om något?

Att tänka och resonera är redan egna punkter, så jag tycker inte dom då ska inkluderas under punkten om att lagra information.

Definera "att förstå komplexa ideer"? Om jag definerar ideer så handlar det oftast om att önskemål skapa en modell av ingående parametrar, en modell som sedan presenterar utfall. En dator kan hitta sambanden innan du ens har hunnit ställa fråga eller ens vet varför du vill veta. Så vad är då iden egentligen värd?

 

[uncletom]

Men det finns inga trafikregler för AI.
AI har bara de regler som sätts av dess ägare.

Ja. Och trafikreglerna sätts av utbildade folk med ansvar för att trafiken ska flyta på, så att samhället kan fungera. Liknande behöver gälla för AI och användning av datorer.

Jag vill försöka trösta dig med att upplysa dig om konsekvenserna av att hantera skyddat innehåll, som musik och filmer, och andra filer på internet. Notera hur förövarna 'omhändertagits' i många fall, i synnerhet i USA där man ser väldigt allvarligt på digitala lagbrott.

AI är inget som kommer att "rymma" eller släppas löst och fara runt som ett galet vilddjur på internet, och i datorer eller mobiltelefoner. Fortfarande är AI ett verktyg, när och var det tillämpas ändras inte. Du ser själv vad det används till idag. Det blir inte värre, snarare hårdare restriktioner ifall man märker oönskade resultat.

.. då var pesten mycket värre.

 

[Two stroke man]

Jodå, jag kan föreställa mig det. Scenariot är skrämmande, men det är väldigt osannolikt att nåt sånt händer.

Det är väldig osannolikt att du ska vinna en miljon nästa vecka, men det är 100% sannolikhet att någon kommer vinna en miljon imorgon.

Det är på samma sätt väldigt osannolikt att just det jag nämnde ska ske, men med miljoner olika tänkbara scenarion så blir det helt plöstligt väldigt sannolikt att något av dem ska inträffa.

 

[uncletom]

Tänka abstrakt, nej enligt vårt sätt att se på saken tänker inte en dator precis som det nyfödda barnet, men med tillräckligt mycket information så kommer dator kunna utvärderaa och ta fram slutsatser som bara begränsas av de regler som den programmerats med, att du tänker abstrakt blir helt plötsligt löjligt begränsande i förhållande till en dator som inte har några regler alls utöver fysikens lagar som den fått inprogrammerade. Totalt avsaknad av fördomar i sina analyser(tänkande?) är väl abstrakt om något?

Ja visst, OM du låter den göra det.

Och under den premissen att jag inte har en hink vatten bredvid i beredskap att släcka den onda datorns abstrakta ideer.

 

[uncletom]

Det är väldig osannolikt att du ska vinna en miljon nästa vecka, men det är 100% sannolikhet att någon kommer vinna en miljon imorgon.

Det är på samma sätt väldigt osannolikt att just det jag nämnde ska ske, men med miljoner olika tänkbara scenarion så blir det helt plöstligt väldigt sannolikt att något av dem ska inträffa.

Folk vinner pengar varje dag på olika platser i världen, men scenariot du först beskrev handlar inte om att det händer på olika platser, och hela tiden. Håll dig till ditt exempel.

 

[Two stroke man]

Ja. Och trafikreglerna sätts av utbildade folk med ansvar för att trafiken ska flyta på, så att samhället kan fungera. Liknande behöver gälla för AI och användning av datorer.

Jag vill försöka trösta dig med att upplysa dig om konsekvenserna av att hantera skyddat innehåll, som musik och filmer, och andra filer på internet. Notera hur förövarna 'omhändertagits' i många fall, i synnerhet i USA där man ser väldigt allvarligt på digitala lagbrott.

AI är inget som kommer att "rymma" eller släppas löst och fara runt som ett galet vilddjur på internet, och i datorer eller mobiltelefoner. Fortfarande är AI ett verktyg, när och var det tillämpas ändras inte. Du ser själv vad det används till idag. Det blir inte värre, snarare hårdare restriktioner ifall man märker oönskade resultat.

.. då var pesten mycket värre.

Vem ska kontrollera att ingen bryter mot de reglerna då?

Ok, vi antar att de 100 största industrierna granskas och hindras från att bryta mot reglerna, men det bolaget som ligger 101 på listan då?
Eller Putin? Han skiter ju fullständigt i såna regler.

Om förmågan att tänka abstrakt krävs för att definiera intelligens så verkar det vara väldigt begränsat med intelligens i världen.

 

[Two stroke man]

Folk vinner pengar varje dag på olika platser i världen, men scenariot du först beskrev handlar inte om att det händer på olika platser, och hela tiden. Håll dig till ditt exempel.

Nej, att låsa in sig till att diskutera ett enda exempel är infantilt och blir bara någon slags anekdotisk bevisföring.

 

[Ulvhamne]

Beträffande punkten att lära sig, tänk dig ett nyfött barn. Har barnet intelligens? Nja, ingen mätbar. Barnet måste först matas med massor av information innan det börjar utvecklas någon slags förmåga att utvärdera och prioritera val. Påminner väl ganska mycket om en dator idag? Den har i princip bara lite lagrad kunskap.

Fast LLMer har inte ens lagrad kunskap.

Kan det nyfödda barnet tänka och resonera? Eller super barnet bara in information?
När barnet efter några veckor, månader har tillräckligt med information kan barnet börja utvärdera information relativt annan information. Ett slags resonerande börjar utvecklas från att bara ha varit information. På vilket sätt skiljer sig det från en dator egentligen?

Ja hjärnan behöver ju mogna en stund innan den ens är redo att börja jobba, men även spädbarn kan lära sig och interagera med sin omvärld i en utsträckning som vida överstiger en LLM.

Tänka abstrakt, nej enligt vårt sätt att se på saken tänker inte en dator precis som det nyfödda barnet, men med tillräckligt mycket information så kommer dator kunna utvärderaa och ta fram slutsatser som bara begränsas av de regler som den programmerats med, att du tänker abstrakt blir helt plötsligt löjligt begränsande i förhållande till en dator som inte har några regler alls utöver fysikens lagar som den fått inprogrammerade. Totalt avsaknad av fördomar i sina analyser(tänkande?) är väl abstrakt om något?

FAst LLMer gör inte analyser, de tänker inte, och de beaktar inte. De tar input, och den inputen viktas och ändras till en output i en fast definierad statistisk funktion. Om det inte vore för slump-generatorn inblandad i apparaten skulle du alltid få samma output för samma input.

Att tänka och resonera är redan egna punkter, så jag tycker inte dom då ska inkluderas under punkten om att lagra information.

Definera "att förstå komplexa ideer"? Om jag definerar ideer så handlar det oftast om att önskemål skapa en modell av ingående parametrar, en modell som sedan presenterar utfall. En dator kan hitta sambanden innan du ens har hunnit ställa fråga eller ens vet varför du vill veta. Så vad är då iden egentligen värd?

Fast LLMen gör inget av det. De är en statistisk modell av träningsdatan. De kan inte resonera, tänka eller dryfta. Om det du vill ha ut av en LLM fullkomligt saknas i träningsdatan kommer du istället att få rent slumpgenererad output. De saknar agens och förmåga att resonera helt och hållet, och kan inte få det eftersom att de sakerna är helt utanför deras tekniska design.

Och vad jag sett av allt inom AI så saknar alla andra nu kända potentiella lösningar det med, alla olika varianter kräver ett sock gnomes business plan- ? steg för att nå AGI, och för att resonera behövs AGI.

 

[uncletom]

Vem ska kontrollera att ingen bryter mot de reglerna då?

Ok, vi antar att de 100 största industrierna granskas och hindras från att bryta mot reglerna, men det bolaget som ligger 101 på listan då?
Eller Putin? Han skiter ju fullständigt i såna regler.

Om förmågan att tänka abstrakt krävs för att definiera intelligens så verkar det vara väldigt begränsat med intelligens i världen.

Nja, ingen kontrollerar användarna enskilt, man får inrätta 'triggers' som reagerar på en viss input från användarna, ungefär som om du skulle köra på rött. Då händer det grejer i korsningen kan jag lova, så har du helt plötsligt 40 nya 'följare' med farbror blå som straxt infinner sig.

Som vanligt när det gäller brott, alltså inte misstanke om kommande brott, så händer inget innan brottet begåtts. Putin är under bevakning, just nu av typ hela världen.

Sen om förmågan att tänka abstrakt anses som intelligens, ja det stämmer. Intelligens betyder inte att man tycker lika. Du kan ha två mycket intelligenta personer som verkligen hatar varandra av bestämda skäl.

 

[uncletom]

Nej, att låsa in sig till att diskutera ett enda exempel är infantilt och blir bara någon slags anekdotisk bevisföring.

Men är generalisering bättre? Prova båda och se resultaten. Generalisering är att förenkla för sig. Du behöver exklusiva variabler för att få önskat resultat, annars kan du använda en tombola och nöja dig med vad som helst. Eller hur menar du?

 

[Two stroke man]

Fast LLMer har inte ens lagrad kunskap.

Ja hjärnan behöver ju mogna en stund innan den ens är redo att börja jobba, men även spädbarn kan lära sig och interagera med sin omvärld i en utsträckning som vida överstiger en LLM.



FAst LLMer gör inte analyser, de tänker inte, och de beaktar inte. De tar input, och den inputen viktas och ändras till en output i en fast definierad statistisk funktion. Om det inte vore för slump-generatorn inblandad i apparaten skulle du alltid få samma output för samma input.

Fast LLMen gör inget av det. De är en statistisk modell av träningsdatan. De kan inte resonera, tänka eller dryfta. Om det du vill ha ut av en LLM fullkomligt saknas i träningsdatan kommer du istället att få rent slumpgenererad output. De saknar agens och förmåga att resonera helt och hållet, och kan inte få det eftersom att de sakerna är helt utanför deras tekniska design.

Och vad jag sett av allt inom AI så saknar alla andra nu kända potentiella lösningar det med, alla olika varianter kräver ett sock gnomes business plan- ? steg för att nå AGI, och för att resonera behövs AGI.

Har inte lagrad kunskap förhindrar inte någon gör det. Om det ens behövs lagrad information när informationen finns lagrad överallt annanstans än just lokalt.

Så vad du säger är att AI inte utgör ett hot idag men det visste vi ju redan.

 

[Two stroke man]

Men är generalisering bättre? Prova båda och se resultaten. Generalisering är att förenkla för sig. Du behöver exklusiva variabler för att få önskat resultat, annars kan du använda en tombola och nöja dig med vad som helst. Eller hur menar du?

AI är just den där tombolan där du inte har någon som helst aning om vad som finns i lotterna och ingen annan vet det heller.

 

[uncletom]

Jag tror att 2-stroke och Ulv talar förbi varandra lite. AI och LLM är inte riktig samma sak.

LLM verkar vara ett sätt att 'lära' datorn saker, att bygga upp en slags 'karaktär' för hur AI ska fungera. Hur det senare implementeras är en vidare fråga.

 

[uncletom]

AI är just den där tombolan där du inte har någon som helst aning om vad som finns i lotterna och ingen annan vet det heller.

Ja, ok, och därför är det viktigt att man hanterar AI varsamt och ansvarsfullt. Precis som när du får ett skjutvapen i händerna.

 

[Two stroke man]

Ja, ok, och därför är det viktigt att man hanterar AI varsamt och ansvarsfullt. Precis som när du får ett skjutvapen i händerna.

Och det är just där våra åsikter skiljer sig, jag har inget som helst förtroende till mänskligheten totalt sett även om jag har stort förtroende för många enskilda individer.

 

[Ulvhamne]

Har inte lagrad kunskap förhindrar inte någon gör det. Om det ens behövs lagrad information när informationen finns lagrad överallt annanstans än just lokalt.

Så vad du säger är att AI inte utgör ett hot idag men det visste vi ju redan.

VAd jag säger är att AI inte är "artificiell intelligens" utan mer av en "mekanisk turk", och att man inte ska lyssna på vad marketing säger.

Det är ett verktyg som vad det verkar för närvarande mest är en "force" multiplier för påverkansoperationer på antisociala nätverk, då det kan generera deep-fakes, användas för att generara stora mängder asn-poster med specifik politisk inriktning.
Som vi sett i fallet Ryssland på Twatter så har det används för att elda på båda sidorna av den politiska debatten där.
Så redan nu kan man väl säga att det är ett verktyg som kan göra stor skada.

 

[uncletom]

Och det är just där våra åsikter skiljer sig, jag har inget som helst förtroende till mänskligheten totalt sett även om jag har stort förtroende för många enskilda individer.

Jodå, jag förstår dig precis. Du är på tårna helt och hållet, och det kan vara bra i flera situationer. Världen är i konstant konflikt, man kan egentligen aldrig slappna av. Det gäller att vara redo, eller i alla fall känna att man är.

Själv är jag väl lite lugnare när det gäller AI då jag också förstår begränsningarna med den, enda oron jag möjligtvis kan känna vore nåt scenario där jag t ex ringer en support på något jag köpt, och blir frustrerad över eventuell loop i konversationen.