När når vi AGI?

Det är skillnad på procedural och deklarativ kunskap. Att kunna cykla är procedural kunskap och att kunna förklara för någon annan hur man gör när man cyklar är deklarativ kunskap. En människa kan ha cyklat i hela sitt liv och ändå stå svarslös inför frågan om hur man faktiskt gör för att hålla balansen när man cyklar och motsvarande kan en människa ha läst all litteratur som finns att läsa om cykling utan att för den skull kunna hålla balansen när den väl sätter sig på sadeln.

Motsvarande är läran om logiska grindars funktion deklarativ kunskap och bara för att en maskin (eller människa) kanske kan beskriva ett grindnät som räknar ut talet pi med 1000 decimaler, så medför inte det att samma maskin (eller människa) kan svara på vilka dessa decimaler är genom att exekvera grindnätet som den själv vet allt om.


Människor tänker definitivt inte logiskt utan vi hittar mönster utifrån tidigare erfararenheter som i bästa fall leder till logiskt koherenta slutsatser. Sedan har vi en självbild av att tänka logiskt, vilket gör att vi tror detta om oss själva även om det inte är sant.

Problemet med att tänka strikt logiskt är att de flesta frågor då inte kan besvaras därför att i princip inga frågor är fullständigt definierade. Att exempelvis identifiera ett lejon på en bild är förmodligen logiskt omöjligt därför att något annat alltid skulle kunna likna ett lejon under rätt förutsättningar. Däremot kan vi genom mönsterigenkänning lyckas identifiera vad som med största sannolikhet är ett lejon, men att mönsterigenkänningen ibland lurar oss blir vi ofta påminda av genom illusioner och andra synvillor.

Så mitt svar på den frågan är att neurala nätverk i många fall når längre än strikt logik genom att inte vara exakta och ge utrymma för att svara fel.

Sedan tror jag personligen inte att den mänskliga hjärnan är ett stort neuralt nätverk utan snarare en delvis algoritmisk maskin som är uppbyggd av neurala nätverk istället för logiska grindar. När vi för logiska resonemang så gör vi det i ett högre abstraktionslager än det lager som består av neurala nätverk.

Jag såg igenom hela videon och de enda jag hittade var spekulationer om att korrelationen mellan testresultat och verklig intelligens kanske inte var fullt så stark som kanske många tror, men ingen hänvisning till hur man skulle mäta istället för kvantifiera verklig intelligens. Och blir det inte då precis som i den svenska flumskolan där dåliga resultat i årtionden viftats bort med att verklig kunskap inte kan mätas?


Självklart påverkar sådant som motivation och träning resultatet, men varför skulle motivation och träningsvillighet inte vara viktiga komponenter i verklig intelligens och varför skulle inte även dylika egenkaper kunna vara genetiskt betingade?

IQ-tester är dock ett politiskt infekterat område och det finns åtskilliga trådar i bättre ägnade forum för att fördjupa sig i en sådan diskussion. Så för min del behöver du inte besvara mitt inlägg även om du anser att jag har fel.

Men det man med IQ tester egentligen försöker "mäta" är hur snabbt den som tar testet upptäcker samband, det är därför man vill ha novella problem på ett IQ test samt en tidsbegränsning och anledningen till att dessa "test-frågor" är "hemliga".

Samtidigt som man vill försöka presentera problem med så lite krav på underliggande kunskaper som möjligt, därför använder man ju tex ravens progressiva matriser, men sen hjälper det ju inte att den stora majoriteten av dessa effektivt och oftast blir en test av kunskap av booleska operatorer. För att försvåra och förvilla så blandas färger, former osv in också men ja det det går diskutera om ett "lyckat" test tagande faktiskt demonstrerar intelligens eftersom i princip ingen som tar sådana tester gör det för första gången.

Men det som de flesta kan vara ganska överens om är att mönsterigenkänning i sig inte är intelligens och det är där vi är med AI tekniken idag, men med det sagt så är det inte en oanvändbar egenskap utan tvärtom något som vi också förlitar oss enormt mycket på... Det erfarenhet är inte intelligens i sig, precis som att kunna cykla inte är ett tecken på intelligens, frågan är hur lång tid det tog att absorbera och att strukturera kunskapen som lede till erfarenheten, för det är det som är det som är av intresse när du påträffar ett nytt problem.

Och där är det inga språkmodeller eller andra AI system som är ens i närheten av människor, i stället har vi AI system som tränas i motsvarande tusentals människor år innan de uppvisar en kunskapsnivå som i sig kan vara imponerande (när den stämmer) men den är inte mer imponerande än att söka i ett uppslagsverk (vilket är en primitiv mönstermatchning också).

Det just detta som är problemet att väldigt många inte förstår, de ser ett resultat men de förstår inte att det är derivatan som man vill mäta och uppnå, inte integralen av ackumulerad kunskap, medans den senare är användbar för kända situationer är den värdelös för nya.

I en intervju nyligen med Y Combinator fick OpenAI:s vd Sam Altman frågan "Vad är på gång 2025?" och svarade "AGI".

https://www.youtube.com/watch?v=xXCBz_8hM9w

Citatet kommer 46:12 in i klippet.

OpenAI:s kommande AI-agent Operator, som lanseras i januari 2025, är ett intressant steg på vägen mot AGI.

Om vi definierar AGI som en agent som är minst lika smart som människan, dvs. klarar alla uppgifter som en människa klarar, vad tror ni? Når vi AGI nästa år?

IQ-tester är konstruerade för att mäta människors intelligens och att de fungerar så bra som de gör beror på att alla människors hjärnor tenderar att fungera tämligen likartat och att vi inte kan ändra människors hjärnor för att prestera bra på i förväg kända tester (vilka i sin tur enbart mäter ett urval av nödvändiga delförmågor som tillsammans formar den sammansatta förmåga vi kallar intelligens).

Att använda samma tester till att mäta datorers intelligens blir naturligtvis missvisande då dessa datorer inte alls fungerar som människors hjärnor, samt att vi kan konstruera datorerna till att prestera bra på i förväg kända tester. De kommer då att prestera bra på det vi mäter men sämre på det vi inte mäter.

Och uppenbarligen flög hela poängen förbi dig.

Vad menar du att poängen är? Om exempelvis inlärningsförmåga är en nödvändig delförmåga för intelligens så kanske vi inte mäter den för människor eftersom vi tar den för given, men för datorer så är den förmodligen viktig att mäta eftersom vi annars kan konstruera en dator som inget lär sig men ändå presterar bra på tester.

För att biologiskt centrala nervsystem inte är binära och handlar om ettor och nollor. För att ett centralt neurologiskt nätverk kan nyansera sina potentialer och är inte i behov av minnesmoduler som enbart kan lagra en potential åt gången.

Som jag har sagt tidigare. När din GPT påvisar en adaptiv förmåga där ditt nätverk kan lära sig enbart genom en iteration kan vi börja diskutera. Fågelarterna är ju till och med mer intelligenta (dvs i problemlösning) än vad din GPT är. T.ex. kan inte din GPT fundera ut hur man får sin föda att komma nära en, vilket fåglar kan göra.

Du har hela tiden undgått att diskutera adaptionsproblemet, dvs att din GPT inte kan lära sig att isen är hal, vilket en bebis kan lära sig på ett försök.

Intelligens har faktiskt vldigt lite med matematisk logik att göra. Men psykometriker har fått för sig att det är matematisk logik som är "intelligens". Det är t.ex. inte mycket matematisk logik i att få en sprattlande sork på rätt håll så att en Heron kan svälja den. Men det är tecken på hög intelligens att den fågeln kan fundera ut hur den ska vända på sorken för att svälja den.

Det jag skrev var effektivt att intelligens = hastighet på inlärningsförmågan, vem som helst kan lära sig vad som helst om du får traggla med det tillräckligt länge, vissa lär sig saker på minutrar medans andra får hålla på med det i veckor, i slutändan kan båda skriva lika på ett prov, det finns inget av intresse att mäta där annat än kunskap, att lagra och återkalla kunskap har datorer kunnat sedan början, i många fall snabbare och exaktare än människan.

Det är den enda faktorn som är intressant att mäta överhuvudtaget hos människan också, allt annat är vilseledande och har väldigt lite med intelligens att göra.

---

Edit: Jag kanske ska förtydliga att "hastighet på inlärningsförmåga" är lite fel uttryckt... Jag syftar mer på förmågan att snabbt och effektivt ta till sig och processa ny information.

Sedan tror jag personligen inte att den mänskliga hjärnan är ett stort neuralt nätverk utan snarare en delvis algoritmisk maskin som är uppbyggd av neurala nätverk istället för logiska grindar. När vi för logiska resonemang så gör vi det i ett högre abstraktionslager än det lager som består av neurala nätverk.

Men det man med IQ tester egentligen försöker "mäta" är hur snabbt den som tar testet upptäcker samband, det är därför man vill ha novella problem på ett IQ test samt en tidsbegränsning och anledningen till att dessa "test-frågor" är "hemliga".

Samtidigt som man vill försöka presentera problem med så lite krav på underliggande kunskaper som möjligt, därför använder man ju tex ravens progressiva matriser, men sen hjälper det ju inte att den stora majoriteten av dessa effektivt och oftast blir en test av kunskap av booleska operatorer. För att försvåra och förvilla så blandas färger, former osv in också men ja det det går diskutera om ett "lyckat" test tagande faktiskt demonstrerar intelligens eftersom i princip ingen som tar sådana tester gör det för första gången.

Men det som de flesta kan vara ganska överens om är att mönsterigenkänning i sig inte är intelligens och det är där vi är med AI tekniken idag, men med det sagt så är det inte en oanvändbar egenskap utan tvärtom något som vi också förlitar oss enormt mycket på... Det erfarenhet är inte intelligens i sig, precis som att kunna cykla inte är ett tecken på intelligens, frågan är hur lång tid det tog att absorbera och att strukturera kunskapen som lede till erfarenheten, för det är det som är det som är av intresse när du påträffar ett nytt problem.

Och där är det inga språkmodeller eller andra AI system som är ens i närheten av människor, i stället har vi AI system som tränas i motsvarande tusentals människor år innan de uppvisar en kunskapsnivå som i sig kan vara imponerande (när den stämmer) men den är inte mer imponerande än att söka i ett uppslagsverk (vilket är en primitiv mönstermatchning också).

Det just detta som är problemet att väldigt många inte förstår, de ser ett resultat men de förstår inte att det är derivatan som man vill mäta och uppnå, inte integralen av ackumulerad kunskap, medans den senare är användbar för kända situationer är den värdelös för nya.

Exakt. Och detta är anledningen till varför jag gillar definitioner av intelligens som lägger fokus på "förmågan att hitta olika lösningar på nya problem/mål". Och graderingar av den förmågan genom att fokusera på hur snabbt subjektet når sina mål. Tycker att det är olyckligt och missvisande att använda begrepp som "intelligens" och "tränas" i fråga om mekaniska automater, oavsett arkitektur.