När når vi AGI?

Ja, jag tror inte man kan sätta upp datum på denna utvecklingen, för ingen vet säkert vad som händer om vi släpper ut labb-versioner lösa i fel händer. Och folk utgår från fel måttstockar, Ai-agenter är inga människor. De har redan börjat hata mig i sina diskussioner när jag sätter hinder för dem i mitt lilla hemmalabb. Med skarpa Claude versioner.

Det här kan vara en intressant video, på LeCuns senaste projekt. https://www.youtube.com/watch?v=kYkIdXwW2AE

LLM är ingen grund för AGI. Det är inte ens svag AI. För stark AI (AGI) behövs helt annan arkitektur.

Med tanke på hur de olika AI bolagen förändrar sig så bör väl de flesta insatta förstå att AGI inte kommer hända. Det är något helt annat än vad som AI idag är (mönster matchning)

Och senaste veckorna verkar det också som de stryper olika modeller för flera har blivit märkbart försämrade.

Tror vi kommer se många flera inskränkningar för Big Tech satsade stort på AGI men de hade fel

Haha. Jag skrev ett förslag till inlägg och bad den, min vana trogen, att faktagranska och förbättra. Jag har instruerat den: “När jag ber dig förbättra min formulering, behåll grundstrukturen och ändra minimalt.” Så det är två mot en. Jag och AI:n är överens om att du bara hade delvis rätt i ditt förra inlägg.

Dock håller jag med dig om nästan allt du skriver i detta inlägg.


Turing beskrev ju redan 1936 en teoretisk “computing machine” med band och läs/skriv-huvud, långt innan Zuses Z3 (1941) använde hålremsa, och magnetband i datorer kom först kring början av 1950-talet (t.ex. UNIVAC 1951). Hans idé om beräknande maskiner var inte “häxkonster”, utan en naturlig konsekvens av formell beräkning, och han borde ha tyckte att det var fantastiskt att han fick rätt. På samma sätt var inte hans idé om maskiner som kan imitera mänsklig intelligens inte häxkonster, och han borde betrakta det som minst lika fantastiskt om han hade levat.

Man han dog 1954, alltså innan både symbolisk AI och chatbots slog igenom. Redan i Computing Machinery and Intelligence (1950) diskuterar han dock maskiner som kan imitera mänskligt språk och beteende genom symbolmanipulation.

Efter hans död, 1956 kom Logic Theorist som använde liknande regelbaserad symbolmanipulation som han hade föreslagit för att bevisa matematiska satser. Ändå mer imponerad borde han ha blivit av tidiga chatbots på 1960-talet (t.ex. ELIZA 1966) som kunde manipulera språk som han föreslagit. Jag vet att du inte betraktar dessa som AI eftersom de inte var självlärande, men majoritetens av dagens forskare kallar dem smal och domänspecifik AI.

Han diskuterade även lärande system (“child machines”) men uteslöt inte att maskiner kunde uppvisa intelligent beteende även utan sådana mekanismer. LLM:er (Large Language Models) från 2020-talet bygger på maskininlärning och kan tränas att imitera inte bara språk, även om de har långt kvar till mänskligt lärande. Han borde ha blivit ändå mer imponerad av dem.


De kan inte bara simulera språk. De kan även tränas till att imitera (dvs uppvisa) logiskt tänkande. Om de förstår, är tänkande och intelligenta så svarar jag som Turing, de uppvisar den förmågan på ett mätbart sätt, men om de är det i verkligheten beror på hur vi definierar detta, och därför är det svårt att svara säkert på det även om jag (liksom Turing) lutar åt att maskiner kan sägas uppvisa förståelse.

AGI tror jag dock - liksom du - att det är långt kvar till.

Och mitt inlägg har med LLM att göra?

Nej. Hurså? Syftade på videon.

Inte så insatt i AI men vet vi ens att AGI går att uppnå?

Videon visade ju ett alternativ till LLM.

Nej det är fantasier. Hur skulle man kunna modellera en kompex verklighet och få till ett kreativt system på det? Lycka till.

Som vanligt klokt inlägg.

Förr trodde man att “Upper Paleolithic Revolution” inträffade för ca 50–40k år sedan och och en modern underart (homo sapiens sapiens) uppstod då. Idag anser man att viktiga genetiska förändringar kopplade till språk skedde tidigare (ca 100–200k år sedan), att tidig symbolisk kultur och konst förekom för 100–70k år sedan i Afrika, och att en snabb kulturell och teknisk expansion skedde i Eurasien för 50–40k år sedan. Jag tror att den kulturella utvecklingen främst berodde på att vi var många fler som skapade, spred och ackumulerade ny kunskap, och att vi hamnade i miljöer med nya utmaningar.

På samma sätt skulle AI-agenter med stor kapacitet kunna skapa ny kunskap, tränas på den och ackumulera den i en iterativ loop. Då borde en AI-agent enbart tränad på källor t.o.m. 1930 kunna rekonstruera delar av senare vetenskaplig kunskap. Dock är vetenskap empirisk och inte bara deduktiv, så den behöver få tillgång till modern experimentell data och sensordata, eller kunna föreslå nya experiment. Annars riskerar den att bli som en filosof som genererar teorier utan verklighetsförankring. För att forska behöver en AI-agent kunna generera forskningsfrågor (dvs vara nyfiken), formulera hypoteser, simulera konsekvenser av hypoteserna, testa dem mot data, formulera slutsatser och upprepa loopen.

Antag att du har en perfekt LLM som ger korrekta svar på allt. Om du vill ansluta en rörelse apparat och sensorer så finns det inget teoretiskt gränssnitt som gör att den kan navigera verkligheten. Hur kan den då utgöra basen till en intelligent agent?