När når vi AGI?

Du är så dum så det finns inte.

Du menar att Jürgen Schmidhuber inte vet vad han pratar om som lagt flera livstider av Sheygyu på AI forskning.

”@SchmidhuberAI
Some claim that AGI is here now. Ridiculous. No AGI without mastery of the real world! No true self-improvement without self-improving hardware, as opposed to the already existing, self-improving, meta-learning software [DLH].

Quote from Sec. 20 of [DLH]: "As I have often pointed out, the only AI that works well today is AI in the virtual world behind the screen, for example for automatically summarizing documents, creating images, programs and PowerPoint slides. But there is no AI-controlled robot that can do what a plumber can do [DYS23][JY24], or what a capuchin monkey can do, because the physical world is much more demanding than the world behind the screen. Passing the "Turing Test" [TUR3,a,b][TUR21] is much easier than True AI or Real AI in the physical world [95-25]. Hence the Turing Test is not a good way of measuring intelligence. To achieve True AI, AI software research per se is not enough, it has to be combined with the physical world of machines and robots. No AGI without mastery of the real world!"

[DLH] J.S. Annotated History of Modern AI and Deep Learning. Technical Report IDSIA-22-22, IDSIA, Switzerland, 2022 (updated 2025). Preprint arXiv:2212.11279 people.idsia.ch/~juergen/deep-…”

https://x.com/schmidhuberai/status/2097054616471150735

En av de mest respekterade AI forskarna i världen, som dessutom ensamt drivit fältet framåt återkommande.

Han är på det hela taget rätt positiv till AI. Jämför det med övergången från kemi till biologi osv minns jag. Eftersom dom redan är med och designar nästa generation av chip, kernel, datacenter, sina egna algoritmer med mera är det inte långt borta. OpenAI tror dom är klara inom något år med en automatisk AI-skapande AI. Snart kommer dom ha tillgång till miljoner med kameror i alla telefoner, och egna robot-kroppar, erfarenheterna från dessa kan sedan kopieras och måste inte läras in om och om igen som hos människor. Stora datacenter kommer ha robotar som kan flytta runt hårdvara och koppla om kablage vid behov. I vissa fall är det fortfarande snabbare att köra ett rack med hårddiskar en sträcka än att skicka allt i fiberkablar. Sådana filosofiska resonemang om text-editor och kinesiska rummet var mer intressanta för 30 år sedan när det fanns 1000.000 ggr mindre CPU/GPU än idag. Du kan inte skylla på att en tiger är en komplex biokemisk beräkning när den äter upp dig.

Schmidthuber vill ha riktig AI, inte det här tramset som marknadsförs som det.

Ja det kommer de nog, och det kommer springa runt enhörningar som fiser regnbågar också för my little ponny var populärt på 90 talet.

Riktig AGI/ASI kommer aldrig finnas. Riktig AI opererar i den fysiska verkligheten.

Kanske kan man få något bli riktigt "smart":

LLM = osmart -> AGI = smart -> ASI = supersmart

Varför skulle det aldrig kunna finnas? Det finns bara ett enda sätt det går utesluta och det är att vi som i mänskligheten missat något väldigt fundamentalt i naturen och så kan det mycket väl vara, men just nu finns det inget som talar för det alls.

Däremot så är det solklart och uppenbart att den idioti som vi kallar AI idag är fel sätt. Det är som att dressera myror för att skjuta kundvagnar.

Det är svår överkurs men. Det är ju det om intelligens är fundamentalt i naturen. Alltså kan ej beräknas. Penrose, Gödel m fl.

Det har aldrig vare sig Penrose eller Gödel sagt, de påstår att det möjligtvis inte är beräkningsbart av traditionella datorer, men varenda levande individ sitter uppenbarligen på en sådan biologisk "dator" så det är klart det går.

Jaså?? Nu kan biologi vara ett starkt emergens fenomen då är det inte åtkomligt för några fysiska simuleringar.

Ja, du kan ge den kontroll över din dator och be den att vara kreativ medan du sover. Då kan den hitta på egna saker.

Men du hittar ju på egna argument nu.

Det pennrose säger (och som jag håller med om helt) är att det som kallas artificiell intelligens är felaktigt namngett för det handlar inte om intelligens alls, hans perspektiv är att intelligens är något som kräver ett medvetande och att vara medveten om vad det nu är man behandlar. Han tror medvetandet är en konsekvens av en okänd fysikalisk egenskap och han brukar dra tillståndsreduktion som exempel, för det är en del av kvantfysiken som vi inte förstår alls fortfarande idag trots över 100 års forskning på området.

Det är också grunden till att han och stuart hameroff skrev detta där de spekulerar i om medvetandet kan uppstå genom kvantumeffekter i mikrotubuli i hjärnan. Det finns inga belägg för att detta existerar eller pågår och det är synnerligen svår testat, men det är ett "briljantsätt" att dra in tillståndsreduktion som en hypotes i sammanhanget.

Jag håller däremot helt med om att det som kallas AI idag har inget med intelligens att göra, det är en blackbox karikatyr av vad man tror en hjärna gör, att den förutspår händelser. Och det är inte så konstigt för det är den skenbara effekten av att lära sig saker, men det är här det blir knepigt för det enda sätt vi kommit på sedan hundratals år att förutspå framtiden är statistik, problemet är att statistik ackumulerar och framhäver trender men inte detaljförståelse för något, det har aldrig gjort det.

Den AI vi har idag (alltså neurala nätverk) är som att jämföra med keyboards med samplingar, det kan låta som en trumpet när du trycker på tangenten men det finns inget som fungerar som ett trumpet inuti kretsen, eller säg ett piano, på ett riktigt piano om anslår två tangenter på ett riktigt piano med dämparen nedtryckt så får du sympatisk resonans där andra strängar börjar svänga, samplingar missar helt detta, precis som det inte kan fånga läpp eller lufttrycks dynamiken på en trumpet.
Det du kan göra är så klart att spela in mer och mer samplingar för att försöka täcka varje tänkbart scenario men även om du så skulle spela in miljarder samplingar så kommer det aldrig bete sig som på riktigt, även om det låter så för ett otränat öra.

Och deep learning är inte helt olikt detta egentligen... det är just därför AI kan verkar så "intelligent" när du frågar det något ena sekunden, nästa är det totalt pantat och missförstår/misstolkar varenda formulering, "drar slutsatser" som inte alls överrensstämmer med vad som skrivs osv. Det är skenbar intelligens eller som Roger Pennrose sagt "artificial cleverness".

Men samtidigt för att vända på hela premissen, pratar man musik instrument så blir det genast mycket mer realistiskt och i många fall extremt trovärdigt om man matematiskt modellerar (även om inte heller det är exakt så är det en approximation på en finare nivå) individuella komponenter, tex strängarna i pianot, resonanslådan, anslag osv, samma sak med blåsinstrument som trumpet. Det är fortfarande inte byggt som ett piano eller en trumpet på något sätt, det fungerar inte lika alls men slutresultatet är väldigt nära om inte i stort sett omöjligt att särskilja.

Det finns absolut ingenting som inte säger att exakt samma fenomen skulle kunna vara sant i en eventuell framtida AI arkitektur, det finns som sagt massvis med experiment på sådant redan som SNN osv där man gör just detta, man försöker modellera hjärnans observerade processer mycket nära vad man förstått av dom...
Men det stora problemet är att tex SNNs är långt tyngre än vad traditionell ML/DL är och det andra är att vi har fortfarande inte förstått hur mekaniken bakom lärandet faktiskt fungerar, SNNs är ökända för de är svåra att träna och därför blir resultatet inte övertygande även om det är en modell som är mycket närmare vår faktiska biologi.

Att säga att "riktig intelligens" går inte emulera är extremt kortsiktigt, det finns så mycket i historien vi trodde vi aldrig skulle kunna göra som vi hittat på sätt att göra, vi kan testa flygplan och allt möjligt utan att ens byggt en enda komponent fysiskt med liknande del simulering, vi simulerar inte ens atomnivå på något av detta utan det blir tillräckligt verkligt för att fungera i praktiken ändå.

Och detta är också kanske något som är ganska talande.

Cortical Labs som gör precis motsatsen mot AI, man omprogrammerar hudceller till att bli nervceller och odlar små konstgjorda hjärnor som det experimenteras på. Och det som är kanske mest fascinerande är att de lär sig ofantligt mycket snabbare och effektivare än vad artificiella neurala nätverk gör.

Jag har inte tittat på hela detta klippet så kanske sägs eller inte i det, men jag läste rapporten och de här små hjärnorna lärde sig spela pong snabbare än något artificiellt nätverk vi någonsin byggt, ändå är strukturerna av tekniska anledningar mycket simplare än biologiska hjärnor eftersom cellerna måste ligga på ett 2d plan för att elektroderna ska få kontakt, en biologisk hjärna är normalt sett "byggd i 3d".

Det är så klart inte något som kan bli någon kommersiell produkt av eftersom de här odlade hjärnorna håller ungefär 6 månader innan de är förbrukade, men det kan definitivt vara bra forskningsunderlag för att göra bättre artificiella modeller.

https://www.youtube.com/watch?v=yRV8fSw6HaE