När når vi AGI?

Men videon handlar inte om LLMs alls?

Det finns inga perfekta LLMs så där har du rätt, LLMs är en idiotisk teknik som tilltalar de som inte förstår bättre, de som tror att "det löser de". De som går på tech demos och stagade presentationer, de som inte fattar att det de skakar på ovanför sina huvuden kastar ur all möjlig skit via springan. Samma folk som sitter och stoppar in pengar i Jack Vegas automater och tror de ska bli rika snart.

Nä just det talade emot LLM.

Okej ja, Yann LeCun är en av de som inte har huvudet uppe i röven och försöker låtsas att den här sken hederliga pontzi tekniken är något annat än för bedragare att lura av mindre begåvade sina pengar.

Det här är för övrigt en youtuber som faktiskt vet vad han pratar om. Man hade önskat mer av mänskligheten förstod det i stället för att stå att heja på gubbtjuvar som Hinton osv, som stulit i stort sett allt han är känd för, och till råga på allt fick nobelpris i FYSIK, som är så skrattretande att man knappt vet vad man ska göra. Det är lika relevant som att Baben Larsen skulle bli Miss Universum, men det är så klart pengar i kulisserna som avgör vad "oberoende" organ som nobelkommittén kommer fram till.

https://www.youtube.com/watch?v=1qjn1QRxlng

Modeller jobbar med reella tal som kan ha godtycklig upplösning. Det duger som gränssnitt för överföring av vad som helst.

Det är inte säkert. Kanske bara behövs små utökningar. Några saker som en hjärna har är ju förmågan att minnas saker, och att uppdatera sin bild av verkligheten. Viss form av minne finns ju i agenter nu, men förmågan att uppdatera modellen under användning (att lära sig själv), den aspekten finns inte med ännu.

Varför skulle det inte finnas ett tekniskt gränssnitt mellan LLM och robot?

Basen för en människas tänkande är hjärnan, men hon behöver även en kropp. Hon kan vara lam, döv eller blind, men behöver åtminstone ha något sinne intakt för att navigera verktligheten. Direkt eller via verktyg.

På samma sätt är AI-agentens bas ett LLM, men den består även av verktyg som har kontakt med omvärlden, t.ex. sensorer, robotik, nätverksaccess. Den har en loop som reagerar på sensordata, internetdata eller empirisk forskningsdata från omvärlden, förändrar prompten utifrån det om och om igen och agerar. Vad skulle hindra att man kan träna den att vara nyfiken, att formulera forskningsfrågor, att använda verktygen för att utföra experiment för att besvara frågorna, eller be människor utföra experiment, och sedan dra nya slutsatser och på så sätt skapa ny kunskap? Därefter kan den potentiellt träna en ny generation LLM (child macines) med den nya kunskapen den har skapat.

Menar ni att ett LLM besitter en artificiell kognitiv förmåga som gör att den skulle kunna navigera verkligheten?

Hur går den ifrån text symboler till att representera verkligheten som den är beskaffad? Och hur kan text symboler utgöra ett gränssnitt till verkligheten?

"Navigera verkligheten" är ett abstrakt begrepp. Det kan tolkas som allt ifrån självkörande fordon, till att navigera sig fram på livets svåra väg. Jag väljer att tolka det som det första.

En AI-agent dvs en loop som innefattar ett LLM m.fl. verktyg kan potentiellt styra ett självkörande fordon. Exempel på andra verktyg som kan krävas i agentloopen är programvara för bildanalys.

Det kan det väl finnas om roboten skall prata.

Men annars är väl behovet av en koppling mellan robotens stegmotorer och en språkmodell lite oklart.


Jag ställer mig lite tveksam till hur språkmodellen skall styra stegmotorerna.

Om jag drar detta lite in absurdum så frågar jag mig hur en LLM skall styra roboten efter att ha tränat på HC Andersens sagor.


Säger någon att man kan ha ett NN som styr en robot så köper jag det. Men då lär det inte vara en LLM.

En LLM-AGI-agent torde vara komplett omöjlig.