När når vi AGI?

LLM:er kan inte räkna bokstäver i ord. Testa att skriva "Hur många 'r' finns i ordet "grattis"?" till ChatGPT eller o1 till exempel.

På ett liknande sätt som människor. Om du ska räkna ut 8×3 då laddar du "matematikprogrammet treans gångertabell" och du slår upp i programmets lookup-tabell att ['8×3'] == 24. Detta är ett ganska ineffektivt program. Ett mer effektivt och flexibelt program är att helt enkelt exekvera 8×3 med logiska kretsar som en CPU gör.

Det verkar alltså som att det vore en fördel och en möjlighet om en AGI löser vissa problem med Python eller något annat språk än att den har "lookup-tabeller" för svaren till alla matematiska och logiska problem.

Blir ingen AGI alls, förens man förstår hur medvetandet fungerar.
Sen när ni förstår hur det fungerar så fattar ni att ingen dator kommer fungera på det.

Jag får svaret att grattis innehåller två t och ett r. Med alla ChatGPT-versioner. Oavsett om jag ber den svara direkt ellelr skapa ett pythonprogram som räknar antal bokstäver.

Däremot svarat Microsoft Copilot fel.

Har du testat nyligen?

Ja. Ibland svarar den rätt

Den lär sig säkert rätt svar utantill när tillräckligt många frågar om samma ord. När jag frågade om ett påhittat ord som inte finns på nätet gjorde den ofta fel. Jag fick be den skapa och köra ett pythonprogram för ändamålet. Det klarade alla chatgpt-versioner av.

Sam Altman sade som sagt att AGI är det som kommer nästa år och de har konkurrens av Google och Anthropic. Jag tror att OpenAI redan utvecklar en annan sorts text-genererande modell. De är nog medvetna om LLM:ers begränsningar.

Årets nobelpristagare inom fysik, Geoffrey E. Hinton ("AI:ns fader"), har förutspått att de når AGI om 5-20 år. Han var bra häromkvällen tycker jag i Carina Bergfelts program, och där pratade han om att det kan dröja 20 år. Jag tror att den kan bräcka många människor inom många områden inom 20 år, men att det kan dröja längre innan den uppvisar samma kreativitet och innovationsförmåga som de mest brillianta inom sina områden. Dock menar han att LLM redan idag förstår språk, vilket jag håller med om, och att inget hindrar att de kan uppvisa känslor i framtiden. Han berättar att det redan finns försök med AI-agenter baserade på LLM, dvs som kan agera på nätet på egen hand.

Jag skulle vilja se siffror på hur nära mänsklig förmåga en LLM har kommit på olika nivåer och hur nära den är AGI. Hur stort IQ har den uppvisat, vilken hacker-rank får den i hackertävlingar, på vilken nivå av universitetskurser har den klarat tentor med problemlösningsuppgifter, hur rättvis är AI-assisterade domar jämfört med en normal tingsrätt (hur många av dess domar skulle överprövas av hovrätten), hur bra svarar den på frågor jämfört med 1177:s sjukvårdsupplysning eller jämfört med en allmänläkare, om den får tillgång till min journal? Har den någon gång kunnat självständigt utveckla, forska eller vara innovativ och kreativ, t.ex. genomföra studentprojekt på universitetsnivå med minimal mänsklig interaktion, inklusive att både formulera och besvara forskningsfrågor, och att verifiera resultatet?

Hur många rader fungerande kod har en AI kunnat producera åt dig som mest med minimal mänsklig interaktion? Jag har själv använt den till att producera hundratals rader långa program, men då har jag fått säga till flera gånger att den har gjort misstag och be den korrigera och successivt lägga till med fler funktioner. Tar lång tid.

Kommer såklart aldrig att hända, AGI kan aldrig bli intelligent

Exakt, den mänskilga hjärnan kommer aldrig att kunna återskapas på konstgjord väg, även om nu nobelpristagaren tror det, men så är han fysiker och inte medicinare eller rättare sagt neurolog så hans uttalande faller ju givetsvis platt i det avseendet.

Dessutom är Hinton en scam på många sätt...

Dokumenterat här av Jürgen Schmidhuber

https://people.idsia.ch/~juergen/physics-nobel-2024-plagiarism.html

Jag satte verkligen kaffet i halsgropen när dom meddelade att han skulle få nobelpriset, och för att inte tala om när jag såg på programmet snillen spekulerar, han resonerar som en 9 åring, har han verkligen så lite koll på hur en mänsklig hjärna fungerar? Det var smärtsamt pinsamt och man såg både på de andra pristagarna och hon som ledde programmet att något inte stod rätt till.
Notering till kommiten nästa år, ge priset till någon som är någonlunda verklighetsanknuten med riktig forskning och till något som vi faktiskt kan ha någon vettig nytta av.