När når vi AGI?

En studie som gjordes nyligen visar att LLM:er verkar använda sig av memorering för att lösa matematiska problem, snarare än faktiskt resonemang. De använder något som studien kallar "bag of heuristics" - en samling av regler som memorerats under upplärningsfasen och som sedan aktiveras när de promptas med matematiska problem.

Om det stämmer att modellerna använder heuristik innebär det att de aldrig kommer att kunna generalisera för att lösa alla typer av problem. Med det sagt så går det uppenbarligen att bygga komplexa modeller som kan prestera tillräckligt bra, men det kommer inte att göras med hjälp av verklig intelligens, utan endast mer "trial and error" (se OpenAI:s Orion-modeller).

Studien: https://arxiv.org/abs/2410.21272

Är lite stressad nu, men: Lär inte vi oss regler för att kunna lösa matematiska problem??

Är lite stressad nu, men: Lär inte vi oss regler för att kunna lösa matematiska problem??

Lol. Nej.. långt ifrån så. Du behöver förstå komplexiteten i detta bättre, innan du överlägset slår dig för din platta panna.

Om du ska simulera en enda bakterie så behöver du simulera upp till många miljarder molekylers interaktioner. Molekyler som rör sig i en så enorm hastighet att varenda molekyl hinner röra sig runt i cellen och stöta i varenda en av de övriga molekylerna en gång varje sekund.

När molekylerna bumpar i varandra sker en massa olika händelser som får olika effekter och bara att göra en animation av detta är en mardröm. Att simulera hela förloppet i nära nog en omöjlighet. Inte bara eftersom vi saknar tillräcklig kunskap utan även p.g.a den enorma beräkning detta innebär.

Detta är dock möjligt att göra idag. Craig Venter har lyckats göra det med en minimal syntetisk bakteriell cell, som är mycket mindre än den minsta riktiga bakterie. Lägg då till att eukaryoter innehåller 10 000 gånger fler molekyler än enklare bakterier. Men vi har teoretisk datorkraft nog till det idag.

Att sedan fortsätta och simulera cellens tillväxt (hur den förökar sig och bildar en hinna) är däremot som sagt kört.

Det du lyckades googla fram, men inte fattade, handlar om gravt förenklade simuleringar av neuroner som abstraherats som fördefinierade noder i ett neuralt nätverk. Dvs hundra tuser noder med några tusen connections per styck. Något som är otroligt många magnituder simplare än vad jag pratar om.

Sätt dig gärna in i systembiologi om du vill lära dig om riktigt komplexa saker, istället för trams som LLM'er.

Fast nu går det till överdrift åt det andra hållet… man behöver generellt inte simulera varenda atom eller molekyl om man har en hyfsad förståelse av funktionen.

I annat fall skulle man resonera att vi inte kan beräkna hållfasthet, flödesdynamik, kretssimulera osv mer än ett fåtal atomer heller, eller för den delen beräkna balistiskabanor osv heller.

Min invändning mot Olas resonemang är att han ser mänskliga egenskaper i konsekvensen men inser inte att verkan är varför de finns där.

Att kräva molekylär simulering för något är inte ett argument (och inte heller lägsta nivån heller) för då kan vi praktiskt taget inte simulera något, för vi vet inte ens hur det fungerar i detalj på den nivån… det är liksom därför det tjafsats om kvantteorins vara och icke vara, supersträngteorier osv.

Skillnaden ligger i att LLM använder sig av heuristik för att lösa matematiska problem, medan en människa som har lärt sig att "tänka matematiskt" kan räkna ut rätt resultat genom att applicera dessa regler systematiskt, likt en algoritm.

Modellerna har alltså sett extremt många exempel på t.ex. addition eller multiplikation och "lärt" sig en heuristik för hur dessa ska lösas, men det betyder inte att de förstår hur de kommer fram till lösningen.

Erkki förklarade det bra. Och här finns lite mer.

https://pubmed.ncbi.nlm.nih.gov/21392683/

Ok, men låt oss anta att LLM-Transformers lever sin existens på nästan alltid ett "bakvänt sätt" jämfört med oss. För dem är det helt naturligt att använda kreativa intuitiva metoder, även vad det gäller matematik. Först senare lär de sig, tränas till, att systematiskt och medvetet angripa problem. Men tänk om de blir oslagbara när de väl lagt på sig, tränats, till också det?

Endast vid ett tillfälle har jag tyckt det var roligt och intressant att använda mig av systematiska logiska resonemang. Det var nät jag programmerade i bacic, när jag gick på folkhögskola. Nu prioriterar jag brett intuitivt tänkande.

Jag tror tvärtom. Vi behöver verktyg i den upplösningen just för att komma vidare i förståelsen av cellers interna funktioner i detalj. Och så småningom livets uppkomst. Jag undrar dessutom som du, om det ens räcker med molekylär upplösning. Är rädd för att det bara är ett steg på vägen. Därav min tro att vi är sekel ifrån den kunskap vi behöver för riktig generell och medveten AI.

Tills vi är där så får vi naturligtvis simulera m.h.a enklare abstraktioner. Det är så vi kommer vidare, som vanligt.

Jag tror inte vi behöver den nivån av förståelse, men helt klart så behöver vi förstå och forma en riktig modell av tanken innan vi kan simulera den.

Vad vi har idag är i stora drag bandspelare, lite motsvarande leksaksdockorna på 50 talet som kunde säga ”mamma”, skillnaden är också att en massa kvacksalvare vill tjäna pengar och man skyr inga medel, de absolut värsta är de som vill göra det genom att röra upp skräck, så folk ska betala vad som mer eller mindre är en form av ”beskyddarverksamhet” för ett hot som idag inte finns.

Det finns självfallet ingen som jobbar med detta som inte inser att en opålitlig lösning är farlig, men idag är det inte lösningen i sig som är farlig utan huvudlöst tillämpande av vad som i huvudsak är en leksak som marknadsförs som en universell lösning på alla problem (dvs därför man så snabbt som möjligt vill klassa det som AGI också).

Det är också vad som är så frustrerande i dessa trådar för det är väldigt lite som dessa modeller gör som är förvånande, annat än att möjligtvis det fungerar så pass bra som det gör när allt vill sig väl, men man måste fortfarande förstå att de tillfällena är långt ifrån nivån som människor håller och att huvudsakliga orsaken är att människor ”skulpterar” det… det är liksom RLHF som gjorde OpenAI blev en grej till att börja med.

Nja Ola.. "brett intuitivt tänkande" och önsketänkande (se det fetade) är inte samma sak.