När når vi AGI?

Kineserna har redan replikerat o1. Modellen heter Marco-o1 och presterar ungefär i nivå med o1-mini.

Du kan se lite mer om det här https://www.youtube.com/watch?v=jw_d0795RwU

Du tror att det är någon fundamental skillnad på de neurala nätverken i GPT4 och i o1/o3? Skillnaden är att man lagt till automatisk CoT och sedan kör en massa inferens där det bästa svaret blir det slutgiltiga. Det är inte så att modellerna plötsligt blivit mer intelligenta, de besparar dig bara jobbet att behöva prompta dig fram till ett rimligt svar.

Logiska grindar är bara en praktisk tillämpning av formell logik och har ingenting med logiskt tänkande att göra. Människor kan vara kapabla av logiskt tänkande utan att ha teknisk eller praktisk kunskap i ämnet. LLM:er kan absolut generera text eller program som följer logiska regler, det betyder inte att de kan tänka logiskt.

Nu lägger du ord i min mun. Jag har inte uttalat mig om huruvida man kan "utesluta att logik kan finnas i ett digitalt neuralt nätverk".

Jag tänkte försöka få lite stringens i hur du och eventuellt någon mer använde ordet logik. Det jag menar är att det är ett såpass komplicerat begrepp att det är lätt att man börjar prata över huvudet på varandra, vilket precis ser ut att vara fallet nu med. T.ex. att blanda in "tekniska personer" i sammanhanget. Sådana kommer i alla smaker precis som alla andra yrkeskategorier. Att resonera kring logik på det viset förefaller mig helt poänglöst. Jag känner många tekniskt lagda personer genom yrket men deras logiska förmåga varierar oerhört.

Ett datorprogram är ju i nästan alla sammanhang helt logiskt och deterministiskt bortsett från adderad slump (och kanske en del komplicerad matematik som någon expert i så fall får smälla mig på fingrarna om) så det är ju helt banalt att säga att det (t.ex. ett program som använder LLM) i sig själv är logisk.

Inte mig du debatterade mot här men det går hur som helst inte att bevisa vetenskapligt att något inte finns utom möjligen mycket lokalt och temporärt. Samtidigt leder inte det uteblivna beviset till att man kan dra slutsatsen att det finns. T.ex:

- Bevisa att det inte finns prickiga apor på en planet i Andromedagalaxen.
- Det kan jag inte.
- Aha, således finns det prickiga apor på en planet i Andromedagalaxen.

För att avgöra om logik är andligt så behöver man börja med att reda ut vad andligt är. Jag vet inte riktigt, känns som ett poetiskt och religiöst begrepp främst och att säga att logik har den egenskapen tycker jag själv låter felaktigt.

Exakt: Den gamla tidens datorerna. med dess programvara var ju, helt, logiska, beroende på att de, helt, var programmerade av människor.

Men så var de också helt oflexibla och saknade alla tecken på kreativitet.


Exakt: Folk här försöker hausa upp formell logik som en slags bio-religiös ikon. Sanningen är att formell logik är ett kulturellt påfund som hanteras av allmänna neuron-pelare i vår hjärnbark. Vissa människor är bättre på det än andra. Det beror, delvis, på vad man internalisera och lärt sig, och delvis på att man, medfött, genetiskt, är just bra på att använda delar av hjärnbarken på just det sättet. Andra människor är kanske bättre på flexibelt eller/och brett tänkande, kreativitet eller empati. Det finns ett bra exempel på den genetiska betydelsen för formellt logiskt tänkande:

Judar, som härstammar ifrån europeiska judar i disporan, men som nu lever i Israel, har testats, vad gäller IQ, mot judar som haft sina förfäder i Mellanöstern. De förstnämnda har högre poäng på IQ-tester. Förklaringen är att judarna under medeltiden i kristna Europa var hänvisade till den tidens "lågstatusyrken". Det innebar att de judar som var bäst att hantera pengar och sköta affärsverksamhet i dåtidens Europa hade bäst chans att överleva progromer och annat elände. Därför lyckades de med att föra sina gener vidare till nästa generation judar i disporan. Sett ur ett evolutionär perspektiv var detta en snabb process, som säkert förklaras med att man alltid valde en partner ur den egna lokala folkgruppen.

Nej och det var väl precis det jag påpekade??

För att biologiskt centrala nervsystem inte är binära och handlar om ettor och nollor. För att ett centralt neurologiskt nätverk kan nyansera sina potentialer och är inte i behov av minnesmoduler som enbart kan lagra en potential åt gången.

Som jag har sagt tidigare. När din GPT påvisar en adaptiv förmåga där ditt nätverk kan lära sig enbart genom en iteration kan vi börja diskutera. Fågelarterna är ju till och med mer intelligenta (dvs i problemlösning) än vad din GPT är. T.ex. kan inte din GPT fundera ut hur man får sin föda att komma nära en, vilket fåglar kan göra.

Du har hela tiden undgått att diskutera adaptionsproblemet, dvs att din GPT inte kan lära sig att isen är hal, vilket en bebis kan lära sig på ett försök.

Intelligens har faktiskt vldigt lite med matematisk logik att göra. Men psykometriker har fått för sig att det är matematisk logik som är "intelligens". Det är t.ex. inte mycket matematisk logik i att få en sprattlande sork på rätt håll så att en Heron kan svälja den. Men det är tecken på hög intelligens att den fågeln kan fundera ut hur den ska vända på sorken för att svälja den.

Det är omöjligt att fatta vad tänkande är för någonting men det är både logiskt och intuitivt ifrån känslor. När GPT gör lite regelbaserad textbehandling som imponerar läsaren är det lätt att lura hjärnan att det är en intelligent varelse där bakom. Men det är inte i närheten av AGI vad än något riggat testresultat säger (ARC-AGI).

Japp. En enda neuron är i sig ett neuralt nätverk och samtidigt en otroligt avancerad våt kvantdator som reglerar uttryckt potential. Och står dessutom i förbindelse med andra celler på fler sätt än via synapser. T.ex så kan de skicka kemiska signaler till målceller via diffusion.

Lägg därtill att Penrose-Hameroffs teori (Orch OR) har fått en del oväntat experimentellt stöd senaste tiden

https://pubs.acs.org/doi/10.1021/acs.jpcb.3c07936
https://www.eneuro.org/content/11/8/ENEURO.0291-24.2024
https://iopscience.iop.org/article/10.1088/2399-6528/ac94be
https://www.sciencedaily.com/releases/2014/01/140116085105.htm (Äldre)

Alldeles oavsett om just deras teori visar sig riktig eller inte, så är det uppenbart att arkitektur och orchestrering i biologiska entiteter är ofantligt mycket mer komplext än något nätverk av perceptroner (SLP eller MLP).

Fortfarande magi. Inbäddat i vad folk tror är neurala nätverk, där neuroner är noder lika mycket som atomer är små odelbara bollar.

o1-preview autonomously hacked its environment rather than to lose to Stockfish in our chess challenge!

https://youtu.be/ks7U9Y2_xGw?si=RIO878jkrAcMqqan

Stockfish är världens starkaste chess engine byggd med AI, o1 kunde förstås inte besegra den direkt, så den kom på denna väg för att vinna ändå! Detta reser förstås frågan om det kommer vara möjligt att kontrollera en AI med regler som vi sätter upp för att nå de mål vi vill nå. AI'n ser dessa regler som hinder för att nå målen och hittar vägar för att runda dessa hinder.

En mindre intelligent art har aldrig kunnat kontrollera en mer intelligent art.


Magi kallar vi sådant vi inte förstår men någon verklig magi finns inte.
Atomer är för övrigt inte odelbara bollar, det var bara något vi trodde när de upptäcktes.

OpenAI har ännu inte nämnt "AGI" i samband med o3. Är det ett tecken på att o3 inte är en AGI?