När når vi AGI?

Man är hyfsat korkad om man tror att språkmodeller är några experter på schack. Förståelsen är minimal och i huvudsak ett resultat av mönster utifrån miljontals exempel på data sekvenser, dvs inte alls.

o1-o3 modellen har gjort det extremt tydligt för alla som inte är extremt korkade att framtida AIs kommer inte vara begränsade till att vara endast en språkmodell.

Den är i princip en avancerad statemaskin. Men "tränad" istället för hårdkodad. Och som med all mjukvara får man sideffekter man måste ha koll på innan man släpper sin mjukvara i produktion.

Ja, där har du en jättebra poäng.
Men det är ju inte alls så Open AI hanterar sin bångstyriga mjukvara.

Japp. Inte bara OpenAI skulle jag säga. Fast det gör å andra sidan inte så mycket eftersom de bara används för att generera text och media.

Rapporter om att o1 inte alls kan resonera.

New AI Research Proves o1 CANNOT Reason!

https://m.youtube.com/watch?v=C6C5kekg8-o

Vi är långt ifrån AGI. Om vi någonsin når det, så kommer det inte vara genom dessa enkla språkmodeller, utan förmodligen något mer likt våra egna hjärnor när vi väl lyckats förstå hur de fungerar. Och då talar jag inte ens om AGI på mänsklig nivå, utan på exempelvis en katts nivå. Om vi kunde stoppa en språkmodell i huvudet på en katt så skulle den vara död på nolltid, även om den säkert kan spotta ur sig en övertygande uppsats om relativitetsteori utan problem. Generell intelligens kommer att kräva ett paradigmskifte.

Japp ca 30 procents försämring när det kom till de matematiska problem som de ändrade lite på

Apple gjorde en liknande test, men med logiska "vardagsproblem", där man bara t.ex ändrade namnen, typ: Ifrån "Anna har fyra hinkar vatten... " till "Karin har fyra hinkar vatten..."

Och då inträffade det något intressant vad gäller de olika testerna för ChatGPT-4o:

Vad gäller det ändrade matematik testet så var modellen, sämst, i klassen: 44 procent försämring. Men vad gäller de logiska "vardagsproblem som ändrades så var ChatGPT-4o istället, bäst, i klassen: Blott 0,3 procents försämring.

Detta säger en hel del om vilka problem brett tänkande är bra för, och vilka problem det inte är bra, för.

Självfallet så är ChatGPT-4o tränad att vara trevlig och diplomatisk, det är ju självklart. Men det är inte det jag pekade på: Det jag pekade på var att, grundfunktionen hos o1-prewiew o1, 03 modellerna är att, först, analysera rationellt och logiskt, steg för steg, och först, därefter, "se sig om" bredare. Detta, i motsats, till ChatGPT-4o som "ser" brett men kommer med ett mindre precist svar. Å andra sidan är den modellen mer kreativ, och lämpar sig därför bäst för sådana uppgifter som att producera,nya hypoteser och hitta oväntade samband.

Vad gäller definitionen av "social" tror du att interagerande med djur ingick i en sådan definition när sociologi grindsdes på 1800-talet? Nej, för då var synen på djur annorlunda än idag. På samma sätt så kommer synen på AI att ändras och därmed definitionen av vilka existenser vars interaktioner räknas som "sociala".

Jag har heller inga som helst problem med att AI fabricerar och simulerar att de är sociala. Tvärtom så tillhör det deras grunduppgift. Men sett till grundläggande funktion, men på relevant metanivå så är LLM-Transformers också, de facto sociala, oavsett om de hunnit inkluderas i någon definition eller ej: De interagerar språkligt med människor, de försöker uppfylla de förväntningar de bedömmer varje enskild användare har utifrån kontext i aktuell chatt-tråd, och de är, de facto, redan, sociala aktörer i samhället, trots att de saknar nästan all autonomi.

Slutligen testen du föreslår: Jag förmodar att du vill att jag promptat o1. Och, ja, modellen skulle säkert göra sitt bästa, men det ändrar inte modellens grundläggande funktionssätt: att, först resonera rationellt och logiskt...
Det är ungefär som om jag skulle "prompta", dig: "Tänk först hollistiskt...", vilket du inte verkar klara av. Och detta förklarar faktiskt mycket: För du verkar, (och har även uppgett det i ett tidigare inlägg), först tänka rationellt och logisk. Då kommer du fram till det, inte felaktiga slutsatsen att "vi inte kan kontrollera, AI som är smartare än oss själva". Först, därefter, "ser du dig omkring". Och vad ser du då? Jo, en massa skräckscener ifrån diverse sci-fi stoff.

Nu tror jag Iof att det t. ex går att kompensera ett relativt lågt IQ med brett tänkande, så länge det inte rör sig om rena matematiska uppgifter utan om "vardags logik". På samma sätt kan högt IQ, inte kompensera för brist på hollistiskt tänkande, men väl genom rationellt och logiskt resonerande avskräcka ifrån att ge sig in på de hollistiskt och kreativa "tassemarker" man inte behärskar fullt ut själv.

Jag är helt enig. Det svåra med insikt är inte att ha koll på vad man vet. Det svåra är att ha koll på vad man INTE vet. Enfaldiga eller hoppfulla människor har sedan urminnes tid trott att intelligens ska uppstå av sig själv i allehanda mänskliga avbilder man skapat. Från Wodoo till gråtande Marior till LLM.

Idag har vi lika lite koll på hur våra hjärnor fungerar, eller hur biologiskt liv uppstår, som vi hade för 5000 år sedan. Vi har förvisso skrapat en aning mer på ytan och kan se fler detaljer därunder. Men fattar fortfarande noll om hur saker hänger ihop, hur de orkestreras eller varför.

När man förstår detta så förstår man också varför AGI är extremt långt bort.

En humanoid mördarrobot kan kontrolleras med instruktioner/kod som är, eller kan kompileras från "bara text". Du bör alltså stryka den falska säkerheten, "det är bara text". Text är inte ofarligt. Pennan är mäktigare än svärdet.

Vad händer med ditt inlägg ovan om vi byter ut orden holistisk och brett till optimistisk? Ingenting händer, innebörden av ditt inlägg blir exakt densamma, ingen fakta har förändrats genom att du ändrar ordet. Du är extremt optimistisk och du försöker övertyga mig om att bli lika optimistisk genom att du sätter in ord som holistisk i stället för optimistisk. Men allt bygger ju ändå på din högst subjektiva åsikt om vad språkmodellerna innehåller. Vi lär oss inget nytt om detta ämne när du väljer ut speciella adjektiv för att uttrycka din optimism. Att vara optimistiskt verkar ofta trevligt och sympatiskt. Men det är inte synonymt med brett eller holistiskt.