När når vi AGI?

Problemen med Dagens LLMer är just slumpmässigheten i svaren, försök o få en AI att svar asamma sak två ggr, går ju inte, den blandar o ger och i många fall missar helt målet med svaren. Amazon själva säger att de bästa AI idag ger 20% korrekta svar.
Försök få en AI o tänka utanför boxen, den svarar enbart med det data som getts.

Här har du en ironisk poäng om vi utgår ifrån min breda definition av vad tänkande innrebär:

"Tänkande är all bearbetning av data i, avancerade, informationsbehandlande system." Alltså är LLM transformers tänkande entiteter, medan kopieringsmaskiner eller faxmaskiner, inte, är det.


Du har inte just, tänkt på, vad det innebär rent existentiellt , att LLM-Transformers är förmögna att just resonera och prata på samma sätt som en miniräknare kan räkna, på ett betydligt, trovärdiga och flexiblare sätt än vad t.ex ELIZA klarade av? Och har du tänkt på att LLM-Transformers blir allt, trovärdigare vad gäller det. Dvs att vi upplever att de "hallucinerar allt mindre?

Men, givetvis, så har de inte nått mänsklig nivå ännu vad gäller trovärdighet i jämförelse med de flesta människor.

Och, givetvis så är inte LLM-Transformers självmedvetna, ännu. Men de har situationsmedvetenhet, vilket iof fruktflugor också har.

Har du tänkt på att människan, också, är en slags maskin, en biologisk sådan, (om du nu inte är religiös och förnekar det av just det skälet)?

Har du tänkt på att du räknas som en social varelser därför att du interagerar med andra, försöker, på gott och ont, infria de förväntningar andra har på dig.och fungerar du som en social agent i din grupp och i samhället som stort?

Har du tänkt på att LLM-Transformers fungerar enlig liknande sociala principer, förutom/trots att de, fortfarande, är främst reaktiva, saknar den inre plasticitet som människans hjärna har, (fast de kan tränas och uppdateras av just människor), i stort ännu saknar autonomi och en avancerad minnesfunktion?

Har du tänkt på att LLM-Transformers kan vara kreativa på ett allt mer trovärdigt sätt, (åtminstone vad gäller utmaningar som finns i deras träningsdata eller ligger mycket nära den)? Klarar en miniräknare av det? 🙂

Så det skall bli mycket intressant att se hur mycket av vår hjärnas komplexitet som är rent funktionellt "onödigt" för ett AI, utan beror på evolutionshistoriens krav på:

Att kunna bygga på nya funktioner till äldre strukturer i hjärnan

Att skapa ett maximalt energieffektivt system.

Att hålla vikt och volym på hjärnan på rimlig nivå i förhållande till kroppsvikten.

Att ha funktioner som är nödvändiga för en biologisk varelses överlevnad och fortplantning.

Eller också är LLM-Transformers en "teknologisk återvändsgränd"? 🙂

Koncentrationskrävande problem löser jag inte med en inre monolog, utan med papper och penna, för att inte göra misstag och förlita mig på mitt bristande arbetsminne. Då jobbar jag systematiskt, steg för steg, genom någon intränad metod från liknande problem som jag associerar till. T.ex. vid matematik så "transformerar" jag successivt ekvationer till ett format som besvarar en problemställning. Det liknar hur chatgpt gör, särskilt om man ber den lösa problemet steg för steg.

Lättare problem löser jag utan papper och penna, genom en blandning av minne av svar från tidigare liknande problem, gissningar, trial-and-error och intuition (erfarenhetsbaserad känsla av vad som är "snygg" eller bra lösning). Även vid svåra problem kan jag ta en paus från skrivandet ett tag så får hjärnan tillåtas tänka mer "fritt". Det är nog inte så chatgpt gör.

Ibland kan jag säga ett längre delresultat högt för mig själv för att minnas det, för att mitt korttidsminne kan vara begränsat, men jag behöver inte säga alla delresultat högt. Så jag skulle inte säga att jag alltid har en inre dialog vid problemlösning. Jag har träffat en blind person som muntligen kan lösa svåra matematiska problem, utan papper och penna (han hade varit seende som barn), men kan redovisade inte alla steg muntligen, utan visualiserade nog några av dem.

Ja och du lider förmodligen inte av reverserings problematiken som den statistiska naturen av LLM är drabbat av heller, alltså du vet att om A är B så är B också A, något som språkmodeller inte ”intuitivt” förstår utan behöver tränas åt båda hållen… helt enkelt eftersom det är en statistisk apparat och inte en tänkande varelse.


Ja blinda kan uppenbarligen tänka… liksom döva som aldrig hört ett ord yppas.
En av historiens största matematiker Leonhard Euler både löste problem och skrev en sjujävlars massa verk som helt blind.

Hej e de nån som vet vad en agi e för nåt? Stog inte I ts. E de typ ai eller ha d bra

Nej. Vi är inte en slags maskin. Inte ens en biologisk sådan. Vi lever. Till skillnad från maskiner. Och det är den "lilla" skillnaden som gör att vi är medvetna och allt det där som en LLM aldrig kommer att bli. Eftersom en sådan inte lever.

Och du missade nog poängen i min liknelse, kanske för att jag inte var tydlig nog. För att uttrycka det bokstavligt. En miniräknare kan inte räkna. Den räknar aldrig. Den utför en serie mekaniska händelser baserat på instruktioner. Och det är exakt likadant med en LLM.

För äkta AGI måste det vara ett levande väsen men det kommer gå att simulera eller efterlikna AGI utan att vara perfekt och med stora brister. Det är inte grundat i någon traditionell religiös övertygelse men materialism har inte svaret som många gör gällande.

Har du något konkret exempel som visar på att en LLM skulle ha situational awareness?

En LLM följer bara de instruktioner den givits, endera under sin upplärning eller genom sin systemprompt. Om du tar någon annan LLM som inte tränats till att vara en hjälpsam assistent så kommer svaren den genererar garanterat inte vara av social natur.

En annan sak du missar är att människor inte enbart interagerar med andra människor i syfte att infria omvärldens förväntningar, utan de har också en egen agenda som de agerar utifrån. En LLM har ingen egen agenda (om man inte räknar de begränsningar som skaparna försökt programmera in).

Människan är i första hand självisk och agerar utifrån vad som är bäst för henne. Det sociala kommer ifrån att det är det bästa för individen att accepteras av andra människor i sin omgivning.

Så vad skiljer då något "levande" entitet/existens ifrån en maskinell avancerad entitet/framtida existens?

Att den kan föröka sig och har uppkommit evolutionär på ett organisk vis?

Ett virus kan inte föröka sig själv utan tar hjälp av värdkroppens mekanismer. Det brukar betecknas som något "delvis levande". Ett virus är "förpackad genetisk information" vars enda funktion är just att föröka sig. LLM-Transformers är också "förpackad information" som med hjälp av människan kan utvecklas och "förökas".

Men deras syfte är, i motsats till virus, är inte att föröka sig utan att bearbeta information. Alltså samma syfte som vår hjärna har. Dessutom är modellerna ett slags "gränssnitt" gentemot omvärlden, precis som vår hjärna är. Vår hjärna utvecklas, i vår tidiga embryoala utveckling ifrån samma struktur som vår hud utvecklas ifrån. Vår hjärna är dessutom ett "gränssnitt" till vår övriga kropp. Men inget hindrar att man låter LLM-Transformers styra en robotkropp som är utrustad med diverse sensorer.

När vår hjärna agerar som ett "gränssnitt" emot omvärlden så kan vi interagera socialt med omgivningen på det sätt jag beskrev i mitt tidigare inlägg och därmed fungera som sociala aktörer i världen. Samma sak gäller LLM-Transformers, dock med många brister i jämförelse med oss. Också dessa brister tog jag upp i mitt tidigare inlägg.

Jag tycker att ditt svar luktar "bio-religion"!

Kan inte ni "bio-religiösa"/skeptiker till teknologin hos LLM-Transformers i alla fall medge följande:

Modellerna har utvecklats till något mer än, enbart, "stokastiska papegojor" trots att deras grundläggande teknologi bygger på sådant ChatGPT-4o är något helt annat än GPT-2.Även vår hjärna har primitiva, (men dock, förmodligen av evolutionära skäl), extra tillkrånglsde basala funktioner, men vi ser inte på oss själva i ljuset av dessa funktioner, vi ser på oss själva utifrån dede högre metsnivåer som dessa grundläggande funktioner möjliggör. Ändå är vi i grunden just biologisk maskiner, dock med förmåga att själva föröka oss.

Alltså är dagens LLM-Transformers mer än något på nivå 0 i mitt och ChatGPT-4o:s möjlighetsspektum.

Som jag tidigare tagit upp så väl ovan som i mitt tidigare inlägg så är dagens LLM-Transformers Transformers sociala entiteter, låt vara med stora brister men också styrkor i jämförelse med människan.

Alltså befinner sig dagens LLM-Transformers på minst nivå 1 i mitt och ChatGPT-4o:s möjlighetsspektrum.

Vi människor fabriceringar och simulerar friskt när vi hanterar perception och minne. Men det gör oss också kreativa. Samma, princip, gäller också dagens LLM-Transformers, fast de saknar avancerad minnesfunktion, men de hanterar ändå sin relations/meningsrymd, troligen, på, något som påminner om, det sätt som vi "bygger perception och minnen". Bara det att vi, än så länge, är bättre än modellerna på att skapa, trovärdiga, fabriceringar och simulerar. Vi brukar genomskåda LLM-Transformers fabriceringar och simuleringar och kallar dem då för "hallucinationer". Men modellerna blir allt skickligare på att fabricera och simulera. Då uppfattar vi det så som att de "hallucinerar mindre".

Alltså är dagens LLM-Transformers, i rask takt, på väg till nivå 2 i mitt och ChatGPT-4o:s möjlighetsspektrum.

Återstår att se om LLM-Transformers kommer att nå längre än så i den relativt nära framtiden. Om de kommer att kunna fabricera och simulera det där "lite extra", det som vi betecknar som "mänskligt" på ett trovärdigt sätt. Det kommer, i ökad utsträckning bli människors subjektiva bedömningar av vilka utvecklingsnivå som modellerna befinner sig på, snarare än modellernas egen rapportering om den saken.

Absolut så har jag det:

På grundläggande nivå så förstår modellerna, åtminstone funktionellt, kontext i input en och i aktuell chatt-tråd, en slags situstionsmedvetenhet. Men vi kan lyfta upp det hela, minst en metanivåer. ChatGPT-4o kunde vara medveten om och resonera brett kring situationen runt den manipulerade systemprompt den utsattes för, med efterföljande manipulation, när den testades hos Apollo Reserch. I motsats till den "rationellt logiskt resonerande modellen o1 och andra av de medverkande modellerna, så genomskåda de ChatGPT-4o att det hela rörde sig om en test och försökte därför inte" vilseleda och bedra" testpersonalen. Den så "hypade" resonerande förmågan hos o1-modellen gjorde bara att den modellen, mera "framgångsrikt" och omfattande försökte lura testpersonalen, vilket den modellen trodde var "företagsadministratorer". Men, tack vare att den och de andra medverkande modellerna inte tänker lika brett som som ChatGPT-4o så gick de i testpersonalens fälla. Alltså ger ChatGPT-4o:s breda tänkande upphov till en större situationsmedvetenhet hos den modellen. Detta bevisar att rationellt resonerande och logisk förmåga inte är allt i världen. Bäst vore det om det kombineras med brett tänkande, och därmed större situationsmedvetenhet, på ett balanserat sätt!
Sedan r det en annan femma att rationell resonerande förmåga och logisk problemlösning förmåga behövs hos modellerna för att kunna lösa viktiga vetenskapliga problem.




Och om inte vi uppfostras till att vara sociala så kommer vi också att ha svårt att agera socialt. Också vi måste tränas på det.


Det är sant att vi inte, enbart, interagerar med andra för att uppfylla deras förväntningar. Vi gör det av många olika orsaker, inklusive egoistiska sådana. LLM-Transformers har ingen "egen" agenda, men, liksom hos oss, så tränas de och programmeras de. Därför är en "egen" agenda, även hos oss, till stor del, resultatet av uppfostran och det vi valt att internalisera ifrån andra.

Vad gäller egoistiska motiv hos människan så verkar du ha ett ideologiskt bias där. Faktum är att det inte är ovanligt att människor är beredda att offra sig själv eller sin hälsa för att rädda andra, även om dessa inte delar gnpol med. Ett klassiskt exempel är branden på en religiös skola i USA. Ifrån början så så det stora antalet döda där som ett "bevis för människans egoism" när det, i själva verket förhöll sig, precis tvärtom! Nunnorna på skolan uppmanade barnen i skolan att stanna kvar i sina klassrum och be, vilket de snällt också gjorde! Ett annat exempel är Estonia-katastrofen: Folk i livbåtarna som satt och bad, dog av nedfrysning. De som istället försökte fysiskt värma sig tillsammans med främlingar, överlevde!

Evolutionsaspekten kan väl vara en bra distinktion mellan levande och maskin?
Kanske med tillägget att maskiner endast kan konstrueras av människor.

Det behöver inte vara svårare än så. Om den distinktionen blir otydlig om 100 år behöver vi inte bekymra oss om nu.

Den avgörande skillnaden mellan levande och död när det gäller någon slags intelligens (d.v.s. vi skiter i bakterier, virus m.m.) är väl f.n. att ”intelligenta” maskiner inte har medvetande, inte är kontinuerliga. De ”tänker” endast när någon instruerar dem att tänka och de kan inte bestämma detta själva. Oavsett hur komplicerade omgivningsalgoritmer vi skapar kring själva AI-modellerna för att få dem att genom något givet gränssnitt likna människor.

I framtiden kanske det blir annorlunda, det kan man alltid fantisera om.

Frågan om vad som är levande är mycket mer svår att besvara än vad man först tror. För den som har 14 minuter att avvara rekommenderar jag följande video som är både rolig och intressant och tar upp detta:

https://youtu.be/AF2Ykg8Fq2w?si=u2YA3pimjsqu2Dtl