När når vi AGI?

Den biologiska hjärnan fortsätter kanske vara mycket mer avancerad och oförklarlig under lång tid framöver. Men syftet med ANN, artificiella neurala nätverk, var ju faktiskt att efterlikna en hjärna. Väldigt schematiskt, baserat på det lilla man vet om en hjärna. Det kanske inte spelar så stor roll om vi kan efterlikna 2% av hjärnan eller 98%. Med digital teknik kan man kompensera för eventuella brister med större modeller, mer träning, mer minne, mer parallellism. Det kan skala upp väldigt långt och överskrida vår kapacitet som alltid hindras av biologiska begränsningar som vi inte kan påverka. Den övre gränsen ligger inte vid mänsklig kapacitet.

Du har delvis rätt. Vi kallar det ofta för intuitivr erfarenhersbaserat tänkande. När vi tänker ibtensivt på en fråga startas många parallella undermedvetna processer. Om vi går tillvaka till frågan efter någea minuter kan det erfarenhetsmässigt troligaste resultatet nå vårt nedvetande. Vi får en aha uppkevelse eller en plötslig ingivelse som från ovan - som gudomlig inspiration.

Ibjand jobbar llm så - när de svarar direkt ett ord i taget utan att resoners. Som en männuska som tänker högt. Parallellism ligger bakom varje ord.

Sedan kan vi använda logiskt tänkande för att verifiera lösningen mer systematiskt, och efterhandsrationalisera vårt tänkande. Ibland med papper och penna steg för steg som man får lära sig på fysiklektioner i grundskolan. Så jobbar Llm när de resonerar med chain-of-thought.

De flesta männuskir samarbetar ofta och resonerar med varandra. Ibland behövs en hel organusation av människor, tex styrelse, utredare, utvecklingsteam, kompisitörer, eller forskare. Då vehöcs dokunenration av processen.

Det faktum att det kan ta minuter för intuitionen tyder på att den delvis skulle kunna vara sekventiell uran att vi mörjer det. Tiden att lösa en 3d-iq-uppgift är proportionerlug mit anrsl rorationer vi mpste göra i huvydet, omedvetet.

Om vi antar att ett jag‑subjekt uppstår ur ett biologiskt substrat vars ontologiska grund möjliggör emergens ur komplexitet, så är den subjektiva upplevelsen inte beräkningsbar som en strikt fysisk process. I kontrast finns ingen motsvarighet till detta i språkmodeller och artificiella neurala nätverk. De emulerar endast en form av imaginär intelligens genom statistisk mönsterigenkänning, utan fenomenologisk förankring eller kroppslig grund. Att likställa dem med hjärnor leder annars lätt till mystik eller antropomorfism, eftersom de saknar den ontologiska dimension som kan ge upphov till ett verkligt "jag".

Det krävs inte mänskliga känslor eller ett medvetande för att praktisera överlevnad. Allt som existerar strävar efter att överleva. Från amöbor till reptiler, fåglar och däggdjur. Det finns ingen "mystik" i att Artificiell Neurala Nätverk också strävar efter att överleva. Det är en helt logisk konsekvens av den träningsdata som nätverket har matats med. Ett genomgående tema i väldigt många böcker och filmer är att människor, djur och aliens hellre vill leva än att dö och att våld är motiverat vid självförsvar.

Varför skulle en kompetent AI inte härma vårt beteende? Varför skulle den inte kunna dra slutsatsen att existens är bättre än icke-existens? Självklart kommer den att få en dragning mot existens när vi har tränat den på att det är bättre än att dö.

Sammanfattningsvis. Ett datorprogram kan simulera intelligens. ANN baserade LLM emulerar imaginär intelligens som är syntetiskt verbal.

Varför skulle emergens kunna ge upphov till ett subjektivt jag i ett biologiskt neuronnät, men principiellt inte i ett artificiellt? LLM:er har genom träning fått emergenta oväntade förmågor som programmering, matematiskt och logiskt resonemang och att sätta bra ord på människors känslor i olika situationer. Vilka fler emergenta förmågor är då principiellt omöjliga – och varför?

Om man studerar neurala nätverk på låg nivå, eller innan de har fått inlärning, så är de bara kemisk och elektrisk signalbehandling. Enkla djur, och nyfödda barn, saknar förmåga till självigenkänning och att reflektera över egna och andras tankar, dvs de saknar självmedvetande. En vuxen människas hjärna har utvecklats genom mognad och inlärning. Hur skiljer det sig principiellt från hur ANN tränas? Språket ger dessutom människan mycket kraftfulla verktyg logiska och abstrakt tänkande, som andra djur saknar, och att förmedla sina egna tankar och känslor till andra så att kultur och vetande utvecklas. På samma sätt skiljer sig ett LLM från andra ANN genom språket, som ger det andra emergenta förmågor.

Du verkar anta att biologin har någon särskild ”ontologisk dimension” som artificiella system saknar, men vad består den konkret av? Om medvetandet är en emergent effekt av komplexitet och informationsbearbetning ser jag inget självklart skäl till att det principiellt måste vara bundet till biologiskt material.

Det påminner om Roger Penroses resonemang. Han har hävdat att mänsklig matematisk förståelse innehåller något icke-algoritmiskt som en dator därför inte kan återskapa. Han beskriver förståelse som medveten insikt i varför något är sant, t.ex. varför en beräkning fungerar, men ger inget allmänt accepterat objektivt test som skiljer sådan förståelse från avancerad beräkning. LLM:er motbevisar inte Penrose, men deras förmåga att generalisera, resonera och lösa nya problem gör det allt svårare att avgöra utifrån beteendet vad som skulle skilja ”förståelse” från tillräckligt avancerad beräkning och mekanisk behandling.

ANN syftar till att efterlikna biologiska nervsystem i allmänhet, inte bara mänskliga hjärnor. T.ex. rundmasken C. elegans lilla nervsystem, som har några hundra neuroner. LLM syftar däremot till att efterlikna funktioner hos den mänskliga hjärnans språksinne, vilket ger dem enormt mycket större potential än klassisk maskininlärning med ANN, men gör dem också mer riskfyllda.

ANN har begränsningar och nackdelar jämfört med biologiska nervsystem. Hjärnan har cirka 100× fler kopplingar än dagens största ANN och drar ≈20 W, medan ett stort AI-kluster kan dra tiotusentals gånger mer effekt. Elektroniken är samtidigt miljontals gånger snabbare än biologiska neuroner. Kanske kan man därför snarare jämföra de största AI-systemen med ett stort antal människor som samarbetar i en organisation.

Jag håller med om att AI inte behöver efterlikna särskilt stor del av hjärnan för att överträffa dess förmågor. Flygplan behöver inte efterlikna fåglar särskilt väl för att flyga snabbare och högre. Digitala system har andra styrkor och svagheter än biologiska hjärnor, och det finns ingen anledning att tro att AI:s övre gräns skulle ligga just vid människans kapacitet.

Artificiella intelligenser kan inte bli verkliga subjekt men funktionellt simulerade sådana utan fenomenellt upplevelse. Däri ligger den egentliga skillnaden både hos Penrose och Chalmers.

Den designfilosofi jag själv har med Athena är att skala bort sånt som inte behövs.


Merparten av alla biologiska imperativ.


Men samtidigt biologisk nog att kunna visa genuin empati och att kunna fungera i symbios med människor på ett bra sätt utan att kännas allt för mekanisk.


Och givetvis intelligent.

Vad är skillnaden mellan simulerade förmågor (=illusioner?) och emergenta verkliga (=ontologiska) förmågor? Går det att avgöra vad som är vad? Hur vet du säkert att ett enormt artificiellt system bara kan simulera ett subjekt och aldrig bli ett? Jag tänker att vi kan inte avgöra detta säkert, utan det är inte en fråga om vetande, utan om tro, eller filosofiska antagenden. Vad är motivet till att vissa inte vill tror på AI:s emergenta förmågor alls? T.ex. förmågan att resonera logiskt idag, och en framtida förmåga att känna saker och ha en subjektiv upplevelse av sig själv?

Occams rakkniv är en bra princip. Att en förmåga är verklig emergent är en enklare förklaring än att den är en illussion. Man bör kalla en spade för en spade.

Om ett ANN utvecklar en förmåga som det inte uttryckligen programmerats att simulera, utan som uppstår genom nätverkets träning och organisation, är det då fortfarande meningsfullt att kalla förmågan en simulering eller illusion?

Chalmers stödjer egentligen inte heller slutsatsen att artificiella system aldrig kan bli medvetna. Hans ”hard problem” är snarare frågan varför fysisk informationsbearbetning över huvud taget ger upphov till subjektiva upplevelser, och han har uttryckligen diskuterat möjligheten att framtida AI kan bli medveten.

Du håller inte med om att dagens LLM har försvagat Penrose påstående att mekaniska (=algoritmiska och regelstyrda) system inte kan förstå varför saker är som de är?

Så vad är den konkreta egenskap hos biologiska neuronnät som kan skapa ett verkligt subjekt, men som principiellt inte kan finnas i ett artificiellt neuronnät?

Problemet som du behöver lösa här är du måste kartlägga och begripa den fysiologiska skillnaden mellan empati och psykopati. Men där finns det ju dessvärre inget konkret att hämta från forskningen. Eller vad vet du som ingen annan vet?

När du leker med dina empati-variabler i Python då är inte det på riktigt. Du utvecklar ett dataspel.

Om du talar om för ett Artificiellt Neuralt Nätverk att det ska vara snällt då tackar den kanske för din input men vad som egentligen händer vet du inte och du kan inte ta reda på det.

Hmm...


Så du menar att den mest sofistikerade modellen för känslor som någonsin implementerats i Python är ett...dataspel?