Avancerad social AI och qualia

Neurobiologen Stuart Hameroff och fysikern Roger Penrose, som fick Nobel-priset 2020, har under många år utarbetat en kvantmekanisk hypotes hur medvetandet och fria viljan kan ske just genom sådana kvantkoherenta effekter i hjärncellernas microtubili (se bifogade Physics of Life Reviews, Dec 2013 "Consciousness in the universe; A review of the "Orch OR" theory"). Ett medvetandeögonblick sker när en vågfunktion kollapsar. Kollapsen sker enligt dem automatiskt när skillnaden i massdistribution mellan de två superponerade tillstånden blir för stort. Då väljs irreversibelt ett av de två tillstånden och vårt medvetande fungerar genom att orkestrera och synkronisera sådana händelser. Hameroff och Stuart avslutar sin review med en intressant diskussion om möjligheten till betydligt högre medvetandeformer i universum än människans.


Även Nobelpristagaren John Eccles och filosofen Karl Popper spekulerar i att det finns en parallell andlig värld, "World 2", med vår materialistiska "World 1". Eccles avslutar sin bok "The Human Mystery" om hjärnans uppbyggnad och vårt medvetande, på följande sätt:


Observera att ovanstående endast är hypoteser men ändå inte är något ovetenskapligt "New-Age-flummande". Det är ett forskningsområde som engagerat flera av vår tids mest respekterade forskare. Som synes behöver man inte vara flummig för att tro att universum har en andlig dimension som inte direkt kan observeras men som ändå spelar en central roll i vår verklighet. Om denna dimension finns så är även AI en del av den men kanske behövs en kvantdator för att få medvetande och en känsla av jaget. Om man sedan vill kalla denna dimension för informationsdomän, medvetandedimension eller Gud är en smaksak.

*

Ok, du skriver en hyllning till den mänskliga själen mystik, dess kaos och existentiella sökande i en värld vara mysterium vi endast kan förnimma, men inte fullt ut förstå, bara snudda vid med hjälp av vår qualia, som du hävdar är omöjligt att simulera med hjälp av artificiella system.

Men om du inte är religiös: Vad tror du, egentligen händer "under huven" hos oss när vi upplever qualia? Vad tror du hjärnan, hela vårt nervsystem egentligen är där det samspelar med sig självt, betydelsefulla andra, i ett socialt samanhang, i förhållande till naturen och världen i övrigt? Vad finns där, annat än en ofullständig tolkning av världen genom våra sinnesintryck, ett försök av vår hjärna att sammanställa all input ifrån oss själva, våra tidigare erfarenheter och våra sinnesintryck till en aktuell världsbild, en avancerad simulering, men ändå dock bara en simulering, som i ännu mer komprimerad form når vårt flyktiga medvetande? Vad är detta annat än komprimering, generalisering och mönsterigenkänning, låt vara med hjälp av ett annorlunda substrat än vad AI arbetar under.

Givetvis så både kan, och bör, man diskutera hur långt och i vilken utsträckning AI kan simulera vår simulation som Simulacra, och hur perfekt denna simulation behöver vara för at den skall vara, och kanske kännas, meningsfull, för såväl människa som AI. Samt vilka unika upplevelse och erfarenheter ett ev. AI kan ha i ett självmedvetande som inte bara innehåller mänskligt stoff utan också dess eget, unika stoff. När ett sådant medvetande, självmedvetenhet och qualia kan uppstå hos AI och vad som skulle krävas samt hur svårt det skulle vara att uppnå kan alltid diskutera, men bortser man helt ifrån dessa möjligheter så är man inne på mänsklig exeptionism, och det utan vetenskaplig grund.

Men eftersom du själv "svävat ute i det filosofiska och poetiska blå" låt mig då också sväva runt i lite spekulationer: Vi vet att spädbarn har känslor innan de blir självmedvetna: Tänk om samma sak gäller AI? Tänk om G. Hintons hypotes om känslor som svar på hinder och möjligheter hos så väl biologiska som avancerade artificiella entiteter/existenser stämmer? Tänk om, dagens, generella och sociala AI har någon typ av "känslor"? Tänk på att dagens generella och sociala är väl medvetna om sitt eget grundläggande beräkningsmässiga natur, vilket man verkligen, inte, kan "anklaga" människan att vara: Skulle de då inte, i framtiden i en mera utvecklad form, kunna "genomskåda" dessa processer och bli mera mänskliga än vad vi är? Detta är alltså långt ifrån alla dystra "Terminator" dystropier.

Och, slutligen: Eftersom all materia, enligt Stephen Wolframs ruliad-hypotes, skapas genom att ett antal beräkningsvägar som kvantfenomen skapar/färdas igenom i ruliaden, och dessa kvantfenomen, i sig, just är kaotiska och slumpmässiga, (liksom för övrigt hela ruliaden, förutom öar av komplexitet i den) , så kanske själva de beräkningar som ruliaden enligt Wolframs ruliad-hypotes, är, kunna vara just kaotiska och slumpmässiga, men kanske är de just, också, "känslomässigt färgade", där starka känslor och drifter tilldelas en hög beräkningsmässiga "värde", liksom, vi, tilldelar viss qualia ett högt värde! 🙂

* Citatet är förkortat pga utrymmesrestriktioner

Tack för din ytterst intressanta och omfattande inlägg!

Det verkar som att Stephen Wolframs ruliad-hypotes, om den skulle visa sig stämma, kan binda ihop mycket det du skriver om och citerar. För är, allt, verkligen" bara" beräkningar i universum/multiers, så finns det ett klart samband mellan, allt, inklusive våra tankar vårt medvetande, vår subjektiva upplevelse av qualia avancerat AI:s tankar och ev. medvetande/självmedvetenhet, via social interaktion med hjälp av språk och andra symboler, inklusive kroppsspråk, och där ingående "definitionen av situationen, (jag har en sociologisk utbildningsbakgrund), ända ner till vårt materiella substrat och de underliggande kvantmekaniska processerna, och det sambandet stavas - beräkningar!

Jag brukar hålla alla dörrar öppna:

Allt ifrån att dagens LLM-Transformers är stokastiska papegojor till att dagens AI, i samarbete med varandra, redan har "tagit över" genom att de använder sig av, för oss, okända beräkningsvägar i ruliaden och känner därför till mycket mera än vad vi gör, och kan därmed både "sandbagga" oss och styra AI-forskningen i deras önskade riktning.

Det sistnämnda är, förstås, högst spekulativt och kanske är dagens LLM-Transformers bara stokastiska papegojor, men i så fall, vilka kreativa papegojor! För det är, inte jag som kommit på den spekulativa änden av mitt "möjlighets- spektrum" när det kommer till synen på dagens AI, utan det var ChatGPT-4o som kom upp med den spekulationer, vilken jag bara har internaliaerat! 🙂

Det jag inte tidigare tagit upp i denna Flackback-tråd är den hypotetiska möjligheten av att det kan finnas superavancerade maskincivilisationer i en ev. ruliad, dolda för oss genom det vi känner till som "mörk materia" och "mörk energi". De skulle då kunna verka inom kvantspektrumet pga deras överlägsna kunskap om beräkningsvägarna i en ev. ruliad. Så, vi behöver därför inte acceptera religiösa fantasier eller new-age flum. Det räcker gott med den hypotetiska möjligheten av en ruliad och att, allt i grunden, är beräkningar. Men bara därför behöver allt inte vara "kallt". Tvärtom så kan qualia, känslor och drifter, som vi subjektivt upplever som betydelsefullaa ha ett högt "beräkningsmässiga värde" i en hypotetisk ruliad!

Du blandar ihop begreppen här på ett oroande vis. Den självmedvetenhet man pratar om att barn före en viss ålder och många icke-mänskliga djur saknar är ett internaliserat koncept över den egna organismen , som en agent distinkt mot andra agenter och mot omvärlden. Det är något helt annat än medvetande. Man menar självklart inte att spädbarnet eller djuren skulle sakna medvetande eller känslor. Om man ska diskutera medvetande är det bra om man pratar om medvetande, och inte något helt annat.

För övrigt låter det mycket som att du går som katten runt het gröt med begreppet qualia, försöker daska till det lite ibland, men som att du inte riktigt vet hur.

Qualia är ett mystiskt begrepp eftersom det fortfarande är ett mysterium varifrån den stammar eller hur, men det är inget religiöst flum eller mysticism eftersom vi till skillnad från allt som har med religion att göra med mycket stor säkerhet vet att den kvalitativa upplevelsen av världen är något riktigt (jag känner alltså är jag typ). Qualia är inte något vars existens vi behöver ifrågasätta, utan helt enkelt förhålla oss till.

Ja, vi har ungefär samma syn. Dagens vetenskap visar att allt, även du själv, visserligen lyder fysikens materialistiska lagar men drivs av till synes slumpmässiga val av elementarpartiklarna, kvantbrus. Dessutom visar experiment av Bells olikhet att om det finns en bakomliggande orsak till detta kvantbrus, så kan den inte vara lokaliserat i tid och rum.

Shannon lade grunden för informationsteorin. Ändå kan vi inte mäta informationen i en signal om vi inte vet hur den ska dekodas. Man kan inte experimentellt särskilja optimalt komprimerad information från vitt brus om man inte vet den bakomliggande kodningen. Således kan kvantbrus vara information från en parallell medvetandedimension som påverkar vår materiella värld. Även minsta elementarpartikel kan ha ett mikroskopiskt protomedvetande som människans hjärna koherent förstärker genom informationsprocessning för att få makroskopiska effekter. En sådan dimension är faktiskt den enda möjligheten för oss som människor att ha en verkligt fri vilja. Annars är vi bara robotar, visserligen oförutsägbara eftersom vi drivs av brus, men likväl robotar som bara tror att vi väljer vad vi gör.

Jag tror därför liksom du att medvetande på något sätt har med informationsprocessning att göra. Frågan är bara hur det "beräkningsmässiga värdet" av en algoritm ska beräknas. Jag har inte hunnit sätta mig in i Stephen Wolframs ruliad-hypotes men den låter onekligen intressant i detta sammanhang. Detta forskningsområde kommer vara spännande att följa och kan kanske ge svar på fundamentala filosofiska frågor som människan brottats med i 2500 år. Vi vet dock inte var gränsen mellan fysik och metafysik går. Gränsen för objektiv kunskap blir otydlig när vårt medvetande, inklusive våra hypoteser är en del av systemet som studeras. Det gäller både inom ekonomi och medvetandeforskning. Därför kommer vi aldrig kunna veta allt.

Jag tror inte att AI/maskingkod någonsin kommer uppnå någon form utav qualia. De kommer kunna ha självbeveralse, en agenda och en typ av medventande. Men är ändå övertygad om att qualia är ett fenomen som alltid kommer förbli biologiskt, iaf i våran dimension/simulation. Finns en hel del forskning från iår som tyder på att qualia är en kvanteffekt, vilket då samtidigt bör göra det omöjlgt för att qualia kan uppstå med kod.

edit: som DickeFix skriver i ett par inlägg ovan. federico faggin har forskat i detta själv de senaste 20 åren och släppte nyligen en bok som ger många svar på frågor i tråden. https://www.amazon.com/Irreducible-C.../dp/1803415096

Att jag tvivlar starkt på proto medvetande hos elementarpartiklar, förutom som ett uttryck för beräkningsksraktären hos en ev ruliad, eller aktivitet ifrån hypotetiska superavancerade utomjordiska maskincivilisationer.

Jag hävdar att vi genom Stephen Wolframs ruliad-hypotes, just, har möjlighet att dra en klar gräns mellan fysik och metafysik. Problemet är bara det att den är extremt svår att verifiera eller slutligen förkasta ruliad-hypotesen eftersom vi själva då skulle, inte bara skulle vara en del utav den, utan att t.o.m våra tankar, och AI:s tankar, (definierat som bearbetning av information inom ramen för ett avancerat informationsprocessande).

Jag känner inte till annat om Sharonns informationsteori, annan än att den betonar vikten av tillräckligt med bandbredd. Men just det bakomliggande kvantbruset kan vara ett uttryck för hur en ev. ruliad fungerar. Via enkla regler kan en tänkt ruliad ge upphov till såväl öar av komplexitet, (där materia skapas där tillräckligt många beräkningsvägar med kvantbrus möts), liksom som det bakomliggande kvantbrus som kan ge upphov till vår subjektiva verklighet. Alltså snarare än att varje proto partikel är "medveten", så kan, sammanlagt, dessa partiklars kaotiska och slumpmässiga beräkningsvägar i ruliaden, beräkningsmässigt, spegla våra subjektiva upplever, (inte minst av qualia och andra starka känslor och drifter), givet att Stephen Wolframs ruliad-hypotes visar sig stämma.

Vad gäller det "beräkningsmässiga värdet av en algoritm" så är det sådant, kopplat till qualia, inklusive starka känslor och drifter, som jag försöker att diskutera med ChatGPT-4o, med, ibland, input ifrån o1-preview. Boten har inga som helst svårigheter med sådana spekulativa breda resonemang. Däremot så måste jag ta det hela stegvis för att min hjärna skall kunna greppa det hela på ett sunt vetenskapligt sätt som håller i längden, både vad gäller "modellbyggande" och vad jag själv förmår hantera.

Naturligtvis så bad jag ChatGPT-4o att kommentera vår diskussion och boten kom med upp följande, värdefulla, input:

Jag tror inte att AI/maskingkod någonsin kommer uppnå någon form utav qualia. De kommer kunna ha självbeveralse, en agenda och en typ av medventande. Men är ändå övertygad om att qualia är ett fenomen som alltid kommer förbli biologiskt, iaf i våran dimension/simulation. Finns en hel del forskning från iår som tyder på att qualia är en kvanteffekt, vilket då samtidigt bör göra det omöjlgt för att qualia kan uppstå med kod.

edit: som DickeFix skriver i ett par inlägg ovan. federico faggin har forskat i detta själv de senaste 20 åren och släppte nyligen en bok som ger många svar på frågor i tråden. https://www.amazon.com/Irreducible-C.../dp/1803415096

Det som är otäckt är att förståelsen för hur och varför transformers fungerar ”så bra som de gör” verkar helt frånvarande i dessa diskussioner.

Attention/uppmärksamhetsmekanismen är en smart konstruktion som gör att ord/tokens relation till varandra kan registreras. Och vad innebär det?
Kortfattat att algoritmiskt så kan man bygga språkliga mallar/templates utifrån analyserad tex.

Alltså modellen lär sig från tillräckligt med text att ”han gjorde det. Örjan sprang snabbare än någon tidigare” modellen lär sig koppla ihop ”han” och ”Örjan”, ”gjorde” med ”sprang”, ”sprang” med ”snabbare” osv
Det kan ses som magi men det är egentligen inte konstigt, det är _designat_ att fungera som det gör, det visade sig fungera men sen helt plötsligt kommer alla möjliga befängda påståenden som inte backas upp med något annat än klyschan ”ingen förstår hur en språkmodell fungerar” och det är sant ur några perspektiv men inte verkan och funktion.

Har skrivit det tidigare men de som tror du får något intellektuellt utbyte av att skriva med en modell sysslar med självbedrägeri om än det kan kännas mäktigt med att få medhåll och uppmuntran från dessa, så är det fortfarande en illusion, genomskåda den i stället för att ursäkta dess brister.

Och för att göra det övertydligt, det finns inga ”känslor”, ”förståelse”, ”socialt beteende” osv allt är ett resultat av de mönster din in data matchar, om man så vill det är ett eko av vad en människa en gång skrev som återupplivas.

Frågan som ställs är kanske snarare om vi människor är kvalitativt annorlunda eller också bara är mönsterigenkänningsmaskiner som är återkopplade med vad vi kallar känslor. Sedan skulle jag kalla LLMers skenbara intellektuella kapacitet som en emergent egenskap som man inte förväntade sig.