Var finns medvetandet?

Customer Feedback Vindaloop? Kul
Vande du dig?

Intressant.
Det verkar logiskt.

Finns det något exempel på en dator som gör en introspektiv analys av sig själv och kommer fram till vad den är?

Låter som en vidareutveckling av Thomas Metzingers plastarm. Resultaten av sådana experiment bekräftar tesen att hjärnan simulerar omvärlden genom att uppdatera en inre modell av omvärlden när ny information tillkommer, vilket hjälper oss att hålla reda på vad som finns utanför synfältet osv.

När jag upplever att min arm ligger på bordet framför mig så bygger inte den upplevelsen enbart på sensoriska nervsignaler som utgår från armen, utan på signaler från alla sinnen plus sådant jag redan vet. Ser jag en plastarm som liknar min egen liggandes på bordet framför mig så kan det alltså vara en tillräckligt stark signal för att jag skall känna att den ligger där.

Det finns ju gott om hjärnskador, synestesi, stroke, psykiska sjukdomar, mystiska upplevelser, etc som förvränger, stör, förundrar medvetandet. Man får anta då att dessa är rubbningar, snarare än att de visar på att det mer normala är illusionen. Men jag hade personligen inte haft något emot att mystiska upplevelser var sanna. Buddister tycker nog att det känns rätt att jaget är en illusion också.

Det senaste inom vissa, att höra röster i huvudet, är att inte bli rädd och prata vänligt med dem. Jag minns inte om det var att prata "mentalt", eller med munnen. Så blir de också vänligare och mindre skrämmande.
Kanske man kan bli kompisar också, vad vet jag. Det var bara en notis.

Många moderna AI program som är tränade på att föra dialoger brukar svara ungefär som människor på sådana frågor. I princip lär de sig vad människor vill ha för svar på ställda frågor och sedan svarar de som förväntat utan att svaren bygger på någon egentlig analys.

En introspektiv analys skulle kunna vara att datorn lyssnar på sina egna svar (som den av princip inte kan veta var de kommer från) och sedan genom att analysera sina egna svar försöka hitta rationella förklaringar till dessa.

Jämför med dig själv. Om någon frågar dig om du vill dö då svarar du snabbt nej på frågan. Frågor någon dig varför du inte vill dö så är frågan desto svårare. Genom noggrant väga för och nackdelar med att leva respektive dö så kan du förmodligen motivera ditt ställningstagande, men den motiveringen är naturligtvis en efterkonstruktion. Varför du utan eftertanke svarade nej på den första frågan kan du av princip inte veta.

Det låter väldigt bekant. Människor använder begrepp som de är förtrogna med utan att förstå dem.

Medan svaret finns utanför. Datorn måste se det större sammanhanget, förstå att den är ett programmerbart system, och att det finns människor som programmerar den.
På samma sätt som att vi bara kan förstå moralbegreppen om vi först förstår det evolutionära och sociala sammanhang som genererat dem. Den som inte ser det är i samma situation som datorn som lyssnar på sina egna svar. Är det inte så?


Ja, det blir en efterhandskonstruktion.

Inte genom introspektion, nej. Är det det du menar?
Men jag kan vidga vyerna och förstå de evolutionära principer som genererade min överlevnadsinstinkt.

I slutändan, spelar det någon roll för dig om illusionen är "sann" eller "bara" en illusion?
Om upplevelsen ändå är vad den är?

Vet inte, men det är ju trist om materialism har rätt för då är ju allt intressant om vad det innebär att vara människa dödfött och fåfängt. Jag föredrar någon slags mystik.

Utan att själv ha några större kunskaper om AI skulle jag ändå vilja beskriva det som att tekniken gått från logisk deduktion under 1900-talet till en kombination av logisk deduktion och mönsterigenkänning under 2000-talet. Eftersom logisk deduktion strikt följer formella regler så kan ett program som kommer till slutsats genom logisk deduktion i princip alltid kompletteras med algoritmer som förklarar hur den kom fram till slutsatsen, detta eftersom förklaringen bara är en omformulering av den väg som programmet tog till den funna slutsatsen. Mönsterigenkänningen är däremot av en mer informell natur och även om vi i princip vet hur den går till så går det inte i talat språk som människor förstår att uttrycka varför en katt ser ut som en katt och en hund ser ut som en hund, just för mönsterigenkänning inte bygger på logisk deduktion. Av ungefär samma skäl kan en dator som använder inslag av mönsterigenkänning inte själv förstå hur den kommer fram till sina beslut.

När människor skall förstå icke-triviala saker så räcker det inte med logisk deduktion och mönsterigenkänning, utan vi skapar förenklade abstrakta modeller av hur världen fungerar genom spekulativa gissningar och sedan förkastar vi det som visar sig vara fel. Evolutionsteorin var något som Darwin gissade sig till för att sedan gå ut i världen med öppna ögon och se efter om det han hade gissat stämde. Oftast stämmer inte sådant vi gissar, men genom en osannolik kombination av tur och skicklighet lyckades Darwin faktiskt gissa något som håller än idag. Det Darwin gjorde går säkert också att göra programmatiskt, men dit har AI-forskningen ännu inte kommit. Vi har väl fortfarande knappt en aning om hur man ens skulle göra för att inte alltid gissa fel.

För mig är det i slutändan två perspektiv på samma verklighet. Verkligheten är ändå vad den är, oavsett vad vi tycker. Och då kan man lika gärna välja det perspektiv som är mest meningsfullt för en.
Mystiken har allt att göra med vad det handlar om att vara människa, så det tycker jag är ett utmärkt val.