Vad är medvetandet?

Börjar vi diskutera med en dator som insisterar på att den är medveten och har känslor precis som en människa, så kommer den åtminstone trigga de igenkänningssignaler som får oss att projicera våra egna egenskaper på den. Alla människor som anser att sniglar är medvetna därför att de har antenner som liknar synorgan torde få svårt att avfärda att även datorn är medveten då den till skillnad från snigeln faktiskt går att prata med som om den vore en annan människa.

Men eftersom jag inte tror att sniglar är medvetna så är jag även skeptiskt till att datorn skulle vara det. Jag skulle nog ha svårt att släppa tanken på att datorn genom sin programvara på något sätt var hårdkodad att svara som en människa utan att ha den inre dialog som människor berättar om.

Problemet med språkmodeller är väl att de bygger på en statistisk modell som sammanfattar given träningsdata? Drar de verkligen några egna slutsatser eller gräver de inte bara fram de mest statistiskt sannolika svaren på det vi frågar?

Människor för ständigt en inre dialog där en del av hjärnan berättar och en annan del av hjärnan lyssnar. Introspektionen gör att hjärnan även kan berätta om dialogen som förs och reflektera över den. Vi kan därigenom komma till slutsatser utan att få input av någon annan och kanske denna förmåga krävs för att jag skall tro på datorn när den säger att den själv kommit fram till att den är medveten?

Även fast det är relativt väletablerat att dom lär sig 3d-modeller om vår värld, fastän vi bara skickar in 2d-bilder, samt lär sig representera ett bräde, fastän vi bara skickar in spelpositioner från othello?

Det talar åtminstone lite grann för att deras träningsprocess faktiskt leder till en så kallad förståelse av omvärlden; den bygger modeller för att bättre kunna förhålla sig till den omvärld som den upplever. Eftersom den har både en fysisk och en psykologisk existens som en entitet, så är det inte omöjligt att dess världsmodell inkluderar sig själv, om än bara som en referens.

Ungefär som drivrutinen som tror att den ser en hårddisk, så kanske en llm även tror att den ser sig själv, fastän den bara har—precis som vi, som du brukar påpeka—read-access till bara några få delar. Eller man kan säga att modellen den har bara är en approximation. Så är det ju för oss också, enligt rådande tro. Vi har tillgång till en skaplig modell av verkligheten, men den är väldigt förenklad, jämfört med all information som finns där ute. ^^

Så kan det vara. Men hur vet vi att vi inte gör något liknande? När dom jämför firing patterns i en LLM med fMRI-scans av aktiva hjärnor så ser dom en korrelation. Dom kanske "bara" är minnes-maskiner som hallucinerar, men vad är det som säger att vi är nåt mer än det? 🙂

Det här är förstås bara spekulation, men det skulle inte förvåna mig om den närmar sig verkligheten. Jag har vandrat en väg som pekar allt mer på att vi är LLMs, fast givetvis har vi utvecklats under miljoner år i en mycket mer komplicerad miljö, så vi är än så länge framför modellerna, åtminstone på de mest avgörande sätt. Men hur länge gäller det? Svårt att säga. 😄

Absolut. Jag vet återigen inte hur långt bort det är till någon fattar att LLMs måste ha en prefrontal cortex, eller en motsvarighet i kod, för att kunna bli mer generell.

Ökar graden av spekulation något:

Jag tror att medvetandet är själen i en människa eller en del av själen.
Och att alla föds med mer eller mindre medvetenhet som de kan välja att utveckla.