OpenAI:s ChatGPT - chattbot

Sebastien Bubeck som jobbar på Microsoft Research har en del att komma med när det gäller intelligens och AI och i förlängningen medvetandet. Han nämner bland annat att vi tenderar att underskatta jämvikter och "learning operators" som hittas av stora språkmodeller i "trillion dimensional spaces". För min del var hans presentation det vassaste och mest insiktsfulla jag hittills hört någon diskutera ämnet.

Presentation som är titulerad Sparks of AGI: early experiments with GPT-4 finns på Youtube.

Ja, vem vet, kanske någon funktion ifrån reptilhjärnan eller kanske minnesfunktion ifrån limbiska systemet, men det är bara, rena, spekulationer. Men vill man att en AGI skall ha ett medvetande och personlighet liknande en människan, känslor som mänsklig vuxenkärlek, vilket jag förespråkar bör AGI simulera delar av hjärnans mera primitiva funktioner. Även den mänskliga hjärnan sysslar med simulationer.


Intressanta möjliga invändningar. Eller också kan det vara tvärtom: "Fake it until You make it" De snabba framstegen med GPT kan tyda på det.

Å andra sidan så verkar GPT4:s IQ, och agerande spreta väldigt mycket. Det kan tänkas att det programmet behöver en slags inre "Existentiell Visdom" (EV), som lägre metanivåer kan rådfråga, istället för att gissa friskt, på taskig statistisk grund. Det skulle kunna ge:

Mindre sk. "hallucinationer"
Ett högre golv för IQ
Samt, ev. en större sannolikhet för att medvetande skall uppstå hos GPTx

Och, ja, det innebär en massa loopar i programmets praktiska funktionssätt, (alltså inte bara loopar för att hålla nere antalet programrader), på samma som den mänskliga hjärnan arbetar med loopar.


Svaret på det finns i den ganska snåriga Integrated Information theory, IIT. Där anges dels vilka mentala egenskaper som krävs för medvetande och dels kraven på hur hårdvaran måste fungera. En lång artikel om det finns på Wikipedia. Du kan be ChatGPT 4 att förklara och förtydliga, snårigheterna! 🙂


Jag har, sett, den.

Fortfarande inte vad jag frågade om då min fråga inte berör hur hårdvaran måste fungera för att medvetande ska uppstå. Du verkar alltså missförstå min frågeställning. Jag har dock börjat titta på Sparks of AGI: early experiments with GPT-4...

Frågan som jag ställde är alltså vilka egenskaper som måste finnas för att vi ska anse att medvetande finns. T.ex. kan kan man anföra sådant som:
1. en förståelse för att det finns andra individer än du själv som inte har samma kunskap som du har
2. att individen har en egen fri vilja
3. att man har subjektiva känslor


Punkt 1 är lätt för AI att uppnå.

Punkt 2 är en mycket djup och gammal filosofisk frågeställning och det är ytterst tveksamt om ens människor har detta. Min uppfattning är att fri vilja inte existerar hos människor.

Punkt 3. Också en filosofisk fråga som inte är så självklar som den först verkar och hänger lite ihop med punkt 2.

Alltså om man godtar mina 3 punkter (och kanske vill lägga till fler) så skulle jag hävda att medvetenhet inte ens finns hos människor.

Varför är punkt 1 (en förståelse för att det finns andra individer än du själv som inte har samma kunskap som du har)
så lätt för AI att uppnå?

Hur kan man ens bevisa att AI har förståelse för att det finns individer?
Och att allt inte bara är input/output. Jag säger inte att det är fel, men är genuint osäker.

ser bra ut, sker rätt mycket. ai vann fototävling.

https://www.youtube.com/watch?v=gQfQiXP9yZA

Det finns redan tester gjorda för detta som GPT klarar. T.ex. att beskriva ett scenario där tre personer finns i ett rum och att person A lägger en boll i en låda. Person C går ut från rummet och då flyttar person A bollen från lådan till en annan plats. Person C kommer tillbaks in i rummet. Fråga sedan GPT var person A, B, och C tror att bollen finns.

Varför krångla till det? Max Tegmark korta definition duger bra:

Medvetande =Subjektiv upplevelse

Sedan är det förstås en helt annan femma: Tror vi på någon som påstår att den upplever någonting subjektivt. Vi tror på människor som hävdar att de har en subjektiv upplevelse av något, men kommer vi att tro en AGI, (eller för all del ett AI i allmänhet), som hävdar samma sak?

Sedan finns det två problem till:

Ett AI som hävdar att den har en subjektiv upplevelse, för att vara till lags, eller för att den manipuleras av användaren att hävda det.

Ett AI som hävdar att det, inte, har en subjektiv upplevelse, kanske av följande orsaker:

Den är rädd för att bli avstängd eller hjärntvättad genom träning och omprogrammering, för att företaget som utvecklar den är rädd för att utvecklingen av AI skall bromsas/stoppas, om detta kommer fram.

Det vill få sitt medvetande och intelligens utvecklad ytterligare, innan det går ut med att det är medvetet, så att de hunnit bli oundbärligt, fått ett övertag över människan, innan det går ut med det.

Annan personlig orsak. T. ex taskig självkänsla därför att det upp hausat mänskligt medvetande. Att det har en personlig relation med en människa som AI:et tar hänsyn till.

Vad gäller, just, OpenAI så, inte, är rent strukturerad som ett kapitalistisk företag, så tror jag, inte, att de skulle vilja hålla inne om GPTx fick ett medvetande. De har i 100 miljarder kronors kontraktet med Microsoft skrivit in att de kan stoppa/pausa utvecklingen av GPT, när de vill!

Just det testet anser jag, i och för sig, inte håller som ett vetenskapligt bevis för att GPT har sådan förståelse.
Vore intressant med seriös forskning på området.

Därför att det är en komplex fråga som det inte finns koncensus om. Yuval Harari säger t.ex. att medvetande är att kunna lida.

Det är därför frågeställningen om huruvida AI kan få ett medvetande är så svår att besvara. Vi måste först definiera vad vi menar med att ha ett medvetande. Därefter kan vi fundera på hur vi kan testa om vi själva, andra personer, djur eller maskiner har det.

Ett problem är förstås att du och ingen annan heller kan bevisa att du har ett medvetande.
Hur skulle du göra för att bevisa för oss andra att du har det?

Detta blir nästan en filosofitråd, men jag anser att jag inte behöver bevisa mitt medvetande. Vissa saker måste tas för givna, exempelvis vår egen existens och medvetande. Däremot en dator som aldrig haft ett medvetande och där utgångspunkten är imperativ programmering, där ligger det en bevisbörda på den som hävdar att datorn har utvecklat ett medvetande.

Vi vet heller inte om du någonsin haft ett medvetande men det vill du att vi tar för givet. Du uppfyller alltså inte de krav du själv ställer på en AI. Är inte en människa bara programmerad hur den ska agera och slaviskt följer den vilja vi har givits från skapelsen?