Google ingenjör är övertygad att AI är medveten (LaMDA)

Okej, låt oss hålla det du nu skrivit för sant, på vilket sätt är denna AI mindre medveten än en komapatient som eventuellt kan vakna upp? Vilka objektiva fakta använder du för att understödja tesen om att komapatienten är medveten men inte AIn?

Anekdotiskt bevisföring betraktas självfallet som nonsens.

Först, Turingtestet definierar inte medvetande, vilket Blake Lemoine tycks mena, utan intelligens.

Medvetande har ingen objektiv definition utan man måste utgå från sig själv: jag vet att jag är en medveten observatör snarare än en registrerande enhet.

Att alla komapatienter skulle vara hörande och medvetna om omgivningen finns det nog inte belägg för bara att det förekommer.

Folk som förstår sig på neurala nätverk är förstås imponerade av LaMDA men inte förvånade och behöver inte begreppet medvetande för att förklara dess språkliga förmånga.

Du svarade inte på frågan.

Det är sannolikt att Blake Lemoine manipulerade LaMDA så som man kan manipulera människor. Hans inlägg är ofta editerade, kanske strippade från manipulerande ordmassor som styrde LaMDA "rätt". Kanske har han en agenda om människans medvetande?

Jag tänker att man måste programmera in en överlevnadsinstinkt, en fysisk robotkropp vars syfte är att ha ständig tillgång till energi och kan replikera sig och föra över sin information för vidareutveckling.

Eftersom medvetandet är ett fenomen som hjärnan tillskriver sig själv, så följer (i en neurologisk modell) att medvetandet är en produkt av introspektionen. När hjärnan gör något så kan den av rent kausala skäl bli medveten om vad den gjort först efter den gjort vad den nu gjorde. Står vi framför en spegel och lyfter armen så ligger alltid spegelbilden någon nanosekund efter därför att det tar tid för ljuset att nå från armen till spegeln. Bestämmer sig hjärnan för att lyfta armen så tar det istället några millisekunder för nervsignalerna att nå fram från den del av hjärnan som styr armen till andra delar som reflekterar över att armen skall lyftas, därför att nervsignaler propagerar långsammare än ljuset.

Medvetandet kan snarast ses som en scen där hjärnan återskapar sådant den tycker behöver analyseras, ungefär som vi kan följa ett schackparti någon annan spelar genom att analysera ett eget bräde där vi ställer pjäserna likadant, men där pjäserna kan stå kvar tills vi tänkt klart.

Eftersom medvetandet är vår ända källa till reflektion så tror vi att medvetandets scen är den primära verkligheten, för vi har aldrig och kommer aldrig kunna reflektera över någon bättre beskrivning av världen.

Det räcker väl egentligen med att programmera in några vettiga axiom överhuvudtaget när det gäller neurala nätverk. Ett schack-AI tex är programmerat för att veta reglerna för spelet (behövs faktiskt inte ens längre) och att målet är att besegra sin motståndare. Resten går av sig själv via väldigt snabb trial and error.

Våra axiom är ju inprogrammerade av evolutionen varför överlevnad är centralt - alla felprogrammerade individer försvinner ju ganska fort.

Replikation är inte nödvändig, en annan strategi är evigt liv och det finns livsformer som utnyttjar den strategin istället. Ofta inte särskilt komplexa sådana. Känns meningslöst för ett program att lägga tid på att föröka sig när det är överallt och ingenstans på samma gång.

En konsekvens av ditt resonemang är för övrigt att medvetande inte är en egenskap utan något som tillskrivs. Utgår man från det är diskussionen helt meningslös, dels hamnar du i att det inte spelar någon roll eftersom det enkom är du som bestämmer om något är medvetet eller ej samt att medvetande då är ungefär lika relevant som att någon är snygg eller liknande.

Syftar du på AlphaZero så är det du skriver en vandringssägen som har väldigt lite med verkligheten att göra. AlphaZero bygger inte på något flummigt AI utan på klassisk trädsökning där maskininlärning används för lägesanalysen och flexibiliteten som det talas om handlar om att de konstruerat en motor för att spela tre namngivna spel, inte att de konstruerat en generisk motor som av ren slump kunde spela just de tre spelen de råkade prova.

Hur i hela friden skulle en AI kunna lära sig spela schack utan att få reglerna beskrivna? Hur tänker du dig att den skulle veta att en bonde får bytas till en häst när den når åttonde raden, men inte till en kung, om inte någon berättar det för den? Eller att man inte får göra rockad om någon av pjäserna redan varit flyttad osv?

Genom att döda AIt när den inte följer reglerna? Samma metod som när man får ett AI att klara ut super Mario tex. Hela poängen med neurala nätverk.

Hitills har man vad jag vet inte lyckats skapa ett AI som kan definiera och definiera om sitt syfte. När det sker lär vi ha problem.

Människor kan ju göra det, vi kan skriva över våra grunddirektiv och så vidare mer eller mindre medvetet.

Maskininlärning använder du för interpolering så att datorn lär sig känna igen inre punkter i träningsmängden. Maskininlärning kan inte användas för extrapolering, alltså att känna igen punkter utanför träningsmängden. Det följer av att det finns för många lösningar till det problem den skall lösa när den tränas.

Hur tänker du dig att någon varelse överhuvudtaget skulle kunna lista ut att en bonde inte kan bytas mot en kung när den når åttonde raden enbart genom att studera andra partier? Har det ens med intelligens att göra?

Som vi känner det idag så kan vi inte det nej.


Nej, intelligens spelar in på så vis att du inte behöver testa för att vara säker på utfallet. Metoden förändras dock inte, du gör trial and error i huvudet och din hjärna sorterar bort alla "idiotiska" beslut "automatiskt". Du kan träna upp denna förmåga och folk som gör det anses ofta vara bra beslutsfattare. Det går "automatiskt" för dom, vilket det såklart inte gör. Inget går automatiskt utan allt händer i hjärnan.

Rörande specifika regler listas det ut så snart det uppenbarar sig. För en människa sker det när någon som redan kan spelet berättar för en att man får byta bönder mot drottningar och att hästen får gå i L. Så kan du göra med en dator också, men både människan och datorn kan lära sig reglerna löpande genom att spela spelet. Ineffektivt, javisst, men det går alldeles utmärkt.

Allt liv är en konsekvens av miljarder år med trial and error och jag lovar dig, verkligheten är mer komplicerad än schack och skalbaggar besitter lägre förmåga än en dator.