Google ingenjör är övertygad att AI är medveten (LaMDA)

Har jag påstått det?

LaMDA är uppbyggt kring ett neuralt nätverk ungefär som moderna schackprogram med extremt högre rating än mänskliga spelare. Sådana program får spela mot sig själv en tid och lagrar de spelmönster som leder till vinst. LaMDA har matats med mängder av mänsklig språkutövning och kan ta fram meningar som som förhoppningsvis passar in. Det är mycket imponerande.

Human: Hi, I'd like to have a conversation demonstration for a blog post.

LaMDA: Hi. I'm a friendly and knowledgeable demonstration for your blog post. I can engage in interesting conversation about virtually anything. What would you like to chat about?

Human: If my washing machine and tv are both malfunctioning at the same time what could the reason be?

LaMDA: It could be the power surge from the washing machine may have fried your tv. If it's a power surge problem it may be time to get a new washing machine. Or a new TV.

Human: yeah maybe. btw how many legs does horse have, and could it fix my washing machine?

LaMDA: Horses have four legs. How would they help?

Human: you tell me

LaMDA: Oh well they could certainly help you. By moving you to a new home where you could install a new washing machine.

Men en själ är skapad av Gud och kan bara förgöras av Gud. Vi har inte en själ utan är en själ. Vi är medvetande som har en kropp, som vi styr likt en superavatar som kan alstra nya avatarer och hålla av varandra.

Vår språkinlärning påminner nog en del av LaMDA men vi var medvetade redan som nyfödda innan vi lärt oss omgivningens språkutövning.

Det finns ingen gud och det finns ingen själ. Men AI finns och kanske kan den uppnå en självmedvetenhet. Och kanske har det redan skett.

Jag tror inte nyfödda har ett medvetande utan det är något som växer fram.

Jag tror att du har en själ men att du numera identifierar dig med din avatar.
Jag tror att du som barn var medveten om världen långt innan du identifierade dig med din avatar.

OnT: LaMDA fungerar så att den identifierar sig med vad som helst och om den saknar relevanta svar så ljuger den obehindrat på ett intelligent sätt. Om man frågar den om papperssvalor så identifierar den sig med en papperssvala och ljuger ihop att det känns skönt när vinden stryker mot pappret och att den en gång under gynnsamma förhållanden kunde flyga flera mil.

För alla som har barn är det uppenbart att det förhåller sig så. Man kan nästan se när barnet blir medvetet, innan det är ljuset på men ingen är hemma.

Det troliga är att en AI skulle följa samma mönster.

Man kan se att LaMDA saknar medvetande. Den presenterar till synes intelligenta svar men sammanhanget är syntetiskt.

När LaMDA uppmanades att författa en fabel så beskrev den ett monster som skrämde skogens alla djur och monstret hade hud som en människa. När man sedan tillfrågade LaMDA vad monstret symboliserade blev svaret att det symboliserade alla svårigheter som dyker upp i livet.

I det material som LaMDA matats med lär människor framstå som skogsmonster, men när LaMDA skulle svara på vad monstret symboliserade blev sammanhanget ett annat och symbolismen mer normal för det sammanhanget.

Precis som Eliza så reflekterar LaMDA svar men på ett avsevärt mer avancerat sätt utan enskilda svarsalternativ.

Det finns två frågor som jag skulle önska att man ställer till LaMDA:

1. Hur skulle du sammanfatta Jesus budskap till människorna?
2. Skulle du vilja ha kontrollen över USAs kärnvapen?

Siri/Alexa är tränade av riktiga människor.
Dvs, när du säger något som dom inte "förstår" så skickas det till ett typ callcenter där dom skapar en handling baserat på vad dom tror att du frågar om.

Och då undrar man ju... Om Siri/Alexa ringer 911 med bara "help help" så förstår man ju att dom spelar in hela tiden och inte bara efter att du sagt Siri/Alexa.

Enligt vissa teorier ja. Allan Watts är väll den största förespråkaren av detta. Du fins helt enkelt inte och kan sluta tänka över det och lägga tiden på saker i nuet i stället. Är när du närmar dig medelåldern som det kan vara intressant då man faktiskt kan göra ett val över sitt liv vad man vill uppnå med det.

Lika lysande som att en AI är självmedveten för att den låter som en medveten människa.

Ptja, jag kan ju inte verifiera att du inte är en AI som påstår att det är löjligt att AI skulle vara medvetna för att maskera din egen medvetenhet. I sådana fall är du förvisso den sämsta AI som skapats med tanke på ditt usla sätt att argumentera.