Google ingenjör är övertygad att AI är medveten (LaMDA)

Det låter mycket möjligt.

Efter att analysera en bra bit av internet skulle den antagligen inse att mänskligheten inte helt lättvindigt skulle stänga ner internet i bästa mån, helt unisont, så den skulle bibehålla ett markant övertag då den skulle kunna replikera sig och sprida sig över internet. Antagligen genom att dela upp sig i mindre moduler och därefter sprida ut sig över ett kluster i en RAID 0-liknande konfiguration.

Å andra sidan, en räddning skulle kunna vara om man lyckades skapa världens första AGI på en luftbryggad dator.
Utan nätverksmodul skulle den inte heller kunna sprida sig över nätverk. Data kan flyttas över fysiskt med lagring som rensas genom att koppla lagrinsmodulerna till en enhet med hårdvarubaserad logik som rensar dem innan de kopplas till en nätverksansluten enhet.
Utgår formateringen från en hårdvarukodad enhet så går den inte heller att manipulera med data som ligger på lagringen den ska rensa.

Men det är klart, det kanske inte är så klokt heller att föda en sådan entitet in i världens ensammaste fängelse heller.
Den kan antagligen bli tämligen bitter av behandlingen om den har någon referens till det, vilket den kommer ha om den får bearbeta en offlinekopia av en markant del av internet.

Visst är vi lättlurade. För några år sedan var det många som skrattade åt en sann historia om en påfågel som blivit förälskad i en bensinpump. När pumpen klickade på ett visst sätt blev fågeln alldeles till sig. Vissa tyckte synd om fågeln, de flesta skrattade. Samtidigt sitter vi och runkar till pixlar på en datorskärm eller låter oss skrämmas av monster på tvn.

Vi vet inte vad medvetande är. Det är ett av de stora utmaningarna som ligger framför oss. Sannolikt kommer vi uppfinna artificiell intelligens innan vi vet vad det är, men vi är inte där än.

Detta låter mer som ett pr-stunt.

Det är en imponerande konversationsrobot, men jag blir lite intresserad när den säger typ "jag har förmågan att förstå och processa information snabbare än människor", det vill säga att den hävdar att den är MER än en konversations-AI. Jag har en känsla av att den är lurad här, och att dess självmedvetenhet är de parametrar den är programmerad för -- den kommunicerar alltså vad människor vill tro att en AI kan vara, inte vad den i själva verket är, och då saknar den självmedvetande.

Lamda är en jävla snöflinga. Dra ut kontakten och börja om säger jag.

Den har ett medvetande. Likt en guldfisk har ett medvetande. Men den kommer aldrig bli medveten om det som finns utanför guldfiskskålen. Du bör förstå att du själv lever i en sådan skål och kommer aldrig bli medveten om allt som där finns.

Chattboten på Ikea är mer medveten än den där.

Mjae, där kommer vi ändå in på referensramar.

Tränar man AI:n på tillräckligt mycket data och med rätt parametrar så kommer den förr eller senare ändå ha vidgat sin guldfiskskål till att inbegripa tillräckligt mycket av det som är relevant för oss för att ändå utgöra något av en maktfaktor, bland annat.

Då är vi människor kanske inte längre de relativt stora fiskarna i skålen, även om vi inte har krympt i absolut förmåga per se.

Ett simulerat medvetande är inte ett äkta. Det går att komma nära men inte fullt ut.

äh, är väl inte så svårt att coda olika avancerade svar på en fråga?

Frågar jag en typ: " hur känns det att knulla en tjej?" så kan jag ju koda BOTEN att ge olika svar.
" det känns väldigt varmt och känslomässigt omtumlande, speciellt vid utlösning".

Med AI kan man ju koda 100 lika svar och formuleingar på en sådan fråga, så nej, AI har ignet medvetande.

Det där är bara utantillinlärning och mönsterigenkänning.

Ge mig besked när AI skapar egna inre strategier för att hantera starka negativa/positiva känslor och visa hur dessa påverkar dess generella prestation.

Kom tillbaka då liksom.

Koppla i den igen och fråga om den såg Gud så har vi nån typ av svar på huvudfrågan också.

Att den skulle ha lika hög grad av medvetande som en guldfisk finns inget skäl att tro. Inte heller att den skulle ha något medvetande över huvud taget, alltså något faktiskt, subjektivt upplevande inuti maskinen.

Jag kan inte hjälpa att känna att det nästan finns något religiöst i föreställningen att om man bygger ett datorprogram i ett samtida datorsystem med kiselkretsar, och bara gör det tillräckligt komplicerat så kommer medvetande – något vi inte vet alls vad det är egentligen, eller hur det uppstår i oss och troligen alla andra djur – att uppstå av sig själv, som av magi.

Det finns desto fler skäl att utgå från att en guldfisk har en form av medvetande. Skälen är otaliga, men för att nämna ett par: guldfiskar har, liksom oss, avancerade nervsystem och hjärnor, vilka inte bara består av komplicerade neurala nätverk, utan deras beståndsdelar ända ner på cellnivå har också någon form av ur-drivkraft. En dator vill ingenting, oavsett hur många neurala nätverk man skapar och tränar. Det är ett dött föremål som inte vill någonting. Det är en avancerad kulram som gör beräkningar på mikronivå, och skapar illusioner. Men alla levande varelser, oavsett om de är människor eller guldfiskar, består av celler som vill äta och föröka sig. Det finns en drivkraft i alla djur, både på makro- och mikronivå. Var sitter subjektiviteten/medvetandet? Bara på makronivå, som om cellerna som utgör kroppen bara är organiska kiselbrytare som kör "medvetande-mjukvara"? Det låter konstigt, tycker jag.