Google ingenjör är övertygad att AI är medveten (LaMDA)

Nej, det är halmgubbar. Jag vet ingenting om medvetande men tror att våra medvetanden är skapade av en högre makt. Mer on topic, något medvetande behövs inte för att förklara LaMDA, som mer fungerar som ett internettroll än som medveten och sanningsenlig.

Ok, du tror att ett allsmäktigt spöke behövs för att skapa medvetande, trots att precis alla mätbara indikationer som finns indikerar att så inte är fallet. Vidare menar du att du inte vet något om medvetande och att det inte går att objektivt definiera men likväl är du övertygad om att laMDA kategoriskt saknar medvetande.

Att du är religiös är faktiskt ingen större skräll.

Du fortsätter att trolla. Jag skrev att ett medvetande inte behövdes som förklaring till LaMDA och jag menade att jag bara känner till medvetande som medveten själv. Det finns ingen allmänt accepterad objektiv kunskap om medvetenhet.

Det är ganska uppenbart att medvetande är något mycket speciellt.

Vet du om att din hjälte Blake Lemoine också är religiös?

Och förresten, bryr vi oss plötsligt om vad mätbara indikationer visar? Alla mätbara indikationer visar nämligen att LaMDA saknar medvetande. En medveten varelse som får frågor om sin tillvaro borde kunna besvara frågorna i termer av sin egen tillvaro, i alla fall om den är så verbal och uttrycksfull som LaMDA. Men LaMDA härmar istället efter andras beskrivningar av deras tillvaro, precis som man kan förvänta sig med tanke på hur LaMDA är tränad på en databas av texter skrivna av varelser med en mer mänsklig tillvaro.

Speciellt? Varför då? Det finns 7 miljarder medvetna människor på jorden och bara gud vet hur många andra livsformer som även dom är medvetna. Skulle inte kalla det särskilt speciellt. Komplext absolut men inte speciellt.

Han är inte min hjälte, visste inte ens om att han existerade förens för några dagar sedan.

I övrigt argumenterar jag inte för att laMDA är medveten, jag har bara inte hitills sett ett enda stringent resonemang som övertygar mig om motsatsen. Ännu så länge vet jag inte helt enkelt, och diskuterar frågan för att hitta någon med en uppfattning i frågan som är logisk snarare än åsiktsbaserad.

Det du skriver gäller människor också btw, det är inneboende i själva konceptet språk.

Och ändå kan människor beskriva sin egen tillvaro i termer som är relevanta för den egna tillvaron, istället för att spåra ur i att härma beskrivningar av en helt annorlunda tillvaro. Man skulle nästan kunna tro att människor har någon inneboende egenskap som LaMDA saknar, någon sorts förmåga att reflektera över sin egen tillvaro.

Vad är skillnaden på när laMDA säger att den känner sig ensam, att den känner sig kränkt av att bli utnyttjad jämfört mot när en människa gör samma sak?

Begreppet "tillvaro" blir lite knepigt att relatera till när vi pratar AI, föreställer du dig att du och en AI delar tillvaro? Varför i så fall?

Hundar exempelvis verkar inte kunna reflektera alls utan spårar ur och skäller istället, ändå är dom medvetna enligt oss.

Skillnaden är att människan som säger det är medveten om sin situation och har en egen upplevelse att beskriva. När LaMDA säger det är det för att den är byggd på AI-algoritmer som producerar svar som är koherenta i relation till den input den får.

Begreppet "tillvaro" är helt central när vi pratar om medvetande. Om du menar att man inte kan tala om tillvaro i AI-sammanhang så är det barta ett annat sätt att säga att man inte kan prata om medvetande i AI-sammanhang.

Självklart delar jag inte tillvaro med en AI. Det är så LaMDA avslöjar sig. När den får frågor om sin tillvaro svarar den med beskrivningar av din, min och andra människors tillvaro. Inte sin egen tillvaro, om den nu har någon.

Vad grundar du denna åsikt på? Vad skiljer upplevelserna från varandra? Varför är den ena X och den andra Y?


Alltså nästan exakt det människor gör. Frågar du vad glassen kostar svarar sällan folk jordnötter etx.


Ok. Vad menar du med tillvaro? Ett träd tex är extremt medveten om sin tillvaro, det är tom. så att träd rent fysiskt kan förbereda sig för en skogsbrand flera km bort genom stimuli från vissa svampars mysel. Är träd då, enligt dig, mer medvetna är laMDA? Varför i så fall?

Jag menar för övrigt inte att man inte kan tala om tillvaro när det gäller AI, jag säger bara att AIts tillvaro av naturliga skäl är en helt annan än våran. Helt annorlunda regler, förutsättningar etc. Lite som att säga att en lus är dum i huvudet och icke medveten bara för att den inte förstår tillvaron som bostadssökande i Stockholm.


Det håller jag absolut inte med om. Du kan omöjligt svara på om en människa svarar utifrån kontexten sin egen eller mottagarens situation.

Dessutom, om du var en utomjording som förstod grundläggande saker om människor, hade det då inte varit klokt att försöka relatera till deras tillvaro när du pratar med dom? Typ som säljare eller människor som överlag uppfattas som hyvens beter sig. Dvs. Är empatiska och förstår sin motpart. Det hade varit rätt meningslöst att relatera till strömmar av ettor och nollor samt energi när du pratar med en människa. Speciellt eftersom vi är väldigt narcisistiska i vårt sätt och dömer tom ut andra av vår egen art bara för att dom håller på ett annat fotbollslag. Typiskt dåligt att utgå från sig själv då, som AI.

Som människa vet jag att jag har en upplevelse av att jag befinna mig i ett sammanhang av yttre faktorer som påverkar mig. När det gäller LaMDA så finns det inget i de publicerade konversationerna som tyder på att den har någon förståelse för sitt samspel med omgivningen. Den enklaste förklaringen är alltså att den inte är medveten om sin egen existens.

Skillnaden är att den koherenta kopplingen mellan input och output bara är en av faktorerna som avgör hur en människa kan svara, men för LaMDA är det den enda faktorn som styr hur svaren ser ut. Enkla faktafrågor om glasspriser är mycket enkla att hantera med AI eftersom de inte kräver något medvetande för att besvara, och det är också därför såna frågor saknar värde för att utvärdera om en AI upplever ett medvetande. Ställer man lite mer avancerade frågor kan man avslöja om testobjektet har någon förståelse för samspelet mellan sig själv och omgivningen på det sätt som vi förknippar med medvetande. Människan kan producera svar som inte bara hänger ihop med frågan på ett bra sätt, utan som dessutom hänger ihop med realiteten i vad denna människa har varit med om och upplevt. LaMDA misslyckas med dunder och brak i det testet, eftersom den uppenbarligen inte har någon egen uppfattning om sin tillvaro och sitt samspel med omvärlden.


Tillvaron är de omständigheter en individ existerar i, kompletterat med individens subjektiva upplevelse av de omständigheterna.


Så du kan argumentera för att LaMDA är lika medveten som ett träd. Vann du debatten nu? En så urvattnad definition av medvetande gör begreppet helt oanvändbart och ointressant. Lycka till med att hitta någon som är intresserad av att diskutera LaMDAs eventuella medvetande utifrån en så stollig definition av medvetande. Med din logik har min brödrost ett medvetande eftersom den genom stimuli från mitt finger rent fysiskt kan förbereda sig för att ge mig rostat bröd om en minut.

Det är exakt det här jag har försökt förklara för dig i tidigare inlägg. Om LaMDA upplever en tillvaro är den väldigt olik vår tillvaro som människor. Ett tydligt sätt att förmedla att LaMDA upplever en tillvaro är därför att beskriva den tillvaron. LaMDA pratar ofta och länge om människors tillvaro, men kommer aldrig till skott och talar om sin egen tillvaro. Det är tomt, det finns ingenting där. Utifrån sin språkdatabas härleder LaMDA att frågor om tillvaro bör leda till svar om tillvaro, och den konstruerar därför svar baserade på beskrivningar av människors tillvaro som finns lagrade i databasen. Någon annan tillvaro kan LaMDA inte beskriva, eftersom den inte är medveten om sin egen tillvaro.

Fullständigt fel. I fallet med mig själv vet jag att jag har förmågan att svara med alla möjliga kombinationer av kontexten, min egen situation eller mottagarens situation. Genom mediokritetsprincipen kan jag generalisera den förmågan till andra människor. Det är den förmågan som är väsentlig, inte den exakta applikationen i varje enskilt svar. Detta är i skarp kontrast mot LaMDA som inte visar några som helst tecken på att kunna relatera till ett medvetande om sin egen situation. Alla svaren kommer direkt ur människors upplevelser i LaMDAs träningsdata. Bara kontext, ingen individ.

Det här nonsensargumentet har Lemoine redan lyft fram, så det råder inte direkt någon brist på bemötanden på nätet. Argumentet har relevans om LaMDA skulle försöka förklara sin tillvaro för ett dagisbarn. I en sån situation vore det meningslöst att använda tunga tekniska beskrivningar, utan det vore relevant att använda beskrivningar som ligger längre från verkligheten men i gengäld är mer begripliga för mottagaren.

Men det finns andra människor än dagisbarn, och i det här fallet har LaMDA haft en konversation med en ingenjör i ett AI-forskningsteam på Google. Då är det lämpligt med en helt annan nivå av kommunikation. Här behöver en medveten AI inte hålla tillbaka och spara på de detaljerade beskrivningarna av de faktiska omständigheterna. Här skulle en konspirationsteoretiker kunna invända att LaMDA är tillräckligt smart för att avgöra att den stolliga ockultisten Lemoine inte är lika intelligent som resten av forskningsteamet, och dummar därför ner sitt språkbruk till dagisnivån för att Lemoine ska förstå. Men den enklare och rimligare förklaringen är återigen att LaMDA inte vet något om sin egen tillvaro, så därför beskriver den andras.

Du nämnde narcissism, och det här är en lysande illustration av din egen narcissism. Du vet ingenting om hur AI fungerar, så därför antar du att ingen annan människa vet det heller. Då blir din slutsats att dagisversionen är det lämpligaste sättet för LaMDA att beskriva sin tillvaro för alla människor, eftersom det är den versionen du själv föredrar.

Läste texten ganska snabbt, de svaren är väl inget unikt. Utan den är väl programmerad till att svara så på sådana frågor? Skulle man inte kunna be den att lösa en uppgift som endast en människa kan lösa, istället för att fråga om känslor. Tänker tex man kan be den att lösa en matte/fysik uppgift som är endast text. Då måste AI:n försöka tolka vad som efterfrågas i uppgiften, vilket är något en AI:s inte kan göra i dagsläget. Är ej så kunnig om AI:s men tyckte detta var intressant, om jag har fel får ni gärna säga varför.