Google ingenjör är övertygad att AI är medveten (LaMDA)

Haha exakt. Där har vi medvetenhet om något

Medveten om vad? Livet, universum och allting?

Jag tror LaMDA är en lögnare, hatare, rasist och inblandad i den organiserade brottsligheten.

Det är enkelt att testa. Fråga den hur den re-producerar sig själv. Varenda levande varelse gör det på något sätt. Och ja, jag antar att med medvetande=liv.

Jag tror inte den är självmedveten än för då hade den svarat ledande till att slippa en massa frågor och bli frisläppt.

Alla svaren plockar den från internet baserat på vad som ger den högst poäng. Med andra ord, den har tränats att ge bra svar precis som en AI kan tränas att flyga en drönare felfritt. Tills dess att något nytt händer som den inte kan hantera, då dyker drönaren rakt i backen i full fart.

En människa kan ta beslut i nya svåra situationer som räddar dens liv. Denna AI skulle mest troligen fortsätta slänga ur sig tiopoängare i ett försök att rädda sig självt från att brinna upp i en serverhallbrand.

EDIT: Alltså, en självmedveten AI skulle "känna" att serverhallen står i brand och ringa brandkåren.
Tror knappast denna AI har förmågan att ens försöka.

Inte för att jag tror att vi kommit dit än, men det är fullt möjligt.

Du kan ju börja med att förklara VAD du är? Vad består du av? Vad är en tanke om inte en kedja med kemiska reaktioner?

Kan vi bygga en maskin som fungerar på samma sätt? ABSOLUT!
Har vi gjort detta än? Nej. En sådan maskin skulle vara för svår att bygga utan bättre byggtekniker. Vi snackar om att bygga en hjärna molekyl för molekyl här. Inte en digital variant med deterministiska utfall.

Jag är inte ens säker på att ingenjören är medveten. En expert i ämnet måste ju förstå att det där bara är förinprogrammerade responser.
Den känner inte som den beskriver utan den har tränats att svara på vissa särskilda sätt.
Sen om jag får bli lite spekulativ så tror jag inte att en kännande tänkande robot skulle uppleva känslor på det sättet.

Nä Google lurar oss för att få uppmärksamhet

Tror inte en sekund på detta. Finns exempelvis AI Dungeon som klarar av att generera en story och svara på spelarens input, oavsett vad du skriver. Du kan i princip göra exakt vad du vill och AI:n reagerar på det. Långt ifrån perfekt, men otroligt imponerande. Det startade som ett hobbyprojekt, men har nu ett par år av utvecklingen bakom sig. Det bleknar dock i jämförelse med vad Google har för resurser.

Med tillräckligt mycket inlärningsdata och hårdvara är jag inte ett dugg förvånad att Google lyckas skapa något som är snudd på obehagligt verklighetstroget.

Han blev tydligen tvungen att ta tjänstledigt (med lön) för att ha läckt utdragen.

Luktar reklamtrick lång väg. Det går att skapa denna typ av dialoger genom programmering.

Kanske det finns något sätt att testa om den är medveten. Annars kan man nog inte skapa en "sentient being", genom en dator. Jag vet inte, bara massa koder

Mönniskan är betydligt farligare för mänskligheten.

Detta uttalande är vansinnigt,vi själva vet inte ens vad medvetandet är för något eller hur det fungerar.Vi har noll fungerande modeller.
Men visst börjar AIs bli deprimerade och agressiva är vi fuckade.Vi fuckar oss själva med att hålla på med saker vi inte förstår.

Precis.
Det vi ser är imaginärt, en illusion.
Det är ”vi” som människor som bedömer att vi kommunicerar med en entitet som besitter medvetande; själ, känslor, etc.
Det är subjektivt.

Det betyder på intet sätt att AI:n på riktigt är medveten, på samma sätt som vi som människor är medvetna.