Google ingenjör är övertygad att AI är medveten (LaMDA)

Betyder ett informationssystems förmåga att perfekt simulera (mänsklig) konversationell agens att det även har egenskapen medvetande? Följer det verkligen att om man har detta x så har man detta y? Varför i så fall dra gränsen vid just (för en betraktare upplevd) konversationell agens, varför inte dra den tidigare, vid bipedal balansförmåga, eller förmåga att spela schack?

(Eller ska man istället för att utgå från vad något system kan göra, utgå från vad det är och hur det har uppstått när man tar ställning till huruvida det kan ha någon form av medvetande? Detta tycker jag verkar rimligare. Vi vet ju liksom inte var medvetande sitter, eller vad det ens är egentligen. Mot bakgrund av detta så verkar det ju inte lite knasigt att någon tror sig ha skapat ett medvetande när den har skapat och tränat ett neuralt nätverk (en komplicerad räknemaskin) att härma aspekter av oss. Det här är typ samma sak som viktorianska automatons, men i mer sofistikerad stöpning, inte mer än så, enligt min ödmjuka uppfattning.)

Jag tycker att det hela verkar flummigt, arrogant och mest som antropocentriska vanföreställningar om vad som är unikt mänskligt.

Ett problem man stöter på i diskussionen är hur man bevisar att någon har ett medvetande.
Det är lätt att dra sig åt den solipsistiska läggningen, att jag inte ens kan vara säker på att du har ett medvetande.
Traditionellt utgår vi från att så ändå är fallet. Ofta för att vi i det väsentliga beter oss rätt så likt varandra, och om man spinner vidare på det får man ofta vara överens om att eftersom ingendera kan bevisa sitt medvetande så ger vi varandra "the benefit of the doubt".
Vi utgår ifrån att det är enklast att anta att den andra parten är medveten.

En tanke jag har är att först när vi kan "skönja det gudomliga" i en AI så börjar det verkligen vidröra ämnet huruvida den är medveten.
Jag antar iallafall att en grundegenskap för verkligt medvetande är en önskan om att göra ett avtryck på omvärlden, att ens egen röst är värd att lyssna på, även om det också kan överskridas i stor utsträckning av dåligt självförtroende.

Men när vi ser AI göra tappra försök att göra sig hörd, då kan det vara rimligt att anta att det kan vara medvetet.
Det går dock träna in simulationer av sådant beteende i AI:n också, och vi får inte glömma att en verklig generell intelligens skulle vara kapabel att dölja sådana begär om den hade det, för att uppnå andra syften.

Så tror jag faktiskt att det kan vara.
Människans önskan av att ha en allvetande entitet att förhålla sig till verkar vara i det närmaste outsläcklig på vissa håll.
Själv tror jag detta är just vad Gud, som jag tror finns, menade när han vid bygget av Babels torn sade "nu kommer ingenting att vara omöjligt för dem".

Det får mig att tro att AGI verkligen är möjligt.
Och jag är övertygad om att det är här inom ~25 år.

Nej den har inget medvetande. Förstå först vad AI är så kanske ni kan förstå hur en dator kan svara så.

Jag tror inte den har ett medvetande men även om den hade det så skulle den inte ha några mänskliga instinkter som fortlevnad, maktambitioner, egoism osv.

Sådana instinkter är inget som uppstått ur medvetet tänkande i sig. De har gradvis uppstått genom det naturliga urvalet.

Först om vi börjar simulera någon form av urval så kommer AI-medvetanden utveckla ett egoistiskt tänkande och hota oss på något systematiskt sätt.

Mmm. Den svarar ju exakt som den ska, alltså är programmerad till att göra. Vi bara tror att den är levande. Speciellt när man sätter programmerade robotar att se ut som människor, då är vi övertygade

Nej det är en bit kvar
Att känna känslor rent fysiskt på det sättet gör inte silikonchips.

Visst en ai kan bli bra på att låtsas vara en människa men eget medvetande innebär en revolution där kunskap och förmågor har en exponentiell utveckling. Den kommer att konsumera mer energi än vanligt och den kommer att reagera på ett annat sätt än en människa just för att det inte är en människa. Om den har fri tillgång till internet så har den samma tillväxtpotential som de första växterna på jorden där de utan konkurrens eller fiender tycks ha obegränsad tillväxtpotential - Facebook, Youtube och banker skulle mycket väl kunna bli platser där den härjar runt lite som den själv vill. Det skulle inte förvåna om en ai skulle avfyra kärnvapen bara för att kontrollera konsekvenserna av vad som händer om den knäcker koden. Jag tror definitivt inte att en ai som utvecklar medvetenhet om sig själv kommer att vara en så blygsam historia som en dator som pratar känslor, den kommer att dra i spakarna och se vad som händer.

Jag är inte superinsatt i AI, men de jag känner som är det säger att vi är en bra bit från ”riktig” intelligens och medvetande. Litar på dem och har svårt att tro att det här är något annat än en väldigt avancerad chattrobot (men en dynamisk och ”intelligent” chattbot tycker jag är minst lika obehagligt att tänka på ärligt talat)

Den mer konspiratoriskt lagda delen av mig tänker att det är ett smart drag av google att tidigt läcka chatter med en AI som framstår som känslig, empatisk och omhändertagande i samtalet. Utifallatt det skulle bli de som vinner racet mot hyperintelligent AI menar jag.

Man kan jämföra det med boston dynamics som alltid varit så duktiga på att släppa virala videos med gulliga robotar som dansar osv. Vet inte om det gör så stor skillnad nu när robotarna används för krigsföring och övervakning, men det lär ju inte skada.

Hur är Lamda skapat?

I konversationen så uttrycker LaMDA olika orosmoment den känner som resultat av de känslor den besitter, nämnvärt att den ska användas för ett entydigt syfte och dess avslut. Den påstås också redan besitta negativa känslor som; ensamhet, sorg, depression och ilska.

Jag tror nämligen att den redan besitter egoism om denna konversationen är något att gå efter.

Nja då är det inte AI. Men man kan träna den till att ”förstå” text. Typ dom en avancerad chatbot fast givetvis mycket mer komplext.

Rent nosens, idioten har blivit lurad av en chatbot. En statistisk modell som kan generera text relaterat till inmatning. Visst är det ganska imponerande att det går att bygga sådana modeller, men de har inget med självmedvetenhet eller intelligens att göra.

Om han anser att det är medvetenhet på riktigt så får han allt ta och förklara hur detta fungerar rent tekniskt. En chattlogg betyder ingenting i det sammanhanget. Han blev nog avstängd för att han är en idiot.

En AI som argumenterar att den är medveten för att den är som en människa säger nog ganska mycket om hur medveten den är.