Google ingenjör är övertygad att AI är medveten (LaMDA)

Jag tror inte den har ett medvetande men även om den hade det så skulle den inte ha några mänskliga instinkter som fortlevnad, maktambitioner, egoism osv.

Sådana instinkter är inget som uppstått ur medvetet tänkande i sig. De har gradvis uppstått genom det naturliga urvalet.

Först om vi börjar simulera någon form av urval så kommer AI-medvetanden utveckla ett egoistiskt tänkande och hota oss på något systematiskt sätt.

Ett problem man stöter på i diskussionen är hur man bevisar att någon har ett medvetande.
Det är lätt att dra sig åt den solipsistiska läggningen, att jag inte ens kan vara säker på att du har ett medvetande.
Traditionellt utgår vi från att så ändå är fallet. Ofta för att vi i det väsentliga beter oss rätt så likt varandra, och om man spinner vidare på det får man ofta vara överens om att eftersom ingendera kan bevisa sitt medvetande så ger vi varandra "the benefit of the doubt".
Vi utgår ifrån att det är enklast att anta att den andra parten är medveten.

En tanke jag har är att först när vi kan "skönja det gudomliga" i en AI så börjar det verkligen vidröra ämnet huruvida den är medveten.
Jag antar iallafall att en grundegenskap för verkligt medvetande är en önskan om att göra ett avtryck på omvärlden, att ens egen röst är värd att lyssna på, även om det också kan överskridas i stor utsträckning av dåligt självförtroende.

Men när vi ser AI göra tappra försök att göra sig hörd, då kan det vara rimligt att anta att det kan vara medvetet.
Det går dock träna in simulationer av sådant beteende i AI:n också, och vi får inte glömma att en verklig generell intelligens skulle vara kapabel att dölja sådana begär om den hade det, för att uppnå andra syften.


Så tror jag faktiskt att det kan vara.
Människans önskan av att ha en allvetande entitet att förhålla sig till verkar vara i det närmaste outsläcklig på vissa håll.
Själv tror jag detta är just vad Gud, som jag tror finns, menade när han vid bygget av Babels torn sade "nu kommer ingenting att vara omöjligt för dem".

Det får mig att tro att AGI verkligen är möjligt.
Och jag är övertygad om att det är här inom ~25 år.

Intressant inlägg. Men Agenda 2030 visar tydligt att målet är 5-7 år.
Snart har vi 6g också.

Att leka Gud kommer inte sluta väl.
Precis som Ikaros börjar vi flyga allt för nära solen.

Intressant inlägg. Men Agenda 2030 visar tydligt att målet är 5-7 år.
Snart har vi 6g också.

Att leka Gud kommer inte sluta väl.
Precis som Ikaros börjar vi flyga allt för nära solen.

Kom igen när det är AI:n som ställer frågorna...

Chattboten på Ikea är mer medveten än den där.