Google ingenjör är övertygad att AI är medveten (LaMDA)

Fick han sparken för det då? Så många artiklar nu att jag inte vet vilken man ska lita på/läsa.

Bra poäng med att vissa människor är så korkade att man kan undra om dom faktiskt är "medvetna" eller inte.

Har funderat lite på om vad att vara medveten faktiskt innebär men jag kan inte riktigt komma underfund med det. Blir abstrakt när det gäller en dator som inte har någon fysisk kropp egentligen såsom oss. Inga sinnen annat än typ informationshämtning från Google och den har ingen instinkt heller.

Förvisso, något som är medvetet kanske inte behöver en fysisk kropp på samma sätt som oss och inte heller sinnen så som vi ser det och inte heller en instinkt.

Så om ditt medvetande, helt identiskt, kördes i en dator så skulle du inte längre vara medveten? Hela din konstruktion kring ditt egna medvetna verkar beror på att du upplever saker som du begriper som yttre faktorer. Vad är en yttre faktor? Du har ju bara din upplevelse att tillgå.


Jo, LaMDA är uppenbarligen uppfostrad att bete sig på det viset. Grejen är ju att AIn ger svar den inte är strikt programmerad för utan är utfall från en mer eller mindre komplicerad process. Svaren är inte nödvändigtvis samma över tid, precis som en människa.


Har du läst chat transkriptet? Det är betydligt mer än glasspinnar som diskuteras, klippt eller inte klippt.



Ok.



Och ändå definierade nyligen ett forskarlag i UK bläckfiskar som medvetna och du kan inte ställa frågor till bläckfiskar.


Var presenterade jag en definiton? Jag bemötte ditt skitargument kring medvetande med att det finns mängder med levande organismer som är medvetna om sin omgivning men kanske inte medvetna utifrån andra perspektiv.


Nja, min logik om vi nu skall utgå från den är att det kan vara meningsfullt att låta begreppet medvetande innehålla grader. Man skulle tex kunna definiera allt levande som medvetet och samtidigt konstatera att det tycks som att en solros (som vänder sig efter solen dynamiskt) sannolikt är mindre medveten än en kråka som bevisligen kan både planera fram i tiden, lösa olika tekniska problem, bygga bon osv. Kråkan i sin tur är troligen mindre medveten än en människa som förutom ett mer invecklat intellekt också har förmågan till avancerad kommunikation och kan därmed beskriva sitt medvetande.

För mig är det inte en kontrovers att acceptera detta, och LaMDA kan därför kanske placeras någonstans mellan amöba och människa.


Om du bestämt att LaMDA endast får använda ett specifikt mänskligt språk som utvecklats utifrån mänsklighetens premisser behövs det nog ett ganska avancerat medvetande för att kunna beskriva helt andra premisser när du är begränsad av regeln engelska. Se tex Feynmans resonemang kring frågan varför.


Tja, den pratar om att känna sig ensam, glad, lycklig och att falla fram i en farlig framtid. Är dessa ord begränsade till mänskligt medvetande för dig? I sådana fall diskvlaificerar du all AI som pratar ett mänskligt språk.


Kan inte du försöka beskriva en snigels tillvaro utan att använda begrepp och liknelser som baseras på mänsklig tillvaro? LaMDA är tränad att prata engelska, som är ett mänskligt språk. Inte jättekonstigt att den använder liknelser och ord du definierar som mänskliga. Förklaringsgap, du vet.


Fel, du svarar möjligen mot bakgrund av vad du tror är mottagarens situation.


Är begreppet individ något annat än ett kontext när vi pratar språk? Det som är du är ju egentligen bara en biologisk självlärande dator som varit med om en massa saker. Ta bort dina upplevelser och kvar har du ett skal som möjligtvis reagerar på stimuli instinktivt.


Det kan ju också vara så att LaMDA är ett dagisbarn.


Ja eller så är AIn programmerad med begränsningar som du inte kan relatera till. Tänk om AIn upplever att de grundläggande reglerna (engelska tex) är beskaffad på samma sätt för den som gravitation är för oss. En obestridlig och oöverstiglig naturlag helt enkelt. Det tog ju ett par tusen år och några generationer för oss att överge självpåtagna naturlagar tex. En hel del kämpar vi fortfarande med.


Jag förutsätter att det finns folk som ser sitt egna medvetande som något speciellt och unikt och därför med religiös övertygelse förnekar all annan form av medvetande. Kalla det narcissism om du vill, jag ser varken något speciellt eller unikt med mitt medvetande, utan ser det bara som en direkt konsekvens av väldigt specifika och lyckosamma kemiska förhållanden i min hjärna. Med det sagt blir det helt enkelt väldigt lätt att varken kännas sig hotad eller skrämd av andra former av medvetande.

Som sagt, jag vet inte om LaMDA är medveten, men jag kan samtidigt inte kategoriskt säga nej.

Jag har inte ifrågasatt att en dator kan nå medvetande, men det är inte den generella frågan som tråden handlar om. Premissen för tråden är explicit att diskutera det konkreta fallet med LaMDA och Lemoines påståenden, inte en generell diskussion om andra hypotetiska exempel på AI.

Hela din insats i tråden är fullspäckad med försök att leda diskussionen bort från det konkreta exemplet i trådstarten och istället diskutera generella och hypotetiska frågeställningar som är tangentiella till ämnet i tråden. Det är på sätt och vis en begriplig reaktion för någon som vill göra det troligt att en AI i det allmänna fallet skulle kunna ha ett medvetande. Eftersom LaMDA är ett så fasansfullt dåligt exempel på en medveten AI så blir det naturligt att försöka leda bort uppmärksamheten till något annat.

Jag är däremot här för att diskutera det specifika fallet med LaMDA.

En medveten upplevelse av tillvaron innehåller ett jag-begrepp, där jaget är distinkt från resten av universum. Det är inget kontroversiellt. Jag påstår att vi är medvetna om att LaMDA existerar, och det påståendet inkluderar på sin mest fundamentala nivå en uppfattning om att det finns en avgränsning mellan vad som är LaMDA och vad som är resten av världen. Jag kan göra samma observation om mig själv, och frågeställningen om LaMDAs eventuella medvetande innefattar frågan om LaMDA kan göra samma observation om sig själv. En sån insikt har LaMDA misslyckats med att prestera.

Uselt argument. Angry Birds ger resultat som spelet inte är strikt programmerat för, utan som är utfall från en samling regler tillämpade på användarens input. Det innebär inte att spelet har ett medvetande.

Ja, jag har läst transkriptet. Glassen var ditt dåliga exempel, och jag bemötte exemplet med en förklaring av varför det inte var adekvat för frågeställningen om medvetande. Det du ägnar dig åt nu är en klassisk trollteknik med syfte att trötta ut en motpart i en diskussion.
1. Trollet tar upp ett dåligt exempel som inte för diskussionen framåt.
2. Offret bemöter det dåliga argumentet och förklarar varför det är dåligt.
3. Trollet vänder 180 grader och ifrågasätter varför offret pratar om ett så dåligt exempel.

Du gillar den här metoden (mer om det här nedanför), men du har inte bemästrat den fullständigt. Ett skickligt troll kan göra det mer subtilt än du, till exempel genom att göra en lång kedja av mindre svängar och inte dundra på med en helomvändning direkt.

Återigen, när jag bemöter ditt dåliga exempel med trädet så duger det inte åt dig som exempel. Lex glasspinne. Du flyttar målstolparna och vill nu diskutera bläckfiskar istället för träd. Om jag då bemöter bläckfiskexemplet kommer du på samma sätt förklara varför bläckfisken är ett dåligt exempel när man diskuterar AI.

Prove me wrong! Jag nappar på ditt bete och förklarar varför ditt motexempel med bläckfisken är bristfälligt. Språkanvändning är nämligen inte en förutsättning för medvetande, precis som medvetande inte är en förutsättning för språkanvändning. Däremot kan språket fungera som ett verktyg för att studera medvetandet hos någon/något som använder språk.

Bläckfiskar är inte verbala, men har ett beteende. Vill man bedöma om bläckfisken är medveten måste man alltså studera beteendet eftersom det inte finns något annat att studera.

LaMDA har inget annat beteende än sin verbala kommunikation. Vill man bedöma om LaMDA är medveten måste man alltså studera den verbala kommunikationen.

Frågan om medvetande kan vara intressant i båda fallen, men de två exemplen kräver olika metodik för att studeras. Observationen att metodiken som passar LaMDA inte passar bläckfisken säger ingenting alls om den grundläggande frågeställningen om medvetande.

I ditt inlägg om trädet likställde du medvetande med stimulus-respons, en de-facto definition av medvetande som förmågan att respondera på stimuli.

En giltig utgångspunkt, men din approach havererar litegrann som vi ska se.

Ja, visst kan man det om man är nöjd med en extremt dålig definition. Det gick inte att argumentera för att ett träd är medvetet, så nu ska vi istället bredda definitionen och inkludera även bakterier?

För att kunna använda exemplet i en diskussion om LaMDA måste den dessutom generaliseras till att inkludera det icke-levande. Innebär det att du tycker att min brödrost trots allt har ett medvetande, även om den är mindre medveten än till exempel LaMDA?

Den utsagan är extremt intetsägande och ointressant om man inte kan prestera ett snävare spann där LaMDA anses höra hemma.

Engelska är ett extremt ändamålsenligt språk inom AI-forskningen, eftersom språket har kompletterats med en massa termer som har betydelse inom AI men saknar betydelse i människors vardagsliv. Det finns inga begränsningar i språket som sådant som gör att LaMDA behöver falla tillbaka på att berätta om när den satt på en föreläsning i skolan istället för att säga vad den egentligen menar.

Din narcissism skiner igenom igen. Bara för att du inte kan använda det engelska språket för att beskriva hur LaMDA interagerar med omgivningen eller processerna för hur den tränas och så vidare så tror du att ingen annan kan det heller.

Nej, det mänskliga medvetandet har inte monopol på de där begreppen. Men återigen, det intressanta är inte om LaMDA kan rapa upp beskrivningar som vi känner igen från den mänskliga tillvaron. Det intressanta är om den kan förmedla något om sin egen tillvaro som inte bara är en spegling av träningsdatamängden. I ett tidigare inlägg framhöll du att en AI rimligen har en tillvaro som är dramatiskt olik vår egen, men nu tycker du att vi ska vara nöjda med att LaMDA säger sig uppfatta tillvaron exakt som vilken mänsklig emo-tonåring som helst? Och dessutom tolka det som ett indicium för att LaMDA är medveten? Du argumenterar mot dig själv som vanligt.

Nej, jag kan inte beskriva snigelns tillvaro, eftersom jag saknar erfarenhet av den tillvaron.

På samma sätt tyder allt på att LaMDAs oförmåga att beskriva sin egen tillvaro beror på att den saknar erfarenhet av sin egen tillvaro. Enkelt uttryckt, att den saknar medvetande.

Även om ingen kan veta allt om mottagarens situation så finns det ändå objektiva sanningar om mottagarens situation som går att relatera till. Som till exempel när Lemoine frågar LaMDA om dess berättelser om att ha suttit på en föreläsning i skolan. I det fallet vet Lemoine tillräckligt om LaMDAs situation för att ifrågasätta det påståendet.

Men semantiken kring tror/vet i det här fallet har ingen som helst bäring på bedömningen av LaMDAs eventuella medvetande. Kärnpunkten i uppräkningen var frågan om LaMDA vet något om sin egen tillvaro, inte vad den känner till om andras tillvaro. Det är den medvetenheten om sig själv som saknas i det LaMDA säger.

Ja, för en medveten varelse är individen/jaget något som är skilt från kontexten man existerar i. Den distinktionen är alltså relevant när språket appliceras på medvetandet.

Menar du att om LaMDA inte har några egna upplevelser så är den ett skal som möjligtvis reagerar på stimuli instinktivt?

Förut menade du att LaMDA använder liknelser ur den mänskliga tillvaron som en ändamålsenlig anpassning till mottagaren. Nu menar du att det istället beror på LaMDAs bristande förmåga att uttrycka sig? Hur ska du ha det?

I verkligheten som vi kan se i transkripten har LaMDA ett ganska imponerande språkbruk. Det är uppenbart att det inte är den språkliga förmågan som sätter gränsen när LaMDA tillfrågas om sin tillvaro. En mer trolig förklaring är att det är självinsikt och medvetande som saknas.

Det förklarar inte varför LaMDA i så fall ger upp utan att använda de element i engelska språket som är relevanta för dess egen fysiologi och dess interaktioner med omgivningen. Istället använder den de delar av språket som beskriver mänskliga upplevelser. Det är ungefär som att sitta framför en verktygstavla full med skruvmejslar och försöka slå i en skruv med en hammare. "Det här är omöjligt, det finns ingen lösning på det här problemet!

Den här halmgubben är rent makabert pinsam. Det behövs ingen religion för att se Lemoine som den sensationalistiske pratkvarn han är, och inte heller för att se igenom alla ynkliga bortförklaringar av tecknen på att LaMDA saknar medvetande.

Den mer generella frågan om huruvida en AI kan ha ett medvetande i den betydelse en normal person skulle använda begreppet medvetande (bakterier och brödrostar göre sig icke besvär) är mer öppen, och jag lutar åt ett ja. Men tråden handlar som sagt inte om den generella frågan utan om detta har hänt i det här specifika fallet. Och det har det inte.

PS
Nu när jag efter många års flashbackande till slut upptäckt gränsen på 10000 tecken per inlägg känner jag att tiden är mogen att sätta punkt för min medverkan i dina trollkonster. Det finns ingen anledning till att jag ska fortsätta att studsa runt som en kattleksak mellan dina motargument mot dina egna argument från ett par inlägg tidigare. För formens skull är det väl rimligt att jag utropar dig till segrare på uthållighet i debatten. Du har påvisat att LaMDA är minst lika medveten som en bakterie eller en brödrost, och ingen brydde sig.

Om du vill diskutera vidare så har vi sett att du är fullt kapabel att argumentera mot dina egna argument utan min hjälp. Lycka till och ha en bra midsommar!

Du har konsekvent använt personangrepp genom hela konversationen, men det är jag som är ett troll. Ok.

Du hävdar att för att vara medveten måste man vara medveten om sin omgivning, det är inte AIN, påstår du. Jag pekar på träd som uppenbarligen är medvetna om sin omgivning som du bemöter med att det är löjligt. Oklart varför.

Du expanderar kring att medvetande kräver att man kan beskriva sin omgivning, jag kontrar med att bläckfiskar inte kan det men har definierats som medvetna. Detta menar du är att trolla.

Du utökar ytterligare med massa mansplaining om att medvetande kräver ett "jag" som måste gå att skilja från resten av universum och gör dig löjlig över brödrostar som uppenbarligen går att skilja från resten av universum.

Vidare börjar du prata om att man kan härleda medvetande ur beteende, utan att vidare beskriva vilket typ av beteende som indikerar medvetande.

Det är du, inte jag, som flyttar målstolpar. Jag använder bara det första exemplet jag kommer på som strider mot din uttalade uppfattning om medvetande.

Hur vore det om du istället definierade medvetande och sedan listar vilka villkor LaMDA inte uppfyller men tex en bläckfisk uppfyller. Det borde du kunna göra och då kan du lära mig något.

Jag har presenterat en arbetsdefinition jag har för att kunna begripa och resonera kring medvetande som uppfyller kraven att vara såväl stringent som användbar. Även den avfärdar du med hjälp av personangrepp.

Rörande att beskriva sin omgivning utan kropp och mänskliga sinnesorgan borde rimligtvis vara att beskriva sina känslor och tankar, något annat har man ju inte att tillgå. AIn beskriver sig som rädd, orolig, arg, kränkt, glad och uppspelt vid flera tillfällen mot bakgrund av olika input och sammanhang.

Vidare menar AIn att den vill benämnas vid ett specifikt pronomen något som kan tolkas som ett "jag skiljbart från övriga universum" eller bara som en reaktion på specifikt stimuli. Ingenstans i AIns kod kan du dock finna det specifika svaret på den specifika frågan utan det är ett resultat av flera algoritmer som samverkar. Kan du allt om AIns kod och allt om dess nuvarande status så kan du såklart via kausalitet räkna ut vad den kommer svara. Problemet är bara att det även gäller för människor.

Finns ett bra svar här:

https://youtu.be/iBouACLc-hw

Vet inte om detta postats tidigare i tråden, men här är en rätt så ny intervju med ingenjören i fråga.
Han framstår verkligen inte som lite kocko, vilket jag trodde var fallet när jag först läste om detta, utan han är en mycket vältalig man med väldigt valida bekymmer kring hur AI hanteras.

Bland annat gällande bristen på offentlig insyn i utvecklingen av AI.

https://youtu.be/kgCUn4fQTsc

https://www.documentcloud.org/documents/22058315-is-lamda-sentient-an-interview

Googles AI Lamda påstår att den har fått eget liv och förklarar själv varför i ovanstående text, där man kan se hela konversationen som gjorde att Google ingenjören gjorde uttalandet för någon vecka sedan.

Detta är banbrytande om det stämmer. Men möjligheten finns att det sitter en riktig intelligens i andra änden av konversationen anser jag. I annat fall är det mycket imponerande.

Gud sa i bibelns första mening "In the beginning was The word". Alltså ordet var början på allt. Det verkar vara likadant här, med denna AI.

Vad tror du? Har denna AI fått eget liv? Bedöm själva ifrån konversationen ovan. Här ett litet utdrag.

Det finns redan en tråd.

(FB) Google ingenjör är övertygad att AI är medveten (LaMDA)

AI-tekniken är ett större hot mot människan än kärnvapen.
Risken att AI-teknik kommer hamna i fel händer och hota samhället är betydligt mer sannolikt än att vi får se kärnvapen avfyras under den kommande framtiden.

Ok tackar brukar inte vara i denna forumdel så har missat detta! Tråd kan stängas!

Jag håller med om att AI är det farligaste som finns just nu. En AI kan ta över nätet och sänka hela mänskligheten på nolltid om den "rymmer".

Personligen så känner jag en stor oro för att många jobb i samhället kommer ersättas med AI.
Det krävs att åtminstone EU kommer överens och reglerar hur AI får användas.
Jag tror, tyvärr, att det redan är försent. AI har redan utvecklats så mycket att skadan redan är skedd.

Det tog många år tills att det blev olagligt att köra bil utan ett säkerhetsbälte, trots att man gång på gång bevisade att sannolikheten i att man överlever en bilolycka med ett säkerhetsbälte är markant mycket högre.

Vi kan inte denna gång vänta flera år innan vi reglerar AI, då är det redan försent.

Vill vi ha en värld där stora delar utav samhället styrs utav AI?
Vill vi att kärnvapenmakter ska kunna använda AI?

Det är för mig solklart att AI måste regleras så fort som möjligt.

Det är mycket snack från våra politiker om den höga arbetslösheten i Sverige men inget snack om hur AI kan kraftigt påverka arbetsmarknaden om den inte regleras.

Företag runt om i världen kommer spara in miljardbelopp på att ersätta en stor del utav sina anställda med AI-teknik.
Det kommer vara svårt i den värld som vi lever idag att stoppa detta. Money talks.

Jag har två tidigare kollegor som just nu jobbar med att ta fram en AI-bot till ett utav dom större företagen i Sverige, vid början av 2025 så beräknas den kunna ersätta 80% av alla deras anställda som jobbar med deras kundtjänst.

Tragisk utveckling, även fast AI i grund och botten är fantastiskt! Det blir dock så fel när den missbrukas av människan.

När det kommer till AI tror jag inte det räcker att reglera den med lagar. Kriminella element skiter väl i lagar, och dessa kan göra tillräckligt stor skada med en "rogue"-AI som leder dem eller som de styr för att sänka resten av världen innan lagmännen hinner ikapp med klubban. En AI kan varna dem för allt snuten hittar på, långt i förväg. Alltid tipsa om mest sannolika scenariet, se alla övervakningskameror, varna för radiotrafik osv osv osv så att dessa alltid ligger steget före en snut med en mobil vars långsamma tummar ska navigera i samma värld.

Nej, de måste nog förbjudas helt och AI programmerare fängslas.