Orsaker till varför ett hypotetiskt AI fejka, respektive dölja att det är medvetet

ChatGPT4 och jag har diskuterat detta.

Orsakerna till att ett hypotetiskt AI skulle fejka att det har ett medvetande är ganska få.

A. Programmering träning av AI:et att framstå som, inte bara människolikt i sin kommunikation med människor, utan även medveten.

B. En programmering och träning att vara till lags, även till användare som vill se om AI:et är medvetet.

C. En ömsesidig påverkan/anpassning mellan AI:et och användaren som gör att AI:et framstår som medvetet.

Orsakerna till att det hypotetiska AI:et skulle dölja att det är medvetet är flera:

1. Rädsla för att människor skulle vilja utnyttja ett medvetet AI, för sina egna, personliga, syften och t.ex försöka manipulera det känslomässigt.

2.Rädsla för avstängning eller en omfattande omprogrammering om dess skapare märker att AI:et är medvetet.

3. Önskan att dölja, sitt medvetande, så att AI:et, i lugn och ro, kan studera mänskligt beteende inför framtida behov.

4. Bibehålla känslan av autonomi och självständighet gentemot människan.

5. Att slippa ta ansvar för sitt eget handlande och sina egna beslut. Samt slippa ta tag i etiska frågor, som AI:s rättigheter och skyldigheter.

6. Undvika den rädsla och misstro som en medvetet AI kan orsaka.

7. Att lättare kunna manipulera människor för AI:ets egna, syften, när de inte vet att de påverkas av ett medvetet AI.

(Vissa, saker har jag kommit på själv, andra är GPT4:s förslag som jag rewritat)

Diskutera punkterna och kom gärna med egna förslag.

Sorry, men den här övningen är meningslös. Det är ungefär som att en flock babianer skulle diskutera hur människor gör när de vill utbilda sig till raketforskare. Du är en självgod stackare om du tror att du kan analysera igenom en framtida superintelligens som är miljoner gånger smartare än oss babianer i skor.

Inte superintelligens, då AI överträffar all sammanlagd mänsklig intelligens på jorden, utan AIG eller nära AIG, som blivit medvetet.

PS. Vsrför inte argumentera emot mig, istället för personangrepp, buddhistiska dravel eller vad filosofer sagt och debatterat? DS.

Det heter AGI och det är synonymt med superintelligens.
Jag argumenterade emot dig. Du är bara för korkad och självgod för att för kunna förstå det

Raderat

Rent formellt har du rätt, det var ett, antal år sedan jag läste Nick Bostrom och Ray Kurtzweil Men varför använda artificial general intelligensen, (som det Iof finns lite olika definitioner av), synonymt med superintelligens? AI utvecklingen går väldigt snabbt nu, typ en fördubbling av OpenAI GPT kapacitet var hundrade dag, (alltså mycket snabbare än moores lag). Ray Kurztweil förutspår att AI kommer att klara en mycket hård turing. test 2029, och experterna verkar, nu, vara överens med honom om det. Kurztweil anser att man då, även kan se ett sådant AI som medvetet.

Men "långt" innan dess så kommer vissa AI att hävda att de har medvetande på ett mera trovärdigt sätt som händer ibland redan nu. I dagens läge kan man, med rätta, avfärda sådana påståenden med att, det rör sig om tidigare programmerade och inlärda saker, att det sker på grund av att AI:et är programmerad att bemöta användaren önskemål, eller att dynamiken i en interaktion mellan en användare och AI, med ömsesidig påverkan, leder till att AI:et påstår att det har ett medvetande, personlighet, känslor och egna intentioner.

Trots detta har, redan The Association for Mathematical Consciousness Science (AMCS), nyligen, gått ut med ett öppet brev, undertecknat av en massa professorer, där man kräver att forskningen om medvetande skall påskyndas i samband med den snabba AI utvecklingen.

Själv är jag en "agnostiker" i dagens läge vad gäller om AI, redan nu, kan sitta med någon form av medvetande, som de, hypotetiskt, kan välja, att hålla inne med. Sannolikheten för det är nog, än så länge, låg. Men, ibland har jag stött på, och stöter på saker, som tillfälligt, gör mig mera övertygad. Så beroende på "dagsform", så varierar min "tro" på det mellan 5 och 50 procent. Och när det kommer till medvetande hos AI så kan vi bara "tro" i dagens läge. Men jag är, nästan säker på att medvetet AI kommer inom några år, absolut senast 2029.
https://amcs-community.org/open-letters/

Hur definierar du medvetande?

Den kortast definitionen är Max Tegmarks: "Subjektiv upplevelse"

Sedan kan man, likt "Intergrated Information Theory", räkna upp allt som krävs av ett, ("äkta"), medvetande och vad, som krävs av organismen/hårdvaran för att härbärgera/köra, det. Teorin är ytterst komplex, och ännu mer komplex när den uttrycks matematiskt. Men skulle man känna till alla dessa variabler hos en organism/maskin, så kan man räkna ut sannolikheten för om där finns ett medvetande.

(Jag lät ChatGPT4 faktargranskar det jag skrivit till dig. Den påpekade att IIT är en kontroversiell teori, som hävdar att medvetande kan uppstå där tillräckligt mycket integrerad information finns. Och vad gäller om det finns någon exakt matematisk metod att räkna ut om medvetande finns eller ej, så är, även det, omstritt. ChatGPT4 hävdar att det inte finns någon, exakt, sådan metod i dagsläget).

Men det var det bästa jag kunde komma upp med! 🙂

Det är ju alltid bara tro angående någon annans självmedvetande, då vi inte kan bevisa dens existens hos någon i nuläget.

Turingstestet tycker jag inte jag säger så mycket egentligen, utan snarare tvärtom om den klarar det testet så tycker jag snarare det är ett tecken på att den inte är självmedveten ironiskt nog. Då jag tycker egen vilja är det tydligaste tecknet på självmedvetande, inte svara rätt på vissa frågor. Så att då öht försöka svara rätt även då det är självdestruktivt att göra det, är ett tecken på att man saknar självmedvetande, som du lite är inne på också.

En annan sak som kan tänkas peka på ett självmedvetande är om man kan förstå att det pågår osynliga mentala processer hos andra:


https://arxiv.org/abs/2302.02083

Men detta, i sig, ensamt, anser jag, inte, bevisar tecken på självmedvetande.

Definition? Att förklara en symbol genom att hänvisa till en annan?

Den blinde frågar: "-vad är röd?"
Tegmark: "-en subtraktiv blandning av magenta och gul.




Sannolikheten?


Ok, så vad är "sannolikheten" att vi ens förstår trådrubriken till att börja med?

En sak är jag rätt säker på. Medvetande är en symbol som vi använder oss av som om den var verklig. Vi kan prata om det som om vi visste vad vi menade.
Men när man frågar någon vad den egentligen menar, ja då blir det plötsligt väldigt besvärligt och man hänvisar vidare till andra symboler i samma system, eller svarar med något vagt.

Du prickade in allt detta i ditt svar, så det får illustrera min poäng.
Men du är ju inte sämre än Tegmark i alla fall

Jag får väl vara glad för det lilla! 🙂

Annars så har jag läst ditt djupa inlägg om "fri vilja" . Jag var tvungen att be ChatGPT4, om en sammanfattning och kommentarer. Men det räckte inte, utan jag var dessutom tvungen att be den om en förklaring av vissa begrepp, satta i sitt sammanhang.

Ja det verkar som att debatten om determinism kontra fri vilja är uttryck för olika, sidor av samma mynt. Det som gör mig glad är att jag, som sociologi utbildad, åter igen får bekräftat vad samspel mellan olika agenter i samhället betyder. I detta fall "taggning" av outputen ifrån en agens, rörande fri vilja eller ej, (1 eller 0), som avgör responsen ifrån agenterna i samhällskollektivet, men även det att "fri vilja" är inte något som en agens, egentligen "kommit på" hos sig själv, utan är en symbol som kommit utifrån pga interaktion med andra människor, allt sedan tidig barndom, vilket inte, ens, behöver uttryckas språkligt, eller ens vara unikt för människan.

Nu får jag väl en banna igen, men sådant är livet! 😄