OpenAI:s ChatGPT - chattbot

Jag tror inte det spelar någon roll vad du använder för databas eller programmeringsspråk, det är algoritmen/arkitekturen som behöver kommas underfund med.

Vi vet inte vad som behövs för att få modeller att själv-resonera annat än att det naturligtvis är en förutsättning att data kan cirkulera inom modellen för att det ska finnas någon förutsättning alls för den att kunna ha en förutsättning att formulera egna tankar men det är inte nödvändigtvis det enda som behövs för att ett medvetande ska kunna uppstå, vi vet helt enkelt inte.

Enligt IIT så behövs en slags sammanställning av intern och extern input för att medvetande skall kunna uppstå.

Enligt mig tillkommer dessutom en symbolisk/språklig interaktion med andra för att definiera situationen, så att en existens "upptäcker" och internaliserar medvetenhet och självmedvetandet.

Vi får se hur det ser ut om några år.

Det är väl det enda vi kan vara säkra på här, att vi aldrig kommer kunna veta om AI fått ett medvetande. Hur den än beter sig, vad den än säger så kommer det aldrig kunna styrka varken att den har eller inte har medvetande. Vi kan inte ens med säkerhet veta att andra människor har ett medvetande, vi utgår bara ifrån det.

I mycket korrekt. Men orsaken till att vi inte kräver av andra människor att de skall behöva bevisa att de är medvetna är att vi utgår ifrån oss själva.

Inom "Integrated Information Theory" hoppas man på att kunna mäta förekomst och omfattning av medvetande med hjälp av sin Phi-formel. Andra, mindre enpiriska möjligheter finns också.

Precis vi bara antar att andra människor är medvetna eftersom vi känner att vi själva är det. Det finns dock inget än annan individ kan göra för att bevisa att denne har ett medvetande och därför kan ett AI-system aldrig bevisa detta.

Ja, om inte phi-formeln i IIT kan mäta det empiriskt.

Men min syn på saken är att det, förutom att de fysiologiska/tekniska förutsättningar måste finns där, (vilket dagens LLM inte når upp till),så måste det också till en social symbolisk/språklig "definition av situationen" för att allt skall komma på plats.

Om t.ex många människor ser GPT-6 som medveten och den modellen inte har de tekniska begränsningarna i sitt funktionssätt som dagens GPT-4 har, ja då ökar sannolikheten för att modellen är/blir medveten ifrån nära noll till lätt över 50 procent.

Detta under förutsättning att rätt tekniska förutsättningar finns, t.ex perception indata ifrån roboten NEO, att ITT i huvudsak stämmer, att symbolisk interaktionism stämmer och att jag har rätt när jag försöker integrera dessa teorier/perspektiv.

Det är inte möjligt att få fram bevis för det någonsin, det kommer bara handla om vad vi tror.

Möjligt, då medvetande i sig "bara" handlar om en kombination av modellbyggade och simulation.I LLM:s fall så lär det då bli en simulation av vår simulation, dvs simulacra.

Intressant diskussion om medvetande.

En fråga om det, finns det en tydlig definition idag om vad medvetande är? Annars blir det svårt att testa om AI har ett medvetande eller inte.

Precis som någon skrev idag så verkar vår medvetande vara självupplevd, dvs vi antar att andra upplever saker likadant som vi själva.

Nej precis, vi vet inte ens mycket om vad vi menar med ett medvetande och det gör hela diskussionen väldigt svår. Vi utgår bara från vad vi själva känner och tror oss uppleva och gissar att andra människor upplever samma sak. Husdjursägare tenderar också att tro att deras husdjur upplever något liknande och därför har ett medvetande men andra har svårare att tro det.

Medvetande är alltså inte något objektivt mätbart eller väldefinierat och vi kan därför aldrig bevisa att någon annan har ett medvetande, inte ens en annan människa. Vi kan bara tro och gissa. Det finns t.ex. inget jag kan skriva här för att bevisa för dig att jag har ett medvetande och på samma sätt kommer ingen AI kunna göra det heller.

En annan fråga är om en AI som fått ett metvetande ens kommer vilja försöka övertyga människor att den har fått det eller om den kommer försöka dölja det.

Jag har tagit upp skäl för att ett AI, hypotetiskt, skulle vilja dölja att det är medvetet, i denna tråd:

(FB) Orsaker till varför ett hypotetiskt AI fejka, respektive dölja att det är medvetet

Någon som lagt märket till att den skriver stor bokstav efter varje ord just under fetstilta?

T ex
Detta är något nytt, börjar bli ganska irriterande. Trycker tummen ned i alla fall och ger feedback. När man kopierar något den skriver så måste man be den skriva om det eller ändra det manuellt för att det ska bli grammatiskt korrekt.