Om AI är medveten går det då att bevisa det?

Om vi inte ens kan bevisa något utanför vår egna medvetenhet. Jag vet att jag är medveten men jag vet inte till 100% att någon annan levande varelse är det. Hur ska vi ens då kunna bevisa att AI är det?

Man kan vända på resonemanget.

Om våra mänskliga hjärnor inte besitter tillräcklig intelligens för att ens förstå hur våra egna mänskliga hjärnor fungerar, hur ska vi då någonsin kunna skapa en konstgjord "mänsklig" hjärna?

Vi kommer förmodligen aldrig kunna skapa en AI som kan leva upp till vår egen medvetenhet.

Och om AIn inte når upp till vår egen intelligens finns det knappast någon anledning att fråga sig hur pass "medveten" den är.

Man kan lika gärna fråga sig hur medveten en bisvärm eller ett fiskstim är.

Fast varför skall man bevisa det? Det beror ju på varför man vill bevisa det och vilket poäng man vill få fram.

Frågan är dock inte varför utan om.

Eftersom detta ligger under filosofi, så vill jag bara påpeka att du inte alls kan veta att du är medveten, och du kan definitivt inte bevisa det för någon, även om du, liksom jag, kan vara övertygad om det.

"Mitt medvetande talar om för mig att jag har ett medvetande..."
Du förstår problemet?

Jo det spelar en väldigt stor roll om varför eftersom du undrar om det går att bevisa.
Ska någon bevisa något stämmer och ta reda på fakta som stämmer överens med kriterier som går att uppfylla så spelar det en enormt stor roll hur man ska tolka frågan ifrån första början.

Så varför ska man bevisa detta? Är det för se om man kan tillverka syntetiska varianter av själar eller vadå?

Medvetande är bara förmågan att analysera vad som händer i omgivningen och utifrån denna information producera lämpliga handlingar. Om en maskin kan interagera med omgivningen på en lika avancerad nivå som vi människor kan göra så har den därmed samma medvetandenivå som oss.

Leva upp till? Vi kommer aldrig att kunna skapa en medveten AI över huvud taget. Inte ens ett "svagt" medvetande, typ ett djurs. Exakt hur skulle det gå till?

Dock finns ingen absolut definition av vad medvetenhet är, så somliga skulle nog ändå argumentera för att det i någon mån skulle vara möjligt att skapa "ett slags" medveten AI.

Men jag håller med dig i sak, absolut.

Medvetande är inget "bara". Medvetande är exakt vad Universum vill uppnå, och det är genom medvetande som Universum lär känna sig självt.

Medvetande hos människan är förmågan till självreflektion. Att man är medveten om att man existerar och tänker medvetna tankar.

Förmågan att analysera vad som händer i sin omgivning och utifrån den information som samlas producera (mer eller mindre) lämpliga handlingar har även djuren. Djur är däremot inte självmedvetna, till skillnad från människor. En organisms medvetandenivå existerar givetvis på ett spektrum.
Du menar alltså att en robot som sätter ihop en produkt på en fabrik, och en människa som står bredvid och sätter ihop en identisk produkt med exakt samma resultat, har samma nivå av medvetande? Driver du eller? En grundläggande skillnad är väl ändå att människan kan reflektera över att den sätter ihop produkten. Det kan inte maskinen göra, för den är inte självmedveten (och kan aldrig vara det, för man kan inte programmera in självmedvetande i materia hur som helst, hur skulle det gå till?).

Maskinen är givetvis inte medveten på samma nivå som en människa bara för att den kan utföra exakt samma handling som en människa. Kom igen nu...

Edit: Tillägg

Att Turing-test skulle avgöra denna fråga.

Då är bara för dig att visa att det där "om" är sant. Det behöver ju inte vara så att en enda människa har total förståelse för hur vår hjärna fungerar utan det räcker om forskarkollektivet har det, där enskilda forskare bara förstår en liten bit var. Ja, egentligen behövs knappast ens det. Måste man verkligen förstå exakt hur den mänskliga hjärnan fungerar för att kunna skapa ett medvetande?
Ungefär som vi aldrig kunde bygga en maskin som flyger. Historien är full av felaktiga förutsägelser om vad vi aldrig kommer kunna göra.

En mer praktisk fråga är att även om vi lyckas bygga en AI som beter sig som den hade intelligens och medvetande på minst mänsklig nivå, kommer vi erkänna den som en jämlike, eller kommer vi fortsätta se den som "bara en maskin"? Leder det i så fall till ett framtida slavuppror?