När når vi AGI?

Black box test räcker tyvärr inte. En AI kan vara oärlig. Det vet vi redan att dagens AI kan, utan att den är självmedveten och utan att den är en AGI. Problemet kommer att bli värre längre fram ju mer avancerade modeller som skapas. Vi skulle behöva en metod eller teknik för att säkert ta reda på om en AI talar sanning. En "lögndetektor" som måste mäta något annat än pulsen. De behöver förstå var i Black boxen man kan detektera vägvalet ärlig/oärlig. Mig veterligen finns inte den kunskapen i dag. Vi har alltså inget bra skydd mot att bli lurade. En psykopat kan lura en psykolog. Givetvis kan en AGI göra det också. På grund av avsaknaden av kroppsspråk och kunskapen om allt inom psykologi. Som det verkar just nu har mänskligheten förmågan att skapa en AGI inom några år. Men vi har inte kunskapen att skapa en säker AGI.

Du missförstår fortfarande. Jag skrev som sagt att vi inte kan förklara hur vårt medvetande har uppstått eller vad som krävs för att det ska uppstå. Detta handlar inte om vi vi faktiskt är medvetna.

Ja ett black box test räcker inte för att veta om något annat har medvetenhet (däremot kan det användas för att testa intelligens). Faktum är att vi aldrig ens med säkerhet kan veta att andra människor är medvetna, vi kan bara veta att vi själva är det.

Exakt vad är det som är svårt att förklara? Allt vi vet om oss själva är deklarativ information och att skapa sådan handlar om att konfigurera neuroner så att de kodar sådan information. Varför skulle medvetandet vara svårare att förklara än hur vi kan veta vad vi heter eller hur gamla vi är?

Exakt vad är det som är så svårt att förstå, jag har ju redan på enkelt sätt förklarat frågeställningen.

Att veta att vi har något är inte detsamma som att veta hur vi har fått något.

Hur kan vi veta att branta stup är farliga när vi aldrig trillat ned och hur kan vi veta att giftspindlar är farliga när vi aldrig blivit bitna? Är den typen av frågor verkligen svåra att besvara?

Ockhams rakkniv säger att vi inte skall anta fler fenomen än vad som behövs för att förklara våra observationer och då bör vi anta att vår kunskap om medvetandet uppkommit på liknande sätt som vår kunskap om branta stup och giftspindlars farlighet. Det räcker med att en självbild av att vara medveten gör att vi värdesätter vårt eget liv mer än annars för att evolutionen skall konfigurera våra neuroner så att vi vet att vi är medvetna.

Ja, vi kan nog vara ganska säkra på att evolutionen har skapat vårt medvetande. Men det ger oss inte kunskap om hur medvetandet fungerar rent tekniskt i hjärnan. Och den delen bör vi ha koll på - innan vi säkert kan säga att en AGI är medveten eller inte. Det duger inte att intervjua en AGI. Eftersom vi vet att den kan hallucinera/ljuga/tro saker som inte är sant.

Hur vet du att inte din egen hjärna ljuger för dig?

Precis så är det.
Ingen kan ens intervjua mig och vara helt säker på att jag har medvetande, prova om ni vill!

Frågan var på vilka områden den genomsnittlige Flashbackanvändaren passerats. Jag tänkte det kunde vara intressant att höra hur vi är passerade. Nu eller om tio år om du eller ursprungspostaren har några konkreta bilder i huvudet kring hur det kommer gestalta sig.

Ja, det går som sagt bra att fantisera kring saker som inte finns men de begrepp vi använder om det som finns bör vara korrekta. Om vi börjar slåss mot väderkvarnar kommer vi missa saker som är farliga på riktigt.

Att du återberättar samma historia en gång till gör inte att situationen med AI vs. regelstyrd dator plötsligt blir mer relevant för ett tänkt scenario med AI vs. människor.