Möjlig paradox: Förutspå sitt eget handlande leder till oändlig iteration?

Antag: Det finns ingen "själ". Hjärnan styr din kropp och skulle man kunna "räkna ut exakt" hur du kommer agera i kommande situationer.

Scenariot är följande: Du sitter framför en superdator som blixtsnabbt kan räkna ut exakt vad du kommer att tänka och göra inom en nära framtidgenom att scanna av din hjärna i en bestämd tidpunkt. Direkt när datorn har räknat ut detta printar den de på skärmen (eller förmedlar infomationen till dig på ett annat sett tex genom elektriska signaler).

När du tar del av denna information kommer du dock att påverkas av den och därmed göra någonting annorlunda än vad datorn förutsade. Därför gör datorn fel i att ge den primära analysen av vad du kommer att göra på samma sätt som om den skulle visat analysen för en tredje person i ett annat rum. Därför måste datorn räkna om från början igen och bestämma sig för vad du kommer om du får den första analysen. Oavsett om du fick den första analysen eller inte kommer datorn dock ha fel igen eftersom analys nr 2 kommer påverka dina handlingar.

Detta kan ev. leda till en oändlig iteration och datorn kommer inte kunna ge dig något svar på hur du kommer att handla, därmed så fungerar inte teknologin trots att den teoretiskt och fysikaliskt sätt borde fungera i vårat tankeexperiment.

//

Detta är ett ganska rörigt och komplicerat tanke experiement som säkert går att lösa. Jag har tänkt lite på möjliga lösningar själv, tänkte dock dela med mig av detta och se om nån har någon intressant ide

Det kan väl finnas matematiska lösningar ändå, bara datorn räknar med hur dess eget handlande påverkar personen. Jag tror att detta skulle klassas som ett spelteoretiskt problem. Strategi betyder ju i (tillämpade) matematiska sammanhang bara att man tar hänsyn till att en annan part tar hänsyn till vad jag tar hänsyn till o.s.v. I många situationer i alla fall, så blir det inte svårt att räkna med. Man tar s.a.s. hänsyn till alla grenar på alla inblandade parters beslutsträd. Då kan man liksom samtidigt bestämma allas handlingar i alla tänkbara situationer framöver.

Inom mikroekonomi så antar man t.ex. att varje part väljer en strategi som maximerar dennes vinst. Om alla gör det, så kan alla räkna ut vad alla ska göra. Om man antar att somliga inte maximerar sin vinst, så kan det faktiskt bli lite svårare att räkna ut hur man maximerar sin egen vinst! Men man kan alltid utifrån den information man har ställa upp sannolikhetsfördelningar om hur andra kommer att agera i olika läget och räkna fram den strategi som sannolikt är den bästa, hänsyn tagen även till kostnaden för att bära risk. Samma resonemang kan tillämpas på t.ex. fotboll, där spelaren räknar med hur motspelaren kommer att dribbla, givet information om hur denne dribblat tidigare och uppskattningar av sannolikheten för att spelaren denna gång kommer att göra på ett annorlunda sätt, som han egentligen är mindre skicklig på, just för att utnyttja andras viktade förväntingar o.s.v. Det är inte alltid bäst att anfall fiendens svagaste punkt, för det kan vara hans styrka om han är förberedd på det.

Kolla förresten in:
http://www.nickbostrom.com/

Han är en berömd filosof som vågar spekulera rätt vilt i saker som har at göra med superintelligens och liknande. Han är ju inte bara teknisk, utan för moralfilosofiska resonemang. Kanske han har tagit upp nåt som liknar din paradox? Han menar förresten att vi kan skapa AI utan att förstår hur intelligens fungerar. Vi kan nämligen i princip, som du nämner, simulera en människohjärna genom att scanna in dess aktivitet och sen köra motsvarande informationsbehandling på en digital dator. Nick är optimistisk. Han menar att dagens snabbaste dator redan skulle räcka till för att köra en sån simulering. Och brain scanning gör visst rasande framsteg.

Problemet med resonemanget att datorn kan förutsäga din reaktion till vad han medelar att du kommer göra är att han i exemplet bara har
"en gissning/förutsägelse".

/Edit/ För att vara mer konkret måste datorn "Gissa/Förutsäga" innan du handlar, därför går det i min åsikt (utan tillräcklig analys) inte att tillämpa spelteori där "motståndaren" inte vet vad du kommer att göra.

dvs.
Säger datorn du kommer blinka höger öga om 3.5 sekunder till mig, så kommer jag antagligen ändra mig och inte blinka med mitt högra öga om 3.5 sekunder.

Jag tror ivf (subjektivt) att en människa placerad i denna position spontant reagerar med att göra någonting annat än vad han/hon läser på skärmen att han/hon kommer att göra.

Dvs datorn måste säga att du kommer göra A, för att kunna provocera fram reaktion B. Detta vet datorn, men om han säger A och du gör B så har datorn fel. (Säger datorn A med B som följd gör du C, och då har datorn fel igen.)

Om datorn enligt dessa resonemang ska kunna förutsäga ditt beteende måste den räkna sig fram till någon kedja av handlande som provoceras av hans uttalande och samtidigt följer det?


Jupp Nick Bostrom är riktigt intressant. Läst de flesta av hans publikationer förutom dem tygnsta . Anyway, det han kommer fram till är ju logiskt inom dem ramar han sätter upp och dessutom positivt som du säger. Därför är det väldigt tilltalande. (Rekommenderas av mig också)

Okej, jag fattar.
Då handlar det väl om en självmotsägelse. Antingen kan datorn förutse framtiden och då har du ingen fri vilja (i denna situation iaf), eller så kan din fria vilja falsifiera påståendet att datorn kan förutse din framtid. Givet ditt antagande så vore det första sant.

man kan väl bara invända att INGENTING är rent deterministiskt enlgit moder fysik. Allt (alltså var elementarpartiklar befinner sig vid tidpunkt t) är en fråga om interagerande sannolikhetsfördelningar. Ju fler elementarpartiklar det handlar om desto större säkerhet (en radioaktiv atom kan sönderfalla om en mikrosekund eller om en miljard år, ingen kan veta, men miljarders miljarder readioaktiva atomer sönderfaller med sån stabil frekvens att de används som precisionsur...) Människohjärnan är literstor och extremt intern-interagerande, så den bör vara mycket förutsägbar, givet att den kan mätas tillräckligt noga och att simulatorns beräkningskraft är tillräcklig.

det finns en födröjning från det att datorn räknat ut vad du ska göra tills dess att den lyckas rita upp det på skärmen.. eftersom att det tar längre tid för datorn att rita upp saker och ljuset att nå dina ögon för tolkning än för dig att tänka nya tankar/tolkningar. Detta kommer medföra ett flimmer av bilder och inte leda till någonting.

Sen tror jag dessutom inte att det går att förutså framtid.. det är som med meteorlogi.. ett vinglslag i australien kan påverka vädret här hemma, och således även vad man ska göra den dagen.

Finns för många faktorer, oändligt många.. för många för att mata in i en dator.

Så även med rätt processorkraft så skulle det ändå inte gå.

Lustigt ändå, för såna som Nick Bostrom menar att allt vad vi upplever kan vara en simulering, kalkylerad av en dator. Och kosmologen Max Tegmark verkar vad jag förstår mena att universum, alltså all materia och energi i alla upptänkliga former de kan anta, kan vara matematik. Materia är matematik, sug på den du! Då är det i vart fall inte en fråga om processorkapacitet vad som kommer att hända härnäst, utan snarare en fråga om logik (och möjligen statistik vilket dock bara är en liten kvist på logikträdet)...

Materia kan inte vara matematik.. matematik är ett språk vi människor kommit på alltså skulle vi med det resonemanget kommit på materia, som vi för ett faktum vet fanns innan oss.
Man ska inte alltid tro allt man hör dessutom.. var granskane.. speciellt på sådana här områden. Nick tror säkert på att hela matrixtrilogin är en verklighetsskildring med.

Jag sa inte att processorkraften var problemet.. även om dagens inte ens är i närheten av att kunna behandla informationen vår hjärna tar hand om.
Problemet ligger i transporten av informationen.. visst eletroner rör sig snabbt..
men det tar längre tid för den beräknande informationen att nå ögonen än för dig att tänka en ny tanke.. och det kommer leda till att man inte kan tolka något ur den där skärmen.

Jag tror inte på en sekund att materia är matematik.. jag har läst och läser mycket matte.. och jag ser inget samband. Möjligtvis det att man kan beskriva mycket i världen på ett trivialt sätt med mattematik, det betyder inte att matematik är materia dock.

Jag ska inte utge mig för att helt ha fattat vad Max Tegmarm menar. Han skriver, i vart fall på vissa ställen, att universum vore "isomorfiskt" mot matematik, d.v.s. att materians struktur kan beskrivas fullständigt med matematiska modeller.

Jag tycker dock att den fantastiska tanken att universum ÄR matematik kan ha sina meriter. Matematik är inte vadsomhelst som människan kommit på. Matematiken är ett landskap som vi successivt upptäcker. Det finns en struktur mellan det för enkla och det för komplicerade, en nivå som är "intressant" inom matematiken. Det för enkla vore det som inte utsäger nånting alls. Det för komplicerade är beskrivningar som liksom inte komprimerar det beskrivnas informationsinnehåll, det som saknar samband eller förenklingar.

Siffran ett, det är ett kvant...

Grunden för matematik är tydligen boolesk algebra med operationerna ELLER och INTE samt fyra axiom. Lägger man till ett axiom så är det axiomet antingen redundant, alltså redan givet av de andra fyra, eller så blir alla satser man konstruerar sanna. Boolesk algebra är så speciellt att det inte är något vadsomhelst som människan har kommit på. Det är en del av naturen som vi har upptäckt.

Vi saknar ju idag bra förklaringar till dikotomin subjektivt och objektivt. Vad är det att uppleva något subjektivt, vilken materia är det? Varför kan vi inte mäta upp andras subjektiva upplevelser (alltså direkt uppleva dessa upplevelser, inte bara se utslag på instrument i dennes hjärna)? Många är inne på att reducera det subjektiva till material (som Nick Bostrom). Solipsisterna menar ju, ganska så invändningsfritt på sitt sätt, att bara det subjektiva existerar. Det objektiva är bara en ide med rent subjektiv existens. Men om man tänker: Världen är matematik! så kanske man kan nå en ny förenande filosofisk åskådning...

oj vad du svävar utanför ämnet.. jag tror du har för mycket tid på dig att tänka helt enkelt.

Bara för att man kan beskriva processer och strukturer med matte betyder det inte att de är matematik.

Matematiken uppstod genom att man studerade naturen och drog slutsatser därifrån, så självklart borde den kunna beskriva naturen och dess materia.
Det är ju utifrån studier av den matten växt upp ur.

Låter som Platons Idévärld och Pythagoras - Sfärernas musik (stängteori)

Datasimuleringsgrejen liknar fenomenologi eller....

Man har studerat en liten del av den materiella världen. Utifrån det har man räknat ut hur hela universum ser ut och fungerar, ända sen det skapades till valfri tidpunkt i framtiden. Lite hårdraget, men de senaste 100 åren har ju matematiska modeller av universum varit färdiga långt innan observationer har gjorts för att bekräfta dem. Det som är matematiskt effektivt, det beskriver bäst universum.

Det finns anledning att ompröva iden om att matte bara är nåt som människor har hittat på, eller nåt som bara "råkar" stämma med lite här och var i verkligheten. Fysiker är förbluffade över hur effektivt matematiken beskriver universum. Matten är som ett facit. Observationer är en slags arkeologi i bekräftandet av teorier som sen länge varit accepterade för att de är "matematiskt tilltalande".

Hur kommer det sig att det är matematiker och inte astronomer vid sina teleskop som upptäcker universum?