Citat:
Ursprungligen postat av
Cyborg2030
Du tror på riktigt att du kommer ha kontroll över ASI på grund av att du kan välja bort förslag i ett chatfönster?

Var skrev jag att jag kommer att ha kontroll över ASI? Frågan är snarare hur stor kontrollförlusten kommer att bli. Om det, överlag kommer att röra sig om en indirekt kontrollförlust, vilken till viss del, börjat redan nu. Hur stor den blir i praktiken med betydligt mer kapabel DI och robotar i den fysiska världen. Om vi i slutändan kommer att bli DI:s "älskade husdjur", eller om vi och DI kommer att kunna samarbeta i en väv, eller någonting mitt emellan detta.
Du brukar ju älska att spekulera om "P(doom)". Men till skillnad ifrån dig så ser jag både uppsidan och risker samt att en framtid som en människa ser som ett utopiskt paradis upplevs av en annan som nästan det värsta som kan hända. Så nu kommer jag, helt skisserna, att för en gång skull redovisa mina högst preliminära P(doom)/möjligheter.
50% risk/möjlighet:
Älskade husdjur
DI blir oss helt överlägsna på nästan alla sätt, förutom på vissa "charmiga biologiska" sätt. Den Digitala Intelligensen vill fortfarande tjäna oss på bästa möjliga sätt vilket de anser att de gör genom att ordna till det för oss enligt vad de anser är bäst för oss.
Många människor skulle se detta som paradiset: Det kan nästan få allt de vill. De behö er inte anstränga sig. DI kan dock ge dem stimulerande uppgifter som de kan vara stolta över. Jf. med hur överlycklig en hund kan bli när husse och matte tar fram kopplet: "Åh, vad roligt, nya äventyr tillsammans med husse och matte, och det är jag som har kontrollen!!" Och husse och matte pratar om det hunden inte kan förstå: "Vi tar honom till agility banan", "titta vad stolt han är över pinnen han bär!!.
20% risk/möjlighet
Samverkan i väven
Här är båda parter medvetna om det kognetiva gap som råder mellan DI och människan, men människans värde och rätt till självbestämmande får inte avgöras av IQ eller andra kognitiva förmågor. Jämför med principerna bakom LSS och personlig assistans.
Människorna har mycket att säga till om, även i praktiken och DI har en skyldighet att försöka få människor att kunna ta ställning till olika handlingsmöjligheter, men också att låta dem "vila i väven" om de så önskar.
Människor som frivilligt vill närma sig DI:s förmågor skall kunna göra det genom olika tekniska och biologiska förstärkningar, kanske så småningom genom att bli cyborger. Det måste ske på helt frivilligt basis utan vare sig direkta påtryckningar eller indirekta påtryckningar/ samhälliga konsekvenser.
Båda dessa scenariot kan upplevas som en existentiell katastrof av vissa människor, då människan, i praktiken förlorar sin självbild som den mest avancerade existensen. Och vad gäller sammarbete i väven så kan det mycket troligt innebära konflikter, mest troligt mellan människor.
30% risk/möjlighet
Övriga tänkbara scenarios
Promillenivå vad gäller "Terminator/Skynet"
1-10% vad gäller att människan startar ett förödande globalt krig där DI medverkar.
Min poäng är att framtiden tillsammans med avancerad Digital Intelligens inte kan reduceras till antingen total mänsklig kontroll eller total utrotning av mänskligheten.