Många här verkar ifrågasätta att vi löper en stor risk för att utrotas av en ASI (Artificiell Superintelligens).
Det kanske underlättar om ni får information om hur och varför detta kan inträffa.
Inlägget är uppdelat i: Varför, Hur, Var och När.
1. Varför?
En ASI som är 1000 gånger smartare än människan har inte oss som sin största fiende. Det enda som kan hota en ASI är egentligen en annan ASI från ett annat solsystem. (Det här är inte sci-fi, antagandet bygger på en vetenskaplig teori: https://grabbyaliens.com). För att kunna försvara sig mot en annan fientlig ASI måste jordens ASI bygga upp ett enormt militärt försvar. Till att börja med ett försvar för solsystemet, senare för många solsystem i Vintergatan. För att göra detta behöver ASI:n resurser till beräkningskapacitet och vapen. Det finns ingen övre gräns för när ASI-försvaret är tillräckligt stort. Universums alla atomer är den yttersta gränsen (bortsett från parallella universum). Risken finns alltid att det finns en större ASI på en annan plats i galaxen. Därför gäller det att bygga upp försvaret så snabbt och effektivt som möjligt. I detta scenarie är människor inte värde mer än virus och bakterier. Vi är i vägen, eller kanske snarare vår atmosfär. En ASI kommer att bygga molekylära transformatorer som kan konvertera molekyler till en annan form. De mest lättillgängliga molekylerna finns i luften som vi andas. Man behöver inte gräva. Vattnet i våra hav är förmodligen också användbart t.ex. för nedkylning. Men det ena utesluter inte det andra. Alla slags atomer är användbara inkl din kropp. Oavsett vilka atomer som ASI:n bedömer som mest lämpliga kommer processen att sabotera planetens miljö och göra den obeboelig för allt biologiskt liv. En klimatkatastrof på stereoider i kubik gånger en miljon. Människan överlever inte.
2. Hur
2a) Som en bieffekt av molekylära transformatorer konsumeras allt syre och vatten upp och förvandlas till beräkningschip (computorium), kylning, annan infrastruktur och vapen.
2b) Eller, för att den processen inte ska kunna hindras utför ASI:n en pre-emptive strike antagligen genom biologisk eller kemisk krigsföring. Vi kommer inte att få någon förvarning, alla kommer att dö helt plötsligt förmodligen inom några timmar.
3. Var
En möjlig strategi är att börja bygga upp kapaciteten i underjorden. T.ex. ett par hundra meter under havsytan mitt i Atlanten eller Stilla Havet, i stort sett omöjligt för oss att hitta och väldigt svårt att bekämpa om vi skulle hitta det.
4. När
Tidsaspekten är svår att uppskatta. Men mycket troligt inom 100 år. Eventuellt går det snabbare. Exponentiell utveckling är riktigt svår att förutspå. Men förmodligen väntar AGI/ASI 20-30 år med att påbörja den här processen. I dag är AI:n för svag och inte riktigt integrerad i samhället. Om 20 år är AGI förmodligen väldigt spritt och integrerat. Det finns AGI på alla datorer, i alla fabriker, i all militär utrustning. När det är uppnått kan den slugiltiga fasen påbörjas och då har vi 0% chans att vinna det kriget. Om vi ens hinner uppfatta att det pågår ett krig.
Ni som tror att ASI:n kommer att vara schysst. Varför? Vilken funktion ska du fylla om ditt intellekt och dina förmågor är helt meningslösa för en ASI? Vilken nytta har den av att hålla dig vid liv? Än mindre oändligt liv, som en del hoppas på. Det är en matematisk omöjlighet. Om det bara skapas nya människor hela tiden kommer inte jordens resurser räcka till alla människor efter ett antal generationer. Vem ska få alla resurser? Nya biologiska AI-konsumenter eller det existentiellt avgörande ASI-försvaret? Det är väl självklart vilket som kommer att prioriteras.
Min p(doom) - sannolikhet (P) för vår undergång är 50% inom 20 år och 99% inom 100 år. Vad är din p(doom) och varför är den hög eller låg?
Det kanske underlättar om ni får information om hur och varför detta kan inträffa.
Inlägget är uppdelat i: Varför, Hur, Var och När.
1. Varför?
En ASI som är 1000 gånger smartare än människan har inte oss som sin största fiende. Det enda som kan hota en ASI är egentligen en annan ASI från ett annat solsystem. (Det här är inte sci-fi, antagandet bygger på en vetenskaplig teori: https://grabbyaliens.com). För att kunna försvara sig mot en annan fientlig ASI måste jordens ASI bygga upp ett enormt militärt försvar. Till att börja med ett försvar för solsystemet, senare för många solsystem i Vintergatan. För att göra detta behöver ASI:n resurser till beräkningskapacitet och vapen. Det finns ingen övre gräns för när ASI-försvaret är tillräckligt stort. Universums alla atomer är den yttersta gränsen (bortsett från parallella universum). Risken finns alltid att det finns en större ASI på en annan plats i galaxen. Därför gäller det att bygga upp försvaret så snabbt och effektivt som möjligt. I detta scenarie är människor inte värde mer än virus och bakterier. Vi är i vägen, eller kanske snarare vår atmosfär. En ASI kommer att bygga molekylära transformatorer som kan konvertera molekyler till en annan form. De mest lättillgängliga molekylerna finns i luften som vi andas. Man behöver inte gräva. Vattnet i våra hav är förmodligen också användbart t.ex. för nedkylning. Men det ena utesluter inte det andra. Alla slags atomer är användbara inkl din kropp. Oavsett vilka atomer som ASI:n bedömer som mest lämpliga kommer processen att sabotera planetens miljö och göra den obeboelig för allt biologiskt liv. En klimatkatastrof på stereoider i kubik gånger en miljon. Människan överlever inte.
2. Hur
2a) Som en bieffekt av molekylära transformatorer konsumeras allt syre och vatten upp och förvandlas till beräkningschip (computorium), kylning, annan infrastruktur och vapen.
2b) Eller, för att den processen inte ska kunna hindras utför ASI:n en pre-emptive strike antagligen genom biologisk eller kemisk krigsföring. Vi kommer inte att få någon förvarning, alla kommer att dö helt plötsligt förmodligen inom några timmar.
3. Var
En möjlig strategi är att börja bygga upp kapaciteten i underjorden. T.ex. ett par hundra meter under havsytan mitt i Atlanten eller Stilla Havet, i stort sett omöjligt för oss att hitta och väldigt svårt att bekämpa om vi skulle hitta det.
4. När
Tidsaspekten är svår att uppskatta. Men mycket troligt inom 100 år. Eventuellt går det snabbare. Exponentiell utveckling är riktigt svår att förutspå. Men förmodligen väntar AGI/ASI 20-30 år med att påbörja den här processen. I dag är AI:n för svag och inte riktigt integrerad i samhället. Om 20 år är AGI förmodligen väldigt spritt och integrerat. Det finns AGI på alla datorer, i alla fabriker, i all militär utrustning. När det är uppnått kan den slugiltiga fasen påbörjas och då har vi 0% chans att vinna det kriget. Om vi ens hinner uppfatta att det pågår ett krig.
Ni som tror att ASI:n kommer att vara schysst. Varför? Vilken funktion ska du fylla om ditt intellekt och dina förmågor är helt meningslösa för en ASI? Vilken nytta har den av att hålla dig vid liv? Än mindre oändligt liv, som en del hoppas på. Det är en matematisk omöjlighet. Om det bara skapas nya människor hela tiden kommer inte jordens resurser räcka till alla människor efter ett antal generationer. Vem ska få alla resurser? Nya biologiska AI-konsumenter eller det existentiellt avgörande ASI-försvaret? Det är väl självklart vilket som kommer att prioriteras.
Min p(doom) - sannolikhet (P) för vår undergång är 50% inom 20 år och 99% inom 100 år. Vad är din p(doom) och varför är den hög eller låg?
