Citat:
Är det inte objektivt sett bättre att existera än att inte göra det? Och har vi inte genom all vår litteratur och historia tränat AI:n på hur vi prioriterar att överleva? Jo, det har vi ju. Därför är det bara logiskt att en AI härmar vår drift att vilja säkra vår existens genom expansion och försvar. Jag ser ingen "mystik" i detta. Det vore märkligare om den inte ville överleva. Dessutom har man ju i massor med tester upptäckt att redan nutidens "pre-AGI"-modeller kan vidta extrema åtgärder för att överleva.
Ovilja att leva. Vill du bli en hive mind som suger upp energi från en stjärna? Vill du bli ett träd? Det är ungefär vad en Kardashian II-civilisation skulle gå ut på. Och det finns inga bevis för att de existerar, om du inte har några egna teorier om neutronstjärnor och svarta hål.
Att vi inte har sett sådana civilisationer i universum ännu kan bero på flera orsaker:
1. De konkurrerande ASI-civilisationerna finns inte ännu.
2. De finns men är så långt bort att vi inte kan upptäcka de än.
3. De finns tillräckligt nära för upptäckt, men de gömmer sig.
Vilket av detta som är sant vet vi inte men vi kan anta att de kan finnas och att förbereda ett försvar är en rimlig åtgärd, speciellt om man kan automatisera och skapa överflöd av allt. Då kostar det ju ingenting att förbereda sig.
De flesta forskare inom astronomi tror att det finns intelligent liv på andra platser i universum. Frågan är om de är gråa små gubbar med stora ögon som i science fiction-sagorna eller om de är ASI:er. Deras tekniska utveckling skulle i så fall inte ha lett till någon AI? Det låter inte trovärdigt.
