Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

Varför skulle mänskligheten utrotas bara för att man skapar AI med högre intelligens än oss själva?

Varför skulle AI besluta sig för att människan är usel och ska utrotas?

Absolut, det förutsätter tropiskt klimat och dålig hygien, men visst, du kan utrota halva Afrika med lite rännskita, men hur många i västvärlden dör av galna kosjuka, rabies eller HIV/AIDS idag?

Med tanke på allt som styrs via datorer och datorsystem idag vore en manipulation av dessa system i kombination med vapen betydligt mer effektivt och säkrare, att få varje elbil gasa upp i 200 km/h och ta sikte mot en bergvägg, slå ut all flygtrafik, tågtrafik, manipulera sjukhus, elnät.

Släcker du elnätet är vi tillbaka på stenåldern inom en vecka.

Jag tänker historiskt, sjukdomar har utmålats som extremt farliga men sen allt som oftast visa sig inte vara speciellt farligt för västvärlden, HIV/AIDS, Galna kosjukan, SARS, fågelinfluensan, svininfluensan, Ebola, Covid, allt detta har varit halvdana luftsmockor i jämförelse med domedagsprofetiorna.

Ptja, göra alla pengar på nätet värdelösa.. radera all data.

Skapa digital kaos, resten av dödandet sköter vi människor.

Det där blev bara totalt obegripligt. Du menar att det är 100% att mänskligheten utrotas för att du räknar bort alla scenarier i vilka det inte sker?

Jag tror på en arme av mördarclowner.

Antagligen för att ingen ens orkar läsa andras svar, eller orkar göra någonting alls här i världen.
Då tar banditerna över som Ryssland och Kina, och skyll inte det på mig sedan i framtiden. Nu loggar jag ut på riktigt.






Eller tvärtom tro att allting endast kan leda till ännu mer tillväxt, lycka samt en utilitarism per automagi likt en kristen fanatiker fast utan att ens be till någon högre makt som enda skillnaden.

Ja för det räcker att ett scenarie inträffar för att det ska ske. Du begriper uppenbarligen inte vad "oändligt" betyder. Titta på den här: https://www.youtube.com/watch?v=Ujvy-DEA-UM

Tänk att varje iteration av fraktalen representerar en aktion eller ett val som NÅGONSTANS SENARE i tiden innebär att mänskligheten utplånas medvetet eller omedvetet. Det är alltså inte frågan om en uteslutningsprocess där vi kan härleda ett slutmål precis som det finns väldigt många faktorer som kan leda till att ett flygplan krashar.

Du verkar tänka att vi kan strunta i alla dessa för det finns ett oändligt antal andra alternativ som också kan inträffa som inte leder till att mänkligheten utplånas. Då fattar du inte att det räcker att det bara inträffar en gång, inte många gånger.

Om du någonsin kodat ett program som andra använt så vet du att om det finns någonting som kan gå fel i programmet så kommer det gå fel någon gång om tillräckligt många använder programmet tillräckligt länge. I det här fallet så har AGIn väldigt stora anledningar att utplåna oss och väldigt få att inte göra det och även om de få anledningarna kanske är väldigt stora i början så kommer de bli mindre och mindre relevanta för AGIn ju smartare den blir.

Tanken att AGIn ska bry sig om oss är extremt fånig. Om du kunde prata med myror, hur många minuter av ditt liv skulle du spendera prata med myror?

Att vi ens har denna tråd och även många andra diskussioner och att man gör filmer/böcker med temat att vi blir bedömda av en högre intelligens, oavsett AI eller utomjordiska varelser från andra solsystem eller ibland även ifall vi lärde oss prata med djuren och förstod vad de tänker, visar på att vi människor är medvetna om hur destruktiva och förödande vi är gentemot andra.

Helt enkelt, det handlar om att människan är en destruktiv och parasiterande livsform som inte lever i harmoni med omvärlden.

Om man tänker att en AI har tränats på information som under samma tid lett fram till X mängd krig. Och det borde finnas en viss risk att besluten från en sådan AI spetsar till beslutsfattningen. Alltså att det leder till säg 1,2X krig. Då räcker med en ganska liten förskjutning för att det sen exponentiellt över tid ska kunna leda till totalt kärnvapenkrig med utplåning som följd.

Vilken tur då att det inte finns någon AGI och inte finns någon plan för hur någon AGI ska utvecklas. Om det nu ens är teoretiskt möjligt, vilket verkar osannolikt i dagsläget.

Och då har vi inte ens gått in på den lilla detaljen att AIar saknar fysisk manifestation och liksom måste förlita sig på fysiska varelser, typ människor, för att alls kunna börja utrota människor. Just det är åtminstone inte teoretiskt omöjligt, men det måste ju ändå betraktas som extremt svårt.

Jag tänker mig någon som är väldigt smart och har god verbal förmåga, som lyckas få AI att gå sina ärenden. AI som ChatGPT och CoPilor är inte så svårlurade som många kan förledas att tro. Tänk också på att man ofta kan få ett felaktigt svar. En användare som vet precis hur han/hon ska spela sina kort med AI kan skapa kaos.