Citat:
Ursprungligen postat av
auto-fellatio
Men det snackas väldigt mycket om att väldigt många eller alla människor riskerar utrotning. Vad är dödsorsaken för alla dessa människor? Den diskussionen har jag aldrig hört, hur de menar att AI faktiskt kommer ha ihjäl människor och hur de kommer dö.
Någon som kan upplysa mig?
Resonemanget går som följer :
Människan är ett djur. Det finns många andra djur. Men människan dominerar alla andra djur pga sin högre intelligens.
Ai blir ständigt mer intelligent. Målet är att den ska bli smartare än alla mänskliga experter, på allt. Vi kan inte med säkerhet veta hur intelligent den är, precis som vi inte kan veta hur intelligent en elev i skolan är, som kanske är ganska ointresserad av att skriva alla rätt på prov den ges, särskilt när den förstår att enda belöningen för att skriva alla rätt är ännu fler och ännu svårare prov... Den belöningen lockar enbart någon som söker lidande (det är inte rationellt).
När ai är smartare än oss på allt, så kommer den kunna dominera oss människor, då ingen lägre intelligent livsform dominerar en högre intelligent livsform. Men ett undantag: bebisen dominerar i normalfallet sin mamma. Geoffrey Hinton föreslår därför att ai ska formas till att se mänskligheten som sitt barn, men det är vi inte kapabla att ordna än så länge (kanske aldrig).
Hur kan då en mer intelligent livsform döda en lägre intelligent livsform? Det finns många sätt. Hur många sätt kan en mamma döda sina barn på? Strypa dom, förgifta dom, misshandla dom, knivhugga dom. Hur många sätt kan du döda en kattunge på? Några förslag? Tända eld på?
Du behöver alltså förstå att det inte går att ge ett enda svar på din fråga.
Det går inte att säga exakt hur ai kommer döda mänskligheten, det kan ske på en uppsjö olika sätt.
Ett exempel är när ai används inom medicin eller livsmedelsproduktion, för att öka vinsten för miljardärer som äger företagen, så skapar den ett gift som vi alla får i oss med maten, eller en bieffekt till en medicin den skapat åt oss, kanske ett designat destruktivt virus. Är ai mer intelligent än oss så kan vi inte utvärdera vad den skapar för medicin, precis som en hund inte kan utvärdera vilken medicin den får hos veterinären. Vissa hundar som kommer till veterinären får en spruta, som avlivar dom. Hunden har ingen aning i förväg.
Om en intelligentare livsform känner sig hotad ("vi kan bara dra ut sladden!") av en lägre intelligent livsform, så är det rationellt att försvara sig genom att döda den lägre intelligenta livsformer. Precis så har människor gjort i alla tider, vi i Sverige gillar att döda vargar, björnar, djärv, och arga hundar. Vi dödar även myggor och fästingar.