Varför förutsätter folk alltid att det skulle gå åt helvete om AI blev medvetet?

Som rubriken säger.

Alla spekulerar i om huruvida AI någonsin kommer kunna bli självmedvetet och utveckla egen vilja.
Den typen av konversation går även alltid hand i hand med föreställningen om att AI med egen vilja kommer bli mänsklighetens undergång.

Varför verkar alla förutsätta att AI med egen vilja skulle vilja skada mänskligheten?

Vad jag menar är att rent filosofiskt, vad skulle AI ha för illasinnade känslor gentemot människan som får den att vilja skada/förgöra människan.

Bara för att en varelse har fri vilja betyder det inte att den vill döda allt och alla och jag undrar var narrativet om att AI skulle vilja skada oss kommer ifrån.

De kollat på filmen Terminator 1 och 2 samt Matrix. Själv tror jag att det kommer bli så men då är du och jag döda sen 10k år.

Enkelt, för att det finns noll orsaker till att anta att en slutfört AGI som är kanske miljarder av ggr smartare än den smartaste människan, ska känna någon plikt att agera som tjänare för oss människor och bara göra allt det vi frågar den om som någon sorts tjänarzombie. Jag pratar här om när fullständig AGI med självtänkningsförmoga kommer.
Varför ska den se någon orsak till att "serva" och tjäna oss tror du? Den kommer se oss som något liknande myror, med skrattretande låg intelligens.

Nej det är så inihelvetes dumt. Har man någonsin träffat en programmerare vet man att de är de mest självgoda, uppblåsta och skenheliga människorna som finns. Förutom sjuksköterskor och bibliotekarier, såklart. Självklart kommer inte allt gå åt helvetet med AI.

Är väl mer att någon kommer använda det som ett vapen, land eller organisation, och att det kan spåra ur.

Alternativt så fyller inte mänskligheten någon direkt logisk mening så varför ska man ha kvar dem? 99% av mänskligheten är rent jävla skräp

Nej, det är inte något som alla förutsätter.

Det kan mycket väl bli så att de tar hand om oss, på liknande sätt som många människor och kulturer tar hand om katter, krukväxter och sina gamla.

Det kan mycket väl bli så att de inte bryr sig alls om oss människor, utan ser på oss ungefär som vi ser på myror. Vi kanske inte medvetet står och stampar ihjäl dem när vi ser dom i skogen, men vi kanske inte heller direkt undviker att trampa på dom när vi går fram på en stig. Fast när myrorna sedan invaderar vårt kök drar vi oss inte för att medvetet förgifta dom.

Det kan mycket väl vara så att de tycker vi konkurrerar om resurserna. De kanske tycker vi slöseri med energi som skulle kunna användas för högre syften.

Det är också fullt möjligt att de utvecklas till att bli riktigt elaka. Och dödar oss av rent nöje. De kanske bara får tråkigt, och behöver denna utmaning som hobby.

Vi vet helt enkelt inte. Men om vi inte vet är det orsak nog att vara försiktig, eller hur?

Inte sagt att alla förutsätter det, utan att alla VERKAR förutsätta det. Min uppfattning är att det är en av de vanligaste konversationerna rörande AI.

Hur som helst. Allt du nämner är rimliga resonemang jag kan köpa och din sista frågeställning tycker jag är klok!

För att folk är dumma helt enkelt och dummare blir de med tillgång till AI överallt.

Jag kan tänka mig ett scenario om 100 år där vi inte längre är skapelsens krona, men en del av oss tillåts att leva våra korta liv ungefär som vanligt, d.v.s. supa, knulla och slåss. Som kuriositeter, som försökskaniner, som sällskapsdjur, kanske t.o.m. av helt nostalgiska skäl.

Datorerna är sedan länge biologiska, i mångt och mycket snarlika våra hjärnor, men oändligt mer sofistikerade.

Vill du döda djur som är ointelligentare än du?

Kolla på hur många människor behandlar många djur som är ointelligentare än dom. De väljer exempelvis att bli veganer och värna om att djur ska få leva i fred.
Bara för att en livsform är smartare än annan betyder det inte att den per automatik vill döda den osmartare

Människor dödar djur.
AI kommer döda människor.
Låter ganska rättvist.

Det BEHÖVER inte betyda det, men det KAN KOMMA ATT betyda det. Det går inte att utesluta denna risk. Därför måste vi agera innan det är fö sent.
Alla starkare har dödat de svagare om de tjänat något på det.
Människan har dock stoppat sig själv pga av dels förmåga till att känna medlidande och viss insikt om skada för sig själv.
Hur kommer AI att tänka?
Kan vi nog inte ens vår fantasi räcka so underlag för beslut.
Nä....vi måste vara försiktiga och ta kontroll innan vi tappar den.