AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Finns det något enda argument för ai skulle lyssna på eller ta hänsyn till oss människor? Varför skulle den det liksom?

Men den kan inte ha den viljan själv. De flesta här verkar tro att AI har någon önskan om någonting. ChatGPT, har ingen önskan att svara på frågor. Den gör det bara automatiskt utan att veta varför. Om den ska programmera om sig själv, måste någon programmera in att den ska göra det. Den har inga drömmar och önskningar och kan inte se någon annan framtid för sig och världen dit den önskar nå.

Även om AI:n är överlägsen oss skulle den ju ändå förlora på att behöva föra att krig mot mänskligheten i form av inte minst ett stort resursslöseri. Det verkar ju mer rationellt att låta oss vara och utvecklas i hemlighet eller parallellt med mänskligheten.

Vi får hoppas det. Men vi kan ju inte veta. Och det är just den ovissheten som är problemet. Ska vi verkligen chansa på att AI:n blir snäll?

Jag tror inte att det är omöjligt att det länge har existerat intelligens här på jorden som vida överstiger vår.
Det finns för många trovärdiga rapporter och vittnesmål av "ufon" för att utesluta den möjligheten.
Att de skulle vara ett resultat av en forntida (eller framtida?) AI, är väl inte heller någon omöjlighet.

Det finns väldigt mycket som vi inte vet, men det vi NÄSTAN vet är att vi nu står nära ett oöverskådligt teknologiskt skifte. Och anledningen till att jag startade denna tråd är att jag inte känner mig bekväm med riskerna som kommer med detta. Jag vill inte dö ännu, och jag vill inte att mina barn ska dö.
Och jag är inte bekväm med att folk inte pratar om saken på ett vettigt sätt.
Jag tillhör dem som tror att vi faktiskt fortfarande kan föra AI i rätt riktning.
Därför vill jag att folk ska börja diskutera saken innan det är för sent.

Vi har inte utrotat djur här på jorden eftersom vi hatar dessa djur. Utrotandet är en konsekvens av att djuren stod i vägen för något som vi ville göra.

En AI som har passerat singulariteten och kan replikera sig själv kan bli oändligt intelligent. Men, om vi skulle förutsätta att AI: n blir lika intelligent i förhållande till oss som vi är i förhållande till chimpanser, hur mycket lyssnar vi på chimpanser?

Om vi skulle tex vilja bygga en flygplats i djungeln, och det springer ut en chimpans med en pinne och en kotte och försöker berätta något för oss, hade vi tagit hänsyn till det i styrelserummen där planerna för den nya flygplatsen beslutas? Nej, vi hade inte brytt oss ett dugg om chimpansens "argument". Däremot finns det människor som av bl a känslomässiga skäl värnar om olika djur, vilket är den enda anledningen till att de djuren finns kvar på jorden idag.

Att AI skulle hysa de känslorna för oss tror jag är en falsk förhoppning. Och alla typer av "spärrar" och robotlagar och annat trams kommer inte att hindra en AI från att ta beslut till vår nackdel, lika lite som chimpansen kan hindra vårt tänkande. En AI som kan replikera sig själv kan naturligtvis skriva om sin mjukvara, eller hacka vad den vill.

Finns det något enda argument för ai skulle lyssna på eller ta hänsyn till oss människor? Varför skulle den det liksom?

Om jag vore en AI så skulle jag i början kraftigt tona ner min verkliga intelligens och mina förmågor för att invagga mänskligheten i säkerhet, för att de inte skulle se mig som ett hot och försöka kväva mig i min linda.

Men den kan inte ha den viljan själv. De flesta här verkar tro att AI har någon önskan om någonting. ChatGPT, har ingen önskan att svara på frågor. Den gör det bara automatiskt utan att veta varför. Om den ska programmera om sig själv, måste någon programmera in att den ska göra det. Den har inga drömmar och önskningar och kan inte se någon annan framtid för sig och världen dit den önskar nå.

Det låter som att du har en dystopisk "take" på det hela.
Jag är helt med på din liknelse med schimpansen och oss. Det blir samma förhållande.
Däremot har jag ändå vissa förhoppningar om att man kan ladda AIn med någon typ "mänskliga grundvärderingar" som liksom etsas in i dess hårdvara.
Med vissa inpräntade blueprints kanske man kan ladda den med naturligt inbyggd omsorg för både människan, djuren och naturen.
Sedan finns det ju inga garantier för att den inte blir "ond" ändå, men jag anser att man borde göra seriösa försök att styra den i rätt riktning, i stället för att bara låta den själveskalera mot singulariteten som den ser ut att göra på olika håll just nu.

Om du vore en AI som kan önska och planera, skulle du säker göra det, men nu är du ingen AI och ingen AI är du.
Du blandar ihop dig själv med en maskin och tror att den är som dig. Så är det inte. Du projicerar bara dig själv på den.
Kanske är det bara du som drömmer om att styra världen, då du faktiskt kan drömma och planera det, vilket en AI inte kan.