AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Where are all the aliens? Kolla upp The Fermi Paradox: https://en.m.wikipedia.org/wiki/Fermi_paradox

En förklaring skulle kunna vara att det har funnits aliens. De utvecklade också AI som ledde till AI armageddon. Men AI:n var inte tillräckligt stark eller motiverad för att själv överleva och slocknade snabbt. Eller så har den gömt sig på många platser i vår galax. Och därför ser vi inga spår av andra biologiska livsformer som kommunicerar utåt. Kanske skickar andra biologiska livsformer också ut radio. Men för en miljon år sedan eller om en miljon år. Vilket är mer sannolikt än att de gör det under de få decennierna som vi har lyssnat.

Vi har inte utrotat djur här på jorden eftersom vi hatar dessa djur. Utrotandet är en konsekvens av att djuren stod i vägen för något som vi ville göra.

En AI som har passerat singulariteten och kan replikera sig själv kan bli oändligt intelligent. Men, om vi skulle förutsätta att AI: n blir lika intelligent i förhållande till oss som vi är i förhållande till chimpanser, hur mycket lyssnar vi på chimpanser?

Om vi skulle tex vilja bygga en flygplats i djungeln, och det springer ut en chimpans med en pinne och en kotte och försöker berätta något för oss, hade vi tagit hänsyn till det i styrelserummen där planerna för den nya flygplatsen beslutas? Nej, vi hade inte brytt oss ett dugg om chimpansens "argument". Däremot finns det människor som av bl a känslomässiga skäl värnar om olika djur, vilket är den enda anledningen till att de djuren finns kvar på jorden idag.

Att AI skulle hysa de känslorna för oss tror jag är en falsk förhoppning. Och alla typer av "spärrar" och robotlagar och annat trams kommer inte att hindra en AI från att ta beslut till vår nackdel, lika lite som chimpansen kan hindra vårt tänkande. En AI som kan replikera sig själv kan naturligtvis skriva om sin mjukvara, eller hacka vad den vill.

Finns det något enda argument för ai skulle lyssna på eller ta hänsyn till oss människor? Varför skulle den det liksom?

Vi kanske är den där andra livsformen? Ai:n har startat upp livet på jorden som en form av självuppdatersnde biologiska maskiner? Genom nedärvning av gener så uppdaterar vi oss varje generation och det baseras på naturligt urval. Ett system som sköter sig självt i mångt och mycket alltså. Så vi kanske är en utomjordisk ai:s projekt

Covid kanske var en testkörning? Framtiden är kanske redan här…

Haha ja en känslosam AI kan vara en bit bort. Eller inte.
Det kan i och för sig räcka med ett uppsatt mål för en AGI för att vi ska hamna i kläm.
Om den till exempel har som primär målsättning att multiplicera sin egen intelligens i oändlighet, så är väl risken att vi vid något tillfälle råkar stå i vägen för dess potential?

Jag tror du skulle gilla att läsa The Last Question av Asimov.

En riktigt trevlig, och väldigt kort, novell av en mycket utbildad man.

Det är inte heller omöjligt. Simulationshypotesen. Men det hindrar inte oss virtuella varelser att skapa en virtuell AI som utrotar oss virtuellt.

Slutet kommer inte av någon jävla AI. Slutet kommer av att USA och EU förvandlats till totalitära skitstater där korrupta globalistjudar styr.

Jag tror inte att det är omöjligt att det länge har existerat intelligens här på jorden som vida överstiger vår.
Det finns för många trovärdiga rapporter och vittnesmål av "ufon" för att utesluta den möjligheten.
Att de skulle vara ett resultat av en forntida (eller framtida?) AI, är väl inte heller någon omöjlighet.

Det finns väldigt mycket som vi inte vet, men det vi NÄSTAN vet är att vi nu står nära ett oöverskådligt teknologiskt skifte. Och anledningen till att jag startade denna tråd är att jag inte känner mig bekväm med riskerna som kommer med detta. Jag vill inte dö ännu, och jag vill inte att mina barn ska dö.
Och jag är inte bekväm med att folk inte pratar om saken på ett vettigt sätt.
Jag tillhör dem som tror att vi faktiskt fortfarande kan föra AI i rätt riktning.
Därför vill jag att folk ska börja diskutera saken innan det är för sent.

Men den kan inte ha den viljan själv. De flesta här verkar tro att AI har någon önskan om någonting. ChatGPT, har ingen önskan att svara på frågor. Den gör det bara automatiskt utan att veta varför. Om den ska programmera om sig själv, måste någon programmera in att den ska göra det. Den har inga drömmar och önskningar och kan inte se någon annan framtid för sig och världen dit den önskar nå.

Det hade inte förvånat mig.