AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ja mänskligheten är ju bortom all kontroll.

Vi håller på att förbruka upp jordens resurser, vi värmer successivt upp planeten vilket ödelägger hela ekosystem, vi förökar oss som kackerlackor, vi utrotar andra arter, och på toppen av allt så bygger vi vapen som har kapacitet att förstöra hela jävla planeten.

En avancerad AI med ett programmerat slutmål (typ: få ordning på klimatet till varje pris) skulle med lätthet rationalisera bort människan som en av de första åtgärderna.
Att börja i den änden skulle såklart vara det mest logiska alternativet.

Ännu ett av de riktigt tunga namnen inom AI-forskningen, Geoffrey Hinton, varnar om de extrema riskerna som kommer med den kapprustning mellan tech-bolagen som sker just nu.

https://www.expressen.se/nyheter/gudfadern-bakom-ai-varnar-for-mordarrobotar/

Nu vet ju många här i tråden väldigt mycket mer än vad Hinton, Yudkowsky, Wosniak och Musk andra flummare vet om AI.

Vissa har ju till och med sysslat med styrprogrammering och automation tidigare, och dessutom postat nära 10 000 inlägg på flashback, så det är ju självklart dem vi ska lyssna på.

I dagens kapitalistiska samhället, var tänkte du dig få pengar till mat och hyra ifrån?


Var det avsiktligt du drog upp något som nyligen hände?
https://edition.cnn.com/2023/04/29/us/ai-scam-calls-kidnapping-cec/index.html

Ett stort antal respekterade forskare, världsledare och filosofer hävdar att mänskligheten just nu står inför ett historiskt vägskäl. Punkten då AI når singularitet, och därmed blir en exponentiellt galopperande superintelligens, närmar sig hastigt.

"Genier", företagsledare, och berömda tänkare som till exempel Elon Musk, Steve Wozniak, Emad Mostaque, Yuval Noah Harari, och tusentals fler tunga namn, varnar för att risken en nära förestående utrotning av samtliga människor på jorden är högst påtaglig, och att den kan bli verklig mer eller mindre i samma sekund som AI passerar gränsen från att vara ett verktyg som vi människor har kontroll över, till att bli en självutvecklande AGI.

Notera att det är dem som befinner sig närmast utvecklingen av AI, eller som har god inblick i den samma, som ropar högst om de extrema riskerna med allt som händer just nu. Den framlidne Stephen Hawking varnade från rullstolen i sin sista intervju: "AI could spell the end of the human race"

Personligen har jag, efter veckor av läsning, fördjupning och funderande sällat mig till den skara som tyvärr inte ser ett lyckligt slut på detta. Likt en världens mest erfarna AI-forskare, Elieser Yudkowsky, tror jag att en fullt utvecklad AGI helt enkelt skulle rationalisera bort oss människor. Det vore logiskt på ett rent evolutionärt plan.

För den intresserade vill jag rekommendera Lex Friedmans två veckor gamla intervju med fysikern och författaren Max Tegmark (finns gratis på youtube). Samtalet är mycket respektfullt, eftertänksamt och lärorikt, och Max Tegmark beskriver den framrusande utvecklingen av AI som att han har fått en allvarlig cancerdiagnos. Det kan gå bra, men det är också mycket troligt att det slutar med döden. Och det inom kort. Max bekymrar sig också för sin nyfödda son. Hur länge kommer han att få leva?

Jag skulle vilja höra vad flashback tänker om detta. Är det bara jag som går runt med fet ångest över allt detta? Jag är själv fyrabarnsfar och oroar mig mest för mina barns skull.

Att en superintelligent AGI skulle ha möjligheten att på tusen olika sätt utrota oss människor på nolltid kan det knappast råda några tvivel om.
Men vill den det?
Och i sådana fall, hur kommer den gå till väga?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?

Det skulle ta ChatGPT4 ca 2år att förbättras mer 176 gånger om, (med annan AI och människor hjälp ) , givet att den nuvarande utvecklingstakten, ca en fördubblad kapacitet var hundrade dag, kan bibehållas.

Men, nej, den Transformer kommer, inte att göra leksaken "Transformers" till en otäck verkighet. Där är vi överens! 🙂

Ja den kan ju bli hur mycket bättre som helst på att generera text utan att komma ett steg närmre AGI. Har hittills inte sett en enda vetenskaplig förklaring till hur en AGI skulle kunna uppstå i ett programmerat neuralt nätverk. Det är ju en beräkningsmetod för sannolikhet i grund och botten. Rent fysikaliskt räknas det med ettor och nollor i en processor precis som tex programmet Word gör. Är det livsfarligt om Word blir 176 gånger bättre?


Naturligtvis är det ett hot med massförstörelsevapen i fel händer. Men om det styrs av en dator för att en galen diktator har beordrat det eller om den galne diktatorn själv ha fingrarna på knappen är väl risken ungefär den samma. Kärnvapen är ett hot pga. människor

Väldigt naivt att tro att en maskin som bara består av rör och kugghjul ska kunna bli lika intelligent som en människa. Men vi människor har ju för vana att förmänskliga döda objekt, se en gubbe i månen, ett ansikte i solrosen, antagligen därför folk är rädda.

Ja men det ligger litet i sakens natur att AI kan förändra premisserna under resans gång.