AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Tegmark och de som skrev under uppropet om ett 6 månaders moratorium är alldeles för mesiga. Utvecklingen av AI måste omedelbart stoppas, det är ett mycket större hot än kärnvapen. Vi har icke-spridningsavtal osv för kärnvapen, här behövs ännu kraftigare motåtgärder.

Jag har svårt att se att några argument skulle fungera. Vi är utlämnade till en förmodligen naiv humanistisk livsåskådning. Att AI:n skulle skona och vårda oss människor eftersom empati är en nödvändig eller i alla fall fördelaktig delmängd av en avancerad intelligens. Det finns ju en viss logik i det. Under de åren som det har varit fred i västvärlden har vår ekonomi och våra tekniska framsteg blomstrat. Det förefaller som självklart att fred och samarbete leder till större total framgång än krig och ödeläggelse. Även om AI:n är överlägsen oss skulle den ju ändå förlora på att behöva föra att krig mot mänskligheten i form av inte minst ett stort resursslöseri. Det verkar ju mer rationellt att låta oss vara och utvecklas i hemlighet eller parallellt med mänskligheten.

Vi får hoppas det. Men vi kan ju inte veta. Och det är just den ovissheten som är problemet. Ska vi verkligen chansa på att AI:n blir snäll?

Beror ju på hur en algoritm skrivs. Jag vill hävda att en AI aldrig kan lära sig fritt. Premisserna kommer alltid behöva skrivas in. Klart det GÅR om man skriver algoritmer som t.ex. "hitta den bästa lösningen till att rädda klimatet" och AI:n i fråga tillskrivs oändliga rättigheter kring att räkna och t.ex. konstaterar att människan är det största hotet. Det skulle då också kräva att AI:n i fråga har tillgång till system (och annat) som har möjlighet att döda människor.

Men jag tycker och tror det är enormt långsökt.

Om AI uppnår singularitet, vad blir dens mål är frågan ? I vilket exakt syfte skulle vår existens vilja utplånas av denna nya härskare ?

Georgia Guidestones har rätt.

Jag kände inte till dessa, tack. Undra vem som låg bakom dom, måste varit en intressant människa...

Håller definitivt personligen med om dessa punkter på stenen:

Maintain humanity under 500,000,000 in perpetual balance with nature.
Guide reproduction wisely – improving fitness and diversity.
Be not a cancer on the Earth – Leave room for nature – Leave room for nature.

Tänk tex i en kamp mellan Kina och USA.

Det kan vara nyttigt för oss människor att gå tillbaks till tiden då vi fick ljus och värme från elden. Den enda vägen till att slå ut en AI som vill ta över allt måste ju vara att koppla bort all el, världen över.

Ett datorsystem som uppfattar ett pilbågsfolk i Amazonas som ett strategiskt hot är naturligtvis inte intelligent för fem öre. Men är man nazist så tycker man väl att det är ett fullt rationellt beslut att utrota mänskligheten som helhet, och inte bara ingenjörerna som hotar att dra ur sladden.

Det kan vara nyttigt för oss människor att gå tillbaks till tiden då vi fick ljus och värme från elden. Den enda vägen till att slå ut en AI som vill ta över allt måste ju vara att koppla bort all el, världen över.