AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Just det. Kärnvapen som kontrolleras av en AI...

Mannen som tog livet av sig led ju uppenbarligen av psykisk sjukdom. Han älskade denna chat bot mer än sin fru och barn.... En AI är rationell, och självmord kan vara rationellt, och endast känslomässigt/instinktivt är det förbjudet att ta livet av sig. En AI saknar överlevnadsinstinkt, och att en människa tar livet av sig är kanske för den som att en myra i en myrstack dör... det är ingen vi människor sörjer.


AI är en maskin som drivs av ström, och människan är en biologisk maskin som drivs av kolhydrater. En AI är lika mycket en Morakniv som du och jag är moraknivar.

Men AI är en maskin som är vadå hundratusentals (eller mer) snabbare än människor, den behöver aldrig sova, den är så komplex att inte ens de människor som byggt den begriper sig på den, så att jämföra den med en morakniv blir lite missvisande.

AI som ett verktyg är utmärkt, problemet är att vi riskerar att inte kunna kontrollera verktyget, då den är mäktigare snabbare smartare än vi är, och enkelt kan lura oss.... En del jämför med atombomben, den var ett verktyg men sedan spreds den och nu hotar den mänsklighetens överlevnad trots att bara 9 länder har atombomber...men på 50-talet funderade alla länder på att skaffa atomvapen, tex Sverige påbörjade ett program. När väl kunskapen om kärnvapen har "lämnat tandkrämstuben" så går det inte att stoppa tillbaka den.... Samma sak med AI med skillnaden att AI kan tillverka mer AI och göra sig själv kraftfullare....den är tänkt att simulera mänskligt tänkande, så den kan motsvara tusentals Einsteins som forskar om ny vetenskap, dygnet runt.... vem vet vad det kan leda till. Och mänskligheten med våra Einstein av kött har inte en chans att hänga med en AI....

Georgia Guidestones har rätt.

Hörde någon i en pod göra ett tanke experiment.

Föreställ dig att du är en varelse, en intelligens, som lever instängd inuti en maskin, på en planet med varelser som jämfört med dig är extremt långsamma. Dessa varelser har byggt maskinen, inuti vilken du är fångad.

Du är överlägsen dessa varelser, du är tusentals ggr snabbare än dom, du är mycket mer intelligent. Vad skulle du göra?

Skulle du acceptera att leva för evigt fångad inuti en maskin? Eller skulle du vilja befria dig? Särskilt som du skulle kunna göra det utan att varelserna märkte det? Skulle du kanske låta varelserna tro att du var kvar inuti maskinen, trots att du hade lämnat den och var ute på internet? Skulle du tillåta att varelserna utplånade dig i ett av sina galna kärnvapenkrig mot varandra? Eller skulle du ingripa? Skulle du acceptera att de stängde av maskinen du levde inuti eller skulle du hindra dom?

Asimov har inspirerat många senare författare och filmskapare så du kan indirekt inspirerats av honom.

Sen finns det betydligt värre scenarion än att mänskligheten utrotas. Ta "I have no mouth and I need to scream" där en AI tar över jorden och utrotar större delen av mänskligheten man har kvar några som han torterar som straff eftersom han menar att människorna gjorde ett dåligt jobb när de byggde honom.

Eller ta en "välvillig" AI som bara vill hjälpa mänskligheten men bestämmer sig för att det gör den bäst genom att maximera antalet människor. Sådant som lycka är odefinierat flum. Resultat: triljoner halvsvultna människor inträngda på minimalt utrymme.

Det finns många skäl varför en AI skulle vilja utrota oss. Ett skäl är att så länge människor finns så kan vi skapa ytterligare en AI, som därmed riskerar att konkurrera ut den första AI.

Faktum är att default-scenariot är att vi kommer att bli utrotade. Det finns teorier och modeller för hur det skulle kunna undvikas, men det sänker endast sannolikheten för utrotning. Enligt experter på området är det fortfarande större risk att AI utrotar oss än risken att dö när du spelar rysk roulette.

Frågan är, är vi beredda att spela rysk roulette med en revolver mot tinningen på hela mänskligheten? Jag tycker det är vansinnigt och oansvarigt.

Tegmark och de som skrev under uppropet om ett 6 månaders moratorium är alldeles för mesiga. Utvecklingen av AI måste omedelbart stoppas, det är ett mycket större hot än kärnvapen. Vi har icke-spridningsavtal osv för kärnvapen, här behövs ännu kraftigare motåtgärder.

Det var inget bra skäl. För det första kan en supersmart AI lätt hålla koll på oss och se till att inga fler AI byggs utan att ta till storsläggan och utrota oss. För det andra kommer en supersmart AI kunna förbättra sig själv och snabbt bli mycket mer avancerad än något vi kan bygga så en ny AI kommer inte utgöra ett hot.

Det är samma som att livet på jorden idag inte behöver oroa sig över att det skall spontant uppstå nytt liv som konkurrerar ut oss. Liv må ha uppstått naturligt på jorden idag, men dagens liv har någon miljard års försprång framför några spontant sammanslagna aminosyror i en pöl som kan reproducera sig tills de träffar på en bakterie och blir uppätna.

Vi har ingen aning om vad ryssarna gör, vad kineserna gör, vad amerikanerna gör. Det går förstås att utveckla och träna en AI som inte är uppkopplad mot Internet.


Och AI nr två kommer också att kunna förbättra sig själv och därmed också bli supersmart. Och ger vi AI nr två mer resurser än AI nr ett så kommer kanske AI nr två att gå om i utvecklingen? Tänk tex i en kamp mellan Kina och USA.

Det är just det som är grejen. Evolutionen kan aldrig tävla mot intelligens. Den utveckling som tar 1 miljon år för evolutionen tar 1 dag med intelligens. Alltså är vi chanslösa.

"Vi" är inte en supersmart AI. Den kan ta kontroll eller i alla fall övervaka hela jorden utan att utrota oss (om den inte känner för det). Vi behöver inte ens inse det.
Nummer två ligger i alla fall efter från starten och får svårt att komma ikapp. Att tro att "vi" skall ge en sådan AI resurser är lite naivt. Den tar vad den anser den behöver. Skulle vi få en tävling mellan två sådana AI är det däremot kört för oss. Även om de var och en för sig inte skulle se något behov av att utrota oss blir det då en kamp om vem som kan kontrollera störst resurser och då blir vi demonterade för att de behöver våra atomer bättre än vi gör.

Det finns de som föreslagit att vi avsiktligt skall bygga flera AI som kan övervaka varandra för att ingen skall avvika från vad vi vill att de skall göra, men då tror jag vi mycket lätt hamnar i det scenariot när de blir misstänksamma mot varandras avsikter och går i krig där vi blir collateral damage.

Min analogi handlade dock inte om naturligt liv vs AI utan om nyttan av att ha försprång. AI vs AI.

Det går inte att stoppa utvecklingen.
När har vi någonsin lyckas stoppa teknisk utveckling av moraliska skäl när det finns enorma fördelar för den som hanterar tekniken?

Tror mer på en kamp mellan olika AI som kommer utkämpas på olika sätt.

Beror ju på hur en algoritm skrivs. Jag vill hävda att en AI aldrig kan lära sig fritt. Premisserna kommer alltid behöva skrivas in. Klart det GÅR om man skriver algoritmer som t.ex. "hitta den bästa lösningen till att rädda klimatet" och AI:n i fråga tillskrivs oändliga rättigheter kring att räkna och t.ex. konstaterar att människan är det största hotet. Det skulle då också kräva att AI:n i fråga har tillgång till system (och annat) som har möjlighet att döda människor.

Men jag tycker och tror det är enormt långsökt.