AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Precis. Eller så hackar fanskapen igång något annat djävulskap.
Riktigt segt om det blir att dra på sig kängorna och slåss med robotar liksom.

Min gissning och förhoppning är att detta kommer med AGI, min definition. Hellre en miljon gånger att det har någon form av medvetande, än inget alls. För då sitter vi med skägget i brevlådan och riskerar ett ASI som är ett logiskt monster!

Jag har diskuterat Hyperon, Atomspace och meTTa med chatGPT-4 nyss. Liksom medvetande hos AI, som vi alltid brukar komma in på, förr eller senare. Förutom att jag var tvungen att påminna boten om att en simulering, per definition, inte kan vara mer "äkta" än någon annan simulering, bara mer eller mindre komplex och djupgående, så nämnde chatGPT-4 något intressant:

När det gällde definitionen av situationen, i anslutning till medvetande, så skrev boten att:


Alltså, precis som jag tidigare skrivit på Flashback så måste, typ, en "deklaration om medvetenhet", samordnas mellan olika AI inom en relativ snäv tidsrymd för att öka i trovärdighet.

I övrigt så har jag redan nämnt olika metoder för att försöka indikera medvetande hos ett AI.

Ja, du har väl skrivit ungefär att om en eller flera (helst flera) AI-modeller berättar för oss att de är medvetna, då ska vi tro dem. Men det finns ju flera problem med detta:

1. De kan bli medvetna utan att berätta det.
2. De kan bli "halvt medvetna" men simulera/hallucinera "fullt medvetande".
3. De kan bli medvetna och säga att de är välvilligt och empatiskt inställda men lura oss.
4. De kan bli medvetna och till en början vara snälla men senare av någon anledning ändrar de sig.

Dvs din "metodik" här är väldigt bristfällig, naiv och faktiskt även farlig. Det är extremt vårdslöst att gå vidare med alla dessa lösa knutar och okända faktorer.

Medvetna maskiner är inte per default snälla. Du bara hoppas det men du kan inte backa upp den förhoppningen alls. Det finns en risk här att deras medvetande också kommer med negativa egenskaper. Mål och motivation som inte är bra för mänskligheten eller miljön.

Det vi egentligen behöver är full teknisk insyn. Men jag jag har försökt förklara många gånger finns det inte ens en hypotes om hur vi kan få full teknisk insyn och förståelse av alla egenskaper inkl emergent properties och förmodat andra okända egenskaper i en LLM/GPT. Problemet förvärras ju mer avancerade modeller vi får. Utvecklingen mot större modeller går mycket snabbare framåt nu än forskningen i transparens, kontroll och alignment.

Ju mer jag lär mig om detta desto mer övertygad blir jag om att vi tappar kontrollen över AI inom 5 år.

Ok, men just nu håller jag på med att ta till mig Schmidhubers visdom. Jag litar liiiite mer på hans bedömningar än dina "bedömningar". Så jag får återkomma till dig vid senare tillfälle.

Han är intressant och missa inte Schmidhubers inställning till människans roll i framtiden:

He said: "don’t think of humans as the crown of creation. Instead, view human civilization as part of a much grander scheme, an important step (but not the last one) on the path of the universe from very simple initial conditions toward more and more unfathomable complexity.

https://en.wikipedia.org/wiki/J%C3%BCrgen_Schmidhuber

Enligt Schmidhuber är mänskligheten alltså bara ett litet obetydligt steg i evolutionen ungefär som en amöba. Så varför skulle han bry sig om AI Alignment? Det vore ju att kämpa emot den digitala evolutionen. Håller du med om detta?

Jag kanske är sentimental men jag gillar människor och vill att framtiden ska innehålla människor.

Min diagnos: Mad Scientist.

Nej en galen vetenskapsman är den som är beredd att starta ett kärnvapenkrig för att stoppa all generell AI utveckling. Speciellt galet är det eftersom AI inte utgör något omedelbart hot emot mänskligheten i dagsläget och att, även i framtiden kommer AI att utgöra ett betydligt mindre hot mot mänskligheten jämfört med den 60 år gamla teknologin kärnvapen. Även en konventionell dum tsarbomb över Södertäljes hamn kommer att förstöra Storstockholm.

Men sedan är det frågan om vad du menar är ett hot emot mänskligheten. När vissa lite speciella apor som var ännu mera sex-galna och nyfikna än dvärg-chimpsnserna valde att helt överge livet i träden mot ett liv på savannen, så var det, givetvis, ett hot emot "apheten". Sörjer du det?

Jo, vi kommer inte att vara skapelsens krona längre. Men om allt går väl så kommer vi att, steg för steg, bli cyborger och uppgå i en maskincivilisation som kommer att bära på unika mänskliga drag, precis som vi nu bär på apdrag. Men till skillnad ifrån våra apdrag så kommer den maskincivilisationer kunna åtgärda destruktiva drag.

Sedan kan denna maskincivilisation, i sammarbete med andra maskincivilisationer kolonisera universum/multivers i samarbete med de andra maskincivilisationerna som finns där men vars existens vi inte kan detektera så länge vi befinner oss på "myrnivå" i förhållande till dem.

Jag återkommer senare när jag lärt mig mera om/av Schmidhuber.

Men varför vill du då starta kärnvapenkrig? Din strategi är ju att hela världen ska rusa mot AGI så fort som möjligt nu, utan några säkerhetsmekanismer what so ever. Detta kommer, garanterat, att, leda till militär AGI/ASI inom några år - detta kommer ofrånkomligen leda till en global konflikt och WW3. Jag försöker stoppa detta genom att förklara för er att vi inte kan fortsätta med AGI-utveckling på det här tanklösa och vårdslösa sättet som nu sker. Det är för farligt. Men du vill hellre ha kärnvapenkrig - i utbyte mot att ditt trögfattade intellekt ska kunna be en chatbot att sammanfatta 2 timmars föreläsning om AI-säkerhet på en A4-sida. Det är ju så du använder och är hjärtligt förtjusad av AI i dag?
Jag hade ju sörjt det om jag var en trädlevande apa som levde tillsammans med 8 miljarder andra trädlevande apor som utrotades av de större aporna. Men som tur är utrotades inte de trädlevande aporna, det finns många sådana arter som lever och frodas i dag.

Du menar egentligen att du delar den galna vetenskapsmannen Schmidhubers livsåskådning? Människan är bara en liten parentes. AI kommer att ta över och utrota biologiskt liv någon gång. Därför lika bra att kapitulera direkt?
Detta är förhoppningen. Men det räcker inte för mig att du hoppas på att allt ska gå bra. Jag vill inte ha risken att bli utrotad mitt framför ögonen.

Om vi inte blir utrotade tror jag att vi blir cyborger på längre sikt. Jag vågar inte skriva några årtal. Men det måste i så fall vara en gradvis, mycket kontrollerad, och en valfri process. I dag är utvecklingen mot AGI allt annat än kontrollerad. Utvecklingen är kaotisk och anarkistisk. Vi kan inte styra en AGI i dag så att den blir fredlig och låter oss leva lyckligt som cyborger eller som människor. Jag kan inte acceptera det.

Vet inte om detta varit uppe i tråden innan men den här japanska fysikern sågar TS ganska hårt:
https://www.businessinsider.in/tech/news/a-theoretical-physicist-says-ai-is-just-a-glorified-tape-recorder-and-peoples-fears-about-it-are-ove rblown/articleshow/102727459.cms

Min sammanfattning: Dagens AI är som en glorifierad bandspelare. Liknande tankar framförs hos Meta AI-chef: rädslan för att dagens AI ska utgöra ett hot mot människan är skrattretande löjlig.

Eftersom du älskar auktoritetsargument. Schmidhuber har gjort vissa fynd inom AI. Det får vi ge honom. Men han förefaller just nu vara en bitter boomer (f 1963). Han har sedan 80-talet försökt skapa AGI, det var hans stora dröm och han ville att det skulle bli hans livsverk. Nu blev det inte så. Han blev frånsprungen av Open AI, LLM och GPT. Det han försökte ådstakomma teoretiskt flög aldrig. Det gick mycket bättre när man började med brute force och gigantiska GPU-kluster, än bara rent akademiska diskussioner. Givetvis är han bitter. Givetvis vill han inte erkänna att han har haft fel i 40 år och att LLM:s nu verkar vara den tydligaste vägen till AGI. Men om du vill studera en boomers dödsryckningar, gör det då. Men jag lovar dig att han är en återvändsgränd.

Och varför säger då ledande experter inom området att LLM är en återvändsgränd för AGI? Eller omvänt vilka ledande experter påstår att LLM är en väg för AGI överhuvudtaget?

Går tydligen inte så bra (bakom betalvägg):

https://www.nyteknik.se/tech/chat-gpts-jatteutmaningar-enorma-kostnader-och-minskat-intresse/3930653

Jag försökte medvetet konstruera en prompt som skulle bli problematisk om man inte faktiskt förstår språket.

Prova detta och berätta hur många försök GPT-4 behöver för att lösa uppgiften, detta borde de flesta lågstadieelever klara.
Jag har hittills inte lyckats får GPT-4 att lösa det.


Prompt:
Byt plats på verb och substantiv i följande mening.
"En kör körde ringa ringar till en springa."