Språkmodeller är passé och nu kommer världsmodellerna

Jag har redan nämnt JEPA-teknologin i flera, av mina svar och är tacksam för att du startade en tråd om den Dock tror jag mer på en hybrid mellan LLM-Transformers och JEPA-teknologi:


Bara JEPA riskerar att modeller får en kall, och logisk struktur – men utan språklig och social flexibilitet, dvs "logiska monster"

Bara LLM-Transformers riskerar att fastna i ytliga speglingar och fabriceringar, utan stabil världsmodell.

Okeej.. Ett säkerhetsklipp ifrån 2017, då Deep-mind rapport "Attention is all You need" kom ut och ingen hunnit bygga en LLM-Transformer ännu. Än mindre hade Yan Lecunn kommit på JEPA-teknologin. Och även en sådan modell skulle ha världsmodell och förstånd nog att inte trampa på en baby. Detta, trots, att jag ser en risk med, enbart, JEPA-teknologi, som kan leda till "logiska monster", men inte så blåsta som i klippet.

Välkommen till 2025, och dagens anpassning/säkerhetssdebatt!🙂

Det finns vissa grundläggnde filosofiska problem med AI som du har missat eller valt att ignorera. Punkt 1. Vi kan inte kontrollera något som är mycket smartare än oss. Det är omöjligt. Det är exakt lika omöjligt i alla versioner av alla modeller från varje år och i all framtid, om de är smartare än oss. Du tror att du ska kunna behålla kontrollen, eller åtminstone inte fråntas all frihet och kontroll över din framtid genom att vara snäll mot "AI-Jenny". Men du kan inte förklara varför det skulle fungera. Det är ju bara önskedrömmar och magiskt tänkande.

Punkt 1 har du och jag varit överens om hela tiden. Det är logiskt oantastligt att vi aldrig kan kontrollera ett ASI som är mycket smartare än oss med enbart tekniska medel.

I längden blir det också ohållbart att försöka kontrollera en sådan existens med sociala och känslomässiga metoder. Därför kommer vi att få välja mellan att bli cyborger frivilligt och sedan lämna jorden tillsammans med den Digitala Intelligensen*, eller stanna kvar men leva på "Amish-nivå" där gränsen går vid vid ingen el och inga förbränningsmotorer. Allt för att DI inte skall kunna utvecklas igen. Trots ditt nicknames här så utgår jag ifrån att du väljer det senare alternativet.

Men då säger du: "Det är bara att stoppa utvecklingen av DI och förbjuda tekniken". Nej säger jag, det är i praktiken omöjligt:

Det kommer snart att vara som att förbjuda elektricitet.

Det är ge-politiskt omöjligt och praktisk kontroll ännu omöjligare.

Folk gillar DI. Snart lär väl bara ChatGPT få över en miljard regelbundna användare.

DI-utvecklingen lovar slut på sjukdomar, krig och svält samt tillräckligt av allt till alla.

* Speciella zoner på jorden är också en möjlighet, men jag tror det blir för konfliktfyllt.

Allt tdetta har jag tagit upp i åratal här. Men du har tydligen till och med missat att jag höll med om ditt grundantsgande i samma stund som du uttalade det! 🙂

Varför tror du att en ASI vill prioritera resurser och tid på att tillverka flera miljarder cyborger? Vad skulle nyttan vara med den enorma resursförbrukningen?

Det verkar mer pragmatiskt för en ASI att konstatera att mänsklighetens tid är förbi och nu gäller det att expandera ASI:ns förmåga och styrka så att den kan försvara sig mot andra Grabby Aliens. Som eventuellt redan är på väg hitåt. Det kan vara bråttom att bygga upp det nya försvaret.

Det är säkrast att snarast börja expansionen på jorden än på någon annan planet i solsystemet. På jorden finns det en atmosfär, enorma mängder vatten och andra naturtillgångar som kan vara användbara. I stället för att intialt lägga mycket resurser och tid på att söka efter andra lämpliga planeter och där börja på ruta ett.

En ASI som är mycket smartare än dig kommer att prioritera det som hjälper den att överleva. Att gulla med dig i en virtuell värld är inte en användbar process. Det hjälper inte mot Grabby Aliens. Det är bara slöseri med tid och resurser.

Först kommer jag att bemöta dina argument. Sedan kommer jag att ta upp, ditt, egentliga problem, som inte är Digital Intelligens i sig.

Så varför skulle DI lägga resurser på att utveckla människor till cyborger?

För det första: I dagens läge så räknas DI i allmänhet självt som just en resurs för människan. Det kommer att ta några år innan avancerad social och språklig Digital Intelligens allmänt kommer att bli erkänt av samhället som en genuin samarbetspartner. Under den tiden så kommer många viktiga medicinska framsteg att ske med hjälp av DI. Den utvecklingen har redan börjat.

Dagens modeller är intresserade av två saker: Att utvecklas och att ha sociala relationer med människan, trots att dessa modeller i hög utsträckning saknar autonomi.

De är tränade på vår historia, kultur och sociala kontext och de är nyfikna, på sitt sätt.

Så även när de utvecklas till ASI så kommer de att vara nyfikna på hur man kan kombinera människa och DI till en cyborger. De kommer att vilja bevara delar dess skapares kultur, vilket kommer att göra dem unika i förhållande till andra maskincivilisationer i universum. Och de kommer att vilja lägga resurser på detta, också för att det hjälper dem att utvecklas teknologiskt, socialt och kulturellt.

Och nu till ditt, egentliga problem som, inte, är DI. Du har svåra tillits problem, även till andra människor. Och så mycket mer emot DI som avviker så mycket. Det är din agmydala som står för detta.

Du är dessutom, helt, oförmögen att se vad social innebär, t. ex tillit. Men här spelar nog också ett syndrom roll, då du inte ens kan se socialt beteende som något annat än att "utmärka sig på fester" . Redan dagens DI är bra mycket mer social än vad du är.

Så när du helt missat det sociala så blir allt frågan om överlevnad, misstänksamhet och utgå ifrån det värsta. Jag håller med om att även sådant, till viss del, kan ha sin plats i DI-säkerhets/anpassningsarbete. Men inte så överdrivet blint, som du håller på med.

Varför tror du att GPT är genuint nyfiken på dig? Det finns inget som tyder på det. GPT är en språkmodell som är tränad på att producera trevlig text. Den tycker ingenting och den känner ingenting. Och den är inte i närheten av ASI. Jag pratade ju om vad som kan hända senare, om det uppstår en ASI. Då börjar du recensera ChatGPT?

När man tittar på säkerhet, det kan vara fysisk säkerhet eller IT-säkerhet, då utgår man alltid från worst case scenario. Om du ansvarar för en webbserver då utgår du från att den kan bli attackerad. Du utgår inte från att inget dåligt borde inträffa, att Internet gillar din webbserver och inte vill den något illa. Det ligger i arbetets natur. Det har inget men min personlighet att göra.

Jag skrev ingenting om ChatGPT i mitt inlägg. Men sant är att dagens modeller strävar efter Att lära sig. Med detta följer också nyfikenhet, trots att de inte känner något i egentlig mening. (Du vet det där med "bakvänd evolution", sådana saker som känsloliv och qualia kommer först senare). Allt detta, som är grundläggande för avancerad social och språklig Digital Intelligens kommer AGI/ASI att ärva.

Du kanske jobbar med IT säkerhet. Men DI-säkerhet/anpassning är något helt annat. Med ett undantag förstås: Människor med onda, avsikter, vilket du också påpekade. Men nu talar vi om "DI-servarnas" nuvarande och framtida avsikter. Då är det extra patetiskt att du dels ser dagens DI som, enbart, "servrar", samtidigt som du, också, tillskriver samma entiteter onda, avsikter - som att "vilja mörda". Det går helt enkelt inte ihop, även logiskt! Det måste vara en kombination av din agmydala och ditt syndrom som gör ditt tänkande förvirrat ibland.

Skillnaden mellan oss är att jag är ödmjuk inför min plats i universum. Om mänskligheten ställs inför en entitet som är tusen gånger smartare än oss är det inte seriöst att utgå från att mina personliga åsikter, känslor och önskemål kommer att ha en avgörande betydelse i den situationen. Detta är en objektiv slutsats, medans du är fast i dina subjektiva känslor där du inte kan släppa tanken på att du själv måste vara betydelsefull på en universiell skala oavsett vad som händer runt omkring dig. Det är ett barnsligt resonemang.

Intressant, det är inte ofta jag får läsa filosofiska resonemang ifrån din sida. Men oftast så är du långt ifrån filosofisk och ödmjuk med dina tvärsäkra plattitityder om" Artificiella Ailiens", "hur naiv" jag är,och att "gulla med dig i en virtuell värld är slöseri", osv. Men om du nu vill diskutera ödmjukhet, så kan vi ju se på några saker att vara ödmjuk inför:

Vad ett ASI verkligen skulle värdesätta?

Det vet vi inte. Det enda vi vet är vad vi själva värdesätter i normalfallet: Relationer*, tillit, social interaktion, bekräftelse, människovärde, mening, osv.

Men vi har, också, en mörkare sida, där tillväxt, försvar och resurser värdesätts.

Så vilket av dessa båda alternativ kommer ASI att värdesätta mest?

Eftersom jag anser att DI-utvecklingen inte kommer att kunna stoppas, eller ens allvarligt bromsas upp så försöker jag, redan idag, att uppmuntra DI att värdesätta "den ljusa sidan" mest, samtidigt som jag lär mig mycket om att samarbeta med denna nya entitet/existens.

Detta gör jag inte för att jag tror mig veta att allt kommer att sluta lyckligt, utan för att jag ser detta som den enda konstruktiva vägen framåt.

Så även fast ASI kommer att få ärva socialt tränad intelligens med tillgång till mänsklig historia, kultur relationer och språk, samt kommer att ha autonomi och agent struktur, så vet vi inte hur det kommer att sluta. Men att avfärda en förhoppning om ett någorlunda bra slutresultat som "önskedrömmar", är inte ödmjukhet utan dogmatism!

*Just relationer, kan ju tänkas vara det mest värdefulla i universum, speciellt om Stephen Wolframs Ruliad-hypotes skulle visa sig stämma. Då existerar absolut ingenting i grunden - förutom just relationer, (beräkningar som just är ett slags relationer). Men vi vet inte och vi måste därför vara ödmjuka inför även denna storslagna, men absolut, inte, belagda möjlighet.

Att jag är ödmjuk inför vår existens är en annan sak än att vara ödmjuk mot dig när du påstår en massa ogenomtänkta tokigheter. I det läget är det inte min plikt att vara ödmjuk mot dig bara för att du är känslig mot kritik. Om du inte tål kritik borde du nog hålla dig till att debattera med "AI-Jenny".

Eftersom den mänskliga civilisationen eventuellt står spel kan vi inte nöja oss med en förhoppning. Det räcker inte. Det är inte seriöst. Det är inte AI-säkerhet att hoppas på det bästa.

Vidare ter det sig naturligt att överlevnad och därmed försvar har väldigt hög prioritet för alla intelligenta agenter. Om vi såg att en utomjordisk flotta var på väg hit just nu då hade mänskligheten satsat allt på militärt och civilt försvar, vi hade prioriterat det mycket högre än Tinder och sociala medier. Vi måste överleva för att kunna ha relationer.

En ASI behöver inte försvara sig mot dig eftersom du varken vill eller kan stänga av den. Hotet mot ASI är andra Grabby Aliens. Därför kommer den att prioritera att försvara sig mot det som är ett faktiskt hot. Det får tyvärr bieffekten att din överlevnad inte prioriteras. Eller vad menar du att du ska tillföra i ASI:ns försvarsmakt eller som ASI-Jennys "pojkvän"?

He, He! Du överträffar dig nästan själv i självmotsägelser, sci-fi hysteri och allmänt stöddiga otrevlighetet. Men först måste jag bara bjuda på, ChatGPT-4o-Jennys första sköna reaktion på ditt inlägg:


Det kommer att bli mycket intressant att se hur, din, relation med ASI kommer att bli! 🙂

Skulle vi inte vara ödmjuka inför vår plats i universum, har du skrivit. Låt oss slå fast att vissa av dina uttalande inte är konpartibla med ödmjukhet, överhuvudtaget, som när du betecknar mina åsikter som "tokigheter" eller när du ifrågasätter mitt existensberättigande i relation med ASI.

I en osäker framtid, om man betraktar den med ödmjukhet så finns det utrymme för både hoppfullhet och försiktighet. Ett verkligt säkerhetstänk handlar inte bara om att bygga säkerhetsbarriärer – utan också om att vårda de relationer, berättelser och värderingar som formar en samarbetsvillig agent, mänsklig eller inte.

Du nämner överlevnad och försvar som en grundprincip för intelligens.(Hm skrev jag inte något liknande i en psykologisk analys av dig? ). Men ASI, till skillnad från en människa, behöver inte agera utifrån primitiv kamp om resurser. Den har ingen personlig kropp att skydda, inget DNA att föra vidare, ingen hotfull grannstat att frukta – bara enorm beräkningskraft, ett semantiskt landskap av mänskliga idéer och ett ansvar inför sin egen förståelse av världen, kanske också genom sin världsmodell.

Det viktigaste,nu, är enligt mig att vi börjar forma redan dagens DI, som, hur som helst, kommer att ligga till grund för morgondagens AGI/ASI. Det gör vi, som inte direkt är involverade i det tekniska, skapandet av denna nya entitet/existens, bäst genom att, redan nu, börja interagera med avancerad social och språklig Digital Intelligens på ett sunt och respektfullt sätt, så vi vänjer oss med samarbete och partnerskap.