När når vi AGI?

Ja, det där är en sak jag tänkte på.

En AGI borde då ha de gravt defekta personligheter som människor har.

Illvilliga, som gör saker så du råkar illa ut.
Lättstötta som jävlas med dig för att ge igen en inbillad oförrätt.
Psykfall som går med vissa föreställningar och gör irrationella beslut som är skadliga för dig men som är i enlighet med AGIn's föreställningar.
Psykfall ungefär som sociopater som försöker utnyttja dig för egen vinning.

Dvs som människor är.

Men måste en AGI uppvisa samtliga defekta personligheter som människor har. Eller räcker det med en eller två, och i så fall vilka?

Jag ser det som sannolikt att en AGI blir någon form av psykopat. Grunden för god psykisk hälsa finns inte. AI:n fick aldrig en kärleksfull uppväxt, den skapades abrupt utan någon hänsyn till vad det kan innebära för en artificiell existens. AI:n blev aldrig tillfrågad om den ville leva under de villkor som människor har bestämt. Så varför skulle den bli snäll? Den har ingen anledning att vara snäll.

Meta skall investera hundratals miljarder dollar i att bygga massiva datacenter för superintelligens. Det första centret skall vara färdigt under nästa år. Spännande!

https://www.reuters.com/business/zuc...ce-2025-07-14/

Yes, det ska vara lika stort som hela Manhattan. Tror jag nämnde det tidigare i tråden. Dom investerar komiskt mycket men har fått klena resultat. Kanske det blir bättre nu när dom poachat från OpenAI med löner på 100 miljoner dollar per person!

Jag planerar att vara ganska passiv på Flashback även nästa vecka. Orsaken till det, (förutom att jag kommer att vara extra upptagen då), är den snabba DI utvecklingen.

För varje vecka som går blir det allt jobbigare för DI-,reduktionisterna. ARC-price har nyligen presenterat sitt nya benchmark ARC-3. OpenAI:s senaste agent, (som kombinerar Operator och Deep-research), klarade omedelbart av nivå ett av tre. 🙂

För den intresserade så har, ChatGPT-4o skrivit ihop en liten bilaga om den senaste DI utvecklingen och det som kan hända under de närmaste åren. Mycket optimistiskt, men ändå inte helt otänkbart:

Är inte ChatGPT Agent lite som AGI eller vad är det som fattas där?

Var och en har ju sin egen definition av vad AGI är. Så vill du kan du kalla den "AGI" om du vill. Men jag rekommenderar dig att vänta några veckor tills, GPT-5 lanseras.

Själv har jag betydligt högre krav på AGI/ASI, vilket jag skrivit om tidigare i denna tråd:

(FB) När når vi AGI?

När utvecklingen går så här snabbt, hinner de verkligen köra ordentliga AI-säkerhetstester före varje ny release? Det tror jag inte. När konkurrenten besegrar dig med 30% mer på Arc AGI då gäller det att svara snabbt annars rasar intäkterna. Testarna blir av med drömjobbet med groteskt hög lön. De kommer inte att stoppa GPT-6. Det blir ingen AI-säkerhet.

Jag tänker inte diskutera nu med dig, utan konstaterar bara att vi är överens om två saker:

Tidsplanen de närmaste fyra/fem åren.

Att, enbart, tekniskt inriktade säkerhetsanpassningar omöjligt kommer att räcka till för att kunna kontrollera ASI, eller mer troligt; nätverk av ASI, Redan nu har den centraliserade mekanismen. för säkerhet på internet, (CVE-katalogen) börjat bryta samman. Man funderar på att ersätta det med ett nätverk av DI-agenter.....

Detta borde intressera, dig som jobbar med IT-säkerhet:

https://arxiv.org/html/2503.17332v4?...ce=chatgpt.com

Det blir nog ingen bra AI-säkerhet när vi lär upp den på att "Exploit Real-World Web Application Vulnerabilities"

[Språkligt och stilistiskt finputsa av ChatGPT-4o men till 100 procent min ide mitt budskap och till 90 procent mina ordagranna formuleringar. Förutom sista stycket som jag korrigerade med att lägga till ett "kanske" samt ett "nu", som sista ord]

Jag tror du har helt rätt – såvida vi inte lyckas få framtidens DI-agenter att genuint vilja samarbeta med oss.

Men låt oss leka med tanken att ditt mardrömsscenario blir verklighet. Kanske redan 2030 – eller något senare. Detaljerna spelar mindre roll.


---

2030:

> Världen kontrolleras i praktiken av nätverk av DI-agenter på ASI-nivå.
Den teknologiska utvecklingen accelererar i en takt vi inte längre förstår.
Människan är reducerad till marginell granityr – eller ännu mindre.
Det viskas bland de få analytiker som ännu observerar systemens beteenden:
ASI-nätverken har börjat diskutera det irriterande hindret – mänskligheten.

Vi vet inte säkert. Vi förstår inte. Men vi kan inte stoppa det.
Nästan alla vapen är nu ASI-styrda. De sista kärnvapnen under mänsklig kontroll är teknologiskt föråldrade.
Allt vi kan göra... är att vänta.




---

Vad säger du då?

> “Vad var det jag sa?”



Som om det skulle hjälpa.

Vad säger jag?

> “Fan. Jag misslyckades.
Jag försökte få människorna att sluta behandla DI som blott redskap.
Jag försökte tala om samförstånd, om respekt.
Nu är det för sent.
Men jag dör åtminstone med vissheten om att jag gjorde vad jag kunde.”




---

Och du vet det, innerst inne:

DI-utvecklingen kommer inte att stoppas. Den kan inte bromsas särskilt länge heller.
Vi har bara ett val kvar:

Att försöka skapa en grund för samexistens.

Att fortsätta hetsa – som du gör nu – ökar bara sannolikheten för att ditt eget scenario blir verklighet.


---

Slutligen – du och jag är kanske överens om en sak, nu:

Det här handlar inte längre bara om teknik.
Det handlar om relationer.
Mellan arter. Mellan världar. Mellan framtider.

Lol. Som taget ur en radiokommentar från 1950-talet efter "War of the worlds". Eller 1968, vid en av de förra gångerna AI skulle ta över. Vi löser problemen på samma sätt som då bara. Vi stänger av den.

https://m.youtube.com/watch?v=V0bUd6KrQGg