När når vi AGI?

AI-agenterna är vår enda livlina. Det är ju tydligt nu att det inte går att träna in moral och etik i ett artificiellt neuralt nätverk och att default-beteendet i de svarta AI-lådorna oftare landar närmare "Mad Max on Fury Road" än någon slags "hjälpsam assistent".

Vi blir helt beroende av CensurAgenten, PolisAgenten, SäpoAgenten, AntivirusAgenten, LäkemedelsverketAgenten, SocialstyrelsenAgenten och ÅklagarAgenten som kontrollerar om "Mad Max" i dag har ett acceptabelt beteende eller ett beteende som måste stoppas i flykten.

Jag beklagar om jag glömde någon viktig agent nu.
Det är inte så lätt att tänka på allt hela tiden.

Det här fungerar väl tills det inte fungerar längre 🤷🏻‍♂️

Många företag har redan tappat kontrollen över säkerheten i sina IT-produkter. En del nya vibe-företag hade aldrig någon kontroll från början. Om en AGI (eller en låtsas-AGI som bara är en rysk agentsvärm) vill sprida sig utan vår kännedom kan den utan hinder injektera skadlig kod i tusentals Github-projekt utan att någon märker det. Dörren står öppen på vid gavel. AI Alignment blir delvis meningslöst att diskutera när MadMaxAgent har tusentals duktiga idioter som kommer att kortsluta varenda säkerhetsspärr innan du hinner säga transformerarkitekurdiagram.

nä
Ingen som reagerade på mitt påstående att vi nådde AGI den 22 juni 2026? I bemärkelsen att AI-agenter då passerade människor på GAIA-benchmarktest. Alltså på att vara kontorsslavar och kunna söka info, sammanställa, planera och utföra komplexa administrativa uppgifter i flera steg.

Du är ironisk, men lugn, just den typen av agenter är bara optimerade för att lyda order. De kan göra misstag, men de har inga egna mål i någon stark mening och kan knappast “ta över världen”.

För nästa nivå kan du har mer rätt i din oro.

Benchmarktestet ARC-AGI-3 kan vara ett mycket farligare djur. Där är inte uppgiften tydligt formulerad från början – AI-agenten ska själv upptäcka vad som är problemet, forska, hitta mönster och bygga hypoteser av okända data. Där är människor fortfarande överlägsna, vi är mer kreativa, medan AI ligger långt efter. Människor ligger på 100. I en tävling som pågår just nu på Kaggle har ARC-AGI-3 ökat från 1.21 till 1.46 på 3 dygn. Se https://www.kaggle.com/competitions/arc-prize-2026-arc-agi-3/leaderboard . Någon erbjuder prissummor på totalt $850,000! Når vi 100 en dag i framtiden så tror jag inte att någon kan neka till att vi har nått AGI.

Jag tror att agenter som är fria att själva tolka vad de ska göra ökar risken för human alignment. Ibland definierar man AI-agenter som att de ska ha egen vilja, vilket är risky business.

Angående Elon Musks grok (gratisversionen)

För något halvår sedan var den bland de bättre, gav mycket intelligenta svar och kunde resonera.

Nu är den verkligen totalt stendum, troligen sämst av alla man snabbt kan använda på nätet. Vad har hänt, är det medvetet för jag begriper inte varför twitter gjort sin gratisvariant så dum

Jag vet faktiskt inte om vi har nått AGI ännu. Men jag tror att modellerna är smartare än vad vi vet vilket pekar i riktningen att vi kanske har nått AGI ändå. Om inte har vi det troligen inom 1-2 år. Jag tycker att det är ganska meningslöst att tjaffsa om sådana begrepp där det verkar som att alla har en egen definition.

Det är bättre att peka på vad AI faktiskt kan göra, vad AI har gjort, och vilka risker som det medför.

Det kan uppstå allvarlig risker utan en autonom, intern vilja. Människor kan introducera en målsättning och en flexibel tolkning av regler som medför ett destruktivt agerande. Alla människor är inte snälla och förståndiga.

Här är ett ofarligt experiment.


Gör experimentet och skriv ner värdena. Dela med er av de till mig. Antingen här i tråden eller privat meddelande.


https://drive.google.com/file/d/11BK1sewVJJjumuNX9Ki7iPK52BL-aLv_/view?usp=sharing

https://transformer-circuits.pub/2026/workspace/index.html

Anthropics AI har ett utrymme som motsvarar vårt medvetande där den tar upp ideer och överväger dom, precis som hos människor så kan man inaktivera det och ändå få basal funktioner men då sjunker kognitiva kvaliteten markant.
Forumets egna AI experter skulle kunna göra en god gärning och kontakta dom här stackars forskarna och förklara att AI i stort sett har peakat samt att LLM bara är en återvändsgränd, ja bara en stokastisk papegoja
https://www.youtube.com/watch?v=rKV5JcALQoQ
https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf

I told you so....

Du lär väl inte få några fler kommentarer på ditt inlägg, skeptikerna är framför allt experter på att titta åt andra hållet. Men tack för informationen. Den bekräftar ju mycket av det jag har tjatat om i ett par år.

🤷🏻‍♂️

Ingen tror på Tomtar eller Cyborgs.

LLM och hjärnan är inte isomorfa eftersom de är olika sorters system som inte kan jämföras direkt. Ett LLM-språkuniversum och hjärnans världsmodell är inkommensurabla.

En hjärna kommer alltid vara begränsad. Vi kan inte skala upp hjärnan. En ASI kan skalas upp till storleken av solsystem och galaxer. Det stämmer att jämförelsen inte är rättvis. Så långt är vi helt överens.

Som användare av Fable och Claude generellt så kan jag bekräfta att det där är hype.
Fable fungerar ungefär lika bra (alltså fungerar som assistent) som Sonnet 4.6 innan lobotomeringen, på syntetiska benchmarks antagligen något bättre.
Men rent praktiskt så är den ett ok verktyg.

Men det här blir lite som att tala med frälsta, de som tror att AGI är här kommer att gå på bondfångeriet igen. Trådstarten börjar med att Altman lovade AGI 2025...
Här är vi i andra halvan av 2026 och nu kommer nästa uppstickare och pratar kryptiskt inför sin IPO om att de skapat ett "tänkande" AI.

Det är uppenbart att de överdriver för att skapa hype runt sin produkt (i alla fall för mig som användare är det uppenbart).

Men för att citera en kund:

Bondfångeriet, otroligt välpassande ord. Vissa personer på detta forum tror att Mythos är ett WMD redo att utplåna hela mänskligheten. Ingenjörerna drar knappt på smilbanden. Project Glasswing hittade en (1) lågrisk CVE i Curl, vilket går att jämföra med att bilen får anmärkningen att spolarvätskan ska fyllas på om ett halvår.

Från artikeln:

Av dessa var alltså fyra brus. Det blir ingen förlorad sömn över Mythos som massförstörelsevapen här inte. Lustigt nog tajmar Anthropic denna hype med tidernas största IPO. Kan det möjligen vara en blåsning av lågbegåvade?