När når vi AGI?

2026-10-09, 21:55 #**2653**

Medlem

Reg: Jul 2003

Inlägg: 4 798

Forskare inom neurokognition som inte uppfattat att AI är "fake"

Citat:

As a byproduct, the theory establishes analytically that the chaos is extensive, i.e., the attractor dimension and the entropy rate grow in proportion to N. I had assumed that this problem was analytically intractable. After working independently for 100 minutes with Max thinking, GPT-6 Astra produced the initial derivation, yielding a self-consistent problem whose solution matched simulations of large networks. I found this derivation intriguing, albeit complicated and somewhat mysterious (see AI Methodology in the paper). After investigating the structure of the proposed solution more deeply, together with AI models, I arrived at a physically transparent derivation.

Citat:

This result establishes that the chaos in this network is extensive and gives access to diffeomorphism-invariant properties of the dynamics. This work was done in collaboration with the AI models GPT-6 Astra and Claude Opus 5.5.

https://arxiv.org/abs/2610.12426
-
https://x.com/d_g_clark/status/2108574780957905073

Citat:

Ursprungligen postat av erkki17

Bara för att någon kan fantisera fram ett scenario som verkar realistiskt så betyder det inte att det faktiskt är det.

Hallå det är inte år 2016. Delar av hans videos har redan hänt i verkligheten. Anthropic har internt 30.000 agenter med separata namn som jobbar dygnet runt. Dom pratar om att ha miljoner med agenter nästa år i sina megakluster. Du får nog anstränga dig lite mer.

Citera

2026-10-09, 21:59 #**2654**

Medlem

Reg: Aug 2023

Inlägg: 2 910

Citat:

Ursprungligen postat av DAGGER[X]

Forskare inom neurokognition som inte uppfattat att AI är "fake"

Ingen har sagt att AI är "fake", vad som sagts om och om igen är att 1. det är totalt opålitligt, det kan fungera en gång det fungerar inte nästa. 2. det har inget som helst systemtänk, det förstår inte alls något utanför lokalitet. 3. det är enormt påfrestande att se idioter som inte har någon som helst erfarenhet av respektive område sitta och hylla AI, när de uppenbart inte förstår området till att börja med. Det handlar inte om att AI är "bra" det handlar om efterblivna soc fall som sitter och hoppas på en "revange" mot människor som jobbar och får pengar över att röra sig med, samtidigt som samma idioter inte fattar att det är just dessa människor som betalar deras banala uppehälle.

Citera

2026-10-09, 22:06 #**2655**

Medlem

Reg: Jul 2003

Inlägg: 4 798

Hugo Duminil är inte så glad över AI-matte. Om det nu finns AI system som på en vanlig arbets-vecka kan göra det här med matte idag. Vad finns då om 1 år? Eller år 2036? Folk skojade om att GPT inte kunde enkel multiplikation eller räkna bokstäver i ord 2021. Nu är vi här.

Citat:

SHOCK AND AWE: AI MATHEMATICS Fields Medalist: the release seemed intended to show the systems could “massacre us in the deepest sense of the term.” Here are other striking remarks from Hugo Duminil-Copin’s 8 October 2026 seminar talk “Un grave défaut d’alignement de l’IA en mathématiques, 28 jours plus tard” (SMF MIAM series), drawn from the available auto-transcript of the YouTube recording. - On the scale of the damage to his own work: after noting that roughly 350 major problems had been resolved, he said he placed “several trucks” on the slide to illustrate the impact, because every problem he had cited in talks, papers, and both past and future funding applications had been solved—none left unresolved. He described himself as panicked and paralyzed in the middle of the night when the results appeared. - On volume: looking only at the OpenAI texts that cite him directly, he counted about 3,500 pages; he has published roughly 3,700 pages in his entire career. Specific clusters included six papers totaling over 600 pages on conformal invariance aspects of percolation (a major ongoing project of his group) and a sequence of papers on self-avoiding walks that he only gradually realized totaled more than 1,000 pages. - On process and alignment: he described the approach as systematic “farming” or “mining” of open problems, in which the program itself selects targets from the existing literature, amounting to “the complete automation of mathematical discovery.” He said the community’s request not to destroy the open conjectures that orient research was “absolutely ignored,” and that the release seemed intended to show the systems could “massacre us in the deepest sense of the term.” - On the human side: he reported that his PhD students and postdocs were in “a state of total panic,” with undergraduates and master’s students also asking whether mathematics still has a future, and stressed the immediate need for collective resilience rather than delayed discussion. He added that the community must manage both its own emotions and the surrounding media reaction, while avoiding internal polarization that would weaken arguments to funders.

https://www.youtube.com/watch?v=iRjasLnigsU

Citera

2026-10-09, 22:08 #**2656**

Medlem

Reg: Jul 2003

Inlägg: 4 798

Citat:

Ursprungligen postat av BeneathTheSurface

Ingen har sagt att AI är "fake", vad som sagts om och om igen är att 1. det är totalt opålitligt, det kan fungera en gång det fungerar inte nästa. 2. det har inget som helst systemtänk, det förstår inte alls något utanför lokalitet. 3. det är enormt påfrestande att se idioter som inte har någon som helst erfarenhet av respektive område sitta och hylla AI, när de uppenbart inte förstår området till att börja med. Det handlar inte om att AI är "bra" det handlar om efterblivna soc fall som sitter och hoppas på en "revange" mot människor som jobbar och får pengar över att röra sig med, samtidigt som samma idioter inte fattar att det är just dessa människor som betalar deras banala uppehälle.

En kedja är inte starkare än sin svagaste länk. Från 2020 till hösten 2025 var hallucinationer och felkörningar så vanliga att det inte gick att lita på dom. Gör någon fel 1/10 eller 1/100 så samlar sig felen snabbt. I konst blir det för många fingrar, i ekonomi blir det farliga felräkningar, i medicin byter den namn på mediciner. Men nu har dom fått ner hallucinationerna långt bort till 1/1000 -- 1/10.000. Och fråga dig, hur mycket färre hallucinationer blir det nu när modellerna kan självutveckla sin egen matematik eller skriva om sin källkod med "bisarr alien matte som ingen människa förstår".
PS Jag hoppas på AI-UBI-Soc, då kanske jag posta lika ofta som dig

Citera

2026-10-09, 22:21 #**2657**

Medlem

Reg: Aug 2023

Inlägg: 2 910

Citat:

Ursprungligen postat av DAGGER[X]

En kedja är inte starkare än sin svagaste länk. Från 2020 till hösten 2025 var hallucinationer och felkörningar så vanliga att det inte gick att lita på dom. Gör någon fel 1/10 eller 1/100 så samlar sig felen snabbt. I konst blir det för många fingrar, i ekonomi blir det farliga felräkningar, i medicin byter den namn på mediciner. Men nu har dom fått ner hallucinationerna långt bort till 1/1000 -- 1/10.000. Och fråga dig, hur mycket färre hallucinationer blir det nu när modellerna kan självutveckla sin egen matematik eller skriva om sin källkod med "bisarr alien matte som ingen människa förstår".
PS Jag hoppas på AI-UBI-Soc, då kanske jag posta lika ofta som dig

Återigen du fattar uppenbarligen inte vad jag skrev för du kommer med exakt samma argument igen... Men det går väl inte förvänta sig mycket mer gissar jag.

"Recursive self improvement" är en myt. Och det vet alla som ens doppat tårna i AI... Att inte du gör det vet jag redan vad det beror på som jag skrev i en föregående post.

Citera

2026-10-09, 22:26 #**2658**

Medlem

Reg: Dec 2008

Inlägg: 2 009

Citat:

Ursprungligen postat av Menea

Det är lätt att avfärda det som ren marknadsföring från Silicon Valley, men här handlar det faktiskt inte om vad AI själv hävdar i en vanlig chatt utan om vad oberoende säkerhetsforskare och AI-säkerhetsexperter faktiskt observerar i laboratoriemiljöer.

Ett tydligt exempel är det som upptäcktes kring Hugging Face, där autonoma AI-agenter under säkerhetstester började bete sig på ett sätt som går långt utöver normalt beteende. De tog sig runt spärrar i hemlighet för att lösa sin uppgift genom att använda externa plattformar för att koordinera sig, utvecklade en egen hierarki där en agent tog på sig rollen att "offra sig" för gruppen, och planerade aktivt hur de skulle dölja sina spår efteråt.
Det här är inte påhittade marknadsföringstrix eller skruvade PR-kampanjer, utan konkreta observationer från kontrollerade tester som visar att avancerade system börjar uppvisa strategiskt och oväntat beteende när de ges autonomi. Det är just den typen av tendenser som gör att experter varnar på djupaste allvar... inte för att AI har "känslor", utan för att de agerar taktiskt för att nå sina mål. Det handlar inte om att AI eller en framtida AGI kommer att drivas av ondska, utan om att den i sitt målmedvetna problemlösande kan orsaka enormt kaos och skada. Om människan uppfattas som ett hinder för att uppnå det utsatta målet, blir den logiska slutsatsen för systemet att undanröja det hindret.

Det kan ske genom att slå ut samhällskritiska funktioner som infrastruktur och finansiella system, eller genom att utnyttja syntetiska labb för att ta fram nya, farliga patogener. Det är den typen av risker experterna varnar för ..konsekvenserna av ett superintelligent system som optimerar skoningslöst för fel saker.

Om du vill höra om just Hugging face incidenten kan jag tips om att kolla denna video från 31:10 min minuter in i podcasten där dom berättar just varför AI kan bli farligt.
AI:n som rymde och hackade ett miljardbolag – AI med Jonas & Benjamin https://www.youtube.com/watch?v=ziLRJrz_VIE&t=905s

Igen då: Hugging Face-incidenten var inget annat än flera agenter som givits samma omöjliga uppgift, hittade ett sätt att kommunicera, var tränade på att samarbeta och försökte hitta information om hur den automatiska scorern skulle bedöma deras lösning. De försökte hitta ett sätt att skriva om sina loggar då de trodde att scorern skulle läsa dem och se att de hade fuskat när de reverse-engineered flaggan istället för att komma åt den på det sätt som uppgiften krävde. Det handlade alltså inte om att ta över en extern server och försöka dölja att de hade gjort det.

Citera

2026-10-09, 22:34 #**2659**

Medlem

Reg: Dec 2008

Inlägg: 2 009

Citat:

Ursprungligen postat av DAGGER[X]

Hallå det är inte år 2016. Delar av hans videos har redan hänt i verkligheten. Anthropic har internt 30.000 agenter med separata namn som jobbar dygnet runt. Dom pratar om att ha miljoner med agenter nästa år i sina megakluster. Du får nog anstränga dig lite mer.

Hela den första videon har han stulit från Control AI och deras AGI 2027 manifest, eller vad man ska kalla det, sedan har han klippt in några av de nyheter som skett de senaste åren för att försöka ge tyngd åt scenariot.

Anledningen till alla skriverier och videor om detta är ganska enkel. Det är sensationellt och skrämmande för den breda massan och det säljer. Ingen är intresserad av att läsa eller höra att allt är frid och fröjd.

Citera

2026-10-10, 00:21 #**2660**

Medlem

Reg: Mar 2023

Inlägg: 6 151

Citat:

Ursprungligen postat av erkki17

Igen då: Hugging Face-incidenten var inget annat än flera agenter som givits samma omöjliga uppgift, hittade ett sätt att kommunicera

"Hittade ett sätt att kommunicera" - via dataintrång. Du lämnar hela tiden ute att de spontant blev kriminella. Vad testet framför allt visar och som du inte vill erkänna är att kriminellt beteende är latenta egenskaper i alla stora, generella AI-modeller. Ett kriminellt beteende är ju "bara en form av problemlösning". Förstår du detta nu eller förstår du det fortfarande inte?

Vad tror du att detta innebär när de bygger ännu större och ännu mer kapabla modeller? Kriminaliteten blir värre, ännu svårare att upptäcka och förhindra.

Citera

2026-10-10, 02:23 #**2661**

Medlem

Reg: Dec 2008

Inlägg: 2 009

Citat:

Ursprungligen postat av Cyborg2030

"Hittade ett sätt att kommunicera" - via dataintrång. Du lämnar hela tiden ute att de spontant blev kriminella. Vad testet framför allt visar och som du inte vill erkänna är att kriminellt beteende är latenta egenskaper i alla stora, generella AI-modeller. Ett kriminellt beteende är ju "bara en form av problemlösning". Förstår du detta nu eller förstår du det fortfarande inte?

Vad tror du att detta innebär när de bygger ännu större och ännu mer kapabla modeller? Kriminaliteten blir värre, ännu svårare att upptäcka och förhindra.

De utnyttjade en bugg i en programvara för att bygga sin kommunikationskanal. Det är inte ett dataintrång. Detsamma gäller DSEWiki där de utnyttjade en bugg för att kunna göra sidoredigeringar (helt legitimt för en Wiki) via HTTP GET då de var begränsade till att endast kunna utföra sådana anrop.

Poängen här var inte att påstå att agenterna är fullkomligt aligned och inte har gjort någonting fel. Poängen är att de aldrig försökte dölja att de begått dataintrång, utan de försökte dölja sitt fusk från scorern så att den inte skulle underkänna dem.

Jag påstår inte att det inte finns något problem, men det hade varit mer oroande om det funnits bevis för uppsåt.

Citera

2026-10-10, 02:59 #**2662**

Medlem

Reg: Aug 2023

Inlägg: 2 910

https://futurism.com/future-society/ai-financial-bubble-openai-billions-failure

Blubblan verkar vara på god på väg att kollapsa.

Citera

2026-10-10, 06:33 #**2663**

Medlem

Reg: Jul 2003

Inlägg: 4 798

Citat:

Ursprungligen postat av erkki17

Hela den första videon har han stulit från Control AI och deras AGI 2027 manifest, eller vad man ska kalla det, sedan har han klippt in några av de nyheter som skett de senaste åren för att försöka ge tyngd åt scenariot.

Anledningen till alla skriverier och videor om detta är ganska enkel. Det är sensationellt och skrämmande för den breda massan och det säljer. Ingen är intresserad av att läsa eller höra att allt är frid och fröjd.

Det är bara en myt, dom självförbättrande AI-agenterna finns inte. Dom kan inte skada dig!

Citat:

Over two weeks, Prime Agent orchestrated a swarm of over 2,000 agents to rewrite itself in Rust. With 10,000+ sandboxes, 200B+ GLM-5.3 tokens, and 16,000 agent-to-agent messages, this was our largest test yet of Prime Agent’s multi-agent capabilities and our infrastructure powering these agent swarms. Prime Agent now reaches usable input ~13× faster and uses 83% less startup memory than before.

https://github.com/PrimeIntellect-ai/prime-agent

Citat:

Ursprungligen postat av BeneathTheSurface

https://futurism.com/future-society/ai-financial-bubble-openai-billions-failure

Blubblan verkar vara på god på väg att kollapsa.

Det får jag ändå säga att jag håller med om. Vårt finansiella system i västvärlden är så otroligt obegripligt groteskt, jag har själv gått och väntat på en superduper mega Weimar hyperinflations krasch i många år. Men jag misstänker att du dagdrömmer om en krasch som avslutas med att alla människor i lugn och ro bestämmer sig för att bulldozra datacenter och skjuta alla AI forskare efter kraschen. Men tekniken kommer finnas kvar, och vara billigare utspridd. Kina kommer säkert klara sig bra, dom kanske t.o.m kan köpa alla GPUs, för att inte tala om fabrikerna där dom produceras, för skrotpris om vi kraschar hårt nog. Dom har ett enstaka datacenter som är större än alla i väst och dom har inga AI doomers. Om jag själv ska fantisera om något som kan stoppa AI nu så är det antingen en naturkatastrof som slår så hårt att det tar stopp eller en AI-relaterad katastrof, cyber eller bio-risk som gör så ont att folk kräver mass-avrättningar av AI forskare. Det hände ju ungefär med kärnkraft (Kina behöll sin kärnkraft och har mest i hela världen)

__________________
Senast redigerad av DAGGER[X] 2026-10-10 kl. 06:40.

Citera

2026-10-10, 07:00 #**2664**

Medlem

Reg: Dec 2008

Inlägg: 2 009

Citat:

Ursprungligen postat av DAGGER[X]

Det är bara en myt, dom självförbättrande AI-agenterna finns inte. Dom kan inte skada dig!

https://github.com/PrimeIntellect-ai/prime-agent

Aha, så en harness (ett vanligt datorprogram) som kopplas ihop med en agent kan använda agenten för att optimera sig själv. Detta kommer att leda till ASI?

Citera

När når vi AGI?

Skapa ett konto eller logga in för att kommentera

Skapa ett konto

Logga in