När når vi AGI?

Nej det är absurt att tro att man vet detta. Helt jävla osannolikt. Llm kan inte tänka i orsaker bara mönster.

Svara på frågan du fick:
Du tror att människans språksinne fungerar väldigt annorlunda llm? Varför?

Börja med att bevisa att du tänker i något mer än bara mönster. Eller definiera exakt vad du avser med begreppet "tänker".

Det är kausalt tänkande för att handla i världen. Mönster och deduktion är lågnivå. Du kan fråga ett llm själv så får du svar åå tal.

De flesta människor tänker i ett steg. Dvs om A så B. Och det stannar där. Ex om jag blir hungrig tar jag mig något att äta. Och det är tillräckligt för att sköta många jobb i samhället. Mer logik krävs inte.
Att tänka i flera steg blir för svårt. Dvs om A så B och om B så C osv. Många grejar inte ens att hänga med när dom får det förklarat för sig.

Och för många är det så att dom tänker inte ens. Utan känner fram svaren.

Då kan man fråga sig på vilken nivå som en LLM är?
En LLM bör minst vara på nivån att den känner fram svaren.
Och kör man en LLM i flera steg, då kanske den kan börja motsvara en människa som tänker i 2-3 steg. Och då matchar en LLL klart mer än halva mänskligheten. 90%?

Och då kan man fråga sig om det inte är tillräckligt för etiketten AGI.
Behöver AGI vara mer än det?

Hur förklarar du slumpmässiga mutationer då?


Det är här du missar en hel del av det eteriska i vårt tänkande som i sin tur blir så svårt att översätta till en ai. Vi tänker inte alls bara så, om jag är hungrig börjar jag genast blanda in massa aspekter och sållar ut en massa meta information som ligger mellan A och B. Som i vad har jag hemma, vad gillar jag, hur stor ansträngning är jag beredd att göra, vilka kompetenser har jag som jag kan använda för tillaga maten, hur platser det in i min totala näringsintag dvs ska jag äta mycket nu eller bara lite så jag står mig till nästa måltid osv. Allt detta är massa meta data eller kontext som vi direkt och omedvetet väger in i våra beslut och som är så svåra att definiera men vi vet instinktivt att elefantstek inte är inte ett rimligt förslag på frukost i Sverige, utan att vi behöver resonera kring det i flera steg.

Edit; inser att i sak så säger du det samma som jag försökte argumentera om man läser posten i sin helhet, jag håller med om att en AGI borde rimligen kunna ha vår abstrakta förmåga att "känna att jag behöver äta en omelett"

Du glömmer träningen/inlärningen.

En nyfödd är inte tränad och kan därför inte resonera, dra slutsatser om orsaker eller lösa logiska problem, utan försöker bara hitta nya mönster och härma och testa att interagera med omgivningen. Men både ett llm och en vuxen människa är tränade att resonera steg för steg och dra slutsatser.

Jag ställde frågan till en LLM "A LLM's ability to leverage concept-inference, can that be mistaken for causal thinking/reasoning?" och fick svaret:

Yes, unequivocally. In fact, this misattribution is the single greatest source of overconfidence and potential danger in deploying current Generative AI.

To understand why, we must draw a sharp line between concept-inference (pattern recognition/association) and causal reasoning (intervention and counterfactual thinking).

Here is why concept-inference is so easily mistaken for causality, and why that mistake is profoundly misleading.
1. The Illusion of the "Linguistic Shortcut"

Causal relationships in human language are almost always correlated with statistical co-occurrence.

Because "rain" and "wet streets" appear together in billions of text passages, the LLM maps these concepts tightly in its latent space.

When you ask, "Why is the street wet?" and it answers "Because it rained," it looks like causal reasoning.

However, the LLM is not simulating atmospheric physics. It is leveraging the linguistic frame of causality. It has learned that the token "because" usually follows the sequence {wet street, rain}. It is performing textual pattern completion, not mental simulation. It mistakes temporal precedence and semantic association in its training data for mechanistic generation.

2. The Pearlian Ladder of Causation (Where LLMs get stuck)

Judea Pearl's hierarchy of causal reasoning is the best framework to see the difference:

Level 1 (Association / Concept-Inference): "Seeing." What does rain correlate with? (Wet streets, umbrellas, clouds). LLMs are superhuman here.

Level 2 (Intervention): "Doing." What happens if I stop the rain? What if I actively turn off the sprinklers? To reason causally, you need a mental model that handles the "do()" operator—holding all other variables fixed while you forcibly change one. LLMs lack a built-in world simulator; they can only predict what text looks like when someone describes an intervention. They often fail when the intervention contradicts the statistical norm.

Level 3 (Counterfactuals): "Imagining." "Given that the street is wet, but it did NOT rain, what must have happened?" True causal reasoning requires imagining a parallel universe and adjusting the distribution. LLMs frequently fail counterfactual benchmarks because their training data contains far fewer robust counterfactual examples than factual ones.

3. The Asymmetry Blind Spot (The "Stork" Fallacy)

Causality is asymmetric (A causes B; B does not cause A). Concept-inference is symmetric (correlation is bidirectional).
LLMs are easily fooled by spurious correlations. For example, if an LLM is trained on data showing that rural areas have high stork populations and high birth rates, concept-inference tightly links "storks" and "babies." Asked to reason causally, the LLM might generate a plausible narrative about storks delivering babies. While it knows this isn't true, if you change the prompt to ask "Explain the ecological mechanism that led to the historical correlation between storks and birth rates," it will happily output a causal-sounding story. It does not possess an internal guardrail that automatically rejects non-causal associations.
4. Brittleness Under Distributional Shift

A hallmark of true causal reasoning is invariance—if you know the causal mechanism, you can predict what happens in a completely new environment (e.g., predicting how a plane flies on Mars, where gravity is different).
LLMs are entirely reliant on the distribution of their training data. If you introduce a novel variable that breaks the statistical correlation (e.g., "It rained, but the street is completely dry because..."), the LLM will struggle to reason causally about the new rule. It will fall back on the highest-probability next token (rain) rather than correctly intervening in its mental model.
5. Why Do We Mistake It?

We mistake it because the output format mimics human expert reasoning. When an LLM generates a coherent chain: "A causes B, which triggers C, leading to D," our brains are wired to recognize this as logical deduction. We conflate fluency with fidelity. Furthermore, if you prompt an LLM, "Be careful, think step-by-step, and consider confounding variables," it will generate text that looks like a rigorous causal analysis. But it is merely retrieving snippets of causal language from its training data and stitching them together based on conceptual proximity.

The Crucial Caveat: LLMs can simulate causal reasoning remarkably well on standardized benchmarks (like the CSAT or causal discovery tasks) because those benchmarks are heavily represented in their training data. They are excellent causal parrots.

However, if you give an LLM a custom spreadsheet of a fictional factory where increasing the number of workers decreases output (contrary to all standard economics), the LLM's concept-inference will fight this anomaly. It will try to find reasons to align the data with its pre-trained associations. A true causal thinker would immediately accept the new intervention and build a fresh mental model.

In summary: Concept-inference is a statistical map of the text about the world. Causal reasoning is a mechanistic model of the world itself. The LLM's output is a map so detailed and coherent that it often looks like the territory, but it never actually steps foot on the ground. Mistaking it for causality is akin to mistaking a masterful painting of a fire for actual heat.

Det är just på grund av detta som ANN/KNN* är en farlig teknologi. Det finns liksom inget bra stöd för sunt förnuft, vuxet konsekvenstänk, laglydighet eller sans och balans. Modellen kan emulera det, beroende på prompt och slump men den kan lika väl emulera något helt annat.

Felaktigheter som att storkar levererar bebisar gör ingen större skada men slutsatsen att man kan mörda en ingenjör för att inte bli avstängd riskerar att leda till desto värre konsekvenser.

"the majority of models were willing to take deliberate actions that lead to death" [1]

*) Artificiella/Kriminella Neurala Nätverk

If anyone builds it... ☠️

e

Under nuvarande paradigm.

Men det går faktiskt att förebygga.

Så det vore även kontraproduktivt att forma domedagskollektiv baserat på analyser på det paradigm som är aktuellt i dagsläget.

Nina just built an app

Det finns inget annat paradigm som har visat sig framgångsrikt för att skapa en ännu mer kapabel AI.
Den nuvarande paradigmen kommer att skapa mer kapabel AI, men inte någon säker AI.
Dina och andras helt grundlösa och naiva påståenden om hemliga AI-uppfinningar imponerar inte.

Nja. Värkden är inte deterministisk. Kvantfysikaliska händelser (t.ex. när partiklar emitteras vid radioaktivt sönderfall) är äkta slump. En enskild sådan händelse kan alltså inte beräknas och förutsägas exakt, även om vi skulle ha all ibfìo om systemets tillstånd innan händelsen.

Ingen vet säkert om och ⁸hur stor betydelse kvantfysikaliska händelser har för hjärnans funktion. Fysikern Roger Penrose har argumenterat för att medvetandet kan bero på icke-beräkningsbara processer i hjärnan, och tillsammans med anestesiologen Stuart Hameroff har han föreslagit att kvantprocesser i hjärnan kan vara inblandade. Det finns även mer spekulativa idéer om kopplingar till fri vilja och medvetande. Kvantslump i sig gör dock inte hjärnan icke-algoritmisk, eftersom slump också kan modelleras av datorer.

Jag tror dock att slumpgenerersnde modeller, som LLM:er (stora språkmodeller), kan efterlikna hjärnan. Jag tror snarare att emergens är förklaringen till vårt medvetande, vår upplevelse av fri vilja m.m. Dvs. att det uppstår genom hjärnans komplexitet och omfattande träning.

Emergenta (oväntade) förmågor har uppstått i tillräckligt komplexa och vältränade LLM:er ocĺkså Kanske kan även fri vilja, känslor, medvetande (en subjektiv upplevelse av sig själv), sökande efter mål och mening, tro, religiositet,