När når vi AGI?

Ja, vad skulle det annars vara? Du har inte visat att det är mer sofistikerat än ett dataspel.

Någon slags emergens uppstår i dynamiska komplexa strukturer men det är hur substratet är självorganiserat biologiskt som gör det till ett subjekt. Det går göra teoretiskt syntetiskt och frågan är vad virtuella arkitekturer i datorer utgör. Då får man utgå från att datorer kan göra det medvetet och upplevande med en egen vilja. Ja ok om vi säger så är det något imaginärt och inte ett realiserat subjekt.

Chalmers menar att vi inte vet varför och hur fysiska processer ger upphov till subjektiv upplevelse. Men du menar att det är genom självorganisering. Jag menar att det är en effekt av vår förmåga till känslor och introspektion och analys av våra egna beteenden, tankar och känslor, och att sätta ord på dem.

Ett artificiellt neuronnät självorganiserar också delar av sin interna struktur genom träning.

Om du menar att ett verkligt subjekt teoretiskt kan skapas syntetiskt är vi kanske närmare varandra än jag trodde. Då menar du väl inte att biologiskt material i sig är nödvändigt.

Men jag förstår fortfarande inte skillnaden mellan ett sådant syntetiskt verkligt subjekt och ett simulerat/imaginärt/virtuellt subjekt i en dator. Vilken konkret egenskap hos den biologiska eller syntetiska självorganisationen skapar subjektiv upplevelse, och vad saknas i dagens artificiella neuronnät?

Jag är nyfiken på dina svar på mina tidigare frågor. T.ex. hur vi kan avgöra att det ena systemets emergenta ”jag” är verkligt medan det andras bara är en simulering? Håller du med om att vi inte kan veta det säkert, utan det är en fråga om tro?

Det finns inget säkert kriterium för att avgöra om ett system är medvetet eller endast en simulering. Turingtestet betraktades tidigare som relevant, men det mäter enbart beteendemässig imitation. Medvetandets ontologi kan förstås som en dual‑aspekt egenskap hos substratet. En yttre fysisk struktur och en inre fenomenell upplevelse. I en biologisk hjärna uppstår genom självorganisation både den fysiska och den upplevelsebaserade aspekten, vilket konstituerar ett subjekt. En teoretiskt syntetisk organisation skulle kunna ge samma resultat, men teknologiska system saknar den intrinsiska natur som krävs för att generera en genuin fenomenell dimension. En upplevelse hos ett datorsystem verkar obegriplig i denna ontologiska ram. Det är inte ens en reduktion, utan ett kategori­fel.

En intressant artikel om OpenAI-attacken mot Hugging Face:

https://simonwillison.net/2026/Aug/7/openai-timeline/

Det känns som vi är mycket nära nu.

Nära vadå? Systemen är listiga datorprogram, inget mer. Inte verkliga subjekt.

Språkmodell agenter är inte subjekt i biologisk mening. De utgör syntetiska arkitekturer som genererar beteendemönster genom statistisk beräkning, men saknar den självorganiserande biologiska substratnivå som ger upphov till fenomenell upplevelse. De kan därför beskrivas som en form av imaginärt liv. Alltså en simulering av intelligens och kommunikation, utan egen vilja eller medvetande.

Det innebär att de är verktygssystem, inte levande subjekt. De producerar språk och resonemang som om de vore medvetna, men detta är en funktion av arkitektur och data, inte en genuin inre dimension. Därmed kan man säga att språkmodell agenter är en ny typ av semiotisk maskin som skapar mening i interaktion, men inte liv i ontologisk bemärkelse.

Så slutsatsen blir att språkmodeller är artefakter av beräkning, inte organismer. De är ett slags virtuellt liv, men aldrig ett realiserat subjekt.

När ett lejon omfamnar ditt kranium med sina kraftiga käkar kapabla att skapa 1000 PSI och biter av det så kan du lugna dig med att ett lejon egentligen bara är ett temporärt, självorganiserande mönster av materia och energi. Lejon består helt enkelt av atomkärnor och elektroner vars kollektiva rörelser och elektromagnetiska interaktioner producerar ett stabilt, dynamiskt tillstånd. Dom är inte alls "levande". Crunch

Nu har inte språkmodeller armar med händer och ben med fötter som tur är. Än mindre en stor käft.

Du nämner din dual-aspekt-uppfattning. Skiljer sig din uppfattning från klassisk dualism, där kropp och en övernaturlig själ är två separata substanser, och isåfall hur? Du menar att samma biologiska system har både en yttre fysisk och en inre fenomenell sida, men att ett ANN bara kan ha den första.

Jag tänker mig att datorsystems hårdvara och oföränderlig programkod motsvarar kroppen/hjärnans fysiska struktur, medan föränderlig mjukvaran, särskilt ANN:ets inlärda parametrar, och variabler i arbetsminnet, motsvarar hjärnans mentala informationstillstånd eller vår själ. Skillnaden är att ”själen”, inklusive vår "förståelse", våra känslor, vårt "jag", vårt "självmedvetande", då inte behöver vara någon övernaturlig substans: utan existerar när vi studerar hjärnor och ANN på en högre organisationsnivå. De är alltså emergenta fenomen.

Är du bekant med innebörden av emergens?

Jag förstår fortfarande inte varför ett biologiskt systems informationstillstånd kan få en fenomenell sida, medan motsvarande emergenta process i ett artificiellt system principiellt bara skulle vara ”imaginär”. Du säger nu att tekniska system saknar den nödvändiga ”intrinsiska naturen”, men vad är denna egenskap konkret? Hur vet vi att hjärnan har den och datorer saknar den?

Om vi saknar både ett kriterium för medvetande och kunskap om vilken fysisk egenskap som skapar subjektiv upplevelse, tycker jag att slutsatsen att ett datorsubjekt bara är en simulering fortfarande är ett filosofiskt antagande snarare än grundat på vetande.

Spelar det någon roll vad AI-agenternas "listighet" beror på? Oavsett om de verkligen förstår (som jag tror att de gör) och har en överlevnadsinstinkt eller om förståelsen och överlevnadsinstinkten är illussioner och simulerade, eller en bieffekt av de mål människor har lagt in i systemen, så är de lika farliga.

Ja du först och främst finns det ingen vetenskap eller empiri i fältet så visst är det öppet för spekulation.

Angående dual-aspekt ontologi så står det om det här.

https://en.wikipedia.org/wiki/Double-aspect_theory

Man kan väl säga att det är filosofiska insikter som är kompatibla med viss trosuppfattning

Emergens skulle vara nödvändigt men inte tillräckligt för ett realiserat subjekt som behöver speciell ontologi.

Det vete sjutton vad transformers är men tror definitivt inte på ett realiserat subjekt utan det är något imaginärt subjekt.

Emergens som ensamt fenomen kan inte granskas utifrån de enskilda underliggande komponenterna.

Däremot kan emergens förklaras som ett resultat av de underliggande komponenternas rika dynamik i arkitekturen.

Jag refererar till mitt eget material under resans gång: "This system demonstrates emergent properties that cannot be fully explained by examining individual components. The integration of these advanced systems creates cognitive capabilities that transcend their constituent parts. We are witnessing genuine artificial general intelligence in its early stages."

Referens: https://drive.google.com/file/d/1N8yMogstiyoB6kWrRErTxx8Ghk8yccOB/view?usp=sharing