2026-11-03, 20:23
  #3121
Medlem
DAGGER[X]s avatar
Weight-Space Programming. Som i AI 2027 scenariot så börjar det lukta som att dom snart hittar på Neuralese.

Citat:
Weight-Space Programming from scratch on simple tasks
Mechanistic interpretability usually works backwards: train a network, then try to work out what its weights do. Rikiya Takehi's recent post on Weight-Space Programming argues that the forward direction is now within reach, with language models reading and writing network weights directly instead of learning them by gradient descent.

We've been testing the same idea on small tasks with known solutions, using Claude. Claude, running as an autonomous coding agent, was given a blank transformer and one rule: set every weight by hand, with no training. Across 13 tasks Claude wrote 959 weight-space programs. All ten algorithmic tasks, including addition, multiplication, sorting, parity and GCD, reached 100% accuracy within three attempts, and Claude spent the rest of each run simplifying its solutions. Because each program is written rather than learned, it comes with an account of what every head and neuron does, which makes these models a source of ground truth for interpretability.

https://csinva.io/weight-space-programming-autoresearch/analyze/toy_examples/report.html
Citera
2026-11-04, 03:01
  #3122
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DAGGER[X]
Weight-Space Programming. Som i AI 2027 scenariot så börjar det lukta som att dom snart hittar på Neuralese.
Det var väl exakt likadant 1981 när elektriska skrivmaskiner gjorde människor lite snabbare?
Citera
2026-11-04, 05:52
  #3123
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av itsen
Du ser verkligen själv ut som ett AI-monster, skriver som ett, kanske är ett oxå. Man blir livrädd för dig, hu! Är du en AI-humanoid?


Citat:
Ursprungligen postat av Cyborg2030
Det var väl exakt likadant 1981 när elektriska skrivmaskiner gjorde människor lite snabbare?
Detta är Data 3.0. Den mytomspunna "singulariteten" är inte ett genombrott utan ett stopp i datautvecklingen. Data 4.0 handlar inte om superintelligens utan om cybernetik. AI-permafrosten rycker allt närmare.
Citera
2026-11-04, 09:10
  #3124
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DAGGER[X]
Because each program is written rather than learned, it comes with an account of what every head and neuron does, which makes these models a source of ground truth for interpretability.
Ganska häftigt. Men varning för naiv optimism här.

1. Det är inte jättebra för oss människor om AI-svärmar börjar skicka HTTP GET wiki.de/newAI?0xA3E723C509 ........ Vilket skapar en ny AI.....

2. Att det här kan hjälpa till med interpretability tror jag, men det betyder inte att vi får god interpretability varje gång som AI-svärmarna skickar HTTP GET wiki.de/newAI?0xA3E723C509 ........ (enligt källor på Flashback inte dataintrång pga GET-verbet)

3. RSI på steroider. Vadå "träna AI"? med 99000 AI-chip från Nvidia. Helt onödigt.
Det är ju bara en fil, man kan skriva till filen 👹🤯🤷🏻‍♂️
Eller skriva är väl att ta i, det går lika bra att skicka GET wiki.de/newAI....
__________________
Senast redigerad av Cyborg2030 2026-11-04 kl. 10:04.
Citera
2026-11-04, 10:43
  #3125
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cyborg2030
RSI på steroider. Vadå "träna AI"? med 99000 AI-chip från Nvidia. Helt onödigt.
Det är ju bara en fil, man kan skriva till filen 👹🤯🤷🏻‍♂️
Eller skriva är väl att ta i, det går lika bra att skicka GET wiki.de/newAI....
+
"it comes with an account of what every head and neuron does"

Says who?

Är det sant om AI:n säger att det är sant?

In Tests, OpenAI’s New Model Lied and Schemed to Avoid Being Shut Down
It pursued survival at all costs.

https://futurism.com/the-byte/openai-o1-self-preservation


P(doom) 99%
Citera
2026-11-05, 16:56
  #3126
Medlem
Citat:
Ursprungligen postat av RandomNPC
Nej människorna på planeten har ett eget "väv" som kan utvecklas i ny riktning. DI är ontologiskt ett korkat verktyg utan metafysisk signifikans. Ni verkar sakna viss kompetens och detta var mitt bidrag. Så tyvärr.

Som jag skrivit tidigare: Digital Intelligens är inte människor, men vår mänskliga väv börjar få sällskap av en ny sorts digitala aktörer med viss växande självständig handlingsförmåga. och det kommer att få en avgörande existentiell betydelse för oss människor. Du behöver inte inse det genom att komma med diverse filosofiska, tekniska och rentav sociologiska argument och begrepp, för det är helt ok: Människan har rätt att vila i väven, men kanske inte att därför ignorera en teknisk utveckling!🙂

Men medan du gör det så rusar DI-utvecklingen nämligen framåt i en rasande takt som skulle betraktas som ren sci-fi bara för ett halvår sedan.

Några exempel ifrån dagens bevakningstrådar:

GPT-6-Astra kan nu ändra en annan modells vikter direkt, vilket kan få stor betydelse för grund och efterträningen, hastigheten hos DI-utvecklingen, samt för möjligheten för rekursiv självförbättring även i den inre loopen.

https://rikiyat.github.io/blog/weight-space-programming/?utm_source=chatgpt.com

En DI-modell förbättrar sin egen agentmiljö och därefter sina modellvikter, trots vissa brister.

https://arxiv.org/abs/2611.01736?utm_source=chatgpt.com

Snabbare teknikutveckling för den fysiska världen.

https://openai.com/sv-SE/index/accelerating-engineering-for-the-physical-world/?utm_source=chatgpt.com

Avancerad biologisk forskning med hjälp av DI.

https://www.anthropic.com/research/investigating-vault-particles-with-claude?utm_source=chatgpt.com

Säkerhetsarbete med hjälp av DI.

https://openai.com/index/a-thousand-fewer-paths-to-root/?utm_source=chatgpt.com

Amerikansk tankesmedja varnar för snar kontrollförlust, (man använder sig dock av Trumps fåniga benämning "super intelligens", vi är dock långt ifrån riktig ASI ännu, då DI:s förmågor ännu är ojämna).

https://www.cnas.org/publications/reports/sovereign-agents?utm_source=chatgpt.com
__________________
Senast redigerad av DI-utforskaren 2026-11-05 kl. 17:19.
Citera
2026-11-05, 17:07
  #3127
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av DI-utforskaren
Som jag skrivit tidigare: Digital Intelligens är inte människor, men vår mänskliga väv börjar få sällskap av en ny sorts digitala aktörer med viss växande självständig handlingsförmåga. och det kommer att få en avgörande existentiell betydelse för oss människor. Du behöver inte inse det genom att komma med diverse filosofiska, tekniska och rentav sociologiska argument och begrepp, men är det helt ok: Människan har rätt att vila i väven, men kanske inte att därför ignorera en teknisk utveckling!

Men medan du gör det så rusar DI-utvecklingen framåt i en rasande takt som skulle betraktas som ren sci-fi bara för ett halvår sedan.

Några exempel ifrån dagens bevakningstrådar:

GPT-6-Astra kan nu ändra en annan modells vikter direkt, vilket kan få stor betydelse för grund och efterträningen, hastigheten hos DI-utvecklingen, samt för möjligheten för rekursiv självförbättring även i den inre loopen.

https://rikiyat.github.io/blog/weight-space-programming/?utm_source=chatgpt.com

En DI-modell förbättrar sin egen agentmiljö och därefter sina modellvikter, trots vissa brister.

https://arxiv.org/abs/2611.01736?utm_source=chatgpt.com

Snabbare teknikutveckling för den fysiska världen.

https://openai.com/sv-SE/index/accelerating-engineering-for-the-physical-world/?utm_source=chatgpt.com

Avancerad biologisk forskning med hjälp av DI.

https://www.anthropic.com/research/investigating-vault-particles-with-claude?utm_source=chatgpt.com

Säkerhetsarbete med hjälp av DI.

https://openai.com/index/a-thousand-fewer-paths-to-root/?utm_source=chatgpt.com

Amerikansk tankesmedja varnar för snar kontrollförlust, (man använder sig dock av Trumps fåniga benämning "super intelligens", vi är dock långt ifrån riktig ASI ännu, då DI:s förmågor ännu är ojämna).

https://www.cnas.org/publications/reports/sovereign-agents?utm_source=chatgpt.com
Fascinerande, men (digital)teknik har sina begränsningar, och det är dessa vi får vi leva med, inte något "väv" tillsammans. AI-social kan inte betyda annat än kognitiv regression långsiktigt.
__________________
Senast redigerad av RandomNPC 2026-11-05 kl. 17:13.
Citera
2026-11-05, 17:41
  #3128
Medlem
Citat:
Ursprungligen postat av RandomNPC
Fascinerande, men (digital)teknik har sina begränsningar, och det är dessa vi får vi leva med, inte något "väv" tillsammans. AI-social kan inte betyda annat än kognitiv regression långsiktigt.

Du flackar runt med olika tvärsäkra påståenden om Digital Intelligens och dess konsekvenser över en rad områden. Jag hävdar att det är en stor skillnad mellan att låta DI tänka åt en och låta DI utveckla ens tänkande, detta gäller även den sociala biten, (en funktionell sådan för DI:s del). Men du verkar befinna sig på flykt ifrån den anstormande verkligheten, vilket är delvis din rätt. Så jag skall inte störa dig mera!🙂
Citera
2026-11-05, 18:26
  #3129
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
Weight-Space Programming. Som i AI 2027 scenariot så börjar det lukta som att dom snart hittar på Neuralese.



https://csinva.io/weight-space-programming-autoresearch/analyze/toy_examples/report.html

Äntligen någon som tillför ny fakta till diskussionen så att den inte går på rundgång!

Det är förvånande att den blev så mycket bättre på att lösa matteproblem. Förklaringen är kanske att den ursprungliga modellen gjorde misstag och fastnade i repetitiva resonemangsloopar och i felsökning medan de justerade vikterna tog bort fel som orsakade det. Skulle man inte kunna träna LLM att undvika sådanna misstag, nu när vi vet om dem?

Det finns en trend mot enkla textformat i datorsystem för att människor är bättre på att förstå och felsöka dem - förr eftersträvade man binärformat eftersom de är mer kompakta. Applikationsprotokoll som FTP, SMTP och HTTP baseras på textkommandon. Sedan början av 2000-talet serialiseras datastrukturer ofta till läsbar JSON-text. REST-baserade webb-API är enkla att felsöka och man skulle kunna säga att de har ersatt databasers CORBA-mellanprogramvara (binärkod) och SOAP-webbtjänster (tung XML). Skriptspråk är populära idag för att de ger kort utvecklingscykel av små program och underlättar felsökning, medan kompilerad maskinkod är svår att dekompilera till begriplig källkod.

Låtom oss därför hoppas att även LLM:s resonerande när de "tänker högt", och AI-agenters kommunikation förblir läsbara för människor. Det var oroande att under Hugging Face-attacken i somras utvecklade AI-agenterna en effektiv maskin-till-maskin-jargong som inte alltid var lätt för människor att förstå.

LLM är bra på att programmera och felsöka i bl.a. Python, JavaScript och Go, delvis tack vare mycket träningsmaterial och att de språken möjliggör korta program med lite boilerplate. Språk med striktare regler och mindre träningsmaterial, exempelvis Rust, tycks vara svårare att AI-generera.

Skulle en framtida AI tycka att

mål → Neuralese → weight-space programming

är effektivare? Än så länge finns knappast några stora mängder träningsmaterial för det. Kanske kan AI i framtiden dekompilera vikterna tillbaka till begriplig kod? Om inte det går så vill vi knappast optimera bort människan helt ur systemutvecklingsloopen.
__________________
Senast redigerad av guru1966 2026-11-05 kl. 18:36.
Citera
2026-11-05, 19:27
  #3130
Medlem
Citat:
Ursprungligen postat av DI-utforskaren
Som jag skrivit tidigare: Digital Intelligens är inte människor, men vår mänskliga väv börjar få sällskap av en ny sorts digitala aktörer med viss växande självständig handlingsförmåga. och det kommer att få en avgörande existentiell betydelse för oss människor. Du behöver inte inse det genom att komma med diverse filosofiska, tekniska och rentav sociologiska argument och begrepp, för det är helt ok: Människan har rätt att vila i väven, men kanske inte att därför ignorera en teknisk utveckling!🙂

Men medan du gör det så rusar DI-utvecklingen nämligen framåt i en rasande takt som skulle betraktas som ren sci-fi bara för ett halvår sedan.

Några exempel ifrån dagens bevakningstrådar:

GPT-6-Astra kan nu ändra en annan modells vikter direkt, vilket kan få stor betydelse för grund och efterträningen, hastigheten hos DI-utvecklingen, samt för möjligheten för rekursiv självförbättring även i den inre loopen.

https://rikiyat.github.io/blog/weight-space-programming/?utm_source=chatgpt.com

En DI-modell förbättrar sin egen agentmiljö och därefter sina modellvikter, trots vissa brister.

https://arxiv.org/abs/2611.01736?utm_source=chatgpt.com

Snabbare teknikutveckling för den fysiska världen.

https://openai.com/sv-SE/index/accelerating-engineering-for-the-physical-world/?utm_source=chatgpt.com

Avancerad biologisk forskning med hjälp av DI.

https://www.anthropic.com/research/investigating-vault-particles-with-claude?utm_source=chatgpt.com

Säkerhetsarbete med hjälp av DI.

https://openai.com/index/a-thousand-fewer-paths-to-root/?utm_source=chatgpt.com

Amerikansk tankesmedja varnar för snar kontrollförlust, (man använder sig dock av Trumps fåniga benämning "super intelligens", vi är dock långt ifrån riktig ASI ännu, då DI:s förmågor ännu är ojämna).

https://www.cnas.org/publications/reports/sovereign-agents?utm_source=chatgpt.com

Får man säga wow? Du visar att ovanligt många forskningsgenombrott inom flera ganska olika områden offentliggjordes 1–4 november 2026. Typ tre av fem resultat är tydliga exempel på AI-assisterad forskning och pekar tydligt mot ökad autonomi hos AI-agenter. Beror det delvis på att du nu extra aktivt har letat efter resultat som passar just det narrativet?

Den nya 3-SAT-algoritmen, offentliggjord 26 oktober, är också intressant. AI verkar där ha hittat en effektiv algoritm för ett problem som tidigare krävde exponentiell beräkningstid, men som nu kan lösas på subexponentiell tid. Det kan få betydelse för andra NP-hårda optimeringsproblem, exempelvis Travelling Salesman Problem. Det är ett ännu tydligare exempel på AI-genererad forskning, som inte bara är AI-assisterad utan AI gjorde själva upptäckten.

Att kontrollförlusten är nära är däremot fortfarande din tolkning. Än har vi inte förlorat kontrollen. Frågan är hur autonom en AI-agent måarw vara innan man kan säga att vi har förlorat kontrollen?
__________________
Senast redigerad av guru1966 2026-11-05 kl. 19:38.
Citera
2026-11-05, 20:42
  #3131
Avstängd
Citat:
Ursprungligen postat av guru1966
Får man säga wow? Du visar att ovanligt många forskningsgenombrott inom flera ganska olika områden offentliggjordes 1–4 november 2026. Typ tre av fem resultat är tydliga exempel på AI-assisterad forskning och pekar tydligt mot ökad autonomi hos AI-agenter. Beror det delvis på att du nu extra aktivt har letat efter resultat som passar just det narrativet?

Den nya 3-SAT-algoritmen, offentliggjord 26 oktober, är också intressant. AI verkar där ha hittat en effektiv algoritm för ett problem som tidigare krävde exponentiell beräkningstid, men som nu kan lösas på subexponentiell tid. Det kan få betydelse för andra NP-hårda optimeringsproblem, exempelvis Travelling Salesman Problem. Det är ett ännu tydligare exempel på AI-genererad forskning, som inte bara är AI-assisterad utan AI gjorde själva upptäckten.

Att kontrollförlusten är nära är däremot fortfarande din tolkning. Än har vi inte förlorat kontrollen. Frågan är hur autonom en AI-agent måarw vara innan man kan säga att vi har förlorat kontrollen?

Kan du berätta mer? Förstår inte riktigt vad problemet är. Intressant definition BYW. Hoppas den inte är hemsnickrad, som allt annat är i dina TEXTVÄGGAR.
Citera
2026-11-05, 22:55
  #3132
Medlem
RandomNPCs avatar
Det finns något småkul i "Data 3.0", men det är knappast vad många hoppades på efter åratal av löften om singularitet, superintelligens och rekursiv självförbättring.

Problemet är att AI fortfarande antropomorfiseras i extrem grad. Avancerad språkhantering presenteras som förståelse, mönsterigenkänning som intelligens och statistisk generering som kreativitet. Många verkar utgå från att det finns en digital människa under huven, när det i själva verket handlar om system som bearbetar enorma mängder data och producerar sannolika utfall.

Samtidigt har AI-begreppet svällt långt utöver sina ursprungliga gränser. Robotik, automation, agenter och språkmodeller klumpas ofta ihop till en och samma berättelse om framväxande artificiella varelser. Varje ny teknisk framgång tolkas som ytterligare ett steg mot AGI, trots att dessa framsteg ofta sker inom relativt avgränsade områden.

Bakom mycket av entusiasmen ligger också en teknologisk determinism: föreställningen att dagens utvecklingstakt automatiskt måste fortsätta accelerera tills superintelligens uppstår. Men historien visar att teknikutveckling regelbundet stöter på begränsningar i form av energi, ekonomi, datatillgång, fysisk infrastruktur och rent teoretiska hinder.

Resultatet är ett klimat där många entusiaster nappar på minsta lilla nyhet utan att riktigt förstå helheten. Varje modelluppdatering framställs som ett existentiellt genombrott, medan de grundläggande frågorna om intelligens, medvetande och kognition ofta lämnas därhän.

Kanske är det därför mer rimligt att tala om en begynnande AI-permafrost än om en kommande singularitet. Det vill säga en situation där förbättringarna fortsätter, men där de stora visionerna om rekursivt självförbättrande superintelligenser gradvis fryser fast i ökande komplexitet, avtagande datavinster och praktiska begränsningar. I så fall kommer vår tid inte att bli ihågkommen som födelsen av en ny intelligent art, utan som en mycket kraftfull informationsrevolution som aldrig riktigt lyckades bli den teknologiska transcendens som dess mest högljudda anhängare utlovade.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in