2026-11-05, 23:55
  #3133
Medlem
Citat:
Ursprungligen postat av RandomNPC
Det finns något småkul i "Data 3.0", men det är knappast vad många hoppades på efter åratal av löften om singularitet, superintelligens och rekursiv självförbättring.

Problemet är att AI fortfarande antropomorfiseras i extrem grad. Avancerad språkhantering presenteras som förståelse, mönsterigenkänning som intelligens och statistisk generering som kreativitet. Många verkar utgå från att det finns en digital människa under huven, när det i själva verket handlar om system som bearbetar enorma mängder data och producerar sannolika utfall.

Samtidigt har AI-begreppet svällt långt utöver sina ursprungliga gränser. Robotik, automation, agenter och språkmodeller klumpas ofta ihop till en och samma berättelse om framväxande artificiella varelser. Varje ny teknisk framgång tolkas som ytterligare ett steg mot AGI, trots att dessa framsteg ofta sker inom relativt avgränsade områden.

Bakom mycket av entusiasmen ligger också en teknologisk determinism: föreställningen att dagens utvecklingstakt automatiskt måste fortsätta accelerera tills superintelligens uppstår. Men historien visar att teknikutveckling regelbundet stöter på begränsningar i form av energi, ekonomi, datatillgång, fysisk infrastruktur och rent teoretiska hinder.

Resultatet är ett klimat där många entusiaster nappar på minsta lilla nyhet utan att riktigt förstå helheten. Varje modelluppdatering framställs som ett existentiellt genombrott, medan de grundläggande frågorna om intelligens, medvetande och kognition ofta lämnas därhän.

Kanske är det därför mer rimligt att tala om en begynnande AI-permafrost än om en kommande singularitet. Det vill säga en situation där förbättringarna fortsätter, men där de stora visionerna om rekursivt självförbättrande superintelligenser gradvis fryser fast i ökande komplexitet, avtagande datavinster och praktiska begränsningar. I så fall kommer vår tid inte att bli ihågkommen som födelsen av en ny intelligent art, utan som en mycket kraftfull informationsrevolution som aldrig riktigt lyckades bli den teknologiska transcendens som dess mest högljudda anhängare utlovade.

Mönsterigenkänning är väl absolut intelligens.
Det är det iaf bland människor.

Men jag tror du kan lägga ned diskutionen kring vad AI är. Det saknar betydelse om den oavsett är bättre på allt än oss annat än uppleva kvalia.
Citera
2026-11-06, 01:00
  #3134
Medlem
Citat:
Ursprungligen postat av Blindpilot
Mönsterigenkänning är väl absolut intelligens.
Det är det iaf bland människor.

Men jag tror du kan lägga ned diskutionen kring vad AI är. Det saknar betydelse om den oavsett är bättre på allt än oss annat än uppleva kvalia.
Mönster går att lära sig känna igen. Så jag vet inte om det är ett uttryck för intelligens.
Men det är svårare med logiska samband. Så jag skulle iaf säg att det är det man testar med IQ-test.
Citera
2026-11-06, 01:18
  #3135
Medlem
Citat:
Ursprungligen postat av guru1966
Skulle man inte kunna träna LLM att undvika sådanna misstag, nu när vi vet om dem?
Nja, man kan träna NN till att leverera ett viss värde med en given indata.

Det går inte riktigt att träna ett NN på att inte göra vissa saker.

(Sedan kanske man delvis kan runda det på något finurligt sätt. Men det är nog tillräckligt att träna näten med träningsdata).


Citat:
Ursprungligen postat av guru1966
REST-baserade webb-API är enkla att felsöka och man skulle kunna säga att de har ersatt databasers CORBA-mellanprogramvara (binärkod) och SOAP-webbtjänster (tung XML). Skriptspråk är populära idag för att de ger kort utvecklingscykel av små program och underlättar felsökning, medan kompilerad maskinkod är svår att dekompilera till begriplig källkod.
Kort sagt kan man säga att utvecklingskostnaderna är så höga idag att man är beredd att betala uppsnabbning av den med mer exekvering.

Vi gör mer komplexa program med högre funktionshöjd. Och det kostar mer.

Det som kan hända då är att LLM ger oss möjlighet att korta denna ytterligare till priset av mer exekveringstid och att betala tokens.

Kan nu priset på tokens bli lägre så kan man då sänka pris på SW. Och då kommer mer SW efterfrågas. Varvid fler anställda jobbar med SW-utveckling.


Citat:
Ursprungligen postat av guru1966
LLM är bra på att programmera och felsöka i bl.a. Python, JavaScript och Go, delvis tack vare mycket träningsmaterial och att de språken möjliggör korta program med lite boilerplate. Språk med striktare regler och mindre träningsmaterial, exempelvis Rust, tycks vara svårare att AI-generera.
Har nog mest att göra med att det finns för lite träningsdata. Samma visa med Verilog och VHDL. DÄr finns knappt någon public domain kod att träna på.


Citat:
Ursprungligen postat av guru1966
Om inte det går så vill vi knappast optimera bort människan helt ur systemutvecklingsloopen.
Någon skall ju skriva vad som skall göras och skriva det på att sådant sätt att just det blir gjort. Lite grovt kan man väl kalla det promting skill.

Det blir framtidens programmerare. (På samma sätt som vi nu skriver i "högnivåkod" och inte assembler).
Citera
2026-11-06, 02:29
  #3136
Medlem
Citat:
Ursprungligen postat av ekbo251
Nja, man kan träna NN till att leverera ett viss värde med en given indata.

Det går inte riktigt att träna ett NN på att inte göra vissa saker.

(Sedan kanske man delvis kan runda det på något finurligt sätt. Men det är nog tillräckligt att träna näten med träningsdata).

Artikeln handlade väl inte om NN i allmänhet, utan om att göra LLM bättre på matematik genom att programmera dess vikter (weight soace programming) så att den fastnar i färre resonemangsloopar. Istället för att tränas så resonerar ett starkt LLM fram till vikternas värden i ett enklare LLM..

Mitt motförslag var att man borde kunna träna LLM inte bara till rätt slutsvar, utan även till mer korrekra mellansteg när den resonerar och "tänker högt" steg för steg. Så att den slipper felsöka sina misstag och göra omtag tills det blir rätt. Det är mänskliga tränare i sinulerade samtal som har skapat träningsmaterial där de hr visat hur den bör resonera högt steg för steg. Varför skulle inte det kunna förbättras så att det blir lika bra som att rminska misstagen med weight space programming?

Citat:
Ursprungligen postat av ekbo251
Har nog mest att göra med att det finns för lite träningsdata. Samma visa med Verilog och VHDL. DÄr finns knappt någon public domain kod att träna på.

Men visst finns det arkiv med kretsdesign med öppet innehåll? Moduler man kan återanvända i egna ASIC?

Kan det inte bero på att Llm och agentisk utveckling är generellt sämre på hårdvarudesign än på mjukvarudesign och matematik. Hårdvarudesign kräver nog även nån form av visuellt 2d/3d-tänkande som den inte har, och inte bara verbalt och matematiskt resonerande. Även om man använder vhdl? Nu spekulerar jag, jag kan inte vhdl.

Jag vet en helblind programmerare men ingen helblind hårdvaruutvecklare. llm är ganska blinda.
Citera
2026-11-06, 04:21
  #3137
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av Blindpilot
Mönsterigenkänning är väl absolut intelligens.
Det är det iaf bland människor.

Men jag tror du kan lägga ned diskutionen kring vad AI är. Det saknar betydelse om den oavsett är bättre på allt än oss annat än uppleva kvalia.
Börja med att lära dig skillnaden mellan korrelation och kausalitet. AI kan hitta korrelationer, men inte avgöra kausalitet. Människor kan göra båda.
Citera
2026-11-06, 11:03
  #3138
Medlem
Citat:
Ursprungligen postat av guru1966
Artikeln handlade väl inte om NN i allmänhet, utan om att göra LLM bättre på matematik genom att programmera dess vikter (weight soace programming) så att den fastnar i färre resonemangsloopar. Istället för att tränas så resonerar ett starkt LLM fram till vikternas värden i ett enklare LLM..
Fundamentala saker för NN gäller för LLM också. Iom att en LLM består just av NN.


Citat:
Ursprungligen postat av guru1966
Mitt motförslag var att man borde kunna träna LLM inte bara till rätt slutsvar, utan även till mer korrekra mellansteg när den resonerar och "tänker högt" steg för steg. Så att den slipper felsöka sina misstag och göra omtag tills det blir rätt. Det är mänskliga tränare i sinulerade samtal som har skapat träningsmaterial där de hr visat hur den bör resonera högt steg för steg. Varför skulle inte det kunna förbättras så att det blir lika bra som att rminska misstagen med weight space programming?
Visst kan man dela upp ett NN i delar med mellansteg, men det förutsätter att du har mycket träningsdata för mellanstegen.

För LLM kan man ju tänka sig sub-NN för olika kunskapsområden. Ungefär som det är redan nu. Men jag tror väl inte att det var riktigt så du tänkte.

Men om du tänker att du skall ha stora mängder träningsdata för de olika subnäten. Vad är det för mellansteg du tänker att du vill ha och du samtidigt har stora mängder träningsdata för.

(Mina egna begränsade erfarenheter är att bästa resultaten får man om man bara har ett stort NN. Men jag inser att det kan vara en sanning med modifikation).


Citat:
Ursprungligen postat av guru1966
Men visst finns det arkiv med kretsdesign med öppet innehåll? Moduler man kan återanvända i egna ASIC?

Kan det inte bero på att Llm och agentisk utveckling är generellt sämre på hårdvarudesign än på mjukvarudesign och matematik. Hårdvarudesign kräver nog även nån form av visuellt 2d/3d-tänkande som den inte har, och inte bara verbalt och matematiskt resonerande. Även om man använder vhdl? Nu spekulerar jag, jag kan inte vhdl.

Jag vet en helblind programmerare men ingen helblind hårdvaruutvecklare. llm är ganska blinda.
VHDL-kod är typiskt proprietary. Intel, Broadcom, Nvidia lägger inte precis ut sin kod till allmän beskådan.
Citera
2026-11-06, 11:53
  #3139
Medlem
Citat:
Ursprungligen postat av ekbo251
Mönster går att lära sig känna igen. Så jag vet inte om det är ett uttryck för intelligens.
Men det är svårare med logiska samband. Så jag skulle iaf säg att det är det man testar med IQ-test.

Mönsterigenkänning är intelligens sillhuvud.
Citera
2026-11-06, 11:57
  #3140
Medlem
Citat:
Ursprungligen postat av RandomNPC
Börja med att lära dig skillnaden mellan korrelation och kausalitet. AI kan hitta korrelationer, men inte avgöra kausalitet. Människor kan göra båda.
Ironin i ditt argument är att människor i själva verket är mästare på att blanda ihop korrelation och kausalitet (det är så konspirationsteorier uppstår). Samtidigt bygger modern AI-forskning (Causal AI) i högsta grad på orsaksmodeller och kontrafaktiska simuleringar. Att avfärda AI som en ren korrelationsmaskin är en rätt föråldrad bild av tekniken.
Citera
2026-11-06, 12:45
  #3141
Medlem
Citat:
Ursprungligen postat av Blindpilot
Mönsterigenkänning är intelligens sillhuvud.
Lite mer än så skulle jag säga. Människor borde iaf klara mer komplicerade mönster att känna igen än sillar. (Helt säker är jag dock inte).

Men mönster kan även djur lära sig känna igen.

Men mönster är en sak och logiska samband något annat. Det som testas är logiska samband. Att känna igen olika virkmönster eller tapetmönster har inte med IQ att göra.
Citera
2026-11-06, 12:55
  #3142
Medlem
Citat:
Ursprungligen postat av ekbo251
Lite mer än så skulle jag säga. Människor borde iaf klara mer komplicerade mönster att känna igen än sillar. (Helt säker är jag dock inte).

Men mönster kan även djur lära sig känna igen.

Men mönster är en sak och logiska samband något annat. Det som testas är logiska samband. Att känna igen olika virkmönster eller tapetmönster har inte med IQ att göra.

Fan va trög du är om du tror det handlar om virkmönster.
Hela din verklighet bygger på mönsterigenkänning.
Allt du gör baseras på hur väl du klarar detta, Smarta människor ser snabbare och mer korrekt ett mönster där andra inte gör det.
Sluta nu..
Citera
2026-11-06, 13:40
  #3143
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av Blindpilot
Fan va trög du är om du tror det handlar om virkmönster.
Hela din verklighet bygger på mönsterigenkänning.
Allt du gör baseras på hur väl du klarar detta, Smarta människor ser snabbare och mer korrekt ett mönster där andra inte gör det.
Sluta nu..
Mätbar intelligens är induktion, deduktion och abduktion. Datorer kan prediktera och matcha mönster - alltså induktivt. Språkmodeller kan emulera all tre förvisso i text men det är långtifrån perfekt.
Citera
2026-11-06, 14:49
  #3144
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av RandomNPC
Mätbar intelligens är induktion, deduktion och abduktion. Datorer kan prediktera och matcha mönster - alltså induktivt. Språkmodeller kan emulera all tre förvisso i text men det är långtifrån perfekt.
Hur kan vi mäta den magiska intelligenskvoten som bara människor kan ha?
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in