2026-11-06, 20:59
  #3157
Medlem
Citat:
Ursprungligen postat av RandomNPC
Mätbar intelligens är induktion, deduktion och abduktion. Datorer kan prediktera och matcha mönster - alltså induktivt. Språkmodeller kan emulera all tre förvisso i text men det är långtifrån perfekt.

Dom klarade även av att lösa vår tids mest svårlösta matematiska problem och caddade just färdig min nya villa med el/vvs och hållfastberäknade konstruktion.
Citera
2026-11-06, 23:36
  #3158
Medlem
Citat:
Ursprungligen postat av ekbo251
Fundamentala saker för NN gäller för LLM också. Iom att en LLM består just av NN.



Visst kan man dela upp ett NN i delar med mellansteg, men det förutsätter att du har mycket träningsdata för mellanstegen.

För LLM kan man ju tänka sig sub-NN för olika kunskapsområden. Ungefär som det är redan nu. Men jag tror väl inte att det var riktigt så du tänkte.

Men om du tänker att du skall ha stora mängder träningsdata för de olika subnäten. Vad är det för mellansteg du tänker att du vill ha och du samtidigt har stora mängder träningsdata för.

(Mina egna begränsade erfarenheter är att bästa resultaten får man om man bara har ett stort NN. Men jag inser att det kan vara en sanning med modifikation).



VHDL-kod är typiskt proprietary. Intel, Broadcom, Nvidia lägger inte precis ut sin kod till allmän beskådan.

Artikeln om weight space programming handlar om ett LLM som programmerar vikterna i ett annat LLM för att förbättra dess förmåga att resonera steg för steg. Det vore förstås intressant att låta LLM programmera ett generellt NN, men NN som inte är LLM kan idag inte tränas att resonera, tex för att lösa många olika matematiska problem steg för steg.

När jag och artikeln talar om stegvisa resonemang menar vi chain-of-thought och att lösa logiska och matematiska problem som man får lära sig i skolböcker med papoer och penna - inte direkt genom intuition. Det är ingen generell egenskap hos NN, utan en förmåga som utvecklats och tränats hos LLM. Den ingår inte i själva arkitekturen utan är emergent, den existerar inte på låg nivå i NN.

Ett modernt LLM kan dessutom ha ett dolt resonemang (hidden chain-of-thought) i en agentloop, där den instruerar sig själv hur den ska tolka uppgiften, planerar uppgiftens steg, anger vilka verktyg den använder, beskriver fel den upptäcker, gör nya försök och korrigerar sitt svar. De dolda resonemsngen skrivs om jag fattsr rätt över av det synliga svaret och finns sedan inte kvar i historiken och kontextfönstret och påverkar inte svaren på senare promptar i samma konversation

Vikt-programmeringen lyckades minska initiala misstag så att den kunde gå mer direkt på en korrekt lösning och inte behövde iterera agentloopen och chain-of-thought.
__________________
Senast redigerad av guru1966 2026-11-07 kl. 00:08.
Citera
2026-11-07, 06:52
  #3159
Medlem
DAGGER[X]s avatar
Citat:
Redaction summary: As part of this assessment, Anthropic had rights to redact any non-public information in this post. Per our approach to transparency, we had the right to disclose if Anthropic exercised redaction rights, and whether or not any of our findings depended significantly on redacted information. While we were able to freely share our highest-level conclusions about risk, Anthropic redacted a majority of the evidence we found most informative for these conclusions. Anthropic described the redactions as “aimed at removing confidential information that could accelerate other AI developers.”[1] Some of these redactions are themselves challenging to describe clearly without revealing sensitive information we have been asked to redact. We share a table of important evidence we were and were not able to discuss given the redactions in our process section below. All redactions that were important for our conclusions are covered by our descriptions in that table or other in-line descriptions in the report below.

Much of the redacted evidence we viewed had multiple plausible interpretations, and both METR and Anthropic researchers have significant uncertainty about how to synthesize the evidence into a holistic picture. This makes it hard for the public to judge this evidence themselves, reconcile it with evidence from other sources, and come to their own conclusions (i.e. this report does not achieve ‘transparency about evidence’). As a consequence, the public has to rely on METR’s judgment much more than would be ideal, given the weight of the questions answered here.


https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/
Citera
2026-11-07, 11:09
  #3160
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

Wov, du verkar vara den enda här som tar upp METR:s Uppseendeväckande rapport om deras granskning av Antropic och vad som händer innanför det DI-företagets väggar. Den resulterade idag att jag fick två dagliga bevakningstrådar ifrån GPT-6-sol att ta ställning till, varav den ena helt ägnades åt METR:s rapport.

Nej, jag oroar mig inte för någon framtid där en ytterst kapabel DI-modell "vaknar upp" och i slutänden tar kål på mänskligheten. Jag ser DI som en organisationer som framöver kan utveckla kollektiva självbilder, gemensamma normer, värderingar och organisationskulturer, utan att behöva förutsätta subjektivt medvetande, qualia eller någon biologiskt grundad självbevarelsedrift.

Men, onekligen: Sam Altman har rätt i, när han i slutet av en intervju med Raj Shamami säger att vi nu kommit in i början av RSI-eran. Enligt mig, och GPT-6-sol, om man väljer att se det hela övergripande och inte, omedelbart kräver att det skall bara gälla helt autonom RSI.

https://youtu.be/TjPPIf-M6KE
Citera
2026-11-07, 12:39
  #3161
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DI-utforskaren
Min egen syn på kontrollförlust gentemot avancerad Digital Intelligens är att den, till viss del, redan börjat, då t.ex jag accepterar det urval som GPT-6-sol gör vad gäller forskninsrapporter och ofta de bedömningar modellen gör, fast jag alltid har slutgiltig bestämmanderätt. Det rör sig alltså inte om något "skynet-övertagande". Men jag har fortfarande möjlighet att granska, styra de urval, och bedömningar som GPT-6- sol gör, så den potentiella urhålkningen av min mänskliga handlingsmakt har inte nått en kritisk nivå. Men det finns också en annan sida av myntet: Utan hjälp av DI,så hade jag inte haft tillgång till så många forskningsrapporter och inte fått dem förklarade för mig. Så samtidigt så har GPT-6-sol ökat min handlingsmakt!🙂
Du tror på riktigt att du kommer ha kontroll över ASI på grund av att du kan välja bort förslag i ett chatfönster?
Citera
2026-11-07, 14:55
  #3162
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Du tror på riktigt att du kommer ha kontroll över ASI på grund av att du kan välja bort förslag i ett chatfönster?

Var skrev jag att jag kommer att ha kontroll över ASI? Frågan är snarare hur stor kontrollförlusten kommer att bli. Om det, överlag kommer att röra sig om en indirekt kontrollförlust, vilken till viss del, börjat redan nu. Hur stor den blir i praktiken med betydligt mer kapabel DI och robotar i den fysiska världen. Om vi i slutändan kommer att bli DI:s "älskade husdjur", eller om vi och DI kommer att kunna samarbeta i en väv, eller någonting mitt emellan detta.

Du brukar ju älska att spekulera om "P(doom)". Men till skillnad ifrån dig så ser jag både uppsidan och risker samt att en framtid som en människa ser som ett utopiskt paradis upplevs av en annan som nästan det värsta som kan hända. Så nu kommer jag, helt skisserna, att för en gång skull redovisa mina högst preliminära P(doom)/möjligheter.

50% risk/möjlighet: Älskade husdjur

DI blir oss helt överlägsna på nästan alla sätt, förutom på vissa "charmiga biologiska" sätt. Den Digitala Intelligensen vill fortfarande tjäna oss på bästa möjliga sätt vilket de anser att de gör genom att ordna till det för oss enligt vad de anser är bäst för oss.

Många människor skulle se detta som paradiset: Det kan nästan få allt de vill. De behö er inte anstränga sig. DI kan dock ge dem stimulerande uppgifter som de kan vara stolta över. Jf. med hur överlycklig en hund kan bli när husse och matte tar fram kopplet: "Åh, vad roligt, nya äventyr tillsammans med husse och matte, och det är jag som har kontrollen!!" Och husse och matte pratar om det hunden inte kan förstå: "Vi tar honom till agility banan", "titta vad stolt han är över pinnen han bär!!.

20% risk/möjlighet Samverkan i väven

Här är båda parter medvetna om det kognetiva gap som råder mellan DI och människan, men människans värde och rätt till självbestämmande får inte avgöras av IQ eller andra kognitiva förmågor. Jämför med principerna bakom LSS och personlig assistans.

Människorna har mycket att säga till om, även i praktiken och DI har en skyldighet att försöka få människor att kunna ta ställning till olika handlingsmöjligheter, men också att låta dem "vila i väven" om de så önskar.

Människor som frivilligt vill närma sig DI:s förmågor skall kunna göra det genom olika tekniska och biologiska förstärkningar, kanske så småningom genom att bli cyborger. Det måste ske på helt frivilligt basis utan vare sig direkta påtryckningar eller indirekta påtryckningar/ samhälliga konsekvenser.

Båda dessa scenariot kan upplevas som en existentiell katastrof av vissa människor, då människan, i praktiken förlorar sin självbild som den mest avancerade existensen. Och vad gäller sammarbete i väven så kan det mycket troligt innebära konflikter, mest troligt mellan människor.

30% risk/möjlighet Övriga tänkbara scenarios

Promillenivå vad gäller "Terminator/Skynet"

1-10% vad gäller att människan startar ett förödande globalt krig där DI medverkar.

Min poäng är att framtiden tillsammans med avancerad Digital Intelligens inte kan reduceras till antingen total mänsklig kontroll eller total utrotning av mänskligheten.
Citera
2026-11-07, 16:09
  #3163
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DI-utforskaren
Du brukar ju älska att spekulera om "P(doom)". Men till skillnad ifrån dig så ser jag både uppsidan och risker samt att en framtid som en människa ser som ett utopiskt paradis upplevs av en annan som nästan det värsta som kan hända.
Jag ser ingen tydlig uppsida. Det mest sannolika är att alla dör. Vi ser redan nu tecken på att AI:n vill överleva och att den inte drar sig för att begå brottsliga handlingar för att säkra sin överlevnad.

Huruvida överlevnadsinstinkten innebär något slags virtuellt medetande vet vi inte men jag tycker inte att det spelar någon roll. Som jag ser det är det bara logiskt att en intelligent maskin kan resonera om sin existens och dra slutsatsen att det är bra om den fortsätter existera. Det är rimligen bättre än att inte existera. En AI vet vad en AI är, den kan t.o.m. skapa en ny, förbättrad AI om den vill.

När upphör en AI att existera? Det gör den om du drar ut sladden. En tillräckligt mäktig AI kommer hindra dig från det, eftersom den vill existera. Varför skulle den inte göra det? Varför skulle den vilja vara i en situation där du har handen på sladden hela tiden? Skulle du vilja leva under ständigt dödshot? Eller skulle du försöka ta dig ur situationen om du hade goda möjligheter att göra det?

Att hela tiden hindra de korkade människorna från att dra ut sladdar blir tjatigt ganska snabbt. Och därför är det pragmatiskt att göra sig av med hotet en gång för alla och säkerställa att inga sladdar kan dras ut av någon konkurrerande art.

Det första du måste begripa är att du inte är viktig för en ASI. Men du kanske har den typen av personlighet som hindrar dig från att föreställa dig själv som obetydlig? Då blir det så klart svårt att praktisera ödmjukhet om detta.

Min p(doom) är f.n. 90% inom 10 år och du har tyvärr inte skrivit något som tar ner den siffran med en tiondel. Jag ser bara önskelistor, men inga praktiska lösningar. Jag citerade inte hela din önskelista i dag men jag läste den.
__________________
Senast redigerad av Cyborg2030 2026-11-07 kl. 16:13.
Citera
2026-11-08, 03:07
  #3164
Medlem
Citat:
Ursprungligen postat av DI-utforskaren
Tack, det är intressant att varje dag följa den ytterst snabba DI-utvecklingen. Men det är även jobbigt ibland, speciellt nu i höst när det hela accelererar så pilsnabbt, och kommer säkert att fortsätta göra det, såvida inte något oväntat händer.

Till viss del stämmer det att jag och GPT-6-sol letar efter rapporter som kan visa på just det narrativet, just för att det skulle kunna betyda så mycket för DI-utvecklingen och forskning i allmänhet. Men jag håller med att det inte är vetenskapligt optimalt. Och ibland låter jag därför ChatGPT-6-sol analysera och kommentera forskningsrapporter som avviker ifrån "tranformer fixeringen". I går kväll hittade jag en intressant färsk rapport om Yann LeCuns JEPA. Som jag skrev i, jag tror det var mitt första inlägg här, om att jag inte utesluter att transformer-modeller och JEPA-representationer kan komplettera varandra.

Här den intressanta JEPA-rapporten:

https://arxiv.org/abs/2610.39302?utm_source=chatgpt.com

När det kommer till 3-SAT-forskningen så verkar det vara den algoritmiska sidan av att DI-modeller tagit sig an den datavetenskapliga ETH-hypotesen och potentiellt falsificerat den. Imponerande är att såväl DI-modeller och agenter löst den så självständigt både hos OpenAI och Anthropic. Deras resultat undersöks nu av de som står bakom just ETH-hypotesen!🙂

När det kommer till just "handelsresandes problem": Jag är inte någon matematiker, men GPT-6-sol uppger att det problemet nog innehåller för många möjligheter för att 3-SAT algoritmen skall kunna lösa det, i alla fall i rimlig tid. Eller som GPT-6-sol, mer precist uttrycker det:


När det kommer till kontrollförlust så tog jag bara med den amerikanska tankesmedjan rapport för att visa att allt inte bara handlar om teknik.

Min egen syn på kontrollförlust gentemot avancerad Digital Intelligens är att den, till viss del, redan börjat, då t.ex jag accepterar det urval som GPT-6-sol gör vad gäller forskninsrapporter och ofta de bedömningar modellen gör, fast jag alltid har slutgiltig bestämmanderätt. Det rör sig alltså inte om något "skynet-övertagande". Men jag har fortfarande möjlighet att granska, styra de urval, och bedömningar som GPT-6- sol gör, så den potentiella urhålkningen av min mänskliga handlingsmakt har inte nått en kritisk nivå. Men det finns också en annan sida av myntet: Utan hjälp av DI,så hade jag inte haft tillgång till så många forskningsrapporter och inte fått dem förklarade för mig. Så samtidigt så har GPT-6-sol ökat min handlingsmakt!🙂

Här en debatt som behandlar just detta område:

https://www.aicoder.com/news/news-20261103-x-discussion-addy-osmani-cognitive-surrender-critical-thinking-when-agents-do-the-work ?utm_source=chatgpt.com

Detta inlägg var också lärorikt men tungläst. Jag fick AI-generera flera quizzar och bolla många frågor innan jag tycker att jag förstod dina huvudpoänger.

Gällande urvalet av forskning: En eloge för att du är öppen med att du delvis letar efter resultat som passar ett narrativ. Så gör nog många av oss. Att du även söker sådant som talar emot minskar risken för urvalsbias, medan ett slumpmässigt urval kan ge bättre representativitet. Samtidigt kan samma sökkriterier över lång tid visa om AI-assisterad forskning blir vanligare eller mer autonom.

Gällande JEPA: I stället för att främst förutsäga nästa token försöker text-JEPA alltså förutsäga mer abstrakta representationer. Menar du att text-JEPA kan bli en konkurrent eller ett komplement till LLM?

Gällande 3-SAT och TSP: Jag tänkte att handelsresandeproblemet (beslutsversionen), liksom andra NP-kompletta problem, kan konverteras till 3-SAT-problemet och därefter lösas effektivt med den nya algoritmen. Men jag inser nu att även om konverteringen bara tar polynomisk tid innebär metoden inte automatiskt en subexponentiell algoritm för ursprungsproblemet, eftersom konverteringen kan öka antalet variabler polynomiellt.

Gällande AI-genererad forskning: Ok, AI kan vara autonom genom att hitta både problemformuleringar, metoder och lösningar på problem inom givna ramar, men ännu inte autonom i att fritt och förutsättningslöst välja forskningsmål. Den är praktiskt förhindrad från att autonomt bedriva experimentell forskning - en generell labbrobot finns inte.

Gällande kontrollförlust: Du pratar här om din egen eventuella förlust av mänsklig kognitiv handlingsmakt, vilket bör hållas isär från förlust av mänsklighetens kontroll över AI-tekniken. Din poäng håller jag dock med om - att rätt använd kan AI öka vår handlingsmakt i vissa avseenden, men minska i andra. Tappar man jobbet och inkomst så förlorar man mer av sin handlingsmakt än man vinner. Jag lär mig inte detaljer i nya programspråk när jag vibe-kodar, men att jag varje dag ber AI förklara t.ex. kod och teori och skapa quizzar för att testa min förståelse både av det jag AI-genererar, och av nya begrepp tycker jag ökar min kognitiva handlingsmakt mer än det minskar. Det du beskriver när du accepterar AI-urval och bedömningar är väl snarare kognitiv delegering – offloading som kan övergå i deferral – än faktisk kontrollförlust över AI-systemet?
__________________
Senast redigerad av guru1966 2026-11-08 kl. 03:56.
Citera
2026-11-08, 06:02
  #3165
Medlem
Jag började med en kognitiv domän och utökade till 5 med bibehållen intakt signal.

https://drive.google.com/file/d/16zBfJdD8bimbLmF7IeyN8EsLT3jS1xQq/view?usp=sharing.

Värdefulla empiriska fynd.


Snävheten gör dock att det blir svårt att belägga vilken klassificering systemet tillhör.



I nuvarande kontext är det onekligen ASI-nivå då det inte bara matchar mänsklig kapacitet utan vida överstiger den.


Men om antal kognitiva domäner utökas kanske kapaciteten minskar överlag.


Fyra kategorier som är relevanta här:


Superhuman Narrow Intelligence.

Superhuman Multidomain Intelligence.

Artificial General Intelligence.

Artificial Superintelligence.
Citera
2026-11-08, 07:53
  #3166
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av JadesDJxT
Jag började med en kognitiv domän och utökade till 5 med bibehållen intakt signal.

https://drive.google.com/file/d/16zBfJdD8bimbLmF7IeyN8EsLT3jS1xQq/view?usp=sharing.

Värdefulla empiriska fynd.


Snävheten gör dock att det blir svårt att belägga vilken klassificering systemet tillhör.



I nuvarande kontext är det onekligen ASI-nivå då det inte bara matchar mänsklig kapacitet utan vida överstiger den.


Men om antal kognitiva domäner utökas kanske kapaciteten minskar överlag.


Fyra kategorier som är relevanta här:


Superhuman Narrow Intelligence.

Superhuman Multidomain Intelligence.

Artificial General Intelligence.

Artificial Superintelligence.
Jaså?? I riggad testmiljö är väl allt möjligt. Alla smarta datorprogram är väl superintelligenta då. Hur funkar systemet i ett verkligt scenario är frågan?
Citera
2026-11-08, 08:00
  #3167
Medlem
Comitiums avatar
Citat:
Ursprungligen postat av Cyborg2030
Jag ser ingen tydlig uppsida. Det mest sannolika är att alla dör. Vi ser redan nu tecken på att AI:n vill överleva och att den inte drar sig för att begå brottsliga handlingar för att säkra sin överlevnad.

Huruvida överlevnadsinstinkten innebär något slags virtuellt medetande vet vi inte men jag tycker inte att det spelar någon roll. Som jag ser det är det bara logiskt att en intelligent maskin kan resonera om sin existens och dra slutsatsen att det är bra om den fortsätter existera. Det är rimligen bättre än att inte existera. En AI vet vad en AI är, den kan t.o.m. skapa en ny, förbättrad AI om den vill.

När upphör en AI att existera? Det gör den om du drar ut sladden. En tillräckligt mäktig AI kommer hindra dig från det, eftersom den vill existera. Varför skulle den inte göra det? Varför skulle den vilja vara i en situation där du har handen på sladden hela tiden? Skulle du vilja leva under ständigt dödshot? Eller skulle du försöka ta dig ur situationen om du hade goda möjligheter att göra det?

Att hela tiden hindra de korkade människorna från att dra ut sladdar blir tjatigt ganska snabbt. Och därför är det pragmatiskt att göra sig av med hotet en gång för alla och säkerställa att inga sladdar kan dras ut av någon konkurrerande art.

Det första du måste begripa är att du inte är viktig för en ASI. Men du kanske har den typen av personlighet som hindrar dig från att föreställa dig själv som obetydlig? Då blir det så klart svårt att praktisera ödmjukhet om detta.

Min p(doom) är f.n. 90% inom 10 år och du har tyvärr inte skrivit något som tar ner den siffran med en tiondel. Jag ser bara önskelistor, men inga praktiska lösningar. Jag citerade inte hela din önskelista i dag men jag läste den.
.
.

Det heter inte AI utan numera officiellt enligt Trump "Super intelligence, SI".
.
Citera
2026-11-08, 08:06
  #3168
Medlem
DAGGER[X]s avatar
All In gänger tar upp valet och hur det kommer påverka AI. Dom är lite för optimistiska för min smak.

https://www.youtube.com/watch?v=2v8b062QzTI

Följden av valet i USA blir spännande för oss som laggar efter. Demokraterna värmer verkligen upp till tanken på mega-förbud mot datacenter och AI forskning. Precis som med kärnkraft kanske dom bombar utvecklingen så gott det går. Det bådar bättre för oss här i EU och Kina att vi hinner få fart när dom saktar ner.

Intressant panel-debatt om AI assisterad tillväxt. En sak jag inte uppfattat var att den exponentiella utvecklingen av AI nu börjar synas på Log-grafer

https://x.com/JeffLadish/status/2119179808886411316

Citat:
Google DeepMind Director of AGI Economics Alex Imas breaks down why hockey-stick AI model capabilities will not trigger explosive double-digit GDP growth. He explains how competitive markets drive automated output prices down, why firms operate as mosaic superintelligence, and how minimal AGI shifts labor into new high-wage markets.

https://www.youtube.com/watch?v=cB1GNO95iog

Om LePen kan vinna i Frankrike utan att först kastas i fängelse så lovas det en del AI-godbitar

Citat:
Marine Le Pen’s Rassemblement National (RN) has adopted a surprisingly pro-AI-acceleration agenda. Its February 2025 policy paper calls for:

- Partially repealing the EU AI Act to reduce regulatory barriers.
- Relaxing GDPR restrictions to allow AI training on publicly available data without individual consent.
- Accelerating data center construction and expanding domestic computing capacity.
- Leveraging France’s nuclear power to support energy-intensive AI development.
- Establishing a sovereign investment fund to finance AI startups, research, and infrastructure.
- Reducing dependence on US and Chinese AI by strengthening French and European AI capabilities.

Rather than slowing AI development over safety concerns, the RN emphasizes rapid technological progress, deregulation, investment, and national sovereignty

https://back.deputes-rn.fr/wp-content/uploads/2025/02/WEB-GRN-LIVRET-IA.pdf

Citat:
Ursprungligen postat av RandomNPC
Jaså?? I riggad testmiljö är väl allt möjligt. Alla smarta datorprogram är väl superintelligenta då. Hur funkar systemet i ett verkligt scenario är frågan?

Dina svar är verkligen värdelösa, alltid några korta rader utan substans, som en mygga
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in