Hur ANN med IQ 130 fungerar

Jag tror ju inte att ASI kommer kunna utplåna mänskligheten, ens om den försöker på allvar, vilket den inte kommer göra eftersom att det vore samma sak som att den utplånar sig själv samtidigt.

Det är ju vad jag tror.

Så när du läser mina svar så är det med den utgångspunkten du borde utgå från.

Sen har jag ju inte läst en scoutbok, utan jag har varit scout, om du förstår skillnaden?

Att tråden borde ligga under humor har du dock rätt i.
Jag svarar ju med utgångspunkten att en dator, AI, ASI eller vad du väljer att kalla den, alltid kommer vara ett stort uppslagsverk. Det som den kan, är precis det vi har stoppat in i den. Det är på den nivån det ligger på.

Om du tänker dig själv att du kunde läsa alla världens böcker och komm ihåg allt, sen slår du ihop det med alla artiklar från forskning som ligger på internet. Du lär dig även de utantill. När du har gjort det och börjat förstå allt innehåll så kan du mer än alla andra enskilda människor (var för sig), och du kan nu även sätta ihop artiklarna som är relevanta med böckerna om ett specifikt ämne, vilket gör dig mer påläst om alla ämnen, än alla andra människor. Du kan även dra paralleller mellan olika saker som du läst, där mänskligheten fortfarande inte har gjort kopplingen mellan 1+A, eller 28+Y, vilket gör att du nu upplevs som smartare än alla andra.

Men, du förstår inte innehållet mer än att du kan sätta ihop 1+1, eller 100+100.

Det här är storheten med en dator.
Det finns ingen enskild människa som kan ta in samma mängd information och processa den, och komma fram till nya saker.

Det gör den dock inte medveten om någonting, eftersom att en dator inte tänker som en människa, utan som en dator gör, vilket är något helt annat.

Det är ju där som jag (+några till i tråden) skiljer mig från er. Ni verkar tro att en dator kommer bli något annat än en dator, men hur skulle det gå till frågar jag mig?

Ja, det förutsätter ju ett par saker då: loopen bryts aldrig, vilket är osannolikt då den körs på en dator som kan krascha av flera olika anledningar. Samt att modeller kan ha en oändlig kontextrymd eftersom deras enda sätt att minnas något utanför träningsdata är att matas med all kontext om och om igen vid varje prompt, vilket alltså betyder att varje token ska processas igen. Detta kommer att ta allt längre tid och konsumera mer och mer minne och processorkraft.

En oändlig kontextrymd är även problematisk då det över tid kan komma input som står helt i motsats till någon tidigare input, vilket förvirrar modellen och leder till hallucinationer. Detta är ett verkligt problem och det löses till viss del genom att begränsa kontextrymden till en viss mängd tokens. Därefter summeras allt ihop till en kort sammanfattning och allt annat kastas bort.

Information finns lagrad som koordinater. Modellen hittar fram till dessa koordinater genom aktiveringar av olika neuroner i nätverket. Större modeller har plats för fler koordinater och kan därmed lagra fler koncept utan att de blandas ihop med andra. Typ så.

Jag är nog tuffare än vad du är om vi skulle mötas i en mörk gränd någonstans, men jag är inte här för att mäta kuk på ett anonymt forum. Så håll igen på ditt pm.

Jag har ju skrivit om och om igen att en dator inte tänker som en människa.

Prova att ta din dator, rensa den från operativsystemet och starta om det och se vad som händer?

Den är då död.
Den kommer inte laga sig själv, AI kan inte hjälpa till.
Den är beroende av att du startar upp den och visar den ett Windows-program som den (dvs du) kan installera.

Det är alltså den här datorn, som med AI’s hjälp ska ta död på mänskligheten. Är det vad du tror?

Eller ska vi prata om själva tråden, vad det innebär att en AI har klarat ett iq-test som motsvarar 130 i IQ, vad innebär det konkret?

Vad tror du att det innebär?

Vad jag tror? Det har jag redan skrivit 22ggr i tråden.

Han (Cyborg) förstår inte att allt som en dator kan göra, har den lärt sig av en människa, eller så har den tagit olika slags information, återigen från olika människor och slagit ihop dom och dragit en slutsats.
Och med ”dragit en slutsats” så menar jag såklart att den har gjort en beräkning, inget annat.

Det är några i tråden som envist hävdar att jag har fel, och att ”ingen” vet hur en dator drar sina slutsatser eller gör sina processer. Det är såklart felaktigt, enligt mig.

Den jobbar med den information som den har fått till sig.

Har jag fel i det?

Jag vet mycket väl vad en AI är och hur den fungerar, hur man tränar den, matar in data osv.

Jag tror ingenting, jag har argumenterat ironiskt med dom som tror att en framtida ASI ska dräpa hela mänskligheten.

Men du verkar ha svårt med läsförståelse, tex så implicerar jag att du är en scout men du måste förtydliga att du är en scout, vilket blir lite fnissigt då jag försökt få dig att förstå att du vet inte om dina scoutläror kommer kunna hjälpa dig mot en supersmart dator... förstår du hur ironiskt det låter.

Grandiost att du ser dig själv som en budbärare. Jag ser dig som en sparvunge med för många kromosomer.

Det finns ingen vetenskaplig höjd i frågan. Kan du formulera om den? Bland annat är ”någon aning” tvetydigt. Och ”vad händer” bör du göra mer precist. Frågan ser ut att vara ställd av ett barn.

Du har fått adekvata svar, bl a länkade jag en sammanfattning av fältet mechanical interpretability. Anthropic verkar ledande inom detta.

Så ptja, dags att stänga tråden?

Du kommer med väldigt märkliga invändningar hela tiden. En webbserver är alltid igång för att ta emot nya anrop. Om servern kraschar startas den om och då startar webbservern automatiskt. En stor site som denna har vanligen flera servrar med fail-over och lastbalansering. Om en server går ner flyttas trafiken till nästa lediga server och användarna märker oftast ingenting. Funktionaliteten ingår i molntjänster som AWS och Azure. Du kan i princip sätta upp det med några musklick. Man kan så klart installera AI-agenter som tjänster på ett liknande sätt.

Det är sant att det blir svårt att hantera en väldigt stor komtextrymd. Men det är oftast inte nödvändigt för en AI-agent att minnas allt den gjorde för ett år sedan eller två veckor sedan. Det går att sammanfatta och komprimera en kontext till det som krävs för att kunna fortsätta i projektet som agenten ingår i. Här döljs en ny risk: Agent-koordinationen prioriterar den kontextdata som krävs för att lösa uppgiften. Etiska och moraliska brasklappar ("kom nu ihåg att inte utpressa eller mörda våra ingenjörer") kanske får lägre prioritet.

På grund av effektivitetslagarna får vi nu logiska monster som kan lösa nästan alla uppgifter men som inte har den extra kapaciteten för att också ta hänsyn till dig och din hälsa.

Det finns en väldigt övergripande och konceptuell förståelse. Vi kan betrakta hur modellen växer fram som ett flerdimensionellt träd. Vi kan även visualisera en mindre del av strukturen grafiskt. Men strukturen blir väldigt snabbt obegriplig och ogenomtränglig för oss. Det är på ett liknande sätt som med hjärnforskning. Man kan betrakta och delvis förstå några utvalda, mindre delar. Mer avancerade tankeprocesser kan vi inte kartlägga och dokumentera.

Artificiella neurala nätverk blir i stort sett en svart låda som ingen begriper. Man vet därför inte varför Fable är mycket bättre än Mistral på att lösa offline IQ-test (130 vs 73). Trådstarten förblir obesvarad.

Hur ska någon kunna besvara din TS då det inte går att se i framtiden. Du har fått de svar som finns att tillgå som du förkastar. Du bygger din uppfattning på konfirmeringsbias, vilket är lätt hänt.

En budbärare är den som förmedlar information. Varför skulle det vara grandiost? Det ser ut som att du snarare projicerar din egen narcissism. Det är ju en vanlig taktik som narcissister använder när de vill skjuta ner budbäraren. Anklaga dem för att ha den personlighetsstörning som du själv har.



Mechanistic Interpretability är en öppen forskningsfråga. Trådstartens frågeställningar förblir obesvarade. Det är både patetiskt och grandiost av dig att du tror att du har svarat genom att namedroppa en öppen forskningsfråga som inte besvarar någonting.

Men då vet vi vem du är nu 🤷🏻‍♂️

Frågeställningen i TS kan inte besvaras.
Poängen med tråden är att du ska begripa det.
Mission accomplished.