Ledande AI-teknologi är olämplig för AGI - eller att uppnå prognoser på ersatta jobb

Där tar nog min kunskap slut, men riktigt intressant att höra detta. Jag är både skeptiker och entusiast (och användare), och ser fram emot att lära mig mer strukturerat än den "trial and error" som jag mestadels använder mig av nu.

Och ja, hela branschen är ganska rutten, liksom den smått galna implementeringsiver som skadar miljö, anställda och konsumenter.

Vad gäller forskning på annat, har du något man kan läsa om någon särskilt spännande teknologi? Som relativt färsk och oinsatt hamnar ju just LLMs i fokus när jag läser runt, då framför allt i vanliga tidningar.

Är det resonemang dock eller är det instruktion den har fått från en människa just för att kringgå svårigheten att räkna "manuellt"?



Vad är då den ledande teknologin mot AGI enligt dig? Och hur övervinner den de problem som jag har belyst? Jag skriver inte upp några halmgubbar här - jag är helt ärligt inte mer kunnig än vad jag skriver, och vad som står i artikeln.

Det som är intressant, både vad gäller möjligheter och risker är utfallet. Vad som faktiskt händer. Inte hur det fungerar, tycker jag. Sen vet vi ju inte riktigt hur det fungerar. Jag tror inte det är riktigt så enkelt som du väljer att beskriva det.
Vi vet inte hur all AI-teknik fungerar, det är inte officiella uppgifter. Att då hävda att tekniken inte håller för X är inte ett seriöst argument. Du och andra skeptiker vet ju faktiskt inte vad ni pratar om. Det vi kan göra är att titta på benchmarks och olika former av intelligens och kunskapstester. Enligt dessa benchmarks närmar sig de bästa modellerna AGI.

Föreställ dig att vi i stället pratar om jordbruk.

Cyborg: "Den här skördetröskan riskerar att döda 30% av användarna, vi måste designa en säkrare skördetröska".

BS: "Skördetröskan gör bara 5 km/h, det är omöjligt att den kan döda någon. Är du efterbliven eller?!!1!!? 😠"

Cyborg: "Men i testerna dog faktiskt 3 av 10 bönder 🤷🏻‍♂️".

BS: "Skördetröskan vill inte döda någon, det fattar du väl!!??!1!??! 😠"

Jag är lika i det hänseendet, jag är inte emot tekniken som sådan men jag hatar översäljandet och framförallt snakeoil personerna i industrin och framförallt tycker jag det är tragiskt hur de faktiskt blåser folk med löften och helt sjuka påståenden.

Jag vet mycket väl att språkmodeller kan göra fantastiska saker och jag är ganska investerad i detta på personligt plan, och har självfallet både hårdvara och egen utvecklad mjukvara som kan göra saker som vida överstiger vad de flesta färdiga konsument-AI produkter kan göra, och jag vet mycket väl hur mycket tid man måste lägga för att bygga runt problem med den här tekniken, var bristerna är, hur man till viss del kan gå runt eller minimera delar av det, jag är väl medveten att vad mina egna projekt kan göra så är det en leksak, som egentligen enbart byggts i hänseende att experimentera med tekniken.

Men i grunden är det vad vi konstaterat redan opålitlig teknik, och i bästa fall "proof of concept" som går skapa med den. det går inte ha något som gör något fantastiskt 80% av gångerna och totalt skräp 20%, det är inte autonom teknik när den konstant behöver bli barnvaktad.

Vad det gäller ny teknik i området så är det lättast att hålla sig någorlunda uppdaterad genom att skumma vissa grupper på reddit (sedan läsa arXiv så klart). Vad det rör just språkmodeller så finns det lite alternativa tekniker som visserligen inte löser de grundläggande problemen som transformers har men som potentiellt kan göra dom mer effektiva.

JEPA (som för den delen är väldigt likt Jürgen Schmidhubers PMAX idé från 90 talet) är väl det senaste "paradigm skiftet" om man vill kalla det så, men det handlar mer om att förändra hur man tränar modeller och just nu fokuserar man primärt på ytor som traditionell ML haft svårt för och haft ganska bra resultat. Jag tror på idén i sig, för det skalar bort bruset och fokuserar på den abstrakta operationen.
Det mesta andra är egentligen som jag skrev alternativa lösningar på att göra exakt samma sak som transformer baserade modeller gör idag, RVWK, Mamba osv är i grunden exakt samma grundkoncept, har en del fördelar andra nackdelar men det kommer fundamentalt inte förändra eller introducera något nytt som koncept, och medans de är mycket effektivare i körtid så är de samtliga mycket svårare att träna... och det är ju just det hela anledningen till att transformers bitit sig fast, medans de är ineffektiva så är de "medgörliga".

Fast vetskap om hur AI är ju relevant för att bedöma hur utfallet blir.


Dessutom vet inte ens forskare och utvecklare själva allt om hur AI fungerar. Så varken skeptiker eller entusiaster vet vad de pratar om. Jag är som sagt inte enkom skeptiker - jag använder AI mer än de flesta och har hittat use cases som är fantastiskt intressanta. Men jag tycker ändå inte att det är att ta sig vatten över huvudet att ifrågasätta om AGI eller nästintill självständigt arbete kan uppnås om modellerna inte förstår innebörden av de ord som de arbetar med, eller vad de säger.

Vad gäller tester och benchmarks så tar jag gärna information på exempel där man visar att man närmar sig AGI. Som jag förstår det så finns det en rad tester där AI får konsistenta höga poäng, bland annat tester som kräver mer abstrakta eller nyanserade resonemang, eller tester som kräver spatial intelligens. Men jag fördjupar mig gärna i ämnet ytterligare.

Mycket intressant, tack! Då har jag en del att förkovra mig i!

Jag kan ta ett par exempel:

Offline IQ tester. Toppmodellerna har skrivit över medel på IQ-tester som inte fanns i träningsdatat. Speciella tester framtagna efter träningen, så att man inte kan skylla på att modellen bara sökte fram svaren.

Arg-AGI 1, 2, 3. Toppmodellerna har klarat Arc-AGI 1 & 2 som var avsedda att påvisa att modellerna inte är AGI. Version 3 har de inte klarat än, testet består av en slags logiskt dataspel. Modellerna är förmodligen inte speciellt mycket tränade på att spela logiska dataspel. Det är inget som efterfrågas och skulle i praktiken inte vara intressant. Det skulle gå för långsamt. Men om man tränar modellerna på många logiska dataspel kommer de säkert klara v3 också.

Efter det finns det inga tester för att "motbevisa AGI", men jag antar att de kommer att flytta målstolparna en fjärde gång och hitta på Arc-AGI v4. Vi kommer snart till en nivå där människor inte kan skapa ett test som den bästa AI:n inte klarar perfekt. Jag tror att vi är där om 1-2 år.

https://arcprize.org/

Har nu kollat in Arc-testerna på din länk och spelat mig igenom det första spelet (klarat på första försöket). Det du säger är felaktigt eller missvisande på följande sätt:


Då modellerna har stora delar av internets information borde en modell som faktiskt resonerar klara spelet genom en kombination av kunnande om speldesign (vilket en LLM har) och ganska basalt resonemang (vilket ju är där det går åt pipan, vilket är min poäng). Problemet är inte brist på träning på logiska dataspel (deltagarna i testet får ju träna modellen hur de vill förutom specifikt för spelet i fråga), utan oförmågan att testa sig fram för att förstå spelets regler.



-Senare versioner av tester är inte att "flytta målstolparna". Målstolparna ligger alltid kvar vid att AGI inte existerar så länge människor kan designa ett test som en normalbegåvad människa klarar av medan AI inte gör det- tror man till och med uttrycker det på ett liknande sätt. Och AGI uppnås naturligtvis först när ett och samma AI klarar alla tester som en människa klarar av.

-För närvarande ligger frontiermodellerna på enstaka procent av spelpoängen eller möjligen under det. Den bästa LLMen ligger på en femtedel av poängen. En LLM verkar kunna klara v3 men då med tillgång till spelloggar från tidigare försök, så att den gör tusentals försök redan på de lägsta nivåerna. För det första innebär detta att modellen inte klarade spelet (där man ju får ett visst antal "liv"). För det andra så måste den som hävdar AGI i det fallet medge att intelligensnivån här är så låg att det knappast är brukbart.

-Två AI-modeller har klarat alla tre spel, men det är alltså inte LLMs det handlar om.

Det jag menar är att de modeller som misslyckas har förmodligen inte tillräckligt med träning på det specifika problemet att prova sig fram för att förstå spelets regler. Om man skulle sätta upp det bättre i träningen skulle den klara spelet vilket du själv bekräftar. "Två AI-modeller har klarat alla tre spel, men det är alltså inte LLMs det handlar om". Artificiell Intelligens kan, får innehålla och innehåller de facto fler teknologier än bara LLM.

Att LLM skulle klara alla typer av logiska uppgifter har varken jag eller någon annan hävdat någonsin.

Grundteknologin är att skapa ett digitalt neuralt nätverk genom träning på stora datamängder och mycket beräkningskraft. Som det verkar finns det knappt något problem som vi inte kan träna en AI (smal eller generell) till att klara så länge vi har tillräckligt bra träningsdata för de problemen som ska lösas. Vid något tillfälle i framtiden kommer träningsdatat vara såpass rikt och de generella multimodala frontier-modellerna kommer att vara såpass stora att de kan lösa alla logiska problem som människor kan klura ut, för alltid (och nej, de kommer inte att vara baserade på LLM enbart). Hur ska du då förkasta att vi har en AGI?

Återigen problemet med att ens dra upp IQ tester är att de är helt meningslösa i ett AI kontext.

IQ tester är skrivna och normerade utifrån människor, för de korrelerar med g faktorn, de mäter inte g faktor - de korrelerar. Vi kan inte mäta g faktor punkt.

Det andra är att "nyskrivna IQ test frågor" är rent löjligt, visst går det göra nya "puzzel" men har du inte normerat det så säger det ingenting om något.

För det tredje som jag sagt åtskilliga gånger med den artikel som vissa här brukar länka "språkmodeller fick X+ på ett verbalt IQ test", det är det absolut dummaste man kan testa en språkmodell på eftersom språk är just vad de är tränade på, att hitta synonymer, översätta osv är skåpmat för den minsta språkmodell du kan göra, det är en korrelation som uppstår bara du gör embeddings, det är hela poängen med embeddings att embedding vektorn representerar det område i hyperrymden där relaterade ord ligger, att hitta en synonym osv är bara en fråga om att mätadistans, det är en direkt egenskap av att mäta beräkna relationer mellan ord.

Slutligen det är så vansinne att läsa populärvetenskapliga artiklar i tidningar för de drar slutsatser och missförklarar hur det fungerar, man lägger åt helvete för mycket fokus på neurala nätverk också, det är inte där "magin" sker.

Men det är inte enkelt att förklara för någon som inte förstår minsta lilla abstrakt tänkande, språkmodeller jobbar med superpositioner i hyperdimensionella rymder. Det är ingen slump att man använder liknande matematik som i kvantfysik för det är precis vad det handlar om på ett matematiskt plan, där attention modelerar entangelement, embedding superposition osv, tills man mäter och där med "kollapsar" superpositionen, vilket görs med softmax, sannolikheten för nästa token är effektivt distansen till andra tokens i vokabuläret.

Jag har sagt det om och om igen, matematiken och funktionen i dessa är väl känd, ändå fokuserar man på FFN delen som är i stort sett den minst intressanta...

Edit:

Och för att förtydliga, det jag syftar på med att FFNet är det minst intressanta är att det som får språkmodellerna att ticka är embeddingen, som praktiskt är kan ses som en koordinat, som skalas/roteras och flyttas av attention beräkningen, vilket "kodar egenskaper" på koordinaten, det stora FFN:et förflyttar sedan koordinaten som en lookup table och sen beräknar man softmax och får då ut sannolikhetsdistributionen för nästa token (sannolikhetsdistributionen är alltså koordinatens distans till andra tokens i den här rymden).

IQ-tester är relevanta för begreppet Artificiell Generell Intelligenskvot, I'm just saying 🤷🏻‍♂️🕺🏻
"Språk" är ju bara din tolkning av olika symboler. För en AI spelar det mindre roll om saker och ting uttrycks med ABC, "☘ ◕ ♪ "eller de logiska rebusar som ska lösas i ett IQ-test 🤷🏻‍♂️ Det är väl bland annat därför man kunde jailbreaka GPT för ett par år sedan med olika varianter av "3li73 sp34k" inkl ovanliga Unicode-tecken. Det är inget litet censurlager de har behövt hacka ihop (med kodaganter, I would presume) för att modellerna inte ska driva dig till självmord eller vansinne, vilket den gör ändå ibland. C3ñ$üRmê70d3N fungerar inte.