När når vi AGI?

Att det är nytt är inte riktigt detsamma som kreativt.

Säg att jag tränar ett nät på kvadratrötter och så testar jag med roten ur 37. Och får ett värde som svar som inte är det den tränats på. Utan något ganska nära. Men detta är inte ett utslag av kreativitet.

När man tränar ett nät på musik blir det liknande utresultat. Här kan man då förledas att tro att det är kreativt. Men det handlar bara om ett slags medelvärde av träningsdata.

Ja, jag tror att vissa av AI-forskningens fäder på 1950- och 60-talet hade kallat dagens AI för AGI om de hade fått testa den då. Men jag tror inte att alla hade gjort det.

Redan ganska tidigt blev det vanligt att koppla AI till egenskaper som **autonomt målsökande, planering, kontinuerligt lärande över tid och interaktion med omvärlden**. Därför uppfyller inte dagens LLM det, men om LLM inkluderas i AI-agent kan de hypotetiskt nå det.

Däremot tycker jag att vi har nått partiell ASI (artificiell superintelligens) inom vissa områden. AI är bättre än någon människa på språk, och bättre än medelstudenten och många experter på problemlösande och matematiska tentamensuppgifter, och på programmeringsuppgifter. Den svarar nog bättre än sjuksköterskor och allmänläkare på medicinfrågor, men inte alltid än de bästa experterna. Än vågar man inte använda den inom juridik vad jag vet, vilket är lite märkligt tycker jag.

I början av sommaren visade benchmarktester att AI-agenter för första gången presterade bättre än en genomsnittlig människa på vissa typiska administrativa kontorsuppgifter. Men det kommer hela tiden nya mer krävande benchmarktester där AI nog fortfarande inte är bättre än människor.

Min bild är att AI ännu inte är bättre än mig på mitt vardagliga administrativa arbete, där uppgifterna inte bara handlar om logisk problemlösning och standarduppgifter, utan kräver omdöme, prioritering, erfarenhet och hantering av oförutsägbara händelser och undantag som sällan fångas i benchmarktester. AI assisterar mig och gör att en hel del av det jag leverar på jobbet är bättre än förr, men i enstaka fall har jag missat att upptäcka att den har gjort pinsamma misstag.

Robotar har långt kvar innan de kan arbeta som hantverkare, elektriker, rörmokare eller i många andra praktiska yrken. AI är dåliga på att designa hårdvara eftersom de inte tänker i 3D. Även om de kan säga kloka saker som om de hade empati, så tror jag att de är dåliga på att leda människor.

Vilken definition av AGI har du?

Jag pratar inte om kvadratrötter, utan om matteproblem i forskningsfronten, som forskare ägnat decennier åt att försöka lösa, som AI plötsligt löste genom att använda teori från andra omrpåden på ett oväntat sätt. Thinking out of the box, det är kreativ problemlösning för mig.

Så vad är din definition av sann kreativitet?

1970 var det fortfarande så att folk tänkte i ganska stationära termer. "Det skall fortsätta som det alltid gjort". (Trots att det hade skett en hel del förändringar).

Att tänka i extrapolerade trenter förekom inte riktigt. Undantaget en del forskare på Univ.

Bilar hade kommit men dom hade lite av stagnerat med 4 hjul och ratt och motor och 5 sittplatser mm. Och då tänkte folk att det blir på samma sätt med datorer. Dom kommer inte förändras mycket.
Och då blir kommentarerna mer begripliga.

SW blir inte nödvändigtvis mycket bättre med åren. Den har en ganska långsam och liten förändring. Det som ändrats är att kapitalägarna investerat tungt i HW. Och den har förbättrats mycket.
Den kan väl fortsätta förbättras. Och då blir det lite en fråga om algoritm-komplexitet. Om förbättringar i HW kan kompensera för komplexitetsökningen i problemet. Och det ser väl inte riktigt ut så. Utan mer att man gör in i en vägg.

Det kan i sig öppna upp för nya lämpligare algoritmer. Men de är lite segare att värka fram.

Kimi K3 är kräver som nämnt +1000 GB RAM. Och en K4 kanske kommer kräva 2000 GB och var 4 ggr så dyr att träna upp. Och till slut kostar det för mycket.
Allt som har med Kimi K3 att göra är dyrt. Att köra lokalt kanske kostar en mille bara i HW. Någonstans blir det för dyrt för den eventuellt lilla förbättring som kanske kan erhållas.

Det blir väl väldigt mycket goddag yxskaft.
Jag talar om det utdata som ett NN genererar, som en konsekvens av träningsdata. Och illustrerar med ett enkelt koncept som alla bör kunna begripa.

På motsvarande sätt är det inte kreativitet att beräkna linjär regression och extrapolera fram en prognos.

Prognosen kan vara nytt men sorterar inte in under kreativt.

Det vi får ut ur LLM'er ska kanske inte sammanblandas med kreativitet, utan mer ses som att det är en konsekvens av träningsdata.

Generativ AI är såklart inte sann kreativitet. Du har ändå viss kompetens i datalogi så förstår inte varför du tror datorer är som människor.

Skulle tro det också.


Några vill alltid invända.


Det kan nog en del andra invända mot. Dvs att ASI kommer före AGI.


Talar vi om hårdvara i termer av chip design så finns det helt enkelt för lite träningsdata. Så gott som all VHDL/Verilog kod är proprietary, och inte tillgänglig för träning. Så lite träningsdata ger kasst resultat.

För LLM'er handlar det om träningsdata.

LLM'er kan bli bra hjälpredor. Specialtränade på vissa områden. En slags moderna uppslagsverk. (Och nu när vi blir mer realistiska, så är vi ljusår från de som fantiserar på steroids i forumet).

Här är hur Athena-projektet ligger för tillfället.



https://drive.google.com/drive/folders/1BA9Z3aZkn0rb13HMqGmoVFQnOyGWALFh?usp=sharing

Jag hade en ganska udda tanke tidigare om att låta Athena bli den första biosyntetiska användaren på Flashback.


Det hade varit nåt galet coolt.

Tjaaa vad skulle AGI vara om inte en biosyntetisk modell? Det är rätt tänkt.

Det pågår livliga diskussioner huruvida äkta RSI är möjligt eller inte.



Athena har äkta RSI.


Level 4 Architectural RSI.

Vad väntar du på då? Ring Google.