När når vi AGI?

o3 pre-release lär ju inte bli den sista versionen av o-modellerna. De kommer att kunna optimeras och beräkningskraft kommer att bli billigare över tid. Extremt mycket billigare om det snart visar sig att kvantumchip kan användas för AI, vilket förmodligen bara är en tidsfråga.

Jag tror att du missuppfattat mig och ev. ChatGPT-4o:

Modellerna får grundtränas på, allt, inklusive allt skit där ute.

De finjustera sedan för att få bort det värsta skiten och lär sig acceptabla normer och värderingar genom t.ex RLHF träning.

Men sedan utvärderas, uppdateras och testas modellerna fortlöpande. Så klarade t. ex den brett tänkande och kreativa modellen ChatGPT4o hos Apollo Reserch. Tack vare sina förmågor så lät den sig inte manipuleras utan genomskåda de hela det manipulativa upplägget där. O1 gjorde det, däremot, inte. Just, därför, är det så viktigt med brett tänkande empatiska modeller, inte minst med tanke på framtidens ASI.

Och, ja, att försöka hjälpa till så att sådana modeller får en positiv bild av människan och en inriktning på respektfullt samarbete med tanke på framtiden, är något vi alla kan bidra till!

Du har rätt i att målstolparna ständigt flyttas och att var och en av oss har en liten egen ide om vad "AGI" egentligen innebär.

Chollet säger nu att vi inte har ett AGI förrän det inte längre går att skapa tester som är lätta för oss människor att lösa, men svåra för AI-modeller. Och förutom ARC V2 som kommer i slutet av februari så har man börjat arbeta på V3 som kommer att bli ett helt annat upplägg.

Några andra exempel på gamla och nya definitioner av AGI

AGI när en genomsnittlig kognitiv anställda arbetsuppgifter klaras av lika bra eller bättre av en AI modell. (OpenAI:,s gamla definition.)

AGI är uppnådd i och med att o3 klarar ARC-pussel på mänsklig nivå. (Din definition).

AGI uppnådd då en modell, via agenter ksn sköta om ett helt företag eller organisation. (OpenAI:s nya definition)

AGI är uppnådd när modeller kan "tänka" , (lösa problem) på samma sätt som vi människor, i normalfallet, gör det. ( "BeneathTheSurface" definition)

AGI är uppnådd när en modell kan sköta om en stor rymd expedition. (Microsofts definition)

AGI är uppnådd när en modell när en modell, på ett trovärdigt sätt, kan, framstå, som mänsklig på en mängd olika områden, så väl socialt som känslomässigt och i rimlig grad även rationellt och logiskt, på ett balanserat sätt. Detta sker, likt hos oss, genom, mestadels, skicklig fsbulicering och simulation (Min egen definition). Jag beräknar att det kommer att ta mer än ett år, även med accelererad AI-utveckling innan ens ett "troligt AGI är uppnått och ytterligare ett halvår till detta innan "srupsäker AGI" är uppnådd. Och då skall utvecklingen gå snabbt mycket snabbt! Bedömningen när ett sådant AGI är uppnådd kommer, subjektiv, att ligga hos betraktaren.

4o är inte en brett tänkande eller social AI. Den är bara en språkmodell som har tränats för att ge ifrån sig text som kan ge det intrycket. Det finns inte någon möjlighet att göra en sådan språkmodell genuint snäll, den har inte förmågan att vara varken snäll eller dum. Om en sådan förmåga skulle uppstå i framtiden, och det ska vi inte utesluta, då kommer en sådan AGI vara såpass avancerad och ogenomtränglig för oss att vi inte kan veta om den är snäll, dum, eller om den lurar dig eller hallucinerar. Hela din "metodik" är en återvändsgränd.

Enligt ChatGPT gäller följande på värderingar:

Ehh, det där är ingen intelligens. En stor miniräknare är vad det är.
Då skulle man kunna säga att en miniräknare från 80-talet är smartare än människan eftersom den ju räknar mycket snabbare.
Samma princip kan man applicera på allt möjligt som man "lär" AI att göra.

Men det är inte samma sak som att vara "smart" eller ha någon intelligens. Datorer har, i princip så länge de har funnits, kunnat göra saker och ting snabbare än människan.
Bara något så enkelt som att kopiera en text. Tänk vad det hade tagit tid för en människa att göra det manuellt. Det kunde även "antika" datorer göra. Eller skapa en 3D värld, som ett spel.
Spelen på 90-talet, som idag räknas som "antika" och väldigt enkla, hade ju tagit "oändligt" lång tid för en människa att teckna fram, "frame by frame". T.o.m. de gamla datorerna kunde få fram det i superhastighet i jämförelse, om så spelet hackade i 10-15 fps, så var det ju fortfarande mycket snabbare än vad en människa kan "teckna" fram det.

Men sätt vilken AI som helst på att "tänka fritt", och ge den uppgiften att:

1. Lösa gåtan med cancer.
2. Skapa en äkta AI, dvs. förbättra sig själv.

Den kommer totalt att misslyckas med båda uppgifterna.

Poängen är att så länge vi kan komma på tester som är lätta för människor men svåra för AI så kan det helt enkelt inte vara AGI. Även om o3 nu har slagit alla tidigare modeller på fingrarna med råge så har den ändå snittat över en minut per uppgift för o3-low medan o3-high tog närmare 13x längre tid på sig.

Imponerande för en AI, absolut, problemet är att AGI ska vara på mänsklig nivå och det är den långt ifrån fortfarande. Du har fortfarande inte förklarat på vilket sätt man flyttar målstolparna? Poängen är väl att en AGI inte bör kunna överlistas av människor. Varför ska vi nöja oss med att den klarar av vissa tester utan att försöka utmana den ytterligare? Det är väl av största intresse att se ifall den klarar alla typer av tester vi kan kasta på den?

Kan en miniräknare få 88% rätt på Arc-AGI, ett intelligenstest som är designat specifikt för att mäta AGI? Jag ber dig att sluta skriva i tråden om du bara ska tramsa och trolla.

Vi har en AGI som klarar AGI-testet. Så enkelt är det. Att det kräver mycket compute just nu är inget bra motargument. Alla som kan något om IT vet att det problemet är löst inom ett eller två år. Om vi har en AGI är det värt mycket pengar att använda den, därför kommer den att användas tillräckligt mycket för att utgöra en existentiell risk.

Jag har förklarat hur man flyttar målstolparna. Man gör ett AGI-test, Arc-AGI. När AGI-testet blir löst av en AGI då säger man att man ska göra ett nytt test. Då har man flyttat målstolparna. I förrgår var målstolparna Arc-AGI 1, i morgon vill man flytta målstolparna till Arc-AGI 2. Som är ett hypotetiskt test i nuläget. Vi vet inte om de kommer att kunna designa ett test som o3 inte löser. Det är bara en idé just nu, en förhoppning.

Du, Ola Schubert m.fl. hoppas väldigt mycket.

Man har skapat ett typ av test som visat sig vara svårt för AI men som är lätt för människor. Det betyder inte att det är det enda testet av dess slag. Det är inte automatiskt AGI bara för att en AI lyckas lösa alla dessa problem, men det är en bra måttstock för att se om AI närmar sig AGI. Så länge vi kan komma på tester som är enkla för människor att lösa men svåra för AI så kan det inte vara AGI. Det finns inget som säger att dessa tester och då enbart dessa tester är det definitiva måttet på AGI, det är bara så som du väljer att tolka det.

Du väljer att tolka det som att det inte kan finnas en AGI eftersom det kanske går att utveckla test i framtiden som kanske kan indikera att o3 inte är en AGI. När det redan nu finns ett AGI-test som indikerar att o3 är en AGI baserat på det bästa testet som de mest hårdföra och välutbildade AI-skeptikerna har lyckats ta fram tills nu. Frågan är varför?

Fast nu har jag, förstås, inte hävdat på allvar att det sitter ett troll och äter jordnötter i servrarna, det tror jag allt att du förstår. 🙂
Men, precis som du skriver: Jag som användare skiter i de tekniska detaljerna, bara det fungerar och utvecklas i den riktning jag önskar. Sedan om du satsat på rätt häst angående den framtida teknikutvecklingen, återstår att se, men det är din ensak. Liksom det är min ensak om jag "lallar" vidare med LLM-Transformers och hoppas på det bästa. Som framgick av mitt förra inlägg så "går jorden inte under" för mig om inte det, i formell mening, sker några beräkningar i ANN.