När når vi AGI?

Den avgörande frågan är väl när AGI uppnår Teknologisk singularitet?

Ja så kan man göra i sci-fi.

Roande att läsa diskussionerna om AGI och o3 här, får en del tankar efter det.

- Kostnaden lyfts fram som om det vore ett argument mot att det är AGI. Det är förstås inget argument, det visar bara om det är ekonomiskt försvarbart för våra dagliga uppgifter, det avgör inte om det är AGI.

- En del hävdar att det krävs att den är bättre på allt än alla människor. Med den utgångspunkten så klarar ingen människa av kriterierna då det inte finns en människa som är bäst på allt.

- Det hävdas också att vi måste förstå hur den klarar testerna och den får inte klara av det på "fel" sätt. Återigen måste vi då underkänna alla människor då vi inte vet hur hjärnan fungerar.

Hur ska vi resonera om vi stöter på aliens som är långt mer intelligenta än människor men som inte klarar av allt som människor klarar, ska vi underkänna deras intelligens då trots att vi inte kommer i närheten av deras intelligens inom de flesta områden? Då blir det mest som att kriteriet är att den måste vara identisk med människor för att anses vara intelligent, avviker den på något sätt så underkänns den.

Det här känns tveklöst som att flytta målstolparna pga att vi är för rädda att medge att vi nu står inför en intelligens som överträffar oss. Det kommer bara bli allt svårare att fortsätta flytta målstolparna för att slippa acceptera verkligheten.

Det är väl ingen som lyft fram kostnaden som ett argument? Det är däremot puckon som lyfter fram kostnad som om det vore ett motargument, kostnad har däremot lyfts fram som ett argument att modellerna är mycket för dyra för att "ersätta" människan även om de haft kapacitet att göra det.

Ingen har hävdat att en AGI behöver vara bättre än människan på allt, AGI är tvärtom per definition att maskinen är likvärdig och kan utföra samma uppgifter som en människa när instruerad.

Vi behöver inte förstå hur den klarar testerna, ingen har påstått det i tråden vad jag sett överhuvudtaget. Det finns dock ingen modell idag som klarat några "tester" som ens i närheten antyder AGI.

Sen är det tråkiga med detta forum att personer med allt för låg intelligens lägger sig i diskussioner som de inte har kapacitet att förstå eller avgöra, de flesta av dessa med låg intellektuell kapacitet skriker om att vi inte lägger tillräckligt med energi på säkerhet, helt ogrundat för den delen.

Det är inga målstolpar som flyttats överhuvudtaget i min mening, de som hävdar det är de som har dålig förståelse för ämnet och själva haft en mental bild av var målstolparna befunnit sig, de enda som jag vet har flyttat några målstolpar vad det rör AGI är OpenAI, som själva valt att uttrycka AGI som ett explicit mål- där ett program kan utföra uppgifter av ekonomisk signifikans lika bra som en människa, de är inte i närheten av detta- och det är därför kostnaden per prompt har lyfts.

Allt som jag tog upp har lyfts fram, så jo.

Kostnaden är inget argument mot huruvida en modell är AGI, utan huruvida det är möjligt, eller snarare rimligt, att kunna uppnå det med nuvarande arkitektur.

Eftersom dessa modeller är tränade på mer eller mindre all information mänskligheten har tillgänglig kan vi förvänta oss att en AGI därmed har möjligheten att prestera på mänsklig nivå, givet att den faktiskt besitter intelligens. Kan den inte planera framåt, anpassa sig till förändrade omständigheter och hitta lösningar på nya problem (generalisera) så är det inte AGI. Det är inte riktigt jämförbart med eventuell intelligens som utvecklats på annat håll i universum.

Om det finns en modell som uppvisar AGI så är det så oavsett om någon anser det är rimligt med avseende på kostnaden. Kostnaden har alltså noll med saken att göra, däremot avgör det om det kan bli var mans verktyg.


Det finns inget som säger att den inte kan generalisera och hitta lösningar på nya problem, det är också givetvis något man testar när man avgör om modellen har AGI.

Det sa jag inte heller. Jag säger att argumentet i sådant fall handlar om det är för dyrt för att vi ska kunna nå AGI. D.v.s. om kostnaden att träna en sådan modell är högre än det finns energi och/eller pengar.

Ingen modell har hittills haft den förmågan. ARC-AGI är en typ av test som sägs vara utformat för att utvärdera den förmågan, men innan modellen har testats i verkligheten på riktiga problem så ger testet inget mer än en indikation på att den skulle kunna klara av det.

Så du är inte läskunnig alltså eftersom du svarar som du gör. Men om det känns bättre för dig tro att vi uppnått AGI, vad spelar det för roll om ytterligare något obetydligt pucko sällar sig till skaran här som tror det?

Varför tar du upp detta? Det finns väl ingenting som tyder på att det är för dyrt att träna en AGI? Det är säkert för dyrt att ge ut gratis åtkomst till 1 miljard användare den första veckan, ja, men det spelar ju ingen roll.

En AGI kommer att vara dyr, kanske t.o.m. för dyr för vanliga konsumenter att använda. o1-Pro kostar redan över 2000 kr/månad. Men besparingarna som kan göras med en AGI är ju mycket större än så. En AGI-agent kommer förmodligen kunna ersätta en handfull administratörer, kanske hela avdelningar. Då pratar vi om flera miljoner som kan sparas in på många företag och då blir kanske prislappen därefter också, i alla fall tills konkurrenterna är ikapp. Det kommer att vara värt många hundratals miljarder att träna en AGI, lågt räknat. Stora företag skulle säkert betala miljontals kronor per år om de faktiskt får en AGI för pengarna.

Så nej, pengar kommer inte att vara ett hinder för AGI. Tänk också på att hårdvaran blir billigare varje år.

Det är fullkomligt irrelevant eftersom o3 inte är en AGI, den lider av exakt samma problem som språkmodellerna gjort hela tiden. Och vad det gäller kostnad så kommer det dröja avsevärd tid innan man med nuvarande approach får upp både hastighet och beräkningseffektivitet att det ska vara lönsamt att använda modellen praktiskt, även om den skulle vara användbar (trots det inte är en AGI) så är den för dyr och för långsam, lever man på någon planet där man tror att GPT blivit märkbart snabbare de ca 3 år de varit publikt tillgängliga, så tror man fel, den huvudsakliga anledningen till snabba svar på vissa modeller är att de är mycket mindre än vad modellerna inledningsvis var.

Precis allt som man förutspått har gått fel, det har inte varit någon exponentiell utveckling av kapabilitet, emergenta beteenden har förklarats med träning och samma egenskaper påträffas i betydligt mindre modeller idag (dvs det hade inte ett skit med uppskalning av modellen att göra), flera språkmodells leverantörer har blivit tvingade att höja månadskostnaden (som trots det fortfarande är subventionerad av investeringspengar) för att försöka undvika blöda pengar och den senaste trenden med CoT decoding har gjort modellerna ohållbart långsamma när de fortfarande inte garanterat kommer med ett användbart svar.

Ja att döma ut något nytt med att det är för dyrt är inte så smart, nya produkter är ofta dyra i början. När man ser det från ett företags perspektiv är det också extremt dyrt med arbetskraft.