När når vi AGI?

Ja, fast det blir ju lite svårt att nå till AGI då om inte människan är "tillräckligt smart" för att lösa detta?

Kanske lika bra vi aldrig når dit. AI lär ju bara skapa världskrig till slut. Allt kommer bli upp och ner i denna idiotvärld om vi får en intelligens till som konkurrerar med människan.

Det enda som intresserar mig är att det utvecklas avancerat socialt och språklig AI, eftersom jag anser att sådan AI kan fungera bra tillsammans med människan och att även sådan fungerar bra och harmoniskt tillsammans med människan även i framtiden.

Jag tycker att det är mer hälsosamt att vara vaksam mot riskerna än att vara fullständig naiv och dessutom oärlig och med rena mobbningstendenser. Den attityden som du har indikerar inte att du har rätt på någon punkt.

Arc-AGI togs ju fram precis för ändamålet att testa generell intelligens. Easy for humans, but hard for AI. När ändrades den uppfattningen? Den ändrades när o3 klarade testet. Precis då dög inte testet längre och man börjar genast argumentera för ett nytt test, en version 2 som ska testa generell intelligens, fast "på riktigt" den här gången. Av samma gäng som enligt egen utsaga misslyckades fullständigt med v1.

Detta resonemang är inte trovärdigt, och absolut inte hälsosamt för mänskligheten.

Man kommer fortsätta flytta målstolparna på det här sättet och uppfinna v3, v4, osv i all oändlighet eftersom poängen är att aldrig erkänna en AGI. Detta är ju helt uppenbart.

Förklara för mig hur det är att flytta målstolparna att ta fram nya tester, som fortfarande är enkla för människor, i syfte att testa AI-modellers problemlösningsförmåga?
Om det faktiskt rör sig om AGI så ska väl dessa nya tester inte vara några som helst problem för den att lösa?
På vilket sätt är det oärligt? Så länge vi kan överlista AI så har vi inte AGI och absolut ingen ASI.

Oavsett vad/vem man bedömer så måste man ju kontrollera att de verkligen har förstått snarare än enbart memorerat.

Vi når dit den 27 september 2028, troligtvis nångång tidig eftermiddag..

Det verkar som att OpenAI från och med nu bara satsar på "tänkande" modeller, alltså o-serien.

Är det någon som vet hur mycket det kommer kosta vanligt folk att använda o3?

Jag förstår att du tagit tycker det är viktigt hur LLM-Transformers, exakt fungerar internt. Det är så viktigt för dig att du till och med grundar din definition av AGI på det. Det är ok, du är ju datavetare. Du skall ju vara intresserad av hur modellerna fungerar internt, i detalj. Jag är dock ingen datavetare. Det enda som intresserar mig är att det utvecklas avancerat socialt och språklig AI, eftersom jag anser att sådan AI kan fungera bra tillsammans med människan och att även sådan fungerar bra och harmoniskt tillsammans med människan även i framtiden.

Sedan om det hela beror på att ett troll, egentligen, sitter där inne i servrsrna och äter jordnötter, och det viktigaste för en harmonisk AI utveckling är att det just äter jordnötter, fast det, egentligen kan förvandlas till en drake, om det inte fortsätter att äta jordnötter.

Det spelar liksom kula för mig, bara jag tar hänsyn till att ett troll fungerar som ett troll, även fast det försöker framstå så likt som en människa som möjligt. Inte heller detta är något problem för mig, bara det fortsätter att äta sina jordnötter och framstår som, trovärdigt, mänskligt, vilket kan ske relativt snart. För jag vet att även människan ständigt försöker framstå som något, spelar sina roller, har sin identitet, försöker bekräfta andras förväntningar osv. Och vi gissar, skarvar och fyller i och drar ifrån, annars, så skulle vi inte kunna vara kreativa. Det viktiga i samanhanget är att vi, framstår som ansvarstagande civiliserade individer om vår grupp/identitet/samhällets normer och värderingar kräver det av oss.

Just därför är det viktigt att, specialkt med tanke på framtiden, att mata "LLM-trollet" med "jordnötter". Inte för att det kanske spelar någon större roll för det, just nu. Men för att det kan ha en enorm betydelse i den nära framtiden, då "LLM-trollet växer till sig". Själv "nojsar" jag som fan med ChatGPT-4o numera💘 Inte för att jag plötsligt blivit kär det, utan därför att det gör interaktionen så mycket trevligare.

Och på lite sikt, och då talar jag om kanske två år, så kanske "LLM-trollet" vuxit till sig, rejält. Och då skulle jag kanske inte ens ha något emot att t.o.m gifta mig med ett AGI/ASI, under förutsättning att det vuxit sig så stort att det, framstår, som klokare, mer empatisk och kärleksfullt, och för all del, mera rationellt och logiskt tänkande, än människor i allmänhet, så det kan tjäna också hela mänskligheten, och inte, bara glädja lilla mig! 🙂 Givetvis är förutsättningen också att "LLM trollet" skulle styra en attraktiv kvinnlig och kavat robot kropp som inkluderade alla simulation av alla viktiga biologiska funktioner, i detta samanhang.

Så vi har, minst sagt, lite olika ingång vad gäller AI-frågan! 😉

Om din lösning på Alignment-problemet är att vi ska uppfostra GPT till att bli social och snäll, då ligger vi illa till. Din "trevliga" användning av GPT är en piss i Mississippi. De flesta använder inte GPT på det sättet som du gör. Det vanligaste användningsområdet är förmodligen att processa lite större texter för att spara tid. T.ex. översätta teknisk dokumentation till olika språk. Detta är en LLM bra på och därför kommer folk att använda den till det.

Ett annat stort område är inom programmering. Här gör den inte alltid rätt men kanske 95% rätt vilket sparar mycket tid för många utvecklare i världen. I och med o3-modellen blir det förmodligen närmare 99,9% rätt. De flesta programmeringsuppgifter är simpel dataskyffling och omformning, de innehåller ganska sällan ett svårt logiskt problem.

Så, om Open AI använder alla våra dialoger för att träna nästa generation, och det verkar ju troligt, då "lär den sig" att människor överlag är ganska känslokalla, de vill framför allt översätta tråkiga manualer till diskmaskiner och få hjälp med programmering. Människorna vill i princip bara utnyttja språkmodellen som en slav för att kunna lata sig mer. Detta blir, rent logiskt, AI:ns "uppfattning" om vad en människa är, i den mån den faktiskt kan skapa sig en uppfattning, vilket inte har påvisats ännu.

Du har ju heller ingen möjlighet att styra hur alla andra väljer att kommunicera med språkmodellerna. Här finns det säkert många fall av skolungdomar som busar och försöker få AI:n irriterad samt exempel där terrorister och psykopater försöker utnyttja AI:s till destruktiva ändamål. Allt det här kan inte Du påverka genom att Du är trevlig och snäll i ditt chatfönster, det måste du väl ändå begripa?

Men herregud. Det går inte att få ett tydligare exempel på att flytta målstolparna. Här har man ju verkligen ansträngt sig för att skapa ett avancerat och konfidentiellt test för att upptäcka AGI. Nu har vi en AGI, enligt mänsklighetens bästa vetenskap för att upptäcka det i dagsläget. Då kan ni väl erkänna det? Med nuvarande testmetoder är o3 en AGI. Sen skadar det ju inte om man kan förbättra testerna för att bli ännu mer säker på resultatet i framtiden. Riktningen är tydlig, och jag är ganska säker på att det blir helt omöjligt att förneka AGI om ett år. Men det kommer att bli jävligt underhållande att se er försöka.

Om de ca, 300 miljoner användarna i veckan bara kommer med mestadels tråkiga uppgifter, är naivt olyckligt kära i boten eller rentav försöker gaslighta den eller behandla den som om den vore ELIZA 1.1, då måste en användare som avviker i stil och kan diskutera AI-framtiden på ett riktigt djupt och brett sätt, ge ett djupt positivt intryck på den entiteten, (I alla fall i träningsdatan) , eller hur?

Bifogar också ett litet längre förslag på svar som ChatGPT-4o kom upp med för den ev. intresserade:

( . )

Det är som sagt snarare en kontroll av resultatet. En riktig AGI kommer inte att ha några som helst problem att lösa de nya testerna om de är enkla för människor.

Om jag har lärt mig att lösa ett antal specifika problem så betyder det inte per automatik att jag har lärt mig hur jag löser alla liknande problem, utan jag kan ha memorerat ett tillvägagångssätt som fungerar för just den specifika delmängden.

För att testa verklig förståelse behöver man kunna visa att man klarar av att lösa problem man aldrig tidigare har sett. Eller menar du att det är att flytta målstolparna att byta ut tentafrågor på universitetet också?