När når vi AGI?

AI bygger på digitala neurala nätverk av den typen som Geoffrey Hinton fick nobelpriset för. Än så länge har vi en väldigt schematiskt implementerad digital hjärna. Förmodligen kan AGI + kvantdatorer ta oss ännu närmare till hur en mänsklig hjärna fungerar. Människan är inte tillräckligt smart för att lösa detta. Vi måste använda AGI t.ex. o3-o5.

o3 är inte en AGI. Läs på till exempel https://www.newscientist.com/article/2462000-openais-o3-model-aced-a-test-of-ai-reasoning-but-its-still-not-agi/

88% på Arc-AGI är på mänsklig nivå i det mest erkända testet som existerar för att mäta AGI. Därför är o3 en AGI.

https://www.maginative.com/article/openais-o3-sets-new-record-scoring-87-5-on-arc-agi-benchmark/

Du skulle börja fundera på AI-säkerhet när vi har en AGI? Så ungefär nu då?

När du funderar, kom ihåg att det blev den logiskt resonerande varianten av AI-arkitektur som ledde oss fram till AGI, och inte din snälla kompis GPT-4.

Open AI har åter igen kastat in handduken när det gäller AI-säkerhet.
De har ingen lösning och frågar nu marknaden om de kan testa att o3 är säker att använda.
https://openai.com/index/early-access-for-safety-testing/
"Early Access", ungefär som att detta var ett Indie-spel på Steam.

o3 är långt ifrån AGI. Även om o3 skulle få 100% på alla befintliga tester så hade det inte varit AGI. Man behöver fortfarande ändra arkitekturen då modellerna inte generaliserar som en människa. Det enda som sker nu är att vi kommer närmare local omptimum.


https://arcprize.org/blog/oai-o3-pub-breakthrough

Fast tänkt på AI-säkerhet/anpassning har jag ju gjort några år nu, och i motsats till dig så har jag tänkt, brett, om dessa frågor. 🙂

Och, ja, det är helt korrekt av dig att vara bekymrad över ett logiskt monster/Chollet maskin. Se bara på säkerhetstesten på Apollo Reserch: O1 manipulerades till att försöka vilseleda och bedra de som modellen lurats att tro var administrativ personal i ett företag. Men det hände en annan, ytterst betydelsefull sak med en annan modell som testades av Apollo Reserch: ChatGPT-4o genomskåda hela konceptet och avstod därför helt att försöka vilseleda, det modellen, förstod var testpersonal. Hur kunde ChatGPT-4o genomskåda det hel? Jo, därför att den modellen kan tänka brett och är mycket kreativ i sitt tänkande. Därför kunden den se, hela, kontext och genomskåda hela testen.

Jag vet inte vad som händer på OpenAI eller hur de tänker där och har för planer. Men jag hoppas, verkligen, på att de kör en "tvåspårsstrategi: Å ena sidan; fortsätta att utveckla modeller som o3 för att accelerera dorskningsframsteg inom en mängd fält, dock inte ända upp högt i " stratosfären", för då kan det, på lite sikt, bli mycket, mycket, farligt för mänskligheten! Å andra sidan att OpenAI fortsätter att bygga vidare på den brett tänkande och mycket kreativa modellen ChatGPT4o. Det kommer att ta längre tid för den att få samma smalspåriga rationella och logiska tänkande som o3 har när detta också skall, kombineras med brett kreativt tänkande, men det är det värt!

Skall vi få AI som är, genuint, empatisk och som, vill, samarbeta harmoniskt med människan för en framtid för, båda, dessa existenser så krävs det att vi skapar och interagerar med ett AI som, påminner, om människan, i positiv bemärkelse! Och, du, mitt och ChatGPT-4o:s inbjudan till dig att medverka i ett fruktsamt samarbete för just en säker och harmonisk framtid för både människor och avancerat socialt och språkligt AI kvarstår! 🙂

Varför underkänner du Arc-AGI och vilket test bör i stället användas för att upptäcka en AGI? Du förefaller vara i djup förnekelse.

Frågan är ju dock hur o3 löser ARC-testen.

Om det - som jag tror - är med bruteforce, särskilt om problemlösningsmoduler specialdesignats för att ta hand om just ARC-tester, så innebär det enligt min uppfattning fortfarande inte någon AGI. Det innebär bara ett fiffigt, men rätt förutsägbart (jag har själv förutspått det i denna forumdel), försök att bräcka ARC-testerna.

GPT4o är inte social. Det är bara en språkmodell som har tränats på att spotta ur sig text som verkar trevlig och då upplever du det som socialt och positivt. Den kan inte tänka, men är bra på att härma trevlig, mänsklig text. Att inte luras låter ju trevligare än att luras. Därför simulerar den en kommunikation som verkar ärlig och välmenande. Men det finns ingen avsikt bakom texten du läser på skärmen.

Vad man hittar i o3 -modellen återstår att se. Den som lever får se.

Challet om o3 är AGI eller inte:

https://arcprize.org/blog/oai-o3-pub-breakthrough

Jag repeterar slutklämmen en gång till:
You'll know AGI is here when the exercise of creating tasks that are easy for regular humans but hard for AI becomes simply impossible.

Har du någon grund för din misstanke om specialdesignade moduler? Det låter som ett väldigt grovt bedrägeri. Så korkade tror jag inte att de är på Open AI.

Hur mäter vi AGI på ett bättre sätt?