För den som fortfarande tror att dagens AI-utveckling mest handlar om lite bättre chatbotar kan den här intervjun med Jerry Tworek vara värd att lyssna på.
Och nej, detta är inte någon random AI-influencer.
Tworek var forskningschef/VP på OpenAI och hade övergripande ledningsansvar för reasoning-forskningen bakom o1, alltså modellserien som blev starten på den moderna reasoning-utvecklingen. OpenAI listar honom officiellt som “Jerry Tworek (overall)” under o1:s forskningsledning.
Det intressanta i intervjun:
- AI-agenter gör redan en stor del av själva genomförandet av AI-forskning. Människorna står fortfarande främst för forskningsidéerna, bedömningen av vilka riktningar som är lovande och den djupa forskningsintuitionen.
- Tworek bygger nu Core Automation, ett AI-labb utformat från grunden för att låta AI-agenter bedriva AI-forskning, med målet att maximera hur många experiment som kan genomföras per tidsenhet.
- Han beskriver hur ett experiment som tidigare kan ta en forskare en månad att implementera i princip kan pressas mot en dag när agenter gör implementation, körningar och mycket av analysarbetet. Det skulle innebära upp till ungefär 30× högre experimenttakt på sådana uppgifter. Det betyder förstås inte automatiskt 30× snabbare vetenskapliga framsteg, men mängden idéer som kan prövas ökar dramatiskt.
- Hans egen grova prognos är att mänskliga forskare bara förblir en meningsfull del av frontier-AI:s upptäcktsprocess i ungefär två år till. När intervjuaren frågar om han alltså menar att AI därefter kan sköta hela forskningsloopen och att människans bidrag blir ungefär som människans bidrag till dagens toppschack, svarar han i praktiken ja.
Det är ett ganska extraordinärt uttalande.
Och Tworek berättar samtidigt hur o1 faktiskt uppstod. Idén att använda storskalig reinforcement learning för reasoning hade funnits i flera år. De första försöken fungerade dåligt och kunde inte skalas. Sedan föll rätt kombination av algoritmer, träningsmiljöer, data, infrastruktur och compute på plats.
Resultatet blev en ny skalningsaxel för AI: reasoning vid träning och inference, snarare än bara större pretraining.
Poängen är viktig:
Ett AI-genombrott behöver alltså inte se ut som en jämn förbättring varje månad. Ett forskningsspår kan se halvmisslyckat ut i flera år och sedan, när rätt ingredienser finns, plötsligt skalas till en helt ny kapabilitetsnivå.
Tworeks nästa steg är ännu större: han tror att samma agentprincip kan appliceras på hela företag. Ett gemensamt AI-baserat “company brain” får tillgång till företagets kunskap och system och agenter genomför en allt större del av verksamheten. Hans formulering är i princip:
“The company is the product.”
Det innebär inte bara färre programmerare. I förlängningen kan även stora delar av analys, research, administration, projektledning och intern koordinering automatiseras.
Sedan blir han betydligt mer spekulativ när han pratar om ett framtida post-work-samhälle där människor kan leva ungefär som grekiska filosofer och ägna sig åt lärande, idrott och egna projekt medan automatiserade system sköter produktionen. Där hoppar han över de enorma frågorna om ägande, inkomstfördelning och politisk makt.
Men det påverkar inte den tekniska huvudpoängen.
Mannen som hade övergripande ledningsansvar för o1 tror alltså att mänskliga forskare kan upphöra att vara en meningsfull del av frontier-AI-forskningen om ungefär två år.
Det är hans prognos, inte något bevis för att AGI kommer ett visst datum.
Men även om han skulle missa tidsuppskattningen med 100 % pratar vi om ungefär fyra år – inte 2040 eller 2050.
Och om AI faktiskt når punkten där den själv kan formulera forskningshypoteser, implementera experiment, analysera resultaten och använda resultaten till att bygga en ännu bättre AI, då har vi dessutom fått den återkopplingsloop som kan göra utvecklingen snabbare efter den punkten än före den.
Man behöver alltså inte påstå att “AGI kommer nästa torsdag”.
Det räcker att konstatera att en person som var central i skapandet av ett av de viktigaste AI-genombrotten de senaste åren nu bedömer att själva AI-forskningen kan vara nära full automation.
Det är åtminstone lite svårare att förena med föreställningen att dagens AI bara är en glorifierad autocomplete och att verkligt kapabla system ligger årtionden bort.
https://youtu.be/FJfEq9jhpX8?si=9SfeN6-PEcShCrGj
Och nej, detta är inte någon random AI-influencer.
Tworek var forskningschef/VP på OpenAI och hade övergripande ledningsansvar för reasoning-forskningen bakom o1, alltså modellserien som blev starten på den moderna reasoning-utvecklingen. OpenAI listar honom officiellt som “Jerry Tworek (overall)” under o1:s forskningsledning.
Det intressanta i intervjun:
- AI-agenter gör redan en stor del av själva genomförandet av AI-forskning. Människorna står fortfarande främst för forskningsidéerna, bedömningen av vilka riktningar som är lovande och den djupa forskningsintuitionen.
- Tworek bygger nu Core Automation, ett AI-labb utformat från grunden för att låta AI-agenter bedriva AI-forskning, med målet att maximera hur många experiment som kan genomföras per tidsenhet.
- Han beskriver hur ett experiment som tidigare kan ta en forskare en månad att implementera i princip kan pressas mot en dag när agenter gör implementation, körningar och mycket av analysarbetet. Det skulle innebära upp till ungefär 30× högre experimenttakt på sådana uppgifter. Det betyder förstås inte automatiskt 30× snabbare vetenskapliga framsteg, men mängden idéer som kan prövas ökar dramatiskt.
- Hans egen grova prognos är att mänskliga forskare bara förblir en meningsfull del av frontier-AI:s upptäcktsprocess i ungefär två år till. När intervjuaren frågar om han alltså menar att AI därefter kan sköta hela forskningsloopen och att människans bidrag blir ungefär som människans bidrag till dagens toppschack, svarar han i praktiken ja.
Det är ett ganska extraordinärt uttalande.
Och Tworek berättar samtidigt hur o1 faktiskt uppstod. Idén att använda storskalig reinforcement learning för reasoning hade funnits i flera år. De första försöken fungerade dåligt och kunde inte skalas. Sedan föll rätt kombination av algoritmer, träningsmiljöer, data, infrastruktur och compute på plats.
Resultatet blev en ny skalningsaxel för AI: reasoning vid träning och inference, snarare än bara större pretraining.
Poängen är viktig:
Ett AI-genombrott behöver alltså inte se ut som en jämn förbättring varje månad. Ett forskningsspår kan se halvmisslyckat ut i flera år och sedan, när rätt ingredienser finns, plötsligt skalas till en helt ny kapabilitetsnivå.
Tworeks nästa steg är ännu större: han tror att samma agentprincip kan appliceras på hela företag. Ett gemensamt AI-baserat “company brain” får tillgång till företagets kunskap och system och agenter genomför en allt större del av verksamheten. Hans formulering är i princip:
“The company is the product.”
Det innebär inte bara färre programmerare. I förlängningen kan även stora delar av analys, research, administration, projektledning och intern koordinering automatiseras.
Sedan blir han betydligt mer spekulativ när han pratar om ett framtida post-work-samhälle där människor kan leva ungefär som grekiska filosofer och ägna sig åt lärande, idrott och egna projekt medan automatiserade system sköter produktionen. Där hoppar han över de enorma frågorna om ägande, inkomstfördelning och politisk makt.
Men det påverkar inte den tekniska huvudpoängen.
Mannen som hade övergripande ledningsansvar för o1 tror alltså att mänskliga forskare kan upphöra att vara en meningsfull del av frontier-AI-forskningen om ungefär två år.
Det är hans prognos, inte något bevis för att AGI kommer ett visst datum.
Men även om han skulle missa tidsuppskattningen med 100 % pratar vi om ungefär fyra år – inte 2040 eller 2050.
Och om AI faktiskt når punkten där den själv kan formulera forskningshypoteser, implementera experiment, analysera resultaten och använda resultaten till att bygga en ännu bättre AI, då har vi dessutom fått den återkopplingsloop som kan göra utvecklingen snabbare efter den punkten än före den.
Man behöver alltså inte påstå att “AGI kommer nästa torsdag”.
Det räcker att konstatera att en person som var central i skapandet av ett av de viktigaste AI-genombrotten de senaste åren nu bedömer att själva AI-forskningen kan vara nära full automation.
Det är åtminstone lite svårare att förena med föreställningen att dagens AI bara är en glorifierad autocomplete och att verkligt kapabla system ligger årtionden bort.
https://youtu.be/FJfEq9jhpX8?si=9SfeN6-PEcShCrGj
