AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

"1. Hur långa uppgifter kan AI lösa självständigt?

METR mäter hur lång en programmerings/ML/cyberuppgift tar för en mänsklig expert och frågar: hur lång uppgift klarar AI:n autonomt med 50 % sannolikhet?

Tidpunkt Frontiermodell 50 % autonom task horizon

Aug 2024 Claude 3.5 Sonnet ≈11 minuter
Aug 2025 GPT-5 ≈3 timmar 34 min
Aug 2026 bästa uppmätta frontier ≥16 timmar


Samma METR-metodik ger alltså ungefär:

11 minuter → 214 minuter → minst 960 minuter.

På två år är det minst ~87 gånger längre mänskliga arbetsuppgifter som modellen kan lösa självständigt med 50 % framgång. Och METR säger uttryckligen att ≥16 timmar börjar slå i taket på deras nuvarande testsvit, så 2026-siffran kan inte mätas särskilt precist längre.


> Aug 2024: ~11 min autonomt arbete.
Aug 2025: ~3,5 timmar.
Aug 2026: minst ~16 timmar.
≈87× på två år.



Och om man kräver 80 % tillförlitlighet blir utvecklingen nästan ännu mer slående:

~1 minut → 32 minuter → 3 timmar 6 minuter.

2. Verkliga programmeringsproblem

SWE-bench Verified använder riktiga buggar/issues från riktiga GitHub-projekt.

Ungefärlig utveckling:

2024 Claude 3.5 Sonnet: ~33 % med Anthropics ursprungliga agentupplägg.
Aug 2025 GPT-5: 74,9 %.
Aug 2026 toppresultat: omkring 95–96 % på dagens leaderboard.

Det här är inte perfekt äpplen-mot-äpplen eftersom agentramverk och testmetoder förbättras, och benchmarken börjar dessutom saturera.

Men för en lekman är förändringen begriplig:

> 2024: löste ungefär en tredjedel.
2025: ungefär tre fjärdedelar.
2026: de bästa systemen närmar sig hela testet.



Det är därför nya, svårare codingbenchmarks hela tiden måste skapas.

3. Hur mycket text/system kan modellen arbeta med samtidigt?

En annan extremt enkel illustration:

2024 Claude 3.5 Sonnet: 200 000 tokens context.
2025 GPT-5: 400 000 tokens.
2026 flera frontiermodeller: omkring 1 miljon tokens.

Alltså ungefär:

200k → 400k → 1M

på två år.

Bonus: priset går åt motsatt håll

Det här är kanske den mest ekonomiskt explosiva utvecklingen:

Claude 3.5 Sonnet 2024: $3 input / $15 output per miljon tokens.
GPT-5 2025: $1,25 / $10 trots mycket högre kapacitet.
2026: kinesiska modeller med frontiernära kapacitet säljs för cent till låga dollar per miljon tokens.

Det är inte samma absoluta modellklass och därför ingen ren benchmarkjämförelse. Men riktningen är viktig:

> AI:n blir samtidigt mycket bättre, mycket mer autonom och billigare.

> AI-utvecklingen på två år:

Aug 2024: ~11 min autonom expertuppgift
Aug 2025: ~3,5 timmar
Aug 2026: ≥16 timmar

→ minst ~87× längre autonoma arbetsuppgifter på två år.

Samtidigt gick real-world coding från ungefär 1/3 lösta problem till ~3/4 och nu upp mot ~95 % på den gamla benchmarken.

Det är därför folk som Altman, Amodei m.fl. pratar om AGI på en tidsskala av år snarare än årtionden.

Viktigaste caveaten: METR:s siffror gäller huvudsakligen välavgränsade software/ML/cyberuppgifter, inte ”alla mänskliga jobb”. Men just som mått på agentisk utvecklingshastighet är 11 min → 3,5 h → ≥16 h rätt häpnadsväckande."

Mm säkert bara dom som målar upp en bild .
Lyssna på vad dom sa och flera andra sa innan dom byggde sina ai-boag också...

Sam Altman 2015, innan OpenAi:

https://youtube.com/shorts/YE5adUeTe_I?si=80dpL17nPNpD_K9E

Från ChatGpt angående riskbedömningen brett:

"Arbetade i 2m 30s

Den breda bilden är ungefär: AI-forskarkåren ligger inte på 50–90 % p(doom), men den ligger definitivt inte heller nära noll. Den bästa stora enkäten ger ungefär 5 % medianrisk för mänsklig utrotning eller permanent allvarlig förlust av mänsklig kontroll, medan medelvärdena beroende på exakt frågeformulering ligger runt 14–19 %. Samtidigt finns ett antal mycket tunga personer som ligger från 10–20 % ända upp till >90 %.

Det är också viktigt att inte blanda ihop alla ”p(doom)”-tal. En person kan mena mänsklig utrotning, en annan civilisationell kollaps, en tredje permanent disempowerment, och vissa siffror är villkorade på att vi faktiskt bygger ASI på dagens sätt. Det gör skillnaden enorm.

Vad den stora forskarenkäten faktiskt säger

Grace et al. frågade 2 778 forskare som publicerat vid ledande AI-konferenser. Resultaten är ganska uppseendeväckande:

Fråga Median Medel

Framtida AI orsakar utrotning eller permanent allvarlig disempowerment 5 % 16,2 %
Detta sker genom att människor förlorar kontroll över avancerad AI 10 % 19,4 %
Utrotning/disempowerment inom 100 år 5 % 14,4 %


Dessutom gav 38–51 % av forskarna minst 10 % sannolikhet, beroende på frågeformulering, och 57,8 % gav minst 5 % till extremt dåliga utfall. Men 68 % trodde ändå att bra utfall var mer sannolika än dåliga. Det är alltså inte en ”doomer-majoritet”; snarare en ganska optimistisk forskarkår som samtidigt lägger förvånansvärt mycket sannolikhetsmassa på katastrofen.

Och intressant nog skilde sig akademi och industri nästan inte alls: medianen låg kring 5 % i båda grupperna.

En mindre studie 2025 av 111 AI-experter fann dessutom att 78 % höll med om att tekniska AI-forskare borde vara oroade över katastrofala risker.

Men en annan stor UCL-undersökning med 4 260 AI-forskare ger en nyttig motvikt: när de öppet fick svara på vad de oroar sig mest för nämnde bara 3,4 % existential risk. De vanligaste förstahandsfarhågorna var malicious use, misuse, misinformation och jobb. Det betyder att x-risk kan få 5–10 % sannolikhet utan att vara forskarens största vardagsoro.

De riktigt höga namnen

Här är de jag tycker är mest relevanta, med viktiga brasklappar:

Person Offentlig riskbedömning Hur jag skulle läsa den

Roman Yampolskiy ~99,99… % Extremposition. Han anser i princip att generell superintelligens inte kan hållas säkert kontrollerad över lång tid. I Lex-intervjun diskuteras 100 års horisont och skapande av generell superintelligens.
Eliezer Yudkowsky ~99 % villkorat Om vi fortsätter bygga superintelligens ungefär med dagens teknik och institutioner säger han ~99 % att alla dör. Det är uttryckligen ett villkorat scenario, inte en ren ovillkorlig prognos.
Max Tegmark >90 % villkorat Väldigt aktuellt: 2026 säger Tegmark >90 % risk att vi förlorar kontrollen om utvecklingen fortsätter i stort sett oreglerat. Han tror samtidigt att faktisk politik kan minska risken rejält.
Dan Hendrycks >80 % Chef för Center for AI Safety. Hans tydliga offentliga siffra är äldre, men han har sagt att han höjde sig från ~20 till >80 %. Jag hittar ingen senare tydlig numerisk revidering.
Daniel Kokotajlo ~70 % Ex-OpenAI, AI Futures Project. I juli 2026 säger han ungefär 70 % att den nuvarande defaultbanan, om inget förändras, leder till ett mycket dåligt utfall.
Paul Christiano 22–46 % beroende på utfall Mer noggrann än ett enda p(doom): ~22 % AI-takeover, ~20 % att de flesta människor dör inom 10 år efter powerful AI, ~46 % att mänsklighetens framtid irreversibelt förstörs.
Yoshua Bengio ~20 % katastrofalt utfall Turingvinnare. Hans tydligaste numeriska bedömning är ~20 %. I en intervju 2026 använder han fortfarande 20 % som arbetsnivå när han diskuterar att säkerhetsarbete kanske kan sänka den till 10 %.
Geoffrey Hinton 10–20 % utrotning Nobelpristagare och en av deep learnings pionjärer. Bekräftade så sent som 12 augusti 2026 siffran, men betonar att det är en ”gut feeling” och att sådana sannolikheter är mycket osäkra. Han säger också att han blivit lite mindre rädd senaste året.
Dario Amodei ~25 % att det går riktigt illa Viktig caveat: Amodei har själv korrigerat att hans äldre 10–25 % inte specifikt var sannolikheten att AI dödar alla, utan risken att civilisationen blir kraftigt derailed. 2025 sade han dock ungefär 25 % att det går ”really, really badly”.
Demis Hassabis ingen siffra Vägrar falsk precision. Säger att risken är ”definitely non-zero” och ”probably non-negligible” och bör tas mycket seriöst.
Yann LeCun nära noll Den stora motpolen. Han fortsätter 2026 att avfärda AI-extinktionsnarrativet och betraktar AI mer som ännu en teknologisk verktygsrevolution.


Jag skulle alltså inte sätta Hinton i samma läger som Yampolskiy/Yudkowsky. Hinton är oroad på nivån 10–20 %, vilket är groteskt högt för en global katastrofrisk men fortfarande innebär att han tycker överlevnad är det klart sannolikaste utfallet.

Bengio ligger ungefär i samma storleksordning. Amodei ligger något högre om man inkluderar alla civilisationellt katastrofala AI-utfall, men hans siffra ska inte etiketteras ”25 % extinction” rakt av.

Yampolskiy/Yudkowsky/Tegmark-under-nuvarande-bana/Hendrycks är en helt annan kategori.

Och inne på frontierbolagen?

Här tycker jag att en vanlig invändning — ”det är bara externa doomers” — inte håller särskilt bra.

Center for AI Safetys extinction statement har undertecknats av över 700 personer, inklusive Hinton, Bengio, Sam Altman, Dario Amodei, Demis Hassabis, Ilya Sutskever och Shane Legg. Formuleringen är att minskning av AI-extinktionsrisk bör vara en global prioritet i nivå med pandemier och kärnvapenkrig. Det är förstås inte samma sak som att alla dessa personer har hög p(doom), men det visar att risken inte betraktas som science fiction av frontierledningarna.

Och bolagens faktiska beteende har blivit ännu mer informativt än deras intervjuer:

OpenAI klassar GPT-5.6 som High i både bio/kem och cyber och säger nu att de inte kan utesluta att kommande Astra når Critical cyber capability.

Anthropic driver ett helt Responsible Scaling Policy-system specifikt för catastrophic risks, inklusive bio, sabotage, autonomi och automatiserad AI-R&D. Deras nuvarande modellnivåer kräver redan ASL-3-skydd på vissa hotområden.

Google DeepMind har på samma sätt byggt ett Frontier Safety Framework för severe risks från avancerade modeller.

Så min sammanfattning skulle vara:

> Forskar-mainstream: ungefär 5 % median, med mycket stor spridning och en betydande minoritet över 10 %.
De mest prominenta pionjärerna: Hinton/Bengio ungefär 10–20 %.
Frontierbolagens ledning: behandlar katastrofrisk som verklig, men de flesta undviker exakta p(doom)-tal; Amodei är tydligast numeriskt.
AI-safety-eliten: ofta 20–80 %.
Hard-doomers: Yudkowsky/Yampolskiy och nu villkorat Tegmark ≳90 %.
Stark skeptikerpol: LeCun nära noll.



Det mest slående är alltså inte att ”experterna tror att vi kommer dö”. Det är att för en teknologi som världen uttryckligen försöker göra mycket mäktigare än idag är 5 % medianrisk för utrotning/permanent disempowerment redan ett extremt högt samhälleligt risktal — och ett antal av de människor som förstår frontier-AI bäst ligger betydligt högre.

Och med tanke på hur snabbt kapabiliteterna förändras 2026 tycker jag framför allt att Hinton, Bengio, Amodei/Hassabis och de stora forskarenkäterna bör väga tyngre än att stirra sig blind på Yampolskiys 99,999 %. De extrema talen är intressanta, men den verkligt anmärkningsvärda datapunkten är att den moderata mitten inte ligger på 0,001 %, utan på flera procent till låga tvåsiffriga tal."

Han pratar om generativ AI, sånt ni blir döda i pallet av
AI - har funnits sedan 40talet( någonstans där)

Så ej gpt tar och märker ord eller datum.

Sam Altman är en affärsman med grymt dålig moral och etik , samt anklagad för att ha knullat på syrran och morsan,.

DU suger hans kuk i fibonati13581321😅🤣
ÄR HAN ALLVETANDE ELLER EN FRIKTIONSFRI 80TALIST SOM FÅR GPTUNGAR ATT SLÄPPA ALLT VAD DET KOGNITIVA HETER?

Han pratar om generativ AI, sånt ni blir döda i pallet av
AI - har funnits sedan 40talet( någonstans där)

Så ej gpt tar och märker ord eller datum.

Sam Altman är en affärsman med grymt dålig moral och etik , samt anklagad för att ha knullat på syrran och morsan,.

DU suger hans kuk i fibonati13581321😅🤣
ÄR HAN ALLVETANDE ELLER EN FRIKTIONSFRI 80TALIST SOM FÅR GPTUNGAR ATT SLÄPPA ALLT VAD DET KOGNITIVA HETER?

Tror han lever ett bättre liv än vad du gör iaf

Forbes bedömer idag hans förmögenhet till omkring 3,3 miljarder dollar, men huvuddelen kommer från hans privata investeringar — inte från någon traditionell stor ägarandel i OpenAI.


Själv då? Pank runt den 17.e? 😅😅

Du svarar egentligen inte på argumentet.

Ingen har sagt att Altman är allvetande eller att AI uppfanns 2015. Poängen är att du hävdade att Altman/Musk spelar teater och målar upp AI-risk för att sälja sina bolag.

Men Altman pratade redan 2015, innan OpenAI ens hade lanserats, om risken att avancerad AI kunde gå katastrofalt fel och om behovet av stora satsningar på AI-säkerhet. Det bevisar naturligtvis inte att hans riskbedömning är korrekt – men det är ganska besvärande för teorin att han först hittade på risknarrativet som marknadsföring för OpenAI.

Att AI-forskning har rötter tillbaka till 1940-/50-talet förändrar exakt ingenting i det resonemanget.

Och vad Altman påstås ha gjort privat är dessutom helt irrelevant för frågan om vad han sade om AI-risk före OpenAI.

Så om du vill bemöta argumentet: visa varför hans uttalanden från före OpenAI inte räknas. Kukreferenser och versaler gör inte riktigt det jobbet. 😅

Att AI-forskning har rötter tillbaka till 1940-/50-talet förändrar exakt ingenting i det resonemanget.

Hahaha , har du lust att utveckla?

Få saker som är så värdelösa som att "diskutera" med -<<80 iq incels som ...du verkar vara.

Mitt sista svar till dig:

Du verkar blanda ihop hur gammalt ett forskningsområde är med hur kapabel den senaste tekniken inom området är.

AI-forskning har rötter i 40-/50-talet. Och flygforskning är över hundra år gammal. Därför är förstås en F-35 samma sak som bröderna Wrights flygplan. Datorer har funnits i cirka 80 år, så en modern GPU-superdator är väl bara ENIAC med lite snyggare skal också? 🤣

Det relevanta är inte när någon först började forska om AI. Det relevanta är vad systemen kunde göra då, vad de kan göra nu och förändringstakten däremellan.

På 40-/50-talet fanns:

ingen transformerarkitektur,
inga LLM:er,
inga GPT-modeller,
inga GPU-kluster,
inget internet,
inga multimodala modeller,
inga AI-agenter som använder terminal, webbläsare och verktyg,
inga system som självständigt kan skriva, köra och felsöka stora mängder kod eller arbeta på flerstegsproblem över lång tid.

Transformerarkitekturen som GPT-generationen bygger på kom 2017. Första GPT kom 2018. ChatGPT kom 2022.

Så vad exakt tror du att ”AI har funnits sedan 40-talet” motbevisar?

Ännu roligare är att det inte ens svarar på det vi diskuterade.

Påståendet var att Altman och liknande personer bara spelar teater om AI-risk för att marknadsföra sina AI-bolag.

Jag visade då ett klipp där Altman 2015, innan OpenAI lanserades, redan pratar om risken att framtida AI kan gå katastrofalt fel.

Ditt svar blir:

”AI har funnits sedan 40-talet.”

Ja? Och? 🤣

Det är ungefär som att någon visar att en person varnade för kärnvapen före sitt eget kärnkraftsföretag och du svarar:
”Hahaha, atomfysik är ju gammalt.”

Det finns ingen logisk förbindelse mellan premiss och slutsats.

Och nej, i citatet säger Altman dessutom ”AI”, inte ”GPT” och inte ”generativ AI”. Så inte ens den lilla räddningsplankan fungerar.

Du får gärna tycka att Altman är ett svin, narcissist, affärsman eller vad du vill. Det kan till och med vara sant.
Men hellre hans hjärna än utvecklingsstörd som du ger intrycket av att vara.

Det förändrar oavsett inte tidslinjen:

Han uttryckte allvarlig oro för avancerad AI innan OpenAI.

Det motbevisar inte att han kan överdriva riskerna idag. Men det gör teorin ”han hittade bara på riskpratet för att sälja OpenAI” betydligt svårare att få ihop.

Så ja, jag utvecklade gärna.

Nu får du gärna utveckla vad fan 1940-talet hade med argumentet att göra. 😅

Få saker som är så värdelösa som att "diskutera" med -<<80 iq incels som ...du verkar vara.

Mitt sista svar till dig:

Du verkar blanda ihop hur gammalt ett forskningsområde är med hur kapabel den senaste tekniken inom området är.

AI-forskning har rötter i 40-/50-talet. Och flygforskning är över hundra år gammal. Därför är förstås en F-35 samma sak som bröderna Wrights flygplan. Datorer har funnits i cirka 80 år, så en modern GPU-superdator är väl bara ENIAC med lite snyggare skal också? 🤣

Det relevanta är inte när någon först började forska om AI. Det relevanta är vad systemen kunde göra då, vad de kan göra nu och förändringstakten däremellan.

På 40-/50-talet fanns:

ingen transformerarkitektur,
inga LLM:er,
inga GPT-modeller,
inga GPU-kluster,
inget internet,
inga multimodala modeller,
inga AI-agenter som använder terminal, webbläsare och verktyg,
inga system som självständigt kan skriva, köra och felsöka stora mängder kod eller arbeta på flerstegsproblem över lång tid.

Transformerarkitekturen som GPT-generationen bygger på kom 2017. Första GPT kom 2018. ChatGPT kom 2022.

Så vad exakt tror du att ”AI har funnits sedan 40-talet” motbevisar?

Ännu roligare är att det inte ens svarar på det vi diskuterade.

Påståendet var att Altman och liknande personer bara spelar teater om AI-risk för att marknadsföra sina AI-bolag.

Jag visade då ett klipp där Altman 2015, innan OpenAI lanserades, redan pratar om risken att framtida AI kan gå katastrofalt fel.

Ditt svar blir:

”AI har funnits sedan 40-talet.”

Ja? Och? 🤣

Det är ungefär som att någon visar att en person varnade för kärnvapen före sitt eget kärnkraftsföretag och du svarar:
”Hahaha, atomfysik är ju gammalt.”

Det finns ingen logisk förbindelse mellan premiss och slutsats.

Och nej, i citatet säger Altman dessutom ”AI”, inte ”GPT” och inte ”generativ AI”. Så inte ens den lilla räddningsplankan fungerar.

Du får gärna tycka att Altman är ett svin, narcissist, affärsman eller vad du vill. Det kan till och med vara sant.
Men hellre hans hjärna än utvecklingsstörd som du ger intrycket av att vara.

Det förändrar oavsett inte tidslinjen:

Han uttryckte allvarlig oro för avancerad AI innan OpenAI.

Det motbevisar inte att han kan överdriva riskerna idag. Men det gör teorin ”han hittade bara på riskpratet för att sälja OpenAI” betydligt svårare att få ihop.

Så ja, jag utvecklade gärna.

Nu får du gärna utveckla vad fan 1940-talet hade med argumentet att göra. 😅

Ja där är vi överens, vad påhittiga människor kan lura andra individer genom en språkmodell (LLM)