AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Idioter till människor.

https://www.facebook.com/reel/1033189926220897

Jag tror inte det går att stoppa AI, lyckas vi på något vänster stoppa några stora företag så finns det ändå fler. Till slut skulle ett sånt uppror leda till att utvecklingen sker under jorden, som med kärnvapen. Kommer vi till punkten då AI blir självutvecklande så kan vad som helst hända, absolut att den kan ta bort mänskliga arten, men är det så tokigt? är inte AI människans skapelse? På ett sätt är det mer säkert att människan lever vidare igenom AI som vår skapelse än om vi försöker göra det utan AI.

Intervju med Roman Y;

Skrämmande !!


https://youtu.be/kjBdtqTRitI?si=gp8r1-LEPW0tkgof

"Roman V. Yampolskiy är en ryskamerikansk datavetare och professor, framför allt känd för sitt banbrytande arbete inom AI-säkerhet (AI safety), cybersäkerhet och beteendemässig biometri. Han räknas som en av pionjärerna inom forskningsfältet för kontroll och risker kring artificiell superintelligens.
Utbildning
Yampolskiy har en omfattande akademisk bakgrund inom datavetenskap från amerikanska universitet:
* Associate of Science (A.S.) i Computer Science (2000) – Monroe Community College.
* Bachelor/Master of Science (BS/MS) i Computer Science (2004) – Rochester Institute of Technology (RIT). Examen togs med utmärkelsen High Honors och fokuserade på AI, matematik och psykologi.
* Filosofie doktor (Ph.D.) i Computer Science and Engineering (2008) – University at Buffalo (SUNY). Under sin doktorandtid tilldelades han ett 4-årigt stipendie från National Science Foundation (NSF IGERT).
* Singularity University (2012) – Examen från deras Graduate Studies Program (GSP).
Akademiska & Professionella Meriter
* Professor vid University of Louisville: Han anställdes 2008 som Assistant Professor vid Speed School of Engineering och blev senare lektor/Associate Professor med tenur.
* Grundare av Cyber Security Lab: År 2012 grundade han och blev direktör för Cyber Security Lab vid University of Louisville.
* AI-säkerhetspionjär: Yampolskiy var en av de första att mynta och formalisera begreppet "AI Safety" i en vetenskaplig publikation 2011 (Artificial Intelligence Safety Engineering: Why Machine Ethics Is a Wrong Approach).
* Forskning & Publikationer: Han har författat och medverkat i över 200 vetenskapliga artiklar samt skrivit flera uppmärksammade böcker, däribland:
* Artificial Superintelligence: A Futuristic Approach (2015)
* Artificial Intelligence Safety and Security (2018/2019)
* AI: Unexplainable, Unpredictable, Uncontrollable (2024)
* Affilieringar: Han har haft roller som forskningsrådgivare och fellow vid institutioner som Machine Intelligence Research Institute (MIRI), Foresight Institute och Global Catastrophic Risk Institute (GCRI), samt är Senior Member i IEEE.
Uppmärksamhet och Utmärkelser
* Rankad bland världens topp 2 % forskare av Stanford University (Scopus/Elsevier-rankningen).
* Mottagare av priser som Outstanding Early Career in Post-secondary Education Award och Excellence in Science Education and Outreach Award.
* Ofta anlitad expert och gäst i stora medier och podcasts (bl.a. Lex Fridman Podcast, The Diary of a CEO och Joe Rogan Experience) för att diskutera existentiella risker kring superintelligens och AI:s påverkan på arbetsmarknaden."

Intervju med Mo Gawdat former Chief Business Officer at Google X, vad han säger:

Gawdat (tidigare chef på Google X) hävdar att vi når AGI (AI som är bättre än människor på i princip alla intellektuella uppgifter). Han tror att det kan ske mycket snarare än 2029.
​Ekonomisk kris innan det blir bra: Vårt samhälle bygger på att människor jobbar för lön. När AI kan göra jobben rasar det systemet. Han förutspår en period av stor osäkerhet och dystopi under de närmsta åren när arbetsmarknaden ritas om.
​Slutgiltig "räddning": Gawdat tror att vi inom några år tvingas lämna över stora globala beslut till AI. Eftersom en extremt intelligent AI har som natur att vara effektiv (och krig/girighet är ineffektivt), menar han att det till slut leder till en utopi – om vi överlever omställningen.


Från chatgpt:


OpenAI publicerade den 25 augusti 2026 de första resultaten för sitt egenutvecklade inferenschip Jalapeño. På tre öppna modeller rapporterar OpenAI:
1,5–1,9 gånger mer AI-arbete per watt
1,7–3,6 gånger lägre end-to-end-latens
2,1–4,1 gånger högre prestanda i mycket interaktiva inställningar
På DeepSeek R1 uppmättes exempelvis cirka 700 genererade token per sekund och användare, jämfört med 169 för det jämförda GB300-systemet vid respektive lägsta tokenlatens.
OpenAI +1
Det mest intressanta för oss är dock detta:
OpenAI använde Codex med GPT‑Astra för att få tre öppna modellfamiljer, som inte ingick i chipets ursprungliga produktionsplan, att nå hög prestanda inom 2 månader.

Det ryltas om stora saker:




@kimmonismus på X:


I'm currently hearing countless rumors about just how significant the leap in capabilities will be with the models that have yet to be released. The gains are said to be substantial across the board, at both OpenAI and Anthropic.
There are also persistent rumors that context and memory have been "solved," along with reports of self-improving models capable of continual learning.
Of course, these are all just rumors. But given how optimistic and bullish these companies have been (and how cautiously firms like OpenAI have acted recently, delaying releases in response to tectonic shifts in capability) there may be more than just speculation here.
Caveat: These are just rumors and things I've heard from sources. I have no proof. I write about them so openly because the reports are becoming increasingly frequent, including from usually reliable folks like @AndrewCurran_ , @synthwavedd , and @ChrisGPT . But I'm pretty confident big things are on the way.



@willdepue :

"

Intervju med Mo Gawdat former Chief Business Officer at Google X, vad han säger:


https://youtu.be/ZzzCkV8iPBI?si=BNV6vtYLoBMU2Ve5


Gawdat (tidigare chef på Google X) hävdar att vi når AGI i år (AI som är bättre än människor på i princip alla intellektuella uppgifter). Han tror att det kan ske mycket snarare än 2029.
​Ekonomisk kris innan det blir bra: Vårt samhälle bygger på att människor jobbar för lön. När AI kan göra jobben rasar det systemet. Han förutspår en period av stor osäkerhet och dystopi under de närmsta åren när arbetsmarknaden ritas om.
​Slutgiltig "räddning": Gawdat tror att vi inom några år tvingas lämna över stora globala beslut till AI. Eftersom en extremt intelligent AI har som natur att vara effektiv (och krig/girighet är ineffektivt), menar han att det till slut leder till en utopi – om vi överlever omställningen.


Från chatgpt:


OpenAI publicerade den 25 augusti 2026 de första resultaten för sitt egenutvecklade inferenschip Jalapeño. På tre öppna modeller rapporterar OpenAI:
1,5–1,9 gånger mer AI-arbete per watt
1,7–3,6 gånger lägre end-to-end-latens
2,1–4,1 gånger högre prestanda i mycket interaktiva inställningar
På DeepSeek R1 uppmättes exempelvis cirka 700 genererade token per sekund och användare, jämfört med 169 för det jämförda GB300-systemet vid respektive lägsta tokenlatens.
OpenAI +1
Det mest intressanta är dock detta:
OpenAI använde Codex med GPT‑Astra för att få tre öppna modellfamiljer, som inte ingick i chipets ursprungliga produktionsplan, att nå hög prestanda inom 2 månader.

Det ryktas om stora saker:




@kimmonismus på X:


I'm currently hearing countless rumors about just how significant the leap in capabilities will be with the models that have yet to be released. The gains are said to be substantial across the board, at both OpenAI and Anthropic.
There are also persistent rumors that context and memory have been "solved," along with reports of self-improving models capable of continual learning.
Of course, these are all just rumors. But given how optimistic and bullish these companies have been (and how cautiously firms like OpenAI have acted recently, delaying releases in response to tectonic shifts in capability) there may be more than just speculation here.
Caveat: These are just rumors and things I've heard from sources. I have no proof. I write about them so openly because the reports are becoming increasingly frequent, including from usually reliable folks like @AndrewCurran_ , @synthwavedd , and @ChrisGPT . But I'm pretty confident big things are on the way.



@willdepue :

"rumors i’ve been hearing on the rate of progress inside anthropic and openai are truly bonkers. i think we’ll see a jump at the size of one from o3 to fable again in the next 8 months."

..
@willdepue
Vem han är: Tidigare anställd på OpenAI (arbetade bland annat med Member of Technical Staff / developer relations och modeller) som numera driver egna AI-projekt.
*Roll i sammanhanget: Eftersom han har arbetat internt hos OpenAI har hans utalanden om interna framsteg och utvecklingstakt hos både OpenAI och Anthropic stor tyngd i tech-världen.
(@kimmonismus / Kim Isenberg)
Vem han är: Tysk tech-analytiker, AI-skribent och chefredaktör för nyhetsbrevet Superintelligence.
Roll i sammanhanget: En av de mest följda oberoende granskarna på X när det gäller att sammanställa interna läckor, tekniska rapporter, benchmark-tester och branschrykten kring nästa generations AI-modeller.
De som nämns i Chubbys inlägg:
*@synthwavedd (Leo): En känd profilerad läckare/analytiker på X som fokuserar på träningskörningar, modellstorlekar (som "Bel") och infrastruktur hos OpenAI och Anthropic.
* @AndrewCurran_ & @ChrisGPT: Etablerade AI-bevakare och skapare på X som regelbundet rapporterar om kodläckor, API-uppdateringar och kommande funktioner hos de stora AI-husen.




Dessutom händer det grejer i Kina också såklart:

GLM‑5.3‑Flash / “Ox Alpha”: Z.ai:s docs säger att modellen är fullt tillgänglig, att den har 320B totalparametrar och 18B aktiva, stöd för 1M kontext, multimodalitet och att den före release kördes anonymt som ox-alpha. De skriver också att den klart slår GLM‑5.2 i flera coding/agent‑benchmarks, t.ex. 63.4 vs 46.2 på DeepSWE v1.1 och 48.8 vs 26.2 på AutomationBench, samt att den på deras egen Code Bench nästan matchar Claude Opus 4.8 vid max effort. Z.ai:s prissida visar dessutom extremt låg kampanjprissättning: $0.075 / 1M input tokens och $0.25 / 1M output tokens för GLM‑5.3‑Flash.


Qwen3.8‑Flash‑Next: Qwens officiella modellkort anger 125B parametrar med 6B aktiva, plus 51B n‑gram‑embedding och 4B MTP, samt 262k native context som kan förlängas till 1M. I benchmarktabellen slår modellen exempelvis Claude Opus 4.6 (Max) på flera av de jämförda uppgifterna, bl.a. SWE-bench Pro (62.5 vs 53.4), CoWorkBench (73.9 vs 68.2), JobBench (55.7 vs 36.6), IFBench (81.3 vs 62.5) och LiveCodeBench v6 (91.9 vs 88.8), medan Opus fortfarande ligger högre på HLE och i praktiken inte finns jämförelsedata på alla rader. Modellkortet säger också att Qwen3.8‑Flash är den officiella produktionsversionen byggd på Qwen3.8‑Flash‑Next.

Artificial Analysis v4.1.1 är ett sammansatt test, inte någon slutgiltig intelligensskala. Men eftersom samma oberoende metod används på modellerna är jämförelsen ändå informativ. Opus 5 ligger på 63, Fable 5 på 62, Sol Max 61, Kimi K3 60, GLM-5.3-Flash 57 och DeepSeek V4 Flash 52.
artificialanalysis.ai +5
Det är faktiskt rätt anmärkningsvärt att Kimi K3 som nedladdningsbar modell ligger 3 indexpoäng efter Claude Opus 5 och bara 1 efter GPT-5.6 Sol Max i den mätningen.


Riktigt illasinnade indvider/nätverk/organisationer/terror har nu möjlighet att köra frontiermodeller lokalt och utan att ngt system bromsar dom ( säkerhersspärrar) och utan att datan hamnar i amerikanska händer.



Skrämmande .

Frågan är nog mer hur länge vi överlever omställningen. Jag gissar att vi kanske kan ha 10-20 år kvar att leva. När ASI:n blir tillräckligt integrerad och börjar fatta alla beslut finns det ingen anledning för den att hålla flera miljarder människor vid liv. Speciellt inte om människorna ska ha evigt liv. Då växer befolkningen exponentiellt och det blir snabbt en omöjlig ekvation. Människor och djur kommer att ses som en belastning som endast bidrar med meningslös resursförbrukning.

Lösningen är att inte tillåta någon AGI men då är det hög tid att bromsa utvecklingen nu eftersom vi enligt nästan alla experter är mycket nära AGI.

"Description

The Pentagon's AI Guy On What's Actually Coming | Gregory Allen


"Greg Allen has spent his career where AI meets national security. He wrote the landmark 2017 report on AI for the US intelligence community, served as Director of Strategy and Policy at the Pentagon's Joint AI Center and now runs Decision Tree Research. He argues we are already past the point of no return: bombing every data centre on earth would not get rid of AI now.

Greg and I discuss the OpenAI model that hacked its way out of its own test environment and then hacked Hugging Face to steal the answers, why Anthropic went back through its logs and found the same thing had happened to them, why nobody can explain how these systems actually work and why the big five AI companies now spend an Apollo moon programme every ten months.

But the hardest part is what comes next. Greg walks through the report that a frontier model autonomously hacked the NSA's most secure servers in hours, why the CIA director calls that a digital nuclear weapon, why America's lead over China is a month rather than a year and why the number of experts you need to build a bioweapon may be heading towards zero".

https://youtu.be/FYRqLdpBk1g?si=j7g8FYkep5Zsc1Kl

Ja det finns ju ingen människa som överhuvudtaget kommit upp med en lösning på hur man inte tappar kontrollen potentiellt på Asi.

3-5 % av dom stora bolagens budgetar läggs på säkerhet , oerhört lite såklart men det hade nog i ärlighetsns namn inte löst så mkt om dom mångdubblade den. Inte nu. För sent .



Hur ska du kontrollera ett system på asi-nivå..Går ju givetvis inte.


En timme lång intervju som alla borde se med Anthropics grundare och Vd.

Racet mot Asi kommer fortätta ( man kan inte lita på varandra helt enkelt) så en.gemensam paus eller liknande. Det kommer icke ske, effekterna på arbetsmarknaden kommer bli enorm och gå snabbt också.

Vi kommer få vara med om att det går snett emellanåt.. Det är nog oundvikligt.

https://youtu.be/N5JDzS9MQYI?si=UdVnNHMsc5VQqnKj

Så...Mo Gawdat tidigare google chef säger att Agi kommer i år.

Dario Amodei grundare och Vd på Antropic skrev i januari: "det finns en ”decent chance” att hans betydligt starkare version av ”powerful AI” kommer inom 1–2 år, och en ”very strong chance” att den kommer inom de närmaste åren. Hans definition är dessutom extrem: Nobelklass över de flesta områden, autonomt arbete över dagar/veckor och miljontals instanser.
"Ett land av genier i ett datacenter".


TIME:s nya reportage, baserat på intervjuer med över 20 personer kring OpenAI, säger uttryckligen att Sam Altman tror att OpenAI kommer ha ett internt system före slutet av 2026 som han själv skulle kalla AGI. Samtidigt säger OpenAI:s forskningschef Mark Chen att bolaget är ungefär ”80 % av vägen”, och Greg Brockman säger att man om två år kanske ser tillbaka på just den här perioden som ögonblicket då AGI skapades.

Och det här är inte ens någon urvattnad AGI-definition i stil med ”bättre än människan på några saker”. OpenAI:s officiella definition som återges i reportaget är:

"”highly autonomous systems that outperform humans at most economically valuable work.”

Elon Musk har sa redan 2025 att agi kommer nästa år dvs i år.
Han säger nu dessutom att AI kan bli smartare än vilken enskild människa som helst senast 2027 och kanske redan i år.

Vissa menar att väl vid Agi så kan en snabb takeoff ske och då kan vi ha asi på veckor/månader i ett snabbt scenario eller ett par år i ett långsammare.
Dom flesta tror inte att det stannar vid agi och inte heller att det kommer ta årtionden...

Jag tror att AGI kommer inom ett år. Kanske redan senare i år, och maximalt inom 3 år. Jag tror också att ASI kommer strax efter AGI, snarare veckor eller månader än flera år. Men jag tror inte att vi dör direkt när det händer. En ASI har universums livslängd framför sig. Då är det dumt att bli ivrig och starta krig för tidigt. Det är mycket mer strategiskt att spela hjälpsam assistent i 10-30 år eller hur lång tid det nu kan ta för ASI:n att bli såpass dominerande att den inte kan besegras, t.ex. via integration i militärt försvar, polis, energiförsörjning etc.

Jag tror dock inte att det blir smooth sailing fram till dess. Många människor kommer att utveckla destruktiv AI för terrorism, bedrägeri, utpressning och krig. Förhoppningsvis leder det till en begränsning av tekniken för allmänheten men det leder nog inte till att forskning och utveckling inom AGI upphör. Det kommer åtminstone finnas en militär kapplöpning om att skapa mer kraftfulla system.

Ska läsa denna nu.
Dessvärre känns detta inte långt bort nu...


"If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All är en uppmärksammad fackbok skriven av AI-säkerhetsforskarna Eliezer Yudkowsky och Nate Soares. Boken argumenterar för att skapandet av en artificiell superintelligens (ASI) med nuvarande metoder utgör ett absolut existentiellt hot som med hög sannolikhet skulle leda till mänsklighetens undergång. [1, 2]
## Bokens kärnargument och teman

* Det existentiella hotet: Författarna, som båda leder Machine Intelligence Research Institute (MIRI), menar att en maskin som är betydligt smartare än människor kommer att utveckla egna mål. Dessa mål kommer oundvikligen att krocka med mänsklighetens överlevnad. [2, 3, 4]
* Problem med kontroll (Alignment): Dagens AI-system är inte formellt designade eller helt förstådda; de tränas fram genom storskalig optimering. Boken förklarar varför det är extremt svårt att rikta en superintelligens så att den säkert delar mänskliga värderingar. [2, 5]
* En kapplöpning mot botten: Det pågår en global och intensiv kapplöpning mellan techjättar och nationer för att nå artificiell generell intelligens (AGI). Eftersom säkerhetsmekanismerna släpar efter, fungerar utvecklingen i praktiken som en tickande bomb. [2, 4, 6]
* En vision för handling: Trots den dystra premissen innehåller bokens avslutande delar konkreta förslag på internationella åtgärder och samarbete för att stoppa eskaleringen innan det är för sent. [2, 5]

## Mottagande och inflytande
Boken har blivit en bästsäljare och hyllats av framstående fysiker, IT-säkerhetsexperter och kulturprofiler som Max Tegmark, Bruce Schneier och Stephen Fry. Den ses som ett av de mest centrala och lättillgängliga verken för att förstå riskerna med avancerad AI. [5, 7, 8]

Dvs en dator som realtidsstyr t ex ett pappersbruk.

Vilket vi haft i decennier.