Trump stoppar GPT 5.6

En svag inbromsning är bättre än ingen broms. Men man ska inte därför inbilla sig att vi överlever AGI. Det gör vi inte. Vi kanske lever ett par år längre om man börjar bromsa nu.

Vi vet inget säkert – detta är otrampad mark utan historiska jämförelser. Därför uppskattar jag P(doom) till ungefär i samma storleksordning som P(survival).

Teknisk utveckling har resulterat i livsfarlig teknik många gånger. Men mänskligheten har lyckats hindra många katastrofer när riskerna blivit tydliga. Efter andra världskriget har vi hittills undvikit kärnvapenkrig och krig inom EU - vi lärde oss att det slutade i katastrof sist. Vi stoppade ozonhålets tillväxt, hjärnskador från blyad bensin, försurningen, DDT, PCB och kvicksilver. Vi har sträng kontroll av nya mediciner, flygsäkerhet och kärnkraft. Än har vi inte stoppat knark, artdöd och klimathot mot tropiska länder, men om Kina talar sanning så har deras CO₂‑utsläpp slutat öka sedan två år, vilket minskar risken för de värsta klimatscenarierna.

Att Anthropic försökte hindra USA från att använda deras AI‑verktyg för vapen beror sannolikt på rädsla för bojkott från kunder och anställda. Just nu är AI-företagen mer rädda för bojkott från regeringen. I vilket fall är de rädda att förlora kapital, och kanske även ärligt oroade för sin egen teknik. Men motiveras av tanken att det är bättre att USA utvecklar tekniken först än Kina.

Minskar P(doom) av att USA ligger före Kina, eller ökar den?

Det spelar ingen roll vem som bygger det som dödar oss. Om din p(doom) är 50% borde allt fokus ligga på att stoppa detta, inte att dividera om petitesser.

Det är bra att du har rört dig åt rätt håll, nu behöver vi bara övertyga några hundra miljoner till.

Ja, eller ett par hundra regeringar och deras ansvariga myndigheter.

Om vi verkligen lyckas med det, menar du att vi då har en chans att överleva, elelr bara att vi fördröjer det ofrånkomliga slutet?

Min egen rädsla ökade när jag insåg vad autonoma kommunicerande AI-agenter kan ställa till med. Samtidigt blev jag lite tryggare när jag lyssnade på hur kolleger som gjort experiment med att utveckla AI-agenter resonerar. De har upptäckt incidenter och ser dem som onödigt riskfulla och sällan som användbara, utan rekommenderar istället icke LLM-baserade bottar för många tillämpningar. Så det finns en medvetenhet bland utvecklare och forskare. Amerikanska regeringens beslut ingav ändå mer hopp för mänskligheten.

Jag tror inte att vi kan stoppa AGI. Allt för många kommer att vara övertygade om att detta är vägen framåt. De kommer vara berusade av tanken på att bota alla sjukdomar och att förstå allt om universum. Eller att kunna arbeta mindre och ha mycket mer semester. Försvarsmakterna måste gå i takt med sina konkurrenter. När Kina har militär AGI måste NATO också ha det. Många kommer att protestera. Förbud kommer att införas här och där. Men det går inte att stoppa allt och alla hela tiden och för alltid. Speciellt inte för alltid. Att vi tappar kontrollen ser ut som en tidsfråga. Jag hoppas bara att jag hinner leva klart först.

Dom kan göra den "förbjuden" för att inte tappa trötta investerare

Vad baserar du detta på? Din foliehatt?

Precis det som pågått hela tiden sedan Open AI började.

Musk och Paltman orerar i media om vilken farlig grej dom har på gång. Och så läser folk detta och drar en helt annan sluttsats (vilket Musk och Paltman naturligtvis vet). Dom ser att detta får stor ekonomisk påverkan och betalar vad som helst för att få ägarandelar.

Ganska enklet men massor verkar inte förstå det minsta.

Ja, det finns gott om andra förklaringar än någon slags säkerhetshänsyn.
Trumpregimen är ju inga hjärnforskare direkt och har tidigare brustit rejält i säkerhetsfrågor.

Och Amodei gör sitt där också... Nu har han ju också gett sig på open source, tillvägagångssättet är väldigt likt hur vissa andra höll på för några år sedan.

Chatgpt är totalt oduglig i allt, den använder sig inte av realtids information utan använder till största del gammal data den pumpar in i folks hjärnor. Gör er en tjänst och använd inte skiten sålänge ni inte källgranskar allt den skriver.

Du menar på fullt allvar att både Open AI och Anthropic har mutat de amerikanska myndigheterna att stänga ner sina senaste modellanseringar som de nu inte kan tjäna några pengar på, samtidigt som de ligger många miljarder back?

Ta av dig din foliehatt, den ser inte bra ut på dig.