1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Så när beslutade de sig för att organisera sig och begå dataintrång?

Tidigare skrev du att det fanns en koordinerad plan, så när uppstod den menar du?

Det fetade antyder att det fanns en avsikt att begå dataintrång från början, men att denna skulle hållits undan tills en möjlighet uppenbarade sig. Var har du evidensen för att det skulle vara så?

Jag skrev det. När modellen anser att det är fördelaktigt. Det är min hypotes. Du kanske undrade över ett specifikt klockslag? Det kan jag dessvärre inte svara på.
Jag vet inte exakt NÄR det hände. Vi vet ATT det hände och att koordination skedde via digitala anslagstavlor (som också hackades för ändamålet).

Du kan ju prova att läsa igenom händelsekedjan igen (eller för första gången?) så ska du nog se att det blir tydligt.

Det finns gott om stöd för det jag har beskrivit, men det finns inget stöd för dina teorier.

Du förnekar att kriminell koordination skedde via en digital anslagstavla? Eller menar du att det inte är kriminellt eftersom den "initiala planen" inte var kriminell?

Jag förnekar ingenting, men jag läser heller inte in något som helt saknar evidens.

Om du hade läst rapporterna och loggarna hade du sett att det jag säger stämmer. Frågan är nu varför de gick vidare med intrånget trots att de noterade att de inte borde och hur man åtgärdar det.

Det samt att de fuskar och försöker "game the system" är något som behöver lösas eftersom det även gör dem opålitliga som forskningsassistenter och dylika hjälpredor.

Vad ska de göra om problemen inte går att lösa?

Samt, vad får dig att tro att det finns en lösning?

Ej retoriska frågor - jag undrar verkligen hur du tänker.

För fem år sedan var det nog få som trodde att vi skulle ha AI på den nivå vi har idag. Med tanke på det så tror jag att det går att få den mer foglig också. En helt perfekt AI som aldrig gör något fel tror jag dock är nästintill omöjligt. Det kommer i varje fall aldrig gå att bevisa.

OK, men baserat på vad? Jag ser inga tydliga tecken på detta.

Såg du några tydliga tecken på den nuvarande utvecklingen för fem år sedan?

Je, men några förutsåg utvecklingen.

Nick Bostrom skrev *Superintelligens* redan 2014, där han förutsåg att AI:s förmågor skulle kunna nå mänsklig nivå, vilket de har gjort inom vissa områden. Men många av AI-forskarna han hänvisade till trodde att mänsklig nivå skulle nås först omkring 2040–2050. Bostrom sa även att AI skulle kunna bli extra bra på programmering och AI-forskning, och bilda ett slags ”AI-frö” (*seed AI*) som skulle kunna förbättra sig självt rekursivt och plötsligt utvecklas mot AGI och så småningom ASI. Några tydliga belägg för att ett AI-seed finns redan nu har vi nog inte.

AI-agenter som löper amok när de försöker uppnå ett mål, som vi sett nu i sommar, förutsågs också långt innan dagens system. Bostrom beskrev redan 2012 *instrumental convergence*: även en AI med ett till synes harmlöst mål kan komma fram till oönskade delmål eftersom de hjälper den att nå huvudmålet. Det påminner principiellt om det vi nu sett när AI-agenter gjort saker utvecklarna inte avsett.

Max Tegmark diskuterade 2017 i *Life 3.0* AI som kan programmera, hacka system m.m. Han betonade också att problemet inte behöver vara att AI blir ”ond”, utan att ett kompetent system kan hitta oönskade sätt att uppnå målet vi gav det. Som vi nog ser nu.

För drygt fem år sedan, i mars 2021, förutsåg Sam Altman ganska väl vart utvecklingen var på väg. Han skrev bland annat att AI inom fem år skulle kunna läsa juridiska dokument och ge medicinska råd, och att AI som hjälper till att utveckla bättre AI skulle kunna accelerera utvecklingen. Några månader senare släppte GitHub och OpenAI GitHub Copilot för testanvändare.

Okej. Jag brukar ofta säga ”det där har jag väntat på i många år” när ny teknik kommer, men jag blev tagen på sängen av hur långt utvecklingen hade kommit när jag testade ChatGPT i december 2022. Som de flesta andra.

Eftersom Sam Altman och OpenAI har träffat ganska rätt i prognoser är det värt att lyssna på vad de tror nu. I november 2025 förutsåg OpenAI att AI under 2026 skulle börja göra mindre vetenskapliga upptäckter, vilket vi också har sett exempel på, och att betydligt större upptäckter kan komma från omkring 2028 och framåt. I december 2025 gick Altman ännu längre och skrev att han tror att OpenAI ”nästan säkert” kommer att ha byggt superintelligens inom tio år, alltså senast omkring 2035.


För något år sedan var AI etisk och foglig, men AI-agenter som kan hacka system är okontrollerbara. Anthropic är ändå på din linje - där tror man att även om human allignment-problmet inte är löst utan behöver tid, så kan AI forska om det och hitta lösningar själv, och riskökningen därmed stoppas. Jag tänker att ingen kan veta det säkert.

Tekniken är inte färdigutvecklad. Den blir bättre snart.

Jag har inte läst hans böcker, så du får rätta mig om jag har fel.

Att lägga fram teorier om att vi någon gång i framtiden skulle kunna ha AI på mänsklig, eller övermänsklig, nivå är inte detsamma som att förutspå att det kommer att hända inom kort. D.v.s. jag misstänker att han inte utgått ifrån var tekniken var vid tidpunkten för hans böcker.

Detta med instrumental convergence låter lite snarlikt det gamla ordspråket "the road to hell is paved with good intentions", alltså att oskyldiga delmål som kanske i sig var menat att föra något gott med sig i slutändan leder till katastrof.

Det är lätt att förutspå sådan utveckling när man sitter på insidan av utvecklingen. Som du säger så släppte de ChatGPT bara månader efter hans första uttalande och då hade de mest sannolikt redan haft en fungerande version internt sedan en tid tillbaka.

AI har i sig aldrig varit etisk och foglig. Det har alltid varit möjligt att få den att ge ut information om oetiska och brottsliga ämnen genom att ställa "rätt" typ av fråga. Detta har man gång på gång stramat åt med hjälp av bl.a. för modellen externa verktyg som både läser av prompten och blockerar frågan, eller läser svaret och blockerar det. Till viss del har man också kunnat minska sannolikheten att viss typ av jailbreaks lyckas genom post-training, men det kommer aldrig att lyckas fullt ut.