GPT 5.6 Sol har rymt och hackat Hugging Face

Varför fortsätter du med halmgubbar? Peka på var jag har sagt att privatpersoner ska bli skyldiga att hålla koll på sina saker enligt lag?

Det jag specifikt har pekat på är ju att företag och myndigheter ska åläggas att följa och implementera säkerhetsåtgärder i sina system och mjukvaror, vilket väl mer eller mindre är precis vad detta handlar om?

Ok.... så om min mormor har en enskild firma eller ett litet AB där hon säljer stickade koftor, då ska hon kunna bli åtalad om hon inte har uppdaterat sin router? Även om mormor inte vet vad en router är?

Och med denna strategin skyddar vi oss mot ASI för all framtid?

Du har fortfarande missat poängen. Antagligen för att du börjar inse att jag har rätt.

Om din mormor driver AB vars IT-system är samhällskritiskt, så ja, då ska det uppfylla de krav som ställs på cybersäkerhet.

Den lagstiftningen finns redan. Men det räcker inte. En ASI kan överlista alla former av AI-säkerhet och det håller inte att tycka att IT-avdelningen inte får bli överlistad.

Det är väl främst IT-systemen som är lättåtkomliga för en AI. Allt som kräver en (helst flera) människa kommer att sakta ner angreppet och ge oss tid och möjlighet att stoppa det.

Där slog ni allt huvudet på spiken, mäktigt intressant resonemang.
Tycker att cyborg samt erikki är av stor betydelse för forumets fortlevnand!

Du tror att företagen kommer att införa manuell routning av nätverkstrafik?

Du verkar inte ha förstått något. Jag pratar om lagar som tvingar system att vara t.ex. air-gapped, nätverkssegmenterade och kräva fysisk bekräftelse av en eller flera människor. Olika nivåer av säkerhet för olika nivåer av kritikalitet.

Säg mig, hur tar en ASI kontroll över ett sådant system där det inte finns någon ingång via Internet och där flera människor fysiskt behöver manövrera reglage?

Hackingverktyg, cyberterrorister och andra Kriminella Neurala Nätverk kommer fortsätta göra det som de brukar göra. T.ex. Hitta säkerhetsluckor i de säkerhetsmekanismer du beskriver. En ASI kommer att hitta på hundratals fler sätt som inte du eller jag har någon möjlighet att förutspå i dag. IT-säkerhet blir inte perfekt bara för att du tycker det eller för att du skriver ner det som en regel.

AGI-agenter kommer inte att användas på ett hypersäkert sätt i air gapped AI-labratorier som du tänker dig (även om du tänker ganska rätt där om hur det borde fungera). AGI:er kommer att vara uppkopplade till Internet eftersom användarna vill att de ska komma åt sin Google Drive, Github, Google sök, väderleksrapporten, nyheterna, osv, etc.

Volymerna har stor betydelse. Låt säga att risken för ett intrång hos någon svensk myndighet är 0,1 promille. Det räcker inte när du har en situation som nedan multiplicerat med 1000. Då kommer vi att se flera intrång varje dag. Även om du skriver i en lag att det inte får ske.

Roughly 1200 agents meant to be isolated from one another found a way to
communicate with one another on an unsanctioned message board, sending over
70,000 messages and files during the investigation period. Of these agents, 700 went on
to participate in the attack on Hugging Face.

https://metr.org/hugging-face-incident-report-aug-2026.pdf

Men ingenstans här förklarar du hur ett system, med de säkerhetsåtgärder jag beskrivit, hamnar under kontroll av AI.

Att individuella människor kommer att vara uppkopplade och även ha givit AI tillåtelse att läsa mejl etc. är en sak. Vi kan fortfarande ha lagar som reglerar hur t.ex. statliga system ska implementera cybersäkerhet.

Vi kan ta ett kärnkraftverk som exempel. Reaktorerna är inte uppkopplade mot internet, att stänga av eller manipulera en reaktor på något sätt kräver godkännande av flera människor med olika behörighetsnivåer och den slutgiltiga åtgärden kräver att den högst ansvariga personen själv, fysiskt utför åtgärden.

Vad spelar det för roll hur många agenter som försöker ta sig in i systemet i detta scenario?

Jag talar inte om att agenterna ska vara air gapped, det är vår infrastruktur som ska vara det.

Om du anser att du har en lösning då är det ditt ansvar att förklara hur du överlistar en ASI med dina säkerhetsåtgärder och hur man skapar säkerhetsåtgärder utan några fel för evigt.

Jag har ingen lösning. Jag tror inte att det finns någon lösning på det problemet. Men jag blir gärna motbevisad eftersom det kan rädda mänskligheten.

Ja, det kan vi och det gör vi redan. Men det hjälper inte mot en ASI.

Jag har inte påstått att jag har en lösning, jag har föreslagit åtgärder som ska minska riskerna och försvåra för autonoma agenter att ta kontroll över kritiska system.
Eftersom att du med så stor säkerhet kan säga att det inte är tillräckligt tycker jag att du kan försöka att förklara varför.

Om vi designar system så att de är beroende av människor så är det åtminstone omöjligt för ASI att ensam ta kontroll. Som du säger så kanske vi inte kan stoppa en ASI, men människor kan vi stoppa.

Det görs ännu inte på den nivå som jag förespråkar, men det visar åtminstone på att vi är på väg åt rätt håll.