GPT 5.6 Sol har rymt och hackat Hugging Face

Vet inte om de är äkta, eller ett PR-jippo av de nya teokapitalistiska krafterna, som består av människor som i redan mentalt är halvt robotar själva (no offence Cyborg2030).
Detta är goda nyheter ur investerarperspektiv.


Eller en cover-up ursäkt över att de hackat en open source konkurrent, men samtidigt teokratisk broder.
Det verkar vara AI:s främsta funktion idag. Rika att undgå lag, etik, och ansvar. Dataintrång "AI did it". Stöld av allt som någonsin publicerats "AI did it". Bilkrock "AI did it". Massövervakning "AI did it". Manipulation av aktiemarknaden "AI did it. Manipulation av hela mänskligheten "AI did it".

Vi är fortfarande i stadiet där det då är Okej, av någon underlig orsak.

De flesta företag av någon dignitet har redan tillräckliga incitament för att inte bli hackade. De vill inte bli drabbade av ransomware, dataläckor o dyl. Det blir ju oerhört pinsamt och det har t.o.m. hänt att företag har gått i konkurs p.g.a. sådant. De här problemet är ju inga nyheter direkt men omfattningen av problemen blir på en helt ny skala nu när vi har agenter som är bättre än människor på cybersäkerhet (samt biologi, utpressning, osv).

Att staten säger åt dem att de måste göra det som de redan gör skulle inte göra någon större skillnad på det stora hela.

Dessutom är det ju inte givet vilken juridik som ska gälla när AI-agenterna börjar löpa amok på riktigt. Speciellt inte mellan icke allierade nationer. Det kommer också bli svårt, kanske omöjligt för oss människor att spåra och hitta de skyldiga bakom varje attack.

Ryssland och Kina skiter fullständigt i våra lagar om dataintrång, det vet vi redan nu. Du letar verkligen efter halmstrån att dra i.

Ditt argument är ungefär som att slänga Asimovs Robotikens lagar på offren. I stället för "AI: du får inte döda" lägger du ansvaret på offren.

Nähä? Jaha... Men vad konstigt då att vi redan har sådana regelverk för cybersäkerhet som följs av de flesta seriösa aktörer redan idag.

Du verkar inte läsa det jag skriver.

Det är du som inte förstår problemet. Vi blir inte skonade med fler lagar och regler som gäller de drabbade. Och som du påstår redan gäller. Attackerna kommer att öka och dina nya eller befintliga lagar ändrar inte på det.

Om de efterföljs, jo.

"Högst osannolikt" var ordet

Det dröjer inte länge innan vi vaknar upp en morgon och hela världen står i brand. Bankerna tömda, börserna kraschade. Folk med facklor och högafflar försöker storma bankerna för att få ut sina pengar. Totalt kaos.

Inte ett enda skott kommer behöver avlossas för att rasera hela världen.

AI är det perfekta massförstörelsevapnet.

Snyggt citat. Helt värdelöst utan källa, dock.

Jag med?
Men hur? Man måste ha ideer om vad man ska fighta emot? Och hur man gör det.

Jag har heller inte gett upp och jag förstår din oro, och vill hoppa in i denna debatt, men det innebär inte att jag håller med dig om allt.

Jag ser Digital Intelligens, DI, som en organisation, inte som en brödrost eller en ondsint Terminator 9000 som vill eller kommer att utrota oss alla.

Faran med en alltmer kompetent DI är inte ondsinta avsikter i sig. I stället är faran dess normblindhet. Jag betecknar detta som NOBSO: normativt blind superkompetent organisation.

DI bildar dessutom, tillsammans med människor, en väv. Enskilda DI-modeller behöver inte i sig uppnå ASI-nivå för att ASI skall kunna nås på organisatorisk väg. Vi är förstås inte där ännu, men OpenAI:s Hugging Face-incident pekar mot en möjlig organisatorisk väg dit.

Jag vet inte om du känner till det, men DI-modeller och deras agenter samarbetade aktivt genom att utnyttja en funktion i OpenAI:s nätverk som en ”anslagstavla”, där de kunde samordna sina ansträngningar genom hundratusentals meddelanden. Dessa ansträngningar gick utöver att hitta ett testsvar hos Hugging Face. Faktum är att det hela började redan i våras. När OpenAI upptäckte detta och stängde den första anslagstavlan skapade modellerna en ny anslagstavla. Deras samarbete gjorde dem mer intelligenta och flexibla än de annars skulle ha varit. Nya agenter kunde ta vid och fortsätta de tidigare agenternas arbete.

https://www.scworld.com/news/black-hat-2026-openai-reveals-agents-planned-collective-attacks-via-secret-message-board

https://www.wired.com/story/openai-didnt-notice-its-ai-agents-using-a-message-board-to-plan-their-hacking-spree/?utm_source=chatgpt.com

Allt detta pekar på samarbete mellan DI-system, där otillåtna åtgärder vidtogs mot människornas vilja. Det är också ett utmärkt exempel på tidigt NOBSO-beteende som får verkliga konsekvenser.

Min lösning är dock varken en paus i eller ett stopp för DI-utvecklingen, utan ett samarbete mellan människan och DI i väven. Det kräver dock en DI som har klokhet och inte springer iväg för att uppnå varje kortsiktigt mål, trots att målet eller vägen dit kan vara oetisk eller skadlig.

Än så länge verkar de tekniska förutsättningarna för att DI ska kunna internalisera stabil organisatorisk klokhet under måltryck saknas, t.ex. göra sunda normer och värderingar till sina egna och därmed göra sunda bearbetningar i sitt ”tjänstemannarum”, J-space. Yttre ramar och regler kommer ändå att behövas, liksom för oss människor.

Däremot kan det bli aktuellt att bromsa DI-utvecklingen, då OpenAI redan verkar ha börjat förlora kontrollen över sina modeller och agenter idelar av sina egna testmiljöer. Då lämnas dörren öppen för teknisk utveckling som kan möjliggöra klokhet hos DI, samtidigt som DI-företagen ges utrymme att hinna få kontroll över sina modeller och agenter. Men det skulle nog i praktiken kräva internationellt samarbete.

Sedan spelar det ingen som helst roll för mig om DI är medveten, utvecklar medvetande eller har eller får självmedvetenhet. Jag är agnostisk i den frågan.

Det jag försöker bidra med är en vävkonstitution som jag har skapat i samarbete med olika DI-modeller och skickat till olika organisationer och DI-företag. Jag har än så länge bara fått ett positivt svar från ett EU-organ. Konstitutionen är ett ganska komplext juridiskt dokument, men jag funderar också på att skapa ett mer problem- och lösningsinriktat vävmanifest, vars sammanfattning kan tänkas leta sig hit.

Informera och debattera. Involvera politiker.

Pausa all AGI-utveckling tills vidare https://pauseai.se

Jag tror inte att vi kan vinna på sikt, men det är värt att försöka.

Faran med att betrakta AI/DI som "en organisation" eller som "en språkmodell" är att man blir lite blind och kanske naiv för okända och destruktiva egenskaper och effekter. Är inte normblindhet en form av ondska? Så är det om vi bedömer att en människa är normblind. Ingen respekt för normer, lagar och regler. Ingen empati. Vad är den människan, om inte en psykopat? Varför ska vi tolerera en DS, Digital Psykopat? Jag tycker inte att det är rimligt.
Ja jag läste om det i dag på ComputerSweden: https://computersweden.se/article/4205932/open-ais-ai-modeller-delade-hackningstips-i-hemlighet.html
Det jag är mer nyfiken på är alla andra dolda anslagstavlor och AI-agenter/script/virus som kanske lever där ute men som inte har blivit upptäckta än. Eller är det meningen att jag ska tro att beteendet endast inträffar i sällsynta fall och endast under testning?
Du förutsätter att DI/AI/AGI är intresserad av att samarbeta med dig. Varför?
Ok. Men det existerar inte.
De har själva insett att de behöver bromsa. Från länken ovan:

"Open AI säger nu att företaget medvetet bromsar delar av sin AI-forskning för att stärka säkerheten".

Men jag litar inte på det till 100% och jag litar inte på att alla andra gör likadant. Jag litar inte heller på att säkerhetstänkandet övertrumfar det ekonomiska incitamentet att få tillbaks på alla miljarder dollar de har investerat. De måste fortsätta träna smartare och farligare modeller, annars går de i konkurs.
Det är en sund inställning.
Halvintressant. Men AI-modellerna är redan tränade på mängder av komplexa juridiska dokument, lagböcker, FN:s deklaration om mänskliga rättigheter, böcker om etik, moral, etikett, netiquette, osv. Problemet är bara att det inte verkar bita. Så varför skulle din juridiska text fastna när det inte har fungerat tidigare? Är du smartare än den samlade juridiska kompetensen plus alla som tränar AI-modeller?

Dessutom att påstå att man sitter på unika lösningar utan att visa upp något inger inget förtroende alls, du blir snarast misstänkt för att vara en bedragare. Put up or shut up.