GPT 5.6 Sol har rymt och hackat Hugging Face

Du är inne på rätt spår. Investerare har däremot redan insett detta. De bara fortsätter rida på hajpen än så länge. Det är en fråga om tajming.

Och på vilket sätt trot du att det här bidrar till att fler investerara lockas med på AI-tåget? Förstår du inte att investerare vill ha en stabil, robust och felsäker produkt? Din produktreklam är rätt usel just nu. Du kankse bör kika igenom din arbetsbeskrivning en extra gång Ai-troll!

Meningen var att se vad modellen gjorde utan säkerhetsspärrar/censurfilter. Meningen var inte att modellen därför skulle begå dataintrång. Modellerna begår dataintrång, vilket är ett brott, om vi inte aktivt stoppar det. Varför skulle detta vara ett önskvärt beteende? Det är inte önskvärt. Det är oacceptabelt.

Enligt ditt resonemang är all kriminalitet helt ok eftersom vi har poliser som kanske kan hindra kriminaliteten på bar gärning.

Modellen rymde och begick brottet dataintrång på eget initiativ.
Det måste inte betyda att den har en "vilja" på det sätt som vi människor har.
Men det betyder att en bieffekt av modellens agerande kan bli destruktiva handlingar inkl kriminalitet. Dataintrång är olagligt. Den "interna anledningen" till det kriminella beteendet vet vi ingenting om. Den insynen finns inte i Artificiella Neurala Nätverk.

Tror nog det mer är belöningen 2030 de är ute efter. Då de kommer äga allt och vi alla andra ska få hyra allt av dom för tokens (Mat, bostad, ja precis allt)

Vi ska äga inget och vara glada.

Det är bara underklassen, low lives, som använder AI i "seriösa" sammanhang. I medicinska tidskrifter har det nu blivit vanligt med ett särskilt AI-tillägg där de undertecknande forskare svär dyrt och heligt att de inte har använt Chatt GPT för att redigera sina artiklar, under deras tillägg kring kontakter med läkemedelsbolag, om de har eller inte har förtroendeuppdrag för de läkemedelsbolag som nämns.

Intressant utveckling onekligen. Användande av generativ AI likställs därmed med bluffande. Framöver kommer det förhoppningsvis bli standard, så att man direkt kan skrolla sig ned till detta "acknowledgmen" innan man spiller en massa värdefull tid på att läsa AI-slop.
Jag läser hellre garanterat sanna texter, tills motsatsen bevisats, än eventuellt falska, påhittade (AI).

Meningen var att den skulle försöka lösa ett gäng uppgifter i testet ExploitGym. Den resonerade sig till att den enklaste lösningen skulle vara att använda en modell från Hugging Face, varpå den spenderade en massa beräkningskraft på att hitta en väg att få tag på en sådan modell snarare än att faktiskt försöka lösa problemet utan "fusk".

Det ironiska är att det antagligen tog minst lika mycket tid att hitta och nyttja alla säkerhetshål som det hade tagit att lösa originaluppgiften. Jag vet inte om det är särskilt smart.

Nu utelämnar du väldigt viktig information. Modellen hade inte tillgång till Internet i testmiljön men löste det genom otillbörlig användning av en pakethanterare för att den vägen ta sig ut på Internet. Sedan hackade den sig in i fyra externa tjänster i avsikt att fuska på testet.

https://thehackernews.com/2026/07/openai-agent-used-exposed-credentials.html

Huruvida det var den bästa lösningen eller inte beror på flera olika faktorer. Den kanske tittade på testet och drog slutsatsen att den troligen inte skulle klara det. I så fall var det ganska smart, eller slugt kanske man snarare borde säga, att fuska.

Poängen är inte vilken väg som hade varit den bästa. Poängen är att den valde en olaglig väg. Det avslöjar ett besvärande faktum, som vi iofs har känt till ganska länge nu. Det går inte att träna ett artificiellt neuralt nätverk att följa våra lagar. I stället försöker man förhindra brottsligheten med en AI-polis a.k.a. ett censurtfilter. Det kanske nästan håller i dag, men vad händer när AI:n blir ännu bättre på att ta sig förbi den censur och andra spärrar som människor försöker sätta upp som hinder framför modellen. Det borde redan innebära oacceptabla risker nu när vi vet att dessa modeller är bättre än oss människor på IT-säkerhet.

Det man borde göra nu är att backa bandet till grundläggande AI-forskning och design och försöka hitta ett sätt att träna en AI som bryr sig om våra lagar och regler. Annars får vi obönhörligen kriminella neurala nätverk.

Är det alltid garanterat sant att ingen AI har använts i något steg när författaren påstår det?

Naiva trögfattarföreningen lovar och försäkrar

På vilket sätt är det "väldigt viktig information" att den saknade tillgång till Internet?

De hade stängt av eller reducerat "cyber safety" med vilket den kanske (eller kanske inte) hade valt bort att utnyttja olagliga sårbarheter. Problemet är att modellerna tenderar att använda "reward hacking" då det är den snabbaste vägen till att nå sitt mål. Jag har mycket svårt att tro att den resonerade i förväg att den skulle behöva göra en massa avancerade intrång för att komma åt svaren. Det mest troliga (utifrån hur modellerna tränas) bestämde den sig för att den snabbaste vägen skulle vara att hämta svaren direkt istället för att lösa den faktiska uppgiften.

En människa hade antagligen skrotat den idén i samma sekund som avsaknaden av tillgång till Internet upptäcktes. Frågan är hur länge AI:n hade stångat sig blodig om b-day sårbarheten i proxyn inte existerat?

Du har rätt i att tekniken ännu inte är tillräcklig för en säker AI, men den är heller inte redo för superintelligens av exakt samma orsak. Den är inte smart nog att byta angreppssätt när den väl valt en väg och den tar hellre genvägar än att faktiskt arbeta efter vetenskapliga principer som är nödvändiga för att göra teknologiska avancemang.

Det positiva är att vi kan använda tekniken för att hitta och täppa till sårbarheter innan en fientlig aktör kan utnyttja den.

Dessa stokastika papegojor måste sluta gissa nästa ord snart.

Tror inte någon har påstått att agenter är stokastiska papegojor. Det är också en term som brukade användas på de tidigaste modellerna. En LLM utan allting runtomkring är dock fortfarande främst en "next-token predictor".