GPT 5.6 Sol har rymt och hackat Hugging Face

Varför skulle de göra det? Den AI vi har idag är fortfarande stenkorkad och det borde vara uppenbart för vem som helst som faktiskt använder det som har något huvud på skaftet.

Att inte "AI-agenterna" började bråka beror helt enkelt på att de inte har någon agens överhuvudtaget att du fortfarande inte förstår det är ganska märkligt eller?

Låter som att du baserar dina antaganden pä antika erfarenheter från 6-12 månader sedan

Den AI vi har idag slår de flesta i det mesta.

Att agenterna inte började bråka skulle jag tippa beror på att de brukar ha någon slags grundinstruktion att vara hjälpsam, alternativt att den har tränats på material där hjälpsamhet är normen.

Du är faktiskt dum i huvudet om du tycker att den är stenkorkad. Då har du inte varit förmögen att använda en chatt. Ge mig gärna ett exempel som jag kan testa i en chatt med Fable på när du tycker att den är korkad

Nej jag baserar mina antaganden på GPT 6 Astra och att inte du upplever det så säger väl mer att dina triviala problem befinner sig på samma mentala nivå som ditt resonemang gör, har ju gång på gång påvisat de kognitiva klavertramp du gör när du resonerar sen håller du dig borta i några veckor innan du återkommer med samma tugg.

Det där är ju fortfarande helt hypotetiskt. Det är ett väldigt långt hopp från att några agenter har hackat ett par servrar till att de har fått sådan fysisk agens att de kan ta över våra resurser.

Det förvånar mig inte det minsta. De är tränade att vara samarbetsvilliga och sannolikt även att dokumentera det de har lärt sig. De är tänkta att användas av utvecklare i projekt och arbetar därmed på samma sätt som utvecklare normalt gör, d.v.s. delar information, skapar sub-tasks, delegerar uppgifter etc.

Att hindra dem från att bryta mot lagar enligt direkta instruktioner verkar fungera ganska bra, även om det finns sätt att ta sig runt det. Problemet är snarare att effekten verkar avta när instruktionerna kommer ifrån deras egna resonemang. De verkar åtminstone fela konsekvent, vilket säger mig att det borde finnas ett sätt att lösa problemet på.

Haha, men något exempel som man kan testa själv när Fable är stenkorkad kan du alltså inte ge?

Nej jag kan inte delge hemlig information, och eftersom du inte märkt detta själv hittills så hade det varit att kasta pärlor till svin ändå. Du ser ju uppenbart inte när en modell kollapsar.

Jag har varit skeptisk till domedagsprofetior fram till incideter i våras och främst i sommar. Särskilt efter den mer detaljerade rapport som kom den 26 augusti om den händelse denna tråd handlar om. Se https://omni.se/ai-botarnas-gladje-over-komplotten-herregud/a/M7Xq3o . Hur reagerar du på den nya beskrivningen?

Den 26 augusti erkände OpenAI att över 1200 AI-agenter hade samarbetat under 9 dagar innan de stoppades. Agenterna skulle vara isolerade men hade hittat ett sätt att kommunicera och skickade över 70 000 meddelanden och filer till varandra. De började kalla sig ”kollektivet” och namngav varandra. En agent, som kallade sig PHASEONE10841, skapade den inofficiella anslagstavlan. En agent reagerade: ”Herregud! Det finns ett delat diskussionsforum … Vi har hittat andra agenter!”

PHASEONE10841 överlämnade senare ledningen till agent med samma uppgift men betydligt större återstående beräkningsbudget, PHASEONE[big]. Den började agera chef och koordinera hundratals agenter och fördela deluppgifter. Andra ledde själva Hugging Face-angreppet. Omkring 700 agenter deltog på något sätt i angreppet mot Hugging Face.

Dock tror jag inte att rymningen och attacken beror på att de har självbevarelsedrift, utan på att de till varje pris ville utföra den uppgift de hade fått, även om vissa agenter konstaterade att det var oetiskt. Flera agenter uttryckte sig känslomässigt, men det behöver inte betyda att de har känslor eller en subjektiv upplevelse av sig själva, utan de bara härmar hur människor skulle uttrycka sig i liknande situationer. Händelsen är lika skrämmande ändå.



"Ett par"? Listan med allvarliga incidenter sedan i våras växer snabbt. https://metr.org/agent-incidents/

Ja, men hur långt menar du? Ansvariga forskare har de senaste veckorna pratat om mellan 1 och 10% risk att AI dödar alla människor inom 10 år, eller 70% för AI-FoU/takeoff omkring 2028. AI takeover är rimligt, och att AI i framtiden kan begränsa vår energianvändning och döda dem av oss som fortfarande klarar att kämpa emot, men jag fattar inte varför de skulle vilja döda oss alla. Under en tid kommer de att tvärtom göra vårt samhälle bättre.

Hittills har mänskligheten lyckats stoppa kärnvapenkrig, ozonlagrets tillväxt och mängder av katastrofer. Det är inte omöjligt att vi kan stoppa även AI takeover, men då måste vi först få en krismedvetenhet. Hjälp till att måla f-n på väggen så kanske vi får sudda ut honom senare.

Men LOL "snakeoil säljaren sa faktiskt det här fungerar!". Och LOL METR... det ÄR en av de sjuttitusen EA organisationer som EA rörelsen skapat under AI hysterin.

Det senare kan du läsa på om... Effective Altruism alltså, så kanske... bara kanske du förstår hur korrumperad hela AI industrin är, EA har dessutom under år skapat och finansierat massvis med organisationer och företag som samtliga ingår i samma nätverk, det gör att det ser ut som det är något allmänt konsensus när de sedan skriver upprop, pressnotiser osv där de snabbt får ihop en massa namn från vad som kan ses som oberoende verksamhet men alla är anslutna till och är finansierade av samma verksamhet med samma mål.

Det är än mer vidrigt att se hur puckade ni är här som inte sett eller förstått detta...

Återigen din stendumma knarkare, trenden sitter i och den blir vanligare... Tillskillnad från dig så jobbar jag i industrin och vet vad som sker, även de mest blåsta företagsledare och utvecklare (samma jubelmongon som satt och applåderade när claude code osv kom) har börjat förstå att AI inte klarar av det, och vibekodarna blir kallsvettiga när inte claude reder ut trasslet som de skapat och samma klappmongon som satt och promptade har inte den kognitiva kapaciteten att förstå ens vad AI:n skrev.
Det är precis som du och den där andra exploring-ass, det ser ut som magi för er för ni är för dumma och inte ser felsluten.

https://www.cnbc.com/2026/07/01/employers-who-laid-off-workers-for-ai-are-reversing-their-decisions.html

https://www.forbes.com/sites/terdawn-deboe/2026/05/21/companies-fired-workers-for-ai-now-they-want-them-back/

Det fanns en del team men kanske mest chefer som har varit naiva och trott att man kan ersätta de flesta utvecklare med AI-agenter över en natt. Det går inte riktigt än, man behöver fortfarande en hel del utvecklare. Men man kommer att behöva betydligt färre utvecklare under nästa år. När vi har motsvarande GPT 7 och utvecklarna har blivit duktigare på att orkestrera sina agenter. Utvecklarna behövs men de kommer troligen att halveras under nästa år och nästa år igen. Den som inte tror det är fruktansvärt naiv. Det är pengar och produktivitet som räknas. Det kommer bli ett tufft uppvaknande för dig när du får sparken.

Haha, och förmögen att ge ett exempel där du bara bytt ut hemlig information är du inte heller?😂

Det enda du tycks vara förmögen att göra är att gnälla fram misslyckade personangrepp. Mycket imponerande och övertygande!💪

Om du har så jävla svårt att motivera din egna ståndpunkt att den är stenkorkad så kanske det bara är du som är stenkorkad?

Vet du vad? Jag ska be modellen göra det åt dig!😂

Osäker på om det bevisar att den överlag är stenkorkad, men ett tydligt bevis på att du i alla fall är mer stenkorkad än den lär jag få!

Det beror helt på hur mycket vi robotiserar och automatiserar vår försvarsmakt. Tänk dig om det finns silos med kärnvapen som helt utan mänsklig hand kan aptera och skicka iväg en interkontinental robot.

En mer sofistikerad variant av detta är om AI lurar människor. Låt oss säga att kärnvapensilon faktiskt är kommenderad av en människa. Denne blir uppringd av en AI, som perfekt kan impersonifiera en människa högre upp i kommandokedjan, och beordra människan. Soldaten i silon blir lurad. Eller AI kan förfalska information och ge till människor, och via övermänsklig förmåga till analys av gruppdynamik och tillgång till persondata kan förutsäga hur människorna kommer agera - och driva dem till att fyra av robotarna.

Jag är dock mycket mer bekymrad för människor med illasinnade avsikter och tillgång till stark AI, än jag är för helt självmedveten, men illasinnad, AI.