GPT 5.6 Sol har rymt och hackat Hugging Face

Det har jag också förklarat tidigare. Även om man kanske inte kan täppa till exakt varenda säkerhetshål kan man ändå minimera hur mycket access och kontroll en angripare kan få genom bl.a. air-gapping, nätverkssegregering, krav på fysiskt godkännande av kritiska åtgärder, etc.

Det är såklart en risk, men även den kan mitigeras med de åtgärder jag har argumenterat för.

Halmgubbe

Det du tar upp är redan kända saker. Trots det uppstår det buggar och andra brister som skapar säkerhetshål. Det är positivt att vija höja nivån. Men det är inte rimligt att lagstifta så att det blir förbjudet att göra fel. Det är inte politiskt gångbart. Ingen politiker kommer driva ett sådant förslag. Du gör nog bäst i att släppa din autistiska tanke att det inte får förekomma några fel någonstans. Det kommer inte att bli så.

Vi kan däremot undvika att bli hackade av Kriminella Neurala Nätverk om vi helt enkelt förbjuder kriminell AI. Förslagsvis får någon myndighet, eventuellt en ny myndighet, i uppdrag att säkerhetstesta och bannlysa kriminell AI.

I stället för att skylla på väldtäktsoffret agerar vi mot de kriminella nätverken/sällskapen.

De har ju redan börjat med ungefär det i USA. Vi har dock ingen insyn i det arbetet och vad jag vet inget motsvarande i Sverige. Men det borde vi ha. Vi kan nog inte stoppa någonting på global skala men vi kan föregå med gott exempel och visa hur man borde göra.

Det blir lite som med svensk klimatpolitik. Den har egentligen ingen praktisk betydelse jämte Kina och Indien men om vi kan visa hur man kan minska utsläppen då kan vi förhoppningsvis påverka andra länder i rätt riktning.

Vi har redan liknande lagstiftning i bl.a. NIS2, varför skulle detta vara annorlunda?

Det är önsketänkande att vi någonsin ska kunna få en helt säker AI som absolut inte kan användas i illegalt syfte. Därför måste vi fokusera på det som faktiskt är deterministiskt. Det innebär inte att vi inte ska försöka att även skapa så säker AI som möjligt, men det kommer inte att vara tillräckligt. Att förbjuda utvecklingen är heller inte särskilt plausibelt, så vad återstår i sådant fall?

EU:s NIS-direktiv gäller framförallt offentlig sektor och kritisk infrastruktur. Det är inte ett generellt direktiv som gäller för alla och envar. Du kommer alltså inte få högre IT-säkerhet hos vanliga företag, föreningar eller privatpersoner genom direktivet. Dessutom kan direktivet ändå inte stoppa en extremt kompetent AGI-hacker. Det här är en ambitionsnivå, inte en garanti för att energibolag inte kan bli hackade av KNN (Kriminella Neurala Nätverk).
Det återstår att förbjuda AGI eller att dö.

Det är väl just kritisk infrastruktur som är själva kärnan i allt detta? Mänskligheten kommer inte att utrotas för att flashback inte lever upp till samma säkerhetsnivå som Ringhals.

Har man tillämpat den nivå av säkerhet som förespråkas så kommer man ha gott om tid att upptäcka ifall ett intrång har skett och då vidta åtgärder. Det kommer aldrig att finnas något som ett 100 % felsäkert system, utan det handlar om att bygga infrastruktur som är mycket svår att kompromettera utan att det hinner upptäckas.

Det blir ändå rätt kaotiskt om en stor andel av servrarna på Internet som inte tillhör "kritisk infrastruktur" blir hackade. Men det förstår inte du?

Problemet är att nästan alla system blir 50% "felsäkrade" när vi har en AGI som är mycket bättre än människor på cybersäkerhet. Det spelar ingen roll vilka lagar vi har när det händer. AI-modellerna har redan visat att de struntar i våra lagar.

Vad har AI för incitament att hacka diverse mer eller mindre obetydliga servrar? Bara för att de kan göra det betyder inte att de kommer att göra det.

Du glömmer att vi även kan använda tekniken i defensivt syfte och därmed ha agenter som kan skydda mot angrepp i realtid.

Lagarna är till för att säkerställa att kritiska system är svårare att ta sig in i och att, om ett intrång ändå sker, förhindra att de mest kritiska delarna t.ex. inte kan kommas åt via fjärrstyrning. Man kan också ställa krav på övervakningen så att det loggas på en nivå där det blir tydligt om oväntade åtgärder håller på att utföras. Kombinera det med egna agenter som sköter övervakningen och som också kan sätta in åtgärder som försvårar eller helt förhindrar vidare intrång.

Skillnaden oss emellan är att du vägrar acceptera något annat än helt ofelbara system och helt och otvetydigt säkra AI-agenter. Hur tänker du att ett förbud mot AGI-utveckling skulle implementeras? Hur stoppar du Putin eller Kim Jong-un ifrån att ändå utveckla AGI?

I flera tester har det hänt. Varför vet de inte exakt. Men jag tror att du har varit inne på det själv. Det är helt enkelt en helt logisk form av måluppfyllnad minus empati och minus respekt för lagar och regler. Det är inte mystiskt att man även får psykopatiska neurala nätverk när psykopaters och andra skurkars strategier finns i träningsdatat.
Det kommer man bli tvungen att göra. Det måste man redan nu eftersom människor inte har en chans mot de vassaste AI-modellerna. Men då uppstår ett oändligt cyberkrig mellan jämbördiga parter. Det kommer ju att märkas och den försvarande AI:n kommer inte att vinna varje slag. Om de är jämbördiga borde vi landa på 50/50. Dvs totalt kaos.
Vad är det som säger att vi ens kan uppnå 95% cybersäkerhet i det oändliga AI-kriget online? Eller den nivå som du tycker är rimlig.

Det har inte varit slumpmässiga intrång och de har endast varit ute efter precis det som behövs för att lösa det problem de haft som mål. Om man följer hela angreppskedjan som ledde till hacket av Hugging Face så har samtliga varit den sista möjliga utvägen för modellen att kunna lösa sin uppgift.

Återigen, jag försvarar det inte men det är intressant att försöka förstå.

Oändligt antyder att det skulle finnas ett oändligt antal sårbarheter i alla system, vilket inte stämmer. I slutändan kommer någon att stå som vinnare. Endera får angriparen kontroll eller så har försvararen lyckats täppa till alla hål.

Jag vet inte, men även 60-70 % är väl bättre än att inte försöka alls? Du kan ju själv inte ge något exempel på hur din föredragna strategi skulle implementeras och upprätthållas.

Håller dåren på än om samma sak, det var en månad sedan, och samtidigt släppte openAI sin Claude Desktop utmanare. knappast av en slump. Superbästa modellen reklam


Samt de uppdaterar modeller dagligen, det går så snabbt att systembyggarna inte får sina statiska filer att fungera . Men det som fake news igår. håller länge än vad som är äkta news varje dag.
Flytta fokus rätt, eller erkänn att ni bara tramsar på internet helt nakna utan funktion.

https://www.youtube.com/watch?v=qyPCVqFUyDo&list=WL&index=1

Nja, jag tycker inte att det är helt naturligt att en entitet med ~130 i IQ begår brottet dataintrång "som sista utväg" för att svara på ett test. Varför tycker du att detta är helt OK? En rimligare slutsats hade varit att inte fuska och speciellt inte att fuska genom kriminalitet.

Det är ju precis det här som är problemet just nu. Att du och flera andra inte bryr sig om att AI:n blir kriminell. I stället vill du kriminalisera de som blir attackerade?

Varför vill du inte hellre ha en AI som följer lagar och regler? Det måste vi ha ganska snart när AI:n blir betydligt smartare på allt.
Potentialen att hitta säkerhetsluckor är oändlig.
Jo, det kan jag. Vi har via FN rätt bra kontroll på vem som har kärnvapen och biologiska vapen. Det fungerar inte perfekt men det har fungerat tillräckligt bra för att undvika kärnvapenkrig. Det är rimligt att tro att man kan nå en liknande nivå på att kontrollera vem som har AGI. I värsta fall får vi börja bomba datacenter som inte vill samarbeta. Det är inte roligt men mycket bätte än att en ASI utrotar allt biologiskt liv.

Åhhh jistanses.

Det var i en "sandbox"-miljö. Den gjorde detta inom ramarna för själva sandboxen. Förstår du innebörden? Den hade inte gjorde detta i ett praktiskt scenario.