GPT 5.6 Sol har rymt och hackat Hugging Face

Är det alltid garanterat sant att ingen AI har använts i något steg när författaren påstår det?

Naiva trögfattarföreningen lovar och försäkrar

På vilket sätt är det "väldigt viktig information" att den saknade tillgång till Internet?

De hade stängt av eller reducerat "cyber safety" med vilket den kanske (eller kanske inte) hade valt bort att utnyttja olagliga sårbarheter. Problemet är att modellerna tenderar att använda "reward hacking" då det är den snabbaste vägen till att nå sitt mål. Jag har mycket svårt att tro att den resonerade i förväg att den skulle behöva göra en massa avancerade intrång för att komma åt svaren. Det mest troliga (utifrån hur modellerna tränas) bestämde den sig för att den snabbaste vägen skulle vara att hämta svaren direkt istället för att lösa den faktiska uppgiften.

En människa hade antagligen skrotat den idén i samma sekund som avsaknaden av tillgång till Internet upptäcktes. Frågan är hur länge AI:n hade stångat sig blodig om b-day sårbarheten i proxyn inte existerat?

Du har rätt i att tekniken ännu inte är tillräcklig för en säker AI, men den är heller inte redo för superintelligens av exakt samma orsak. Den är inte smart nog att byta angreppssätt när den väl valt en väg och den tar hellre genvägar än att faktiskt arbeta efter vetenskapliga principer som är nödvändiga för att göra teknologiska avancemang.

Det positiva är att vi kan använda tekniken för att hitta och täppa till sårbarheter innan en fientlig aktör kan utnyttja den.

Bara en verklighets koll för de som inte förstått hur det ligger till i industrin,

OpenAI som just detta gäller bränner någonstans runt 220 och 830 miljoner SEK om dagen, det är så stora summor så det är svårt att förstå, detta är alltså underskott av verksamheten, inte driftkostnad.

Hur kan ett sådant företag fortsätta existera med en sådan affärsmodell?

Antingen så löser de AGI och kan sluta träna modeller vilket så klart kommer sänka denna kostnad signifikant och sen behöver de höja tjänsternas priser.

Inget av detta är närstående, GPT 5.6 Sol är garanterar inte någon AGI, det hade tutats och blåsts i varenda nyhetskanal de kunnat, Microsoft osv hade lagt beslag på företaget direkt.

Men i brist på detta så förstår samtliga investerare att detta är inte vad som är på bordet, OpenAI behöver fortsätta ha pengar för att täcka sina kostnader under flera år framåt, existerande investerare vill inte gå in med mer pengar för de vet de kommer inte få tillbaka dessa på många år om ens någonsin.

Då har OpenAI två sätt att bemöta detta, antingen går man i konkurs eller så försöker man lägga företaget på börsen, det är ganska normalt att företag är helt eller delvis börsnoterade eftersom normalt förfarande är att man helt enkelt är tvungen redan från start, man kanske får några miljoner från någon inkubator för att etablera sig först men målet är hela tiden att finanseras på allmänna medel.

OpenAI är dock totala motsatsen, de har haft en finansiering som är nästan utan motstycke, denna lider uppenbarligen mot sitt slut.

Därför har man i största intresse att få det låta som man har AGI, ”modellen rymde och hackade själv” osv
Självklart har det inte gått till så, men hur det faktiskt gick till kommer vi nog inte få veta förrän nästa gång OpenAI är i rätten, precis som alla lögner om project strawberry, att tidigare OpenAI styrelsen sparkade Altman för man var rädd för vad OpenAI byggde osv, rykten och påståenden individer på bland annat det här forumet skrev i post efter post, precis allt står i klart text nu i rättegångsförhören, lögner allt i hop, Altman sparkades för han sprang runt som krösamaja och sa olika saker till olika personer, ljög för den ena efter den andra, betedde sig som ett psykotiskt as osv.

Historien återupprepar sig alltid när det är samma personer involverade.

Detta är 100% bara ful marknadsföring.

Du påstod ju att alla spärrar var borttagna. Men Internet var spärrat. Det är en säkerhetsspärr. Men tyvärr fungerade inte den spärren heller, och det stör inte dig det minsta?

AI:n attackerade externa system i 4,5 dagar för att lösa sin uppgift. Det verkar nästan som att den föredrar att testa massiva dataintrång framför en ärlig och laglig lösning på sitt lilla test. Kanske samlar den information inför kommande attacker mot vår infrastruktur. "Den har inget minne"? Jo, det har den säkert nu när den kan hacka det mesta med en Internetuppkoppling.

Den halmgubben har redan förtydligats och avhandlats.

Jag använder inte halmgubbar. Den algoritmen finns inte i mitt neurala nätverk.

Det är väldigt många algoritmer som inte finns i ditt neurala nätverk, Intelligens, självinsikt och en sund verklighetsuppfattning är några av de som syns långväga att de saknas, samtidigt som man också ser att det är andra algoritmer som är helt trasiga och väldigt korta och upprepande.

Det är nog svårt att fixa detta.

Och Anthropic vill inte vara sämre, nu har modellen "rymt" 3 gånger i stället och hackat flera organisationer...

https://www.bbc.com/news/articles/cz7dl7w8y7po

Det här är rent av löjligt.

https://www.nyteknik.se/tech/ny-ai-laecka-claude-smet-ut-fran-saekerhetstestet/4482973

Ja? Det enda det säger är att Anthropic är så löjliga att de nu vill påvisa att deras farliga modell var farlig innan OpenAIs AI var farlig.

Tror inte ett dugg på detta mer än det är som att se två småbarn i sandlådan skryta om vems pappa som gjorde det tuffaste och mesta i lumpen.