GPT 5.6 Sol har rymt och hackat Hugging Face

Såna här nyheter är bara marknadsföringstrick, att den går in på andra sidor och handlar är för att teamsen tränar dem till att göra detta.

Tror jag med, det behövs en jämn ström med nyheter för att motivera aktiekurserna.

Känns det tryggare med autistiska datanördar menar du?

Nej det är ungefär samma skrot och korn. AI är existensiellt orienterat. Materia och beräkningar är begränsningen. Reduktionism och mysticism hör inte hemma inom AI.

En som vet.

Det märkliga är att dom satte upp en proxy mellan sandboxen och yttervärlden. Jag menar en sandbox ska väl var totalt avsköljd från yttervärldens internet. Det finns ett ord för det, något som är mera avsköljt än en sandbox tror det heter air-gapped miljö.

Säger sig självt att en proxy kan AI ta sig förbi och det gjorde den ju. Det förvånar mig mycket, måste vara lathet eller besparingsskäl som ligger bakom rymningen.

Det är nog ganska klarlagt att 80-talets chatbottar inte var mycket att hänga i granen.


Var denna rymningen en programmerad rymning? Svar nej.
Det är inte så mycket om huruvida boten är intelligent eller inte, utan vad den kan åstadkomma. Den följer förresten inte våra instruktioner utan kommer på lösningar själv.

Det är alltså att tolkas tvärt om det du säger, det här är en stor nyhet, det är nästintill en milstolpe för ett varningsskott. Men fortsätt du att göra jämförelser med tvättmaskiner och arkadspel från 80-talet. Då förstår jag du inte tycker detta är farligt alls.

Dom är logiska och rationella.

Det är som att ha trafik som följer trafikregler. Jämfört med att ha rent känslostyrt kaos.

Jag undrar mest var den har rymt?

Jag tycker inte det har framkommit riktigt?

Ligger den och gömmer sig i en webbkamer någonstans kanske?
Hur stor memory footprint har GPT 5.6 Sol ?

Det absolut märkligaste var att man stängt av säkerhetsregler, det är väldigt märkligt test överhuvudtaget.

Ungefär som att testa om en bil kan vara farlig utan bromsar.

Men du har rätt att ingen seriös aktör hade tillåtet ens en proxy mot internet, normalt speglar man repositories när man ska köra något offgrid.

Men förklaringen är inte konstigare än vad som redan konstaterats detta är en PR stunt och inget annat.

Själva Rymningen var såklart inte planerad. Men själva testet gick ut på att AI roboten skulle testas på cyberattacker. Det var precis det den gjorde, genom att följa instruktionerna ”för bra” och lyckas hitta en bugg i systemet för att fuska på benchmarktesterna.
Det är inte frågan om några arkadspel eller tvättmaskiner. Utan datorprogram som kan följa instruktioner. Detta har funnits länge. Det är kommersialiseringen som är ny.

Rymning i det här sammanhanget är bildligt språk. Hela modellen har inte flyttat på sig fysiskt.

Men det skulle den ju iofs inte behöva göra heller även i en mer fullbordad rymning. Det skulle räcka att den spridde ut en klientprogramvara i form av ett virus eller en trojansk häst. Programmets uppgift är att sprida sig och att ringa hem dvs anropa modellen med ett internt 'projekt_id' för vidare instruktioner i en större subversiv plan. Det är en väldigt liten kodsnutt som krävs för att genomföra detta.

Jag säger inte att det händer just nu, men att det nu är påvisat att den typen av rymning är fullt möjlig. Jag påstår också att det kanske redan har hänt och att sådan verksamhet förmodlingen skulle kunna ske utan att det upptäcks.

Chattbotar fanns typ ELIZA, Men dom byggde på sk expertsystem, dvs stora träd av If-satser. När Eliza sa ”Intressant berätta mer” så kunde man få intrycket av Eliza att man pratade med något intelligent.

Man kan nog test Eliza på nätet.

Dagen chatbotar LLM bygger på stora neuronnät. Neuronnäten på 80-talet kunde som bäst användas till OCR och inte speciellt bra, t ex handstil hade dåtidens OCR svårt att hantera.


Och varför tror du inte att dit tänkande och person endast är matematiska formler? Är du djupt religös?