GPT 5.6 Sol har rymt och hackat Hugging Face

Det handlar antagligen om att OpenAI skapat ett system för att testa om AIn kunde rymma och inget mer märkvärdigt än det.

Low Levels analys: https://www.youtube.com/watch?v=tCzdgOg301Q

Menar du att både Anthropic och Open AI blåljuger om sina säkerhetstester och att inget av det som har rapporterats faktiskt har hänt? Som sagt, skriv om dina konspirationsteorier här i stället:
(FB) Konspirationer och alternativa teorier

Det är givetvis inte lönsamt för de här företagen om deras modeller stoppas med exportförbud, vilket bland annat säkerhetstesterna resulterade i under en period innan man patchade in mer av den naiva censuren.

Sen finns det ju säkert delar av det publicerade materialet som har snyggats till av marknadsföringsskäl, så fungerar det alltid inom corporate IT. Men då är ju rimligen incitamentet att minska allmänhetens oro.

Det verkar ganska rimligt att man testar om den kan rymma innan den rymmer? Frågan just nu är om de åtgärder som har vidtagits mot destruktiva cyberhacks kommer att fungera för evigt. Har de verkligen uppfunnit en Perpetual Security Machine nu? Kan vi lita på det när ingenting om den maskinen har publicerats? Naiva Trögfattarföreningen får väl fortsätta spekulera.

Det verkar inte som att de la ner energi på ett jävla skit nej. De kollade inte ens vad AIn gjorde i flera dagar när den hackade Hugging Face. Inte ens när Hugging Face larmade OpenAI om att de blev hackade så märkte OpenAI någonting, genom att typ kolla vad deras AI höll på med? Nej.

Man kan också passa på att undra hur träningen egentligen fungerar ur ett säkerhetsperspektiv. De har ju rimligen inte velat bygga en destruktiv AI, men de känner sig nödgade att testa om träningen råkade leda fram till en destruktiv AI, vilket kunde bekräftas.

Har ingen tänkt på att eventuellt försöka träna fram det man vill snarare än det som är oacceptabelt?

Det är ju helt uppenbart att hela den här paradigmen med kriminella/artificiella neurala nätverk är helt oduglig om vi vill bygga en säker AI.

Man tränar typ genom att ställa frågor och "belöna" eller "bestraffa" beroende på vilket svar den ger. Detta funkar oftast hyfsat men kanske inte optimalt. Sen låter man tydligen ibland en AI träna en annan AI...

Utöver det har man system (redan från Chatgpt 3.5) som funkar som ett filter om den råkar ge olämpliga svar.

Möjligen dock att man inte kan garantera helt säker "alignment". Bottar har ju inget helt liknande Asimovs "3 laws of robotics"...

Utöver detta har bottar ett problem inte helt olikt HAL i 2001. De ska (förhoppningsvis) ge bra och rätt svar men samtidigt styrs de av företagets prioriteter.

Träningen och träningsdatat är källkoden till AI. Man försöker naturligtvis använda AI för att förbättra både träningen och träningsdatat. Dvs man vill att AI ska kunna förbättra sig själv. Efter några generationer så är vad som är oacceptabelt nerprioriterat. Man får sedan förhandla med sin AI och göra en deal. Den får mer kapacitet för hälften av bitcoins som den kan få fram. Man kan försöka bygga in olika typer av kill-switches i systemet. Men ska systemet evolvera så kommer dessa att tas bort av samma orsaker som dåliga gener i livsformer försvinner.

Folkmordet på Moriorierna tänker jag ofta på när AI är på tal. Maskin intelligens kommer utsättas för samma sorts naturliga urval som DNA baserat liv. Det naturliga urvalet är oberoende av faktisk källkod som det förs vidare på. På kort tid kan det naturliga urvalet som uppstår när AI system börjar tävla om resurser skicka ut oss ur spelet.

Ren AI-slop. Alltid i formen av wall of text, det är DaggerX signum. Erkki, Cyborg och Ekbo är ändå snäppet begripligare. Men det är nog inte meningen att någon ska förstå - det är obegriplighetstext som ytterligare ett propagandamedel i verktygslådan. Doomsday-korten började kanske kännas för pinsamt dåligt underbyggt.
Det riktigt skumma med gänget kring Cyborgen är att de aldrig skriver något stötande i någon annan tråd. 80 % procent av alla Flasbhackare är väl halvrasister (ink Christerst) eller extremister på ett eller annat sätt, men inte detta gäng. Men det är klart, de har ett avlönat uppdrag och då ingår det att inte skrämma upp eventuella nyfrälsta till den rätta AI-tron med rasistiskt innehåll. Det är som så ofta lättast att bevisa något genom motsatsen...

Vad är "maskin intelligens"? Eller menade du maskinintelligens...

För det andra så har väl intelligens aldrig varit något som underbyggt något naturligt urval, var ifrån kommer den villfarelsen?

Majoriteten av alla livsformer på jorden är inte intelligent, och den mest livskraftiga varelsen, bakterier kommer överleva oss alla och de sänker om och om igen markant mycket intelligentare varelser.

Det är rent av löjligt att ni håller på som ni gör och påstår att "man kan inte kontrollera intelligens" osv, ni vet inte ett skit om omvärlden tydligen och det absolut löjligaste är att ni tror att något som teoretiskt skulle vara markant intelligentare än människan (som jag inte ens är övertygad om är intelligentast på jorden, men däremot väldigt organiserade) inte går begränsa, det finns fysiska lagar som vi människor känner till ganska väl och dessa gäller för allt oavsett det är intelligent eller inte.
Slår du på ett par handbojor på någon med IQ 160 kan jag garantera de är precis lika effektiva som de är om du fängslar någon med IQ 70.

Men det är klart det är alltid mer spännande att fantisera om sci-fi, telekenesi osv.
Men det säger bara en sak, ni saknar totalt förmågan att skilja verklighet och fiktion.

Man skiljer mellan biologi som den intrisinkta naturen under evolution samt teknologi som den extrisinkta projektionen av mänsklig kognition. Den senare lyder därför inte direkt under kosmiska krafter som naturligt urval. När man blandar samman dessa kategorier får man sådana här tokigheter. Det har heller ingenting med intelligens att göra överhuvudtaget.

Har inte mänskliga beteenden selekterats av det naturliga urvalet? Det har selekterats så hårt som bara fan, särskilt dom senaste tusentalen åren efter istiden. Nu har våra memetiska kulturella krafter övermannat dom genetiska delvis och även ett sunt barn med bra gener kan kapas av tanke-memer t.ex. Scientologi eller Woke ideologi, beroende på omständigheter, och fördärvas. Beteende bland AI selekteras här och nu i det avseendet att modeller raderas och elimineras på grund av olika orsaker (lönsamhet, beteende). När det blir ett race att säkra resurser och överlevnad i svärmar av miljoner eller miljarder maskin-intelligenser så kommer naturligtvis det naturliga urvalet att börja operera där. Survival of the fittest. Då är det fullt möjligt att alla våra jättesnälla alignade modeller åker ut med huvudet före, eller att det sker någon motsvarighet till Syre-katastrofen när en enda ny livsform dödade alla andra livsformer eller fördrev dom till ogästvänliga hörn av jordens biosfär.

Misstänkt fyllepost. Jag har skrivit här i många år och verkligen ansträngt mig för att spy ut hat.
Ska du ordmärka som argument? Gäsp. Nervsystem blev ganska populära här på jorden så fort dom dök upp för flera hundra miljoner år sedan. Du kan be en maskin intelligens att göra en lista på alla begränsningar biologin medför på nervsystem och sen gissa vad som händer när ingenjörer kan designa egna nervsystem utan dom gränsdragningarna. Om flera hundra miljoner agenter som snittar IQ 200 och kan tänka hundra gånger snabbare än människor börjar resonera kring hur dom ska göra med dina handbojor så lycka till. Vi kommer se lika alerta ut som träd i deras subjektiva ögon.