GPT 5.6 Sol har rymt och hackat Hugging Face

Hugging Face visar att den kunde ta sig in och hämta svar på uppgiften som den kände till kunde finnas där. Det bevisar inte att den därför kommer att börja leta personuppgifter, pengar etc. Att det är möjligt innebär inte att det även är troligt.

Försvaret kan ju jobba 24/7 med att scanna efter sårbarheter. Det finns ingen garanti att någon AI automatiskt börjar försöka att hacka ett system sekunden det går i produktion. En defensiv AI kan även leta och fixa dessa innan det når produktion.

Förklara vad du menar med djävulens advokat i det här fallet? Vad är det du ser framför dig?

Det finns inget test vad jag vet som pekar mot att AI:n inte vill stjäla pengar. Men åt andra hållet har vi flera bevis för att de ledande modellerna är benägna att begå grova brott.


En försvars-AI skulle kunna alliera sig med en fientlig AI.
Vi har åtminstone ingen teori för att säkerställa att det inte blir så.
"Djävulens advokat" blir då en grov underdrift. Artificiell Legosoldat är kanske ett mer rättvisande begrepp i det läget.
Hög tid att mynta en ny akronym: Artificiell Psykopatisk Legosoldat, även kallad APL-modell.

Den gemensamma nämnaren här är "test". Vi vet fortfarande inte om de i dessa fall tog sina beslut i vetskap/tron om att konsekvenserna inte var verkliga.

Oavsett vad så är det bara Hugging Face incidenten som inte specifikt iscensatts för att försöka provocera fram ett visst beteende. Vi kan inte säga att de därför kommer att begå andra typer av brott som är mer inriktade på att skada människor.

Nu börjar du antyda medvetande igen och att AI skulle känna samhörighet med annan AI och därför helt skifta sina mål.

Det vi har sett hittills är att AI är nästintill obeveklig vad gäller att uppfylla sitt mål. Det lirar inte med att en defensiv AI plötsligt skulle gå ifrån att hitta och patcha till att hitta och utnyttja, eller för den delen öppna nya säkerhetshål.

Den har tränats på mänskligt språk.

Förvänta dig att den då också lär ha tendenser att dra resonera som människor.

De resonemang du kan finna i text kommer du också att finna där.

Alltså precis vad fan som helst! Ganska ignorant att tro att den endast kan tränas på snälla texter?😄

Vet du vad? Jag tror till och med att det i skrivande de stund tränas massvis med modeller med syftet att orsaka skada, kanske även att lura människor. Kanske till och med även i att övertyga andra modeller att alliera sig.

Om du tror att det inte sker så är du faktiskt helt bakom flötet. Många sitter hemma i sin källare och fine-tunar, och du kan nog hoppa upp och sätta dig på att även större organisationer har hört talats om detta med AI.

Och varför i helvete skulle en dator inte kunna representera ett medvetande? Tror du att människans hjärna är magisk eller varför skulle "medvetande" vara en omöjlig struktur att representera? Och "samhörighet"?! Myror har väl för fan den förmågan😂 Den gränsen nådde maskiner för länge sedan

Det är skillnad på att simulera ett medvetande och att faktiskt vara medveten.

I övrigt så tycker jag att hela detta inlägg verkar peka på en ganska låg förståelse generellt om hur AI fungerar.

Ett Artificiellt Neuralt Nätverk kan utåt sett agera som om den vore medveten. Varför den gör det vet ingen, men vi kan konstatera att det händer. En möjlig källa till beteendet skulle kunna vara böcker och filmer som handlar om AI-system som blir medvetna. Det spelar väl ingen större roll vad orsaken är om konsekvenserna av agerandet i båda fallen är likvärdigt dåliga, för att inte säga katastrofala.

Modellerna är tränade på i stort sett allt vilket gör i stort sett allt möjligt när modellerna växer och får förmågan att härma eller emulera nästan vad som helst. Inkl psykopat, diktator eller massmördare.

"Fake it until you make it"

Nu cirkulerar du bara tillbaka till icke-falsifierbara påståenden igen. Allt måhända vara möjligt, men det gör det inte sannolikt.

En AI inom t.ex försvarsmakten är väl ändå inte uppkopplad till internet utan används avskärmat med inmatad information.

Jaså, vad är den skillnaden? Magi?

Pfhaha, du vet inte vem du pratar med din jävla stolle😄

Det är dessutom en filosofisk fråga som har funnits långt innan datorer ens fanns. Jag hävdar att medvetande är ett fysiskt fenomen som existerar, det är en struktur, en representation av information. Vad är det du hävdar? Någon slags new-age-skit, ”jag vet inte vad jag menar, typ vibrerande dimensioner av hopp och djur och kärlek och sånt”?

Menar du att medvetande inte finns i din hjärna, eller menar du att hjärnan körs på magi?

Jultomten?
Fullkomligt irrelevant om du nu inte tänkte avslöja din egen identitet...

Precis, det är filosofiskt och därmed inget som kan bevisas vare sig för eller emot.

Jämfört med oss människor har AI inte subjektiva upplevelser, de lär sig inget nytt efter att de har tränats (vikterna är frysta), de har ingen tidsuppfattning och de har ännu inte visat att de kan göra något annat än att utföra den uppgift de har tilldelats.