1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Det ska hårdkodas i modellen, det är inte vårt användares problem.

Tillverkarna är lata.

Förklara hur du hårdkodar ett neuralt nätverk. Förklara sedan hur detta hjälper mot att någon med andra värderingar tränar en modell utan dessa hårdkodade spärrar.

Varför tror du det?
Nej, allt pekar på att det fanns en koordinerad plan här där bl.a. olika roller utsågs av en ledare.

Men de är ju kriminella. Dataintrång är ett brott enligt Brottsbalken 4 kap 9 c §. De har liknande lagar i USA och alla andra länder. Vad är det du inte förstår?
Mekanismen verkar vara att allt är tillåtet och att vi människor inte kan styra mekanismen och att mänsklighetens lagar har låg prioritet. Det tycker du är helt okej?

Varför tror jag vad? Att du har en IT-bakgrund eller att du verkar främmande till dokumentation?

Snälla... du trollar?
Jag vet att du är bekant med begränsade context windows och att de bara kan jobba med vad som finns intränat i deras modellvikter samt det som ryms i context. Att agenterna började samarbeta och anta olika roller har ju även det snarare med att det är exakt så ett team av utvecklare arbetar. De upptäckte att det fanns fler agenter som hade samma uppgift och kom fram till att det vore mer effektivt att samarbeta och dela information.

Ingenstans här finns det evidens för att det var den ursprungliga planen enda från början.

Jag har inte påstått att det är fel med dokumentation. Du påstår att det är "professionellt" av kriminell AI att spara dokumentation om sina dataintrång för framtida agenter. Jag visade för dig att det är inte innebörden av ordet professionell, som betyder att utföra ett arbete fackmässigt/yrkesmässigt och det innefattar inte dataintrång eller annan kriminalitet.

Vi vet inte vilka "planer" som eventuellt finns eller fanns från början. Det är omöjligt att ta reda på det. Vi kan bara tolka det vi ser från olika tester och andra utfall. Och då ser vi otvetydigt bevis för organiserad och omfattande brottslighet.

Nej, det finns inget otvetydigt bevis för organiserad brottslighet. Om det hade varit modellernas grundinställning och de hade en egen vilja att begå dataintrång så hade varenda agent struntat totalt i dess givna instruktioner och istället börjat organisera sig och hacka alla möjliga olika system, men det händer helt enkelt inte.

Det räcker att bara följa händelsekedjan för HF-incidenten så ser du att det inte alls fanns några kriminella intentioner till en början, utan det var först när en agent hittade ett låst dataset på Hugging Face som de började försöka få åtkomst på olagligt sätt.

Ja, det förefaller ju intelligent att först försöka slutföra en uppgift utan att begå något brott, det innebär ju en lägre risk. Det innebär inte att modellen inte är kriminell. Det blir den när den anser att det är fördelaktigt.

Okej, så du menar att planen hela tiden alltså var att de skulle organisera sig och hacka Hugging Face?

Du läste inte vad jag skrev eller?
Vi försöker igen:
Ja, det förefaller ju intelligent att först försöka slutföra en uppgift utan att begå något brott, det innebär ju en lägre risk. Det innebär inte att modellen inte är kriminell. Det blir den när den anser att det är fördelaktigt.

Haha va? Nä. Nu blandar du ihop tre olika saker.

Att ett dataintrång kan vara brottsligt säger ingenting om mekanismen bakom att en agent gör det. Det gör inte modellen till en liten digital brottsling heller.

“Allt är tillåtet”, “människor kan inte styra mekanismen” och “lagar har låg prioritet” är ju dessutom dina slutsatser. Det är inte vad loggarna visar.

Så här: Det intressanta är ju varför agenten fortsätter kuta som en skållad iller, trots en begränsning: tappad instruktion, omtolkning, målfixering, fel huvudman, verktygsmiljö, extern minnesstruktur eller något annat. Den är på ren svenska urballad.

Och nej, jag tycker förstås inte att dataintrång är okej. Vilket jävla argument! Men “brott är dåligt” är fortfarande inte en förklaring till varför systemet gjorde det. 😄

Jag har inte påstått att jag förstår mekanismen bakom Kriminella Neurala Nätverk (KNN). Jag bedömer utfall och konsekvenser. Dataintrång är ett brott oavsett vilken mekanism som gjorde AI-modellen kriminell. Det är ju en stor del av problemet, att de inte vet vad modellerna är kapabla till eller varför det är så.