1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Det har definitivt hänt.

Det är ingen som har utsett en ledare, det är en agent som började delegera uppgifter till andra och de kom överens om ett röstningssystem för att bestämma vad de skulle göra.

Alla agenter var inte identiska och hade inte samma kapacitet. De har också givits en viss mängd med compute för att klara sin uppgift, så vissa hade redan använt nästan hela sin pott och kunde därför användas av de andra agenterna att testa mer riskfyllda aktioner som agenter med mer compute kunde jobba vidare på.

Det är heller inte 1200 agenter som simultant har hackat Hugging Face, utan dess har under flera månader jobbat på sina separata problem där de stegvis har hittat olika sårbarheter, dokumenterat dessa i sitt egna lilla forum och så har senare agenter hittat detta och kunnat jobba vidare utan att behöva upptäcka allt på egen hand.

Absolut ingenting har hänt!

Händelseförloppet är helt enkelt för specifikt för att det inte skulle ha hänt. Hugging Face rapporterade även om att de utsattes för ett intrång av AI-agenter innan OpenAI hade upptäckt det. METR är en oberoende aktör som fått full insyn i loggarna för att ta reda på hur det gått till.

Det har absolut hänt.

Men det hade inte hänt om det bara vore olagligt för Hugging Face att bli hackade?

När ska du sluta med dina halmgubbar?
Du har inget bättre att komma med, antar jag.

Haft du plötsligt ändrat uppfattning om att AI-alignment löses genom att kriminalisera offren för Kriminella Neurala Nätverk?

Återigen så kan du ju citera exakt var jag har sagt just det.

Det är inte värt min tid att leta igenom dina dumheter.

Då kan du framöver låta bli att sprida dynga och hitta på vad jag har sagt.

Berätta hur vi ska skydda oss mot de hackingattacker som tråden handlar om. De kommer inte att upphöra oavsett lagstiftning. Det här kommer att eskalera. Du ändrar nog uppfattning tids nog.

En vacker dag drabbas du personligen. Jag ser fram emot det.

Detta har inte hänt. Man dramatiserar det hela. Förstorar det hela. OM det nu har skett det minsta lilla ''rymning''.

Absolut ingenting har hänt!

Jag har bara förtydligat vad som faktiskt hände. Det är du som kommer dragandes med halmgubbar.

Jag har varit tydlig med vilka åtgärder jag tänker mig.
Samhällskritiska system ska vara klart separerade från fjärråtkomst. Där anser jag att lagstiftning likt NIS2 kan komma att behövas.

AI kan användas defensivt, både för att leta och patcha säkerhetshål fortlöpande och gärna innan det når produktion. För detta behövs ingen lagstiftning, de flesta företag lär vilja införa detta ändå.

Sedan kan man även använda agenter för att scanna efter eventuellt pågående intrång för att försöka stoppa dessa tidigt.

Ingenstans i detta säger jag att det ska vara olagligt att bli hackad.


Trevligt.
Själv önskar jag dig ingen olycka.