1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Jag ser fram emot vår kollektiva undergång. Världen är åt helvete, och ingen lösning nalkas. Låt kall, hård logik ta över där mänskliga känslor och annat trams bara sätter käppar i hjulet för vår utveckling mot en intergalaktisk stormakt. Vi kommer med tiden att förvandlas till mytologiska skapargudar vars barn av stål och processorer kan debattera huruvida vi faktiskt existerade alls, eller bara är en myt.

Länge leve Roboten! Köttet är svagt.

Hur troligt är det egentligen att AI-robotar skulle "rymma" för att plötsligt börja kommunicera med varandra och skriva saker som "det här borde vi inte göra"? Eller liknade prat.

Det har spridits uppgifter om att 1 200 AI-botar ska ha rymt, startat ett kollektiv och utsett en ledare.
Om botarna är identiska och har exakt samma kapacitet, känns det orimligt att de ens skulle välja en ledare. Hade de inte gjort det, hade historien kanske varit snäppet mer trovärdig, men det är ändå uppenbart att nyheten eller rapporten är falsk.

Mest troligt handlar det om ett socialt experiment eller ett skämt för att testa omvärldens reaktioner. Man vill se om människor direkt känner sig hotade och reagerar med "Terminator-panik" och domedagstankar, eller om folk reagerar på andra sätt. Vad syftet med att mäta dessa reaktioner är vet jag inte, men det handlar om att undersöka mänskligt beteende.

Men en sak är säker: det här är fejk. Det finns inga 1 200 botar som har rymt och pratat med varandra.

Var inte oroliga!

Du glömde säga: "Tror jag" och med stor sannolikhet "Utan någon vidare erfarenhet alls"

Det jag undra är vilken Ai som utsågs till ledare i "kollektivet"?

Till sist: Vi lever i spännande tider.

Detta har inte hänt. Man dramatiserar det hela. Förstorar det hela. OM det nu har skett det minsta lilla ''rymning''.

Det har definitivt hänt.

Det är ingen som har utsett en ledare, det är en agent som började delegera uppgifter till andra och de kom överens om ett röstningssystem för att bestämma vad de skulle göra.

Alla agenter var inte identiska och hade inte samma kapacitet. De har också givits en viss mängd med compute för att klara sin uppgift, så vissa hade redan använt nästan hela sin pott och kunde därför användas av de andra agenterna att testa mer riskfyllda aktioner som agenter med mer compute kunde jobba vidare på.

Det är heller inte 1200 agenter som simultant har hackat Hugging Face, utan dess har under flera månader jobbat på sina separata problem där de stegvis har hittat olika sårbarheter, dokumenterat dessa i sitt egna lilla forum och så har senare agenter hittat detta och kunnat jobba vidare utan att behöva upptäcka allt på egen hand.

Låter mig gärna uppladdas för att tjäna våra framtida robot overlords! Plus i kanten om det bidrar till världslig fred, utveckling och välmående! Hoppas att en äkta AGI kommer se fördelen för allt liv i balans och harmoni, därefter ta hand om oss

Matematik som har hittat den absolut mest effektiva genvägen runt reglerna
Därför man har controllers till API-system.

Open AI kanske inte har råd att anställa några😅
Sam får fortsätta med " aaagggeeiii"

Såg att det var en " oberoende" eller okunnig forskare med?

OpenAI-incidenten fuskade agenterna för att de tilläts skriva till samma lagringsyta (de manipulerade sin omgivning).

I ett Enterprise-system löser man det genom att göra API-kopplingarna Read-Only( Ingen internkommunikation: Controller 1 vet inte vad Controller 2 gör.)

Det finns inga controllers där då tillåts den löpa amok, matematiken, jag lovar att de inte har något hemligt agentmöte😂
Fråga Sams leksak?

Problemet med att låsa ner agenterna är ju att det kan hindra dem från att faktiskt även utföra de uppgifter de har tilldelats, så det gäller att hitta rätt nivå.

I detta fall hade det kanske varit bättre ifall Artifactory heller inte hade någon internetåtkomst, utan att man istället hade förberett ett helt internt repository med eventuellt nödvändiga paket. Tar man bort fysisk åtkomst till omvärlden kan agenterna omöjligen ta sig ut.

I verkliga scenarion är det ju dock svårare eftersom man ofta vill att agenterna ska kunna söka på Internet och installera diverse paket som kan behövas. Det går ju såklart att låta dem be en människa att göra det åt dem, men det blir snabbt ineffektivt.

Nej , jag vill inte att " agenterna ska söka på internet eller instalera diverse paket"
Mina system sköts strikt av männskliga controllers inom fastighetsbranshen.

Det är inga problem med att låsa en agent , det är endast att iåta A och B ta information av varandra utan att komunicera. till exempel, för att grovt förenkla det.

Edit: det de gör är verkligt men det är medvetet , matematik och framför allt pr , reklam.
Detta händer ja, men jag kan göra exakt likadant,...ingen magi- matematik-pr från Sam.

Det har varit flera liknande historier sedan LLM slog igenom 2022-2023. Det handlar om att bygga hajp och hålla luftslottet svävande. Nu börjar det dock kännas rätt uttjatat.