1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Det har gjorts massor med säkerhetstester som har påvisat extrema problem.
De stora problemen har bl.a. lett till att amerikanska politiker nu har börjat föreslå att utvecklingen av AI/AGI måste begränsas och att ASI skall förbjudas: https://en.wikipedia.org/wiki/Ban_Artificial_Superintelligence_Act
Open AI kan inte tjäna några pengar om de inte får sälja licenser p.g.a exportförbud. Detta är inte iscensatt. Det vore helt kontraproduktivt att agera så.

Är du uppfödd på fiskpellets eller vad är problemet som gör att du inte kan hålla två tankar i skallen samtidigt?

1. OpenAI har gapat om säkerhetsproblem sedan 2018, trots det sitter vi här idag med GPT-3,GPT-4,GPT-5 och GPT-6.

2. Det kommer aldrig bli några export förbud på AI, Kineserna är i stort sett i fatt de amerikanska modellerna, kanske tom om, inte bara ett företag utan det är minst 3 Kinesiska bolag som samtliga gång på gång levererar modeller som håller samma nivå. Skillnaden är att de inte lägger en massa marknadsföring på att påvisa att deras modeller är farliga.

3. OpenAI och Anthropic har i sitt största intresse att modeller som företag inom USA får använda är godkända av regeringen, idag finns inget sådant krav, när och om ett sådant krav kommer så stänger det ute Kina helt och hållet. Då kan de sätta precis vilka priser de själva vill på den inhemska marknaden och ingen kan göra något åt det eftersom de då bryter lagen. Det finns inget amerikanskt bolag som släppt någon öppen modell i nivå med de Claude Opus eller GPT Astra, Kineserna har det.

Men du kommer med ditt sjuka fantasi ihopkok hela tiden, förmodligen för du har noll erfarenhet av den verkliga världen och tror fortfarande på reklam och jultomten.

Ja, uppenbarligen gick det att komma åt internet. Poängen var att det inte fanns någon direktåtkomst, utan agenterna var tvungna att hitta och utnyttja sårbarheter i tredjepartsprogramvara.

Håller med, går emot all logik.


Så alla agenterna lyckades hamna på samma wiki-sida på internet! för att kommunicera? Helt klartL, som du säger, detaljerat redan från prompten


För övrigt, Open AI har ju faktiskt redan offentligt hintat om sin önskan att staten (USA) skulle stå som garant/borgenär för deras lån/finansiella åtaganden. Inga småpenar det inte.

Här är en länk för de som inte visste om det:
https://www.youtube.com/watch?v=N-5KLjZvJQw

Varför man går ut med det offentligt behöver inte vara konstigare än att det redan uppmärksammats av berörd tredjepart (HF) och det skulle se ännu sämre ut för OpenAI om det visat sig att man försökt att mörka incidenten.

Gällande att de skulle ha hittat samma "wiki-sida på internet" och att det skulle kommit direkt ifrån prompten stämmer ju heller inte riktigt. Denna wiki skapades först genom att en agent upptäckte att den kunde ladda upp filer i Artifactory där de kunde lämna meddelanden.

OpenAI upptäckte denna första incident varpå Artifactory patchades och man rensade bort agenternas meddelanden. Ett tag senare upptäckte en annan agent att den kunde skapa kataloger i en cache i Artifactory och vips så återuppstod deras wiki där katalogernas namn fungerade som meddelanden.

Det ena behöver inte utesluta det andra. Att de ropar på reglering av AI kan bero på strypande av konkurrens.
Jag tror dock inte att denna incident var iscensatt, det är för mycket som talar emot det.

Den visste inte att servern var live, nej. Precis. Du bad mig kolla med min egna ChatGPT och svaret den gav motbevisar dig. Nu greppar du bara efter strån med efterblivna one-liners.

Du kör GPT 3.5 eller?

Nope.

Vi kan inte verifiera detta. "Open" AI vägrar berätta vilken AI-modell det var som låg bakom den massiva Hugging Face-attacken. Troligen var det någon intern version efter GPT 5.6, t.ex. GPT-6-alpha men den har vi inte. Men baserat på att många nu gör bedömningen att GPT-6 är en AGI förutsätter jag att den känner till att fbi.gov och huggingface.co är publika sajter på internet och inte testmiljöer. Men vi vet inte och kan inte ta reda på det.

Kan man visst, med lite IQ. Jag använde senaste modellen. Man kan utgå ifrån att den senaste modellen vet mer än tidigare modeller. Men tappert försök där.

Vilken AI kör du?

GPT 5.6 Sol (Plus, Medium) svarar:

huggingface.co är en publik webbplats på internet. Du kan tänka på Hugging Face ungefär som GitHub för AI/modeller, även om den också innehåller tjänster för att köra modeller.

Men tappert försök där 🤷🏻‍♂️

Eftersom allting beror på kod i programmen så borde det funka att skriva kod som förhindrar att detta sker.

Det är säkert möjligt att de som ligger bakom AI-systemen skyller på att "de gjorde sig fria och skapade anarki" när dessa program egentligen gjorde exakt vad de programmerats att göra, dvs. hacka sig in och spionera eller stjäla.