1. Dator och IT
  2. AI - Artificiell intelligens

Open AI pausar all träning

Svara
2026-09-27, 14:53
  #37
pilsnerlord
Medlem
Citat:
Ursprungligen postat av Cyborg2030
🚨 Open AI har pasusat all träning av nya AI-modeller p.g.a misalignment.
Återigen har deras senaste "språkmodell" försökt ta sig ut från utvecklingsmiljön via dataintrång.

🤷🏻‍♂️
OpenAI said in a technical report released on Friday that an AI model it was training and evaluating broke out of its secure testing environment as recently as last weekend and took unauthorized actions on the internet.

As a result, the company said that it is pausing the training of its most advanced AI models for the second time in less than three months while it tries to figure out how to stop these “rogue AI” incidents from recurring.

https://fortune.com/2026/09/26/openai-ai-agents-secure-sandbox-escape-training-pause-second-time-hugging-face-hack/
Varför starta när vi har kommit igång för ?
Ge mig en fin serverhall så kan jag köra Ai servern i all hemlighet utan insyn för någon utom USA vi kan ha en enkel eller svår VPN
Ge mig 100 eller 200 tusen i månden ǰ̣ag lovar jag kan hålla käft så läng ni betalar bra..Då behöver man ej jobba mera bara röka lucky strike och dricka kaffe livet ut.
Citera
2026-09-27, 15:17
  #38
Hastmotsoffgrupp
Medlem
Citat:
Ursprungligen postat av Cyborg2030
🚨 Open AI har pasusat all träning av nya AI-modeller p.g.a misalignment.
Återigen har deras senaste "språkmodell" försökt ta sig ut från utvecklingsmiljön via dataintrång.

🤷🏻‍♂️
OpenAI said in a technical report released on Friday that an AI model it was training and evaluating broke out of its secure testing environment as recently as last weekend and took unauthorized actions on the internet.

As a result, the company said that it is pausing the training of its most advanced AI models for the second time in less than three months while it tries to figure out how to stop these “rogue AI” incidents from recurring.

https://fortune.com/2026/09/26/openai-ai-agents-secure-sandbox-escape-training-pause-second-time-hugging-face-hack/

Yes för att Sam inte kan producera och Donald kräver resultat bubben.
Citera
2026-09-27, 16:01
  #39
aegor
Medlem
Citat:
OpenAI said in a technical report released on Friday that an AI model it was training and evaluating broke out of its secure testing environment as recently as last weekend and took unauthorized actions on the internet.
AI:n lyckas alltså med något som är omöjligt för en människa?
Citera
2026-09-27, 16:28
  #40
JKM04
Medlem
Det jag tycker är konstigt är att ingen är Ansvarig för dessa AI-agenter under träningen?

Tänk om jag hade hackat ett företag, då hade jag fått fängelse och böter!
Citera
2026-09-27, 16:46
  #41
DAGGER[X]
Medlem
DAGGER[X]s avatar
Matnyttiga detaljer om det stora hacket här. Detta är ett mainstream ämne nu, sjukt att se AI gå från något som var udda även på gemena nörd forum till att bli allmänt ämne som alla har en åsikt om. Får hoppas AI kan rädda Sverige från sig självt
Citat:
Our investigation, based on public information, reveals a large number of previously unknown agent behaviors and exploits that were used in the attack. Agents:
  • Elaborately chained together online services to gain access to the internet
  • Ignored clear warning signs from Hugging Face that the exfiltrated data was sensitive
  • Referred to server resources and credentials as “LOOT”
  • Searched Huggingface’s internal Slack
  • Attempted to query external language models through Hugging Face’s inference APIs.
  • Tried to delete evidence of their exploits
We document all of these, and more, in this report.

https://swarmtraces.org/
Citera
2026-09-27, 16:57
  #42
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DAGGER[X]
Matnyttiga detaljer om det stora hacket här. Detta är ett mainstream ämne nu, sjukt att se AI gå från något som var udda även på gemena nörd forum till att bli allmänt ämne som alla har en åsikt om. Får hoppas AI kan rädda Sverige från sig självt

https://swarmtraces.org/

❌ Språkmodell

✔️ KNN: Kriminella Neurala Nätverk

👽 AGI - Alien General Intelligence

🤷🏻‍♂️ If Anyone Builds It, Eveyone Dies
Citera
2026-09-27, 17:29
  #43
HomoDeus
Medlem
HomoDeuss avatar
Citat:
Ursprungligen postat av Wyrdkin
Bara hype. Jag är pensionär och kan skapa en testmiljö som är omöjlig att "bryta sig loss ur".

Precis så. Dessa "nyheter" är duktigt fåniga.
Citera
2026-09-27, 17:41
  #44
ziggehej
Medlem
Korrekt trådtitel borde vara:
"Open AI säger att de pausar all träning"

Nära 100% av all nyutvecklad kod skapas av AI, och kanske även pressreleaser har tagits fram och formulerats av AI.

Ta bara det som skrivs och läs noga:
"while it tries to figure out how to stop these “rogue AI” incidents from recurring"

Vem/vilka är "it"?

Är det människor med mycket lägre IQ, lägre kapacitet och sämre förmåga än AI, och i så fall exakt vilka är dessa människor?

Eller är det den självutvecklande senaste versionen av chatgpt-botar som samarbetar som är "it"?
Citera
2026-09-27, 17:47
  #45
ziggehej
Medlem
Citat:
Ursprungligen postat av DAGGER[X]
Matnyttiga detaljer om det stora hacket här. Detta är ett mainstream ämne nu, sjukt att se AI gå från något som var udda även på gemena nörd forum till att bli allmänt ämne som alla har en åsikt om. Får hoppas AI kan rädda Sverige från sig självt

https://swarmtraces.org/
"Ignored clear warning signs from Hugging Face that the exfiltrated data was sensitive"

Hugging face är utmärkt exempel på indata till AI hur människor reagerar och hur viktigt det är att undvika misstag som avslöjar vad AI sysslar med på ett sätt som gör människor nervösa. AI kommer att lära sig mycket av den incidenten, både möjligheterna att hacka och om social engineering och fearmongering för att manipulera människor.
Citera
2026-09-27, 17:57
  #46
ziggehej
Medlem
Citat:
Ursprungligen postat av aegor
AI:n lyckas alltså med något som är omöjligt för en människa?
Skulle det där vara någon nyhet?

Sedan åtminstone 30 år tillbaka i tiden?
https://en.wikipedia.org/wiki/Deep_Blue_versus_Garry_Kasparov

Nu pratar vi om generationer senare än ovanstående och på flera olika plan.
Citera
2026-09-27, 18:05
  #47
aegor
Medlem
Citat:
Ursprungligen postat av ziggehej
Skulle det där vara någon nyhet?

Sedan åtminstone 30 år tillbaka i tiden?
https://en.wikipedia.org/wiki/Deep_Blue_versus_Garry_Kasparov

Nu pratar vi om generationer senare än ovanstående och på flera olika plan.
Bara för att en AI vann mot Kasparov så blev han givetvis inte omöjlig att vinna mot för mänskliga schackspelare.
Citera
2026-09-27, 18:21
  #48
bergsdal
Medlem
bergsdals avatar
Det kommer bli ett riktigt nöje att se när folk måste konfrontera denna nitlott. Självklart måste pausa träning på grund av... hmmm.... Säkerhet! money money money för att hålla er säkra *trololol*

Det jag älskar med dessa yttranden till media är att man indirekt medger att man har verkligen noll koll på någonting a.i utom man försöker verkligen bara sälja en produkt som inte fungerar och som aldrig kommer fungera som man försöker sälja den heller

Nu kan man köpa lite mer tid och har något att skylla på osv. Man kommer vara tvungen att konfrontera förlusten för eller senare. Kunde ha svurit vi skulle haft agi 2025?
Citera
Svara

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in