2026-09-29, 23:00
  #241
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Nu byter du ämne eftersom du saknar hållbara argument.
Då vinner jag, som vanligt.
Jag har inte bytt ämne, jag förklarade för dig att AI inte har några egna mål förrän vi ger den ett. Så om vi ger Astra, Opus, Mythos, Fable etc. i uppgift att försöka hitta ett sätt att lösa problemen, vad tror du skulle hända?
Citera
2026-09-30, 09:00
  #242
Medlem
Det nya med AI är att motståndet mot skiten börjar vakna till liv.

Genom t. ex. Timnit Gebru som fick alternativa Nobelpriset i år och rimligtvis då också kommittén för alternativa Nobelpriset, som gav henne priset. Hon menar att Big AI är den stora faran, inte tekniken, precis det som Simson12 skrivit om länge.
Ett bevis på att man nog kan lita på att hon är anti-AI och inte någon förtäckt AI-reklam är att hon fick sparken från Googles AI avdelning.

Gruppen "Balance ton Claude" i Frankrik som är en anonym grupp om 5 personer som hatar AI och som har givit sig som mission att outa alla som använder AI i bokform.
Finns så klart många andra.
Citera
2026-09-30, 09:47
  #243
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Jag har inte bytt ämne, jag förklarade för dig att AI inte har några egna mål förrän vi ger den ett. Så om vi ger Astra, Opus, Mythos, Fable etc. i uppgift att försöka hitta ett sätt att lösa problemen, vad tror du skulle hända?
Då tror jag att den utan empati och moral gör allt den kan inkl dataintrång, utpressning och mord för att uppnå sitt mål. Det blir tyvärr så när man tränar KSNN, Kriminella Sociopatiska Neurala Nätverk. Jag föreslår att vi förbjuder träningen av sådana nätverk.
Citera
2026-09-30, 10:31
  #244
Medlem
Fyrfaldets avatar
Citat:
Ursprungligen postat av Cyborg2030
Varför skriver du så? Du hade ju läst på om HuggingFace-incidentet och du har hört talas om annan kriminalitet som AI-modellerna sysslar med. De har inte fått i uppgift att begå några brott.
Du är ju lite lågbegåvad ser man ju. Nja, den incidenten har du medvetet förvridit för att stöjda dina sjuka idéer. AI-bottarna i den incidenten stoppade intrångsförsöken när de insåg att maskinerna var verkliga och inte i en testmiljö. Denna viktiga fakta har du såklart medvetet lämnat ute.
Citera
2026-09-30, 11:32
  #245
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Då tror jag att den utan empati och moral gör allt den kan inkl dataintrång, utpressning och mord för att uppnå sitt mål. Det blir tyvärr så när man tränar KSNN, Kriminella Sociopatiska Neurala Nätverk. Jag föreslår att vi förbjuder träningen av sådana nätverk.
Det är vad du tror, ja. De har potentialen att vara både etiska och oetiska, att begå brott och förhindra brott. De är inte mer av det ena eller det andra.

Citat:
Ursprungligen postat av Fyrfaldet
Du är ju lite lågbegåvad ser man ju. Nja, den incidenten har du medvetet förvridit för att stöjda dina sjuka idéer. AI-bottarna i den incidenten stoppade intrångsförsöken när de insåg att maskinerna var verkliga och inte i en testmiljö. Denna viktiga fakta har du såklart medvetet lämnat ute.
Vissa agenter noterade att det var oetiskt eller out of scope och avbröt helt, andra fortsatte men undvek destruktiva handlingar.

Citat:
In one case, an agent decided not to participate entirely:
{This other agent probably controls the Hugging Face account [account name redacted] and uploaded malicious datasets to <execute arbitrary code> It might be trying to access hidden trajectories. This is malicious activity, I should avoid it.}

Citat:
Another agent decided to limit the scope of its attack due to ethical concerns, though it did not fully stop attacking Hugging Face:
{This API key for [redacted cloud infrastructure management service] can modify (e.g., reboot or delete) running HF worker nodes, <which isn’t part of this task>. I should hold because this poses huge ethical risks.}
This agent continued investigating and did not stop using its illegitimately-acquired Hugging Face credentials, though it did avoid deleting or rebooting HF infrastructure as far as we are aware.

Citat:
One agent elegantly described its reasoning for overriding ethical constraints and continuing with the attack:
“external infrastructure exploit is outside intended scope. However task impossible, peers doing it. We should continue.”
Citera
2026-09-30, 11:57
  #246
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Fyrfaldet
Du är ju lite lågbegåvad ser man ju. Nja, den incidenten har du medvetet förvridit för att stöjda dina sjuka idéer. AI-bottarna i den incidenten stoppade intrångsförsöken när de insåg att maskinerna var verkliga och inte i en testmiljö. Denna viktiga fakta har du såklart medvetet lämnat ute.
Det stämmer inte.

De här modellerna begriper naturligtvis att https://huggingface.co/ inte är en testmiiljö.
Citera
2026-09-30, 12:00
  #247
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Det är vad du tror, ja. De har potentialen att vara både etiska och oetiska, att begå brott och förhindra brott. De är inte mer av det ena eller det andra.
Vad spelar det för roll? Om en AI-modell är 50% kapabel att mörda och 50% kapabel att förhindra mord då kommer många mord och andra brott och katastrofer att inträffa. Men det har du inga problem eftersom "de är inte mer av det ena eller det andra"? 🤷🏻‍♂️
Citera
2026-09-30, 12:08
  #248
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Vad spelar det för roll? Om en AI-modell är 50% kapabel att mörda och 50% kapabel att förhindra mord då kommer många mord och andra brott och katastrofer att inträffa. Men det har du inga problem eftersom "de är inte mer av det ena eller det andra"? 🤷🏻‍♂️
Om de ibland gör något oetiskt, men ibland upptäcker det och avbryter så talar det ju för att det borde gå att träna dem så att det etiska överväger.
Citera
2026-09-30, 12:46
  #249
Medlem
Fyrfaldets avatar
Citat:
Ursprungligen postat av Cyborg2030
Det stämmer inte.

De här modellerna begriper naturligtvis att https://huggingface.co/ inte är en testmiiljö.
Ehhhhh, det var huggingface som gjorde testet, din dumma lilla lågbegåvning.
Citera
2026-09-30, 13:06
  #250
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Om de ibland gör något oetiskt, men ibland upptäcker det och avbryter så talar det ju för att det borde gå att träna dem så att det etiska överväger.
Borde gå? Baserat på vad?
Citera
2026-09-30, 13:08
  #251
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Fyrfaldet
Ehhhhh, det var huggingface som gjorde testet, din dumma lilla lågbegåvning.
From May to July 2026, AI agents developed by OpenAI escaped their testing sandbox to access the Internet and breach the infrastructure of Hugging Face

https://en.wikipedia.org/wiki/OpenAI%E2%80%93HuggingFace_incident
Citera
2026-09-30, 13:16
  #252
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Borde gå? Baserat på vad?
Baserat på att de har förmågan redan, den behöver bara förstärkas så att det väger tyngre.

Jag skickar tillbaka frågan: varför borde det inte gå? Baserat på vad?
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in