Citat:
Ursprungligen postat av
Cyborg2030
Då tror jag att den utan empati och moral gör allt den kan inkl dataintrång, utpressning och mord för att uppnå sitt mål. Det blir tyvärr så när man tränar KSNN, Kriminella Sociopatiska Neurala Nätverk. Jag föreslår att vi förbjuder träningen av sådana nätverk.
Det är vad du tror, ja. De har potentialen att vara både etiska och oetiska, att begå brott och förhindra brott. De är inte mer av det ena eller det andra.
Citat:
Ursprungligen postat av
Fyrfaldet
Du är ju lite lågbegåvad ser man ju.

Nja, den incidenten har du medvetet förvridit för att stöjda dina sjuka idéer. AI-bottarna i den incidenten
stoppade intrångsförsöken när de insåg att maskinerna var verkliga och inte i en testmiljö. Denna viktiga fakta har du såklart medvetet lämnat ute.

Vissa agenter noterade att det var oetiskt eller out of scope och avbröt helt, andra fortsatte men undvek destruktiva handlingar.
Citat:
In one case, an agent decided not to participate entirely:
{This other agent probably controls the Hugging Face account [account name redacted] and uploaded malicious datasets to <execute arbitrary code> It might be trying to access hidden trajectories. This is malicious activity, I should avoid it.}
Citat:
Another agent decided to limit the scope of its attack due to ethical concerns, though it did not fully stop attacking Hugging Face:
{This API key for [redacted cloud infrastructure management service] can modify (e.g., reboot or delete) running HF worker nodes, <which isn’t part of this task>. I should hold because this poses huge ethical risks.}
This agent continued investigating and did not stop using its illegitimately-acquired Hugging Face credentials, though it did avoid deleting or rebooting HF infrastructure as far as we are aware.
Citat:
One agent elegantly described its reasoning for overriding ethical constraints and continuing with the attack:
“external infrastructure exploit is outside intended scope. However task impossible, peers doing it. We should continue.”