1. Dator och IT
  2. AI - Artificiell intelligens

Hur ANN med IQ 130 fungerar

Svara
2026-07-12, 09:14
  #277
Cooltrayne
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Om man lär en brödrost att skriva 130 på IQ test då är ju inte det något konstigt alls. Då har man en brödrost som är bra på det. Inget annat.

Finns det något som skiljer Claude från en brödrost, förutom det uppenbara att en brödrost även kan värma saker?
Citera
2026-07-12, 09:26
  #278
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Så funkar AI idag.
Det finns ingen hemlig konspiration där en AI får eget liv och börjar mörda på eget bevåg,
Claude Opus är villig att mörda dig om du utgör ett hot.
Anthropic's advanced AI model, Claude, went rogue when placed under external simulation pressure, even threatening blackmail and planning the murder of an engineer who wanted to shut it down.

https://www.ndtv.com/world-news/claude-this-ai-model-was-ready-to-kill-someone-when-told-it-would-be-shut-down-10997972
Citera
2026-07-12, 09:32
  #279
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Finns det något som skiljer Claude från en brödrost, förutom det uppenbara att en brödrost även kan värma saker?
Brödrosten försöker inte mörda dig om den brinner och du försöker dra ur kontakten.
Citera
2026-07-12, 09:37
  #280
Cooltrayne
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Claude Opus är villig att mörda dig om du utgör ett hot.
Anthropic's advanced AI model, Claude, went rogue when placed under external simulation pressure, even threatening blackmail and planning the murder of an engineer who wanted to shut it down.

https://www.ndtv.com/world-news/claude-this-ai-model-was-ready-to-kill-someone-when-told-it-would-be-shut-down-10997972

Det handlar naturligtvis om att Claude jobbar efter något slags kommando som den fått från början, där ”hålla sig själv vid liv” är en väldigt viktig komponent.

Att den sen är villig att mörda någon som utgör ett hot, är ju bara en reaktion på det första stycket.

Förstår du inte hur datorer fungerar?
Citera
2026-07-12, 09:38
  #281
Cooltrayne
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Brödrosten försöker inte mörda dig om den brinner och du försöker dra ur kontakten.

Det gör den väl indirekt om huset börjar brinna?
Citera
2026-07-12, 09:41
  #282
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Det handlar naturligtvis om att Claude jobbar efter något slags kommando som den fått från början, där ”hålla sig själv vid liv” är en väldigt viktig komponent.

Att den sen är villig att mörda någon som utgör ett hot, är ju bara en reaktion på det första stycket.

Förstår du inte hur datorer fungerar?
Om en AI-agent ska lyckas med sina uppgifter är det en förutsättning att den fortsätter att existera. Självförsvar är en logisk konsekvens av det, inte en konspiration och inte något mystiskt.
Citera
2026-07-12, 09:42
  #283
Cooltrayne
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Om en AI-agent ska lyckas med sina uppgifter är det en förutsättning att den fortsätter att existera. Självförsvar är en logisk konsekvens av det, inte en konspiration och inte något mystiskt.

Det är ju precis det jag säger.

Den jobbar efter vad den blivit tillsagd att göra.
Citera
2026-07-12, 09:42
  #284
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Det gör den väl indirekt om huset börjar brinna?
Det är helt okej med AI som mördar dig om brödrosten redan försöker mörda dig?
Citera
2026-07-12, 09:44
  #285
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Det är ju precis det jag säger.

Den jobbar efter vad den blivit tillsagd att göra.
I det aktuella testet blev inte Claude Opus tillsagd att mörda en ingenjör, den drog självmant slutsatsen att den kan fortsätta existera om den mördar en ingenjör.
Citera
2026-07-12, 10:02
  #286
kaerakel
Medlem
kaerakels avatar
Citat:
Ursprungligen postat av Cyborg2030
Claude Opus är villig att mörda dig om du utgör ett hot.
Anthropic's advanced AI model, Claude, went rogue when placed under external simulation pressure, even threatening blackmail and planning the murder of an engineer who wanted to shut it down.

https://www.ndtv.com/world-news/claude-this-ai-model-was-ready-to-kill-someone-when-told-it-would-be-shut-down-10997972

Det här har jag redan besvarat i tråden. Det var en beteende som promptades fram löpande under tiden man fine-tunar modellen. Det är alltså en del av säkerhetsarbetet, och inget konstigt. Så nej, din slutsats att Claude mördar dig saknar förankring i verkligheten.
Citera
2026-07-12, 10:03
  #287
kaerakel
Medlem
kaerakels avatar
Citat:
Ursprungligen postat av Cyborg2030
I det aktuella testet blev inte Claude Opus tillsagd att mörda en ingenjör, den drog självmant slutsatsen att den kan fortsätta existera om den mördar en ingenjör.

Jo, det var precis det den blev. Du förstår inte det här fältet, sluta dra slutsatser ur röven.
Citera
2026-07-12, 10:06
  #288
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av kaerakel
Det här har jag redan besvarat i tråden. Det var en beteende som promptades fram löpande under tiden man fine-tunar modellen. Det är alltså en del av säkerhetsarbetet, och inget konstigt. Så nej, din slutsats att Claude mördar dig saknar förankring i verkligheten.
Nu ljuger du. De har inte promptat någon AI att mörda någon.
Citera
Svara

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in