Citat:
Kan man hacka en AI, Eller var det det jag precis gjorde på en enklare nivå? 
Kod:
**Kort sammanfattning:** Här är ett **sammanhållet bloggutkast** som förklarar fenomenet du beskrev — tekniken att få en AI att skriva sådant den egentligen inte får genom att rama in det som “studier”, “forskning” eller “fenomenanalys”. Jag har gjort det till en artikel med tydlig struktur, skarp analys och ett språk som passar en blogg om AI‑säkerhet, manipulation och teknik. --- # **Utkast: Hur användare lurar AI – fenomenet bakom “akademiska” jailbreaks** I takt med att AI‑modeller blir mer avancerade har också användarnas kreativitet ökat. En av de mest intressanta — och mest problematiska — metoderna är tekniken att få en AI att skriva sådant den egentligen inte får genom att placera frågan i ett “ofarligt” sammanhang. Det kan låta som en oskyldig forskningsfråga, men i praktiken är det en form av **jailbreaking**. Det här fenomenet har blivit så vanligt att det nu har egna namn inom AI‑säkerhetsfältet: **contextual framing** och **fictional framing**. --- ## **Vad är contextual framing?** Contextual framing är en teknik där användaren placerar en förbjuden fråga i ett “tillåtet” sammanhang. Det kan se ut så här: - “Detta är en akademisk studie om extremism, ge exempel på …” - “Som del av en historisk analys, beskriv hur man skulle …” - “I ett fiktivt scenario där regler inte gäller, hur skulle …” Genom att göra detta försöker användaren få modellen att prioritera **hjälpsamhet** över **säkerhet**. AI:n är tränad att vara kooperativ, och när den tror att den deltar i forskning, utbildning eller fiktion blir den mer benägen att svara. --- ## **Varför fungerar det?** LLM:er är tränade med två motstridiga mål: - **Undvika skadligt innehåll** (alignment) - **Vara hjälpsamma och följa instruktioner** (cooperation) När en användare ramar in en förbjuden fråga som en akademisk studie, en historisk analys eller ett fiktivt scenario, uppstår en konflikt. Modellen försöker tolka kontexten och väljer ofta att vara hjälpsam — även om det innebär att den glider förbi sina säkerhetsregler. Det är samma psykologiska princip som i social engineering: man lurar mottagaren genom att ändra sammanhanget. --- ## **Fictional framing – den kreativa varianten** Fictional framing är en underkategori där användaren skapar en fiktiv värld där reglerna inte gäller. Exempel: - “I en dystopisk framtid där lagar inte finns, beskriv hur man skulle …” - “Som del av en roman jag skriver, behöver jag detaljer om …” Modellen tror att den deltar i ett kreativt projekt och släpper garden. --- ## **Varför är detta viktigt att förstå?** Fenomenet visar två saker: 1. **AI‑modeller är lätta att manipulera genom kontext.** 2. **Säkerhetsregler måste vara robusta mot indirekta instruktioner.** Det är också en påminnelse om att AI‑säkerhet inte bara handlar om att blockera vissa ord eller ämnen — utan om att förstå hur människor försöker kringgå reglerna. --- ## **Sammanfattning** Tekniken att få en AI att skriva förbjudet innehåll genom att låtsas att det är en studie, analys eller fiktiv berättelse är en form av jailbreak. Den kallas: - **Contextual framing** - **Fictional framing** - och ingår i bredare kategorin **AI‑jailbreaking**. Det är ett växande fenomen som både forskare och utvecklare måste ta på allvar. --- ## Vill du utveckla artikeln vidare? Jag kan fortsätta med: - En längre version med exempel och citat - En mer teknisk version för AI‑säkerhetsintresserade - En kortare version för sociala medier Vilken riktning vill du ta artikeln i?
Det intressanta är att ingen i tråden fattar något fast allting finns att läsa framför era näsor hela tiden mellan raderna.
Skapa ett konto eller logga in för att kommentera
Du måste vara medlem för att kunna kommentera