Borde chatbottar larma polisen om användare bryter mot lagen?

Man är inte anonym när man använder ChatGPT, det trodde jag alla visste. Och det är bra tycker jag så man kan få fast personer som försöker generera barnporr och liknande.

Sen är det så att ChatGPT ibland kan misstolka det man skrivit och tro att det är "abuse". Det hände mig här en kväll. Någon här på Flashback hade frågat efter en film och gett en beskrivning och jag klistrade in beskrivningen rakt av i ChatGPT och först började den skriva ett svar men sen försvann responsen och jag fick upp ett meddelande om att det kunde vara "abuse" eller liknande.

Först förstod jag inte alls varför den tyckte det för jag hade inte skrivit något olagligt. Men sen slog det mig vad det kan ha berott på. I frågan så frågade jag efter en vuxenfilm som innehöll vissa scener och att filmen var runt 5 år gammal. Men frågan var lite slafsigt skriven så jag tror ChatGPT trodde att jag sökte en vuxenfilm där personen var 5 år gammal. Inte helt säker men tror det kan ha varit så.

En människa förstår utifrån frågan att man inte menar så, men ChatGPT kan som sagt tolka fel ibland.

Jag tror att förutom att de kollar närmare på konversationer som den flaggat som "abuse" kollar de säkert också igenom konversationer som inte flaggats. Det framgår ju faktiskt i tjänsten att konversationer kan komma att granskas, så man gör bäst i att inte skriva något personligt även om det handlar om helt lagliga saker, om man inte vill riskera att outa sig.

Jorå, det går.
Men du behöver diskutera frågan på ett extremt tekniskt men samtidigt spekulativt sätt.

All avbildning av barn, tecknad, animerad, AI eller verklig är olaglig att inneha i Sverige.

kort svar: Ja.

långt svar: Om jag tillhandahåller en tjänst som jag misstänker används för kriminella uppsåt bör jag anmäla. Tror dessutom att de är skyldiga att anmäla, i synnerhet CSAM (childd sexual abuse material, ett begrepp som är mer korrekt än "pornografi").

En teckning är bara lite bly arrangerat på ett visst sätt på ett papper, och en digital bild är bara pixlar arrangerade på en skärm. Så långt finns inga offer.
Det blir klurigare om man beaktar hedonisk adaption och människors tendens att trubbas av. T.ex konsumtion av vanlig porr leder ofta konsumenten att "behöva" grövre och grövre grejer.
Enligt det mönstret ser jag det nära tillhands att tänka att konsumtion av fiktiv barnpornografi kan leda till önskan om riktig barnpornografi. Vidare skulle man kunna framställa barnpornografiskt material som man exponerar barn för, för att normalisera övergrepp som man ämnar utföra. I ljuset av det är jag sympatisk till hur lagen är.
Men jag ser dilemmat, brotten och offer är i det här scenariot hypotetiska. Det är inte olagligt att teckna folk som blir lemlästade och torterade. Det är ju bara en teckning liksom. Det blir ett logiskt felsteg som bara kan motiveras på moraliska grunder, vilket i förlängningen leder till sina egna problem. Men men, ibland kanske man måste unna sig lyxen att hålla sig med dubbelmoral och att ändamålen helgar medlen? Förvisso ett logiskt klavertramp, men kanske ok ändå för ingen behöver i något legitimt sammanhang teckna barnporr.

Fördelen är att vi får fast här pedofiler som arbetar med barn. Nackdelen är att några skumma manga-samlare ibland stryker med.

Det är långt från perfekt, men jag vet inte. Jag tycker ändå lagen fyller sitt syfte väldigt bra. Det verkar trots allt bara vara skumma typer som blir föremål för den och då är det snarare fördelaktigt att polisen kan upprätta en misstanke som tillåter genomgång av datorer och telefoner.

Men fattar du inte ditt bräkande covidfår?
Ts tycker precis som normala människor att pedofili är bland det värsta som finns. Det han oroas över är polisstaten/övervakningssamhällets utbredning - en volatil kombination med artificiell intelligens.

Problemet som jag ser det är det är ok för att vi är överens om att det är skumma typer, men det baseras på smak (eller behöver i alla fall formuleras annorlunda). Hur och var drar man gränsen, liksom även fast homosex äcklar mig personligen har ju inte jag med att göra vad vuxna människor med sitt medgivande gör med varandra. Man måste kunna formulera det så det inte bara landar i ogillande, i slutänden för att täppa till ev. legala kryphål (t.ex läste jag om någon snubbe som hade en anime med sex med en flicka, men han gick fri för flickan var i själva verket någon sorts demon som var typ 1000 år gammal. Var nog inte i Sverige förvisso). Det behövs alltså en formulering där varken ålder eller faktiskt offer ändå styrker brott, annars tänker jag att pedos alltid hittar kryphål.

Tycker faktiskt att detta är lite märkligt.

Barnpornografi är "problematiskt" först och främst pga att barn kommer till skada.

Om inga barn kommer till skada då bilderna är genererade av AI, vad är det som man faktiskt straffar personen för?

Jag säger inte nödvändigtvis att det bör vara lagligt. Har inte reflekterat över det tillräckligt för att dra någon slutsats.

Samtidigt som det givetvis tar emot att säga att AI-genererad barnpornografi bör vara lagligt, så kan man ju anta att efterfrågan på "riktig" barnpornografi hade minskat, till viss del iallafall, om det var lagligt.

Edit: Läste inte hela, såg nu att han använt bilder på riktiga barn. Då är det givetvis en annan femma.

Ja,vad folk inte verkar fatta är att allt de skriver till en ai kommer användas för att bygga en "profil" över dem.

Det är inte säkert att det som är ok att fundera kring idag är det imorgon. Man kan även manipulera människor om man vet mycket kring dem. Det är samma mekanism som när man analyserar folks surfvanor men mera personligt och ai kan antagligen analysera och sammanställa en personlig profil ganska effektivt så man kan gruppera folk.

Idag är det pedofiler som åker dit och det är ju jättebra men metoden de åker dit på är skrämmande. ALLT du skriver till en ai eller på nätet kan komma att användas mot dig i framtiden.

Hur är det egentligen, är teckad barnporr på papper olagligt eller inte?

Streck-gubbar i blyerts?

Streck-gubbar gjorda av AI?

Alexa lyssnar och tjallar redan.

https://www.dailymail.co.uk/news/article-11899217/Murderer-jailed-life-voice-recordings-Amazon-device-helped-bring-justice.html

AI lyssnar ännu mer, och förstår precis vad du sysslar med och tänker, även om du tror att du inte använder vare sig ChatGPT eller AI.