Borde chatbottar larma polisen om användare bryter mot lagen?

En förskolepedagog greps och dömdes för kränkande fotografering och innehav av barnporr. Han har använt AI till att som det påstås ha "gjort barnpornografi" av bilder som han tagit på barn på förskolan.

Ok, tycker väl många att han förtjänar att åka dit? Det väcker dock frågor som om bilder gjorda med AI bör räknas som barnporr? Tecknade bilder kan ju vara det vilket också är kontroversiellt men det är inte det viktiga utan detta...



https://www.expressen.se/nyheter/sverige/forskolepedagog-doms-for-ai-barnporr/

Fråga Chatgpt hur man kan smygfilma, försökt skapa nakenbilder på barn. Bägge dessa saker är inte enormt kriminella egentligen. Inte att jag försvarar det men det är t.ex. tillåtet att filma lite överallt på offentlig plats, och beroende på omständigheter är smygfilmning inte nödvändigtvis ett jätteallvarligt brott...

Försökt skapa bilder på nakna barn? I denne mans fall var det kopplat till något skumt, men nakna bilder på barn kan vara del av konstnärlig verksamhet. Att på olika sätt producera eller inneha bilder på nakna barn (t.ex. ens egna) behöver inte nödvändigtvis vara brottsligt heller...

Så det verkar inte vara oerhört allvarliga saker egentligen (det kunde varit av mer kriminella skäl) som fick Chatgpt och/eller Open AI att slå larm som ledde till att det nådde svensk polis.

Är det just bara sökningar med möjlig koppling till något brottsligt i linje med det mannen frågade som får botten och/eller Open AI att slå larm? Vad händer om någon frågar efter hur han kan få tag på droger? Eller om någon, kanske på skämt, frågar hur man gör en bomb? Någon som frågar om bankrån eller hur terrordåd utförs?

En del som frågar "skumma" saker gör det kanske av allmänintresse eller bara för att testa... Kan de bli flaggade av botten eller företaget bakom?

Inget av detta är ju klart specificerat... Och de flesta tror nog de kan skriva vad som helst till denna bot utan något händer. Nu ledde det dock till besök av polis, arrest och fängelsedom.

Var mannens sökningar av allvarlig karaktär nog att Chatgpt eller Open AI borde slagit larm? Kan frågor om andra saker som på sina håll är olagliga få konsekvenser? Är det rätt att en bot och/eller ett företag slår larm efter vissa frågor till botten?

Vad tror och tycker ni?

Edit: Ok, jag missade att han också försökt hitta barnpornografi på nätet via botten. Fast frågeställningen kvarstår ändå gällande om botten och företaget också kan slå larm vid frågor om andra saker som har att göra med saker som inte är legala...

Kan andra sökningar och ibland även i oskyldigt syfte, göra att någon anmäls av Chatgpt eller Open AI?

Typ om någon (för att skriva en bok) frågar hur man tillverkar vissa droger eller liknande?

Finns möjlighet för oskyldiga att åka dit bara genom vissa frågor? Åtminstone en fråga denne man ställde indikerade ganska tydligt enligt svensk lag, kriminell intention. De andra av mindre uppenbar karaktär..

Men ingen har väl trott något sånt här hade kunnat hända?

Det är bara barnpornografi och sexuella övergrepp mot barn som hanteras så här. Att fråga om drogtillverkning är i sig inte olagligt men att försöka prompta en AI till att framställa övergreppsmaterial är det, eftersom det räknas som ett försöksbrott.

Försök till narkotikabrott blir det först när du införskaffat ingredienser och påbörjat en process.

Det är inte bara open ai som anmäler den här typen av brott, utan snap chat, whatsapp, facebook och google har särskilda algoritmer som scannar privata chattar efter övergreppsmaterial eller grooming.

Kan vara bra för pedofiler att känna till innan de agerar på sin störning…

Varför anstränger du dej så hårt att försöka trivalisera den här personens sjuka beteenden? Läs vad du länkat och skrivit och reflektera om du är en så jävla skön typ som du verkar tro.

Företagen i fråga har väl samma rätt, och i vissa fall samma skyldigheter, som vilken fysisk person som helst att larma polis om de misstänker att brott kan begås eller ska begås? Det är väl snarare bra att de tar sitt ansvar?

Sedan vad gäller "enormt kriminella" eller "jätteallvarliga brott", de måste väl ändå räcka om det är ett brott som kan ofta förekommer i samband med övergrepp på barn, innehav av barnpornografi och så vidare - alltså grova brott.

Ingen kan "åka dit" utan att ha begått ett brott. Ett försöksbrott (eller ett fullbordat) kan ske om du ber om något som vore ett brott om du fick det svar du sökte (eller får det svar du söker). Är det inte fallet kan du naturligtvis inte dömas - det är inte olagligt att ta reda på hur man tillverkar droger, exempelvis. Däremot kan du naturligtvis dömas för brott du har begått annars, och som upptäcks på grund av att AI:n har tipsat polisen.


Nähe? Vad tror du ska hända när du ber ett företag om att hjälpa dig att begå ett brott, eller om information om hur du ska begå det?

Folk tror att internet är deras privata rum, det är det inte. Vad jag menar är att det inte är som så att internet nödvändigtvis kommer med integriteten av en dagbok även om ni tycks tro det.

Karln arbetade dessutom med barn. Vill gärna se fler liknande fall.
Skriver man en bok så lär man kunna visa upp det för polisen dessutom.

Jag är en av "idioterna" som använder allt från sociala medier till Chatgpt mycket fritt dvs till allt som rör sig i mitt huvud. Otroligt märkligt att polisen inte knackar på min dörr då.

Nej vänta, just det! Att ta upp exakt allt i sitt liv och innersta väsen är inte brottsligt, att begå olagliga handlingar som har straffpåföljder är det.

Håller man inte på med barnporr, knarklabb och att plabera massmord eller mord över huvudet taget (eller andra brott) så kommer inte rättsväsendet hem till dig.

Sedan såsom jag använder internet, är även det ett val. Självklart ska inte människor använda allt mitt och sprida omkring i syfte att skada mig precis som jag inte gör så mot andra men det har en poäng. Än så länge är dina grannars möjligheter till olaglig övervakning mm eller andra i ditt eget nätverk av familj och vänner, ett större hot än myndigheter.

Därefter så är inte i ternet som din bostad. När du hyr ditt hem så kommer inte bostadsbolaget vara tvungna att övervaka det 24/7 för att de måste eller kan, du är ifred i ditt hem. Samma sak gäller inte teknik, bredband, appar. Då är det värre när de begår olagliga intrång. Det du gör är däremot inte fritt bara för att du själv ser det som Vilda Västern.

Ditt fria internets resonemang är likvärdigt med en amerikans syn på sin rätt att bära, äga och avfyra vapen. Det är en rest från det förgågna när inga lagar fanns för att området var nytt utan strukturer eller lag och ordning inblandat.

Det fria internets försvarare är jämställda med en Trump-anhängare. Så dumt ser det ut när man tittar från andra sidan Atlanten.

Självklart anmäler AI-företagen alla sådana sökningar och prompts. Det är deras främsta möjlighet och dessutom en enkel process för att skydda sig själva från att bli indragna. Att bli indragen är negativ publicitet också fast man inte blir dömd.

Ja, och kontaktar de polisen så är det inte en felsägning eller någon diffus prompt det handlar om, där AI stoppar sig själv. Då handlar det om tydliga uppmaningar till AI att skapa sådant, och förmodligen upprepade försök, särskilt gällande bilder och videos. Det är inget misstag liksom, och Chatgpt gör sin plikt när de anmäler detta.

Om någon skriver en roman med hjälp av AI och romanen innehåller ett övergrepp mot en minderårig tex eller om AI tolkar det så, så är inte det säkert att det är olagligt i sig, men AI kan stoppa sig själv ändå om beskrivningen är för grafisk och för misstänkt. Men den skulle inte anmäla det om det stannar där, för avsikterna är alldeles för diffusa.

Däremot en användare som försöker generera bilder/filmer på nakna barn, frågar hur man får tag på övergreppsmaterial och använder tjänsten för att försöka producera olagligt material osv - då får de en samlad bild av avsikterna och då måste de anmäla. Precis så det ska vara.

Dock så filtrerar de rätt mycket också - de anmäler inte allt utan väljer det som sticker ut ur mängden. Som med allt måste de fokusera på den allvarligare sorten, precis som polisen gör, eftersom de annars inte skulle ha tid med annat. Tyvärr, då många då flyger under radarn men i det här fallet tolkade man det som att han var mycket benägen att begå brott.

Sedan är det skillnad mellan länder. I Sverige är det ju av nån anledning inte olagligt ens att chatta om sex med barn - detta gör ju t o m dumpens fiskare själva med gäddorna, och även grafiskt ibland. I USA ser det annorlunda ut. Folk kanske tror de är skyddade under svensk lag, men de kan få en chock när de ska besöka USA. Bara för att svenska myndigheter inte gör något såvida inget faktiskt brott begåtts som i det här fallet, betyder det inte att amerikanska myndigheter resonerar likadant om personen sätter sin fot i USA.

Utgå från att ALLT ni skriver in - oavsett modell - lagras, sorteras och kopplas till er som person (speciellt om ni har skapat ett konto med t.ex. Google).

Privata problem, otrohet, hälsobekymmer, företagsinformation, familjesituation, privatekonomi, etc. Allt sparas och kan potentiellt användas mot er i framtiden. Tänk er speciellt när AI blir så pass sofistikerad att ägarna av all denna data (vilket kan komma att ändras i framtiden; nya ägare av OpenAI t.ex.) kan kartlägga individuella användare och i princip på nolltid skapa en komplett profil som kan användas för riktad marknadsföring, åsiktsregistrering/övervakning, utpressning och gud vet vad mer.

I det här fallet har jag dock inga problem med att OpenAI kliver in. Jag ser det på samma sätt som att man går in på ett forum som Flashback och ställer en fråga om hur man lättast smygfilmar småbarn, eller tar kontakt med en grafiker och ber dem producera barnporr. Klart sånt ska anmälas.

Jag tror faktiskt inte att de AI-ansvariga ens gör en någon bedömning om lagligheten, jag tror att de går 100% enligt "cover your ass"-principen.

Om det skulle komma fram att nån gjort nåt olagligt, vad som helst, med hjälp av AI, så är det sån negativ publicitet som INTE är bra publicitet. Från att generera sexbilder på barn till "hur mördar jag min svärmor utan att bli fast". Därför "informerar" man sannolikt myndigheter om allt man finner riskfyllt, inte för potentiella offer utan för företaget och AI-konceptet.

Om någon nu mördat sin svärmor och det kommer fram att gärningspersonen frågade råd och diskuterade med AI om hur han/hon skulle gå tillväga och sen följde det som AI föreslog, så är det ju tusen gånger bättre om AI-företaget kan visa att de "vidarebefordrat det materialet för granskning till myndigheterna". Också om de inte skulle dömas för att deras AI ger råd och berättar hur man bäst mördar sin svärmor så är det ju en "total friskrivning" från allt ansvar. Och det är vad de är ute efter, framförallt i USA (där det är möjligt att stämma bolaget privat i ovanstående fall och begära skadestånd).

Dessutom lagras ju precis ALLA prompter, så allt någon frågat av AI kan spåras tillbaka till frågeställaren (om man inte sett till att anonymisera sig tillräckligt).

Är det verkligen det? Han bad botten att framställa nakenbilder på barn, inte övergrepps-material. Sen gjorde botten inte det heller...

Så visst visade det sig sen han hade olagliga bilder hemma, men just att bara skriva en olämplig prompt till en bot är troligen inte olagligt eller det finns åtminstone inga lagar som reglerar det så vitt jag vet.




Ok, men att be en bot generera olämpliga bilder, fråga om olämpligt beteende till botten (smygfilmning) eller fråga var barnporr kan hittas på nätet. Allt detta kanske kan indikera han har något skumt hemma hos personen men det är inte i sig olagligt. Om du hävdar motsatsen så bevisa det...