AI som ibland genererar olagligt material

Om man har en AI som ibland spottar ut något olagligt, tex barnporr eller hets mot folkgrupp, är det då lagligt att använda den?

Ja, det är barnpornografibrott.

16:10 a BrB: "Den som skildrar barn i pornografisk bild eller sprider, överlåter, upplåter, förevisar eller på annat sätt gör en sådan bild av barn tillgänglig för någon annan, […] eller innehar en sådan bild av barn eller betraktar en sådan bild som han eller hon berett sig tillgång till döms för barnpornografibrott till fängelse i högst två år."

Frågan om faktiskt. I det fall TS beskriver det så är det inte säkert att det finns uppsåt.

Det blir en fråga om uppsåt som du säger. Jag läste för snabbt. Rimligtvis har du inte uppsåt första gången den generar en sådan bild, på grund av att du inte har vid insikt om risken. Frågan blir dock om det föreligger i vart fall likgiltighetsuppsåt andra gången den generar en sådan bild.

Jepp, jag funderade på likgiltighetsuppsåt också. Och som du säger kan det göra skillnad andra gången.

Men jag skulle tro att det skulle bli någon form av rimlighetsbedömning i det hela också. Skulle man verkligen vara tvungen att aktivt förhindra den från att generera barnporr?

För att ta ett extremt exempel. Säg att du skriver ett enkelt program som helt enkelt bara genererar slumpmässiga pixlar, typ så här:


så att i princip alla bilder ser ut så här https://upload.wikimedia.org/wikiped...ndom_color.png

Säg att du helt plötsligt skulle få fram en barnpornografisk bild. Sannolikheten är ju nästan noll, men det skulle teoretiskt kunna hända. Det faller ju på sin egen orimlighet att det skulle vara brottsligt att köra programmet en gång till.




EDIT:

Vill också tillägga mangafallet och även omslaget till Virgin Killer med Scorpions. Där har du två fall där svensk domstol har bedömt att det är en barnpornografisk bild, men där det inte blev något straff. Innehavet var "försvarligt".

Ta ett annat exempel. Säg att du har en revolver, en sån där gammaldags sexskjutare. Du stoppar i en kula och snurrar. Nästa gång du trycker på avtryckaren är sannolikheten en sjättedel att det säger ”pang”, och fem sjättedelar att det säger ”klick”. Du vet inte säkert om det kommer säga ”pang” eller ”klick”. Du riktar revolvern mot en annan människas huvud och trycker på avtryckaren. Om personen dör, kan du fällas för mord?

Sättet rättsväsendet resonerar i sådana här situationer är ungefär som följer. Du har en handling, att rikta revolvern mot en annan människas huvud och trycka av. Du vet att denna handling med viss sannolikhet kommer ha ihjäl personen. Även om det mest sannolika är att det säger ”klick”, så är det tillräckligt sannolikt att det säger ”pang” för att du bör försöka undvika att utföra handlingen. Om du inte gör något för att minska risken att dina handlingar leder till någon annan människas död kan du åka dit mord. Även fast du inte visste helt säkert om det du gjorde skulle ha ihjäl personen eller inte.

Lite samma sak här. Om du har en AI som med en viss sannolikhet genererar barnporr, och du vet om det, och du använder tjänsten ändå, då kan du åka dit för barnpornografibrott (16 kap. 10 a § brottsbalken).

Brottet hets mot folkgrupp (hmf, 16 kap. 8 § brottsbalken) är lite speciellt. Ett av kraven för att något ska vara hmf är att det ”sprids”. Om du har en AI-tjänst som skapar budskap endast du tar del av är inte spridningsrekvisitet uppfyllt. I så fall är det inte hmf av det skälet. Inte ens om du ber den skapa sådana budskap med flit. Om du använder AI-tjänsten för att göra inlägg på sociala medier skulle du kunna åka dit, enligt argumentet i ovanstående stycken.

Fast i exemplet med rysk roulette finns det ju lagar som täcker de missade skotten, framkallande av fara för annan alternativt försök till mord.

[url="https://www.riksdagen.se/sv/dokument-och-lagar/dokument/svensk-forfattningssamling/brottsbalk-1962700_sfs-1962-700/#K16P10b" om man inte är ung själv
[/url]

Men tack för svaret, ser att det är en rätt svår fråga.

Men någon gräns måste det ju också finnas. Säg att du köper blinda patroner, men producenten har råkat packa ner en riktig patron som ser helt identisk ut som de blinda. Då lär du knappast åka dit.

Jo, men det finns inget som heter "framkallande av fara för framställande av barnporr"

Du kan ju åka dit för vållande. Dvs. kravet på aktsamhet lär vara rätt högt vid användandet av en pistol. Du borde ha kollat patronerna etc.

Jag tvivlar på vållande i en sådan situation. Det är så sjukt osannolikt att det skulle hända. Och säg att man testar att blindavfyra, är det lugnt då? Ibland klickar ju riktiga patroner också.

Men visst, du har en poäng med att krav på aktsamhet vid vapenhantering är rätt högt. Men ta då killen som åkte dit för rattfylla för att lunchrestaurangen hade kopplat in ett starkölsfat på lättölstappen. Han friades.

Rätt säker på att AI måste "tränas" genom att matas in med den typ av information som den skall bearbeta/skapa kring, så om inte annat kommer nog någon att ställa mycket allvarliga frågor om hur du har åstadkommit det.