Citat:
Ursprungligen postat av
SecretGarden352
De som skapar de här verktygen att man kan manipulera bilder har givetvis svårt att ta ansvar för att andra personer kan skapa väldigt stötande bilder med hjälp av verktyget. Tyvärr så är människan rätt vidrig i många sammanhang och kommer att använda AI för att skapa de mest stötande och/eller hemska bilder och videos vi inte ens kan tänka oss.
Men hur man ska bekämpa det här vet jag inte. Det har man egentligen gjort hela tiden. Det raderas och blockeras miljoner om dagen så det är inget litet problem.
Det är samma som med att bekämpa spam-mailen, hade man inte gjort det så hade vi allihopa fått hundra mail i brevlådan varje dag.
Jag gillar inte riktigt att det blir ett politiskt bråk om det här. Grok är ett exempel på att det inte bara handlar om att Grok tillåter folk att svänga ut mer i sina fanatasiverk utan också om att man har olika politiska åsikter och AI blir även ett verktyg i detta. Man kan skapa miljoner AI memes, man kan skriva miljoner inlägg och påståenden, man kan skriva artiklar.
Jag tror det blir svårt överlag att hindra folk från att skapa de vidrigaste material vi inte ens kan tänka oss, utan det är något som man får jobba med hela tiden och det är också därför som vi har lagar eftersom vi lever i en värld där en stor del av människorna gör idiotgrejer som kan drabba oskyldiga människor illa.
Frågan är om det är en bra idé att helt förbjuda olika plattformar och tjänster? Vi har en annan liknande som pågått länge när det gäller TikTok och många andra applikationer kommer också att hamna i skottgluggen.
Är det så att vi människor, såväl privatpersoner som makthavare känner att vi tappar kontrollen? Att vad som händer går inte att styra längre utan det blir som det blir, tyvärr oftast det värsta alternativet som blir vår vardag?
Alla AI-verktyg kan krävas på ansvar om användarna använder tjänsten för den här sortens saker, eftersom den som erbjuder tjänsten gjort det praktiskt möjligt. Kanske därför de sällan anmäler sina användare, eftersom de själva begår samma överträdelser som användaren som begärt prompten.
Att blockera att minderåriga/barn kläs av genom bildgenerering är inte svårt för AI, det är en mycket enkel säkerhetsfunktion för att varna AIt att "oj nu måste JAG som AI stoppa mig själv innan JAG begår överträdelser" (det är så AI fungerar). Men det försvårar legitima genereringar också om man ska vara 100 % säker, dvs ska man då blockera möjligheten att öht generera bilder på barn oavsett situation? Kan användaren generera en familj, eller kommer barnet plockas bort även om det är en helt vanlig bild?
Givetvis är det inte planerat av Grok eller någon annan att användarna ska kunna göra detta, men kanske har man inte gjort tillräckligt för att blockera möjligheten att komma runt systemet.
Tyvärr, och detta är utmaningen, flaggar dessa tjänster bara när det är uppenbara och grova övergrepp - inte något som far i gråzonerna, inte ens en bild på stranden. Om de skulle flagga varenda bild eller video där barn finns med skulle det ta upp alla resurser. Det vore samma sak som om Instagram tex skulle flagga en användare för att den lägger upp en bild från dagens besök på stranden. Det vore ohållbart och man ska aldrig stigmatisera det faktum att barn faktiskt existerar, så man kan inte blockera allt som innehåller barn, då kan man inte ens se på tv eller gå utanför dörren. Så hysteriskt får det inte bli, och här har AI försökt lägga en nivå som med allt annat.
Det är stor skillnad på barnpornografi och "lättklädda barn" tex, då det senare i princip inkluderar alla barn som inte är klädda för vintern. Det är även skillnad på något så diffust som "lättklätt" och sexuellt utmanande, sexuell posering osv. Detta gör att AI måste särskilja endast det uppenbara, precis som Instagram mfl tillåter "lättklädda" sommarbilder men uppenbarligen inte sexuell posering eller värre. Man ska inte bidra till att sexualisera barn som alla pedofiljävlar gör, barn har shorts och linne på sommaren tex det är inget sexuellt med det och det vill inte AI heller sexualisera. Det man misslyckas med är att blockera "avklädningsprompt" som slinker undan bara för att det inte är 100 % naket eller någon viss pose. Här borde AI kunna uppfatta att det är fel, men det är utmaningen för AI. Givetvis måste Grok kunna blockera sådant och nu verkar man ju vara striktare än någonsin även för vuxet innehåll som avbildar vuxna människor.
Det bästa är väl att träna AI på att blockera allt som potentiellt kan användas i fel sammanhang, och nu verkar man ändå gjort det.