Hur ska media hantera förfalskningar, AI och "deepfakes" mm.?

Idag kan man med AI skapa bilder och klipp som ser verklighetstrogna ut trots att de är helt fiktiva. Det blir ett problem, som i samband med skolkravallerna i Frankrike så vet man inte vad som har hänt och vad som är desinformation. Rykten kan snabbt spridas.

Hur ska media hantera detta?

En annan kopmlicerande faktor iaf. i Sverige är att gammelemdia varit ökända för att censurera eller undvika nyheter som rör invandring och brottslighet av politiska/ideologiska skäl. Här menar jag att de har skjutit sig själva i foten. När anonyma källor börjar sprida spektakulära nyheter så struntar många i vad gammelmedia säger om det. Även om traditionella medier skulle kunna bevisa att det är bluff så kommer många rykten att spridas med vindens fart ändå.

Sålänge det passar narrativet så.
Svensk mainstream media lär inte dra sig för att använda deepfakes och AI propaganda sålänge agendan är rätt.

Hur då, genom att göra en film där Åkesson heilar?

Jamen typ som BBC redigera egna klipp. De kommer inte kunna låta bli nu när verktygen blir såpass bra.

Många (men inte alla) AI-verktyg märker AI-generade bilder med C2PA-kod + en osynlig SynthID-vattenstämpel. C2PA-koden är ett signerat manifest som ingår i bildens metadata, och där står då:
action: "c2pa.created"
digitalSourceType: "http://cv.iptc.org/newscodes/digitalsourcetype/trainedAlgorithmicMedia"

Journalister har fått lära sig källkritikens fyra kriterier, och de är även tillämpliga på bilder. AI-bilder såväl som andra bilder. Ingen principiell skillnad. Kriterierna innebär att man alltid söker källuppgift och frågar sig vem som är upphovsperson (vilken kunskap personen har), när källan tillkom, varför (om personen är neutral), och om uppgifterna kan kontrolleras och samstämmer med andra oberoende källor.

Som vanlig användare kan det vara svårare att sålla i flödet. Bilder som får stor spridning och gynnar en viss sida, t.ex. i samband med väpnade konflikter eller politiska val, är ofta fejk. De kan kontrolleras genom att bildsöka, söka i andra nätkällor, läsa kommentarer från andra användare och söka efter händelsen tillsammans med "fact check" för att se om faktagranskning har gjorts. Man kan söka efter identiska bilder med sökmotorer för bildsökning eller kontrollera filens metadata såsom datum som har sparats av kameran.



Hoppas du är skeptisk både mot dem och mot trollfabrikerna på ytterkanten.

Tunga aktörer inom propaganda lär väl få tillgång till verktyg som inte vattenstämplar så småningom? Av historien kan vi väl lära oss att alla sådana här tekniska lösningar kringgås förr eller senare av den som vill.

Ja men källkritikens kriterier sätts inte ur spel av det. Journalister måste ta reda på ursprunget av alla bilder eller verifiera innehållet, annars ska de inte publiceras.

Tror inte de kommer att använda dem själva, men såklart kommer inte deep-fakes som stödjer deras agenda att granskas lika hårt som andra.

Förr eller senare ja. Först kommer antagligen reaktionära grupper som sponras av Kina att får tillgång till sådant från det hållet, sedan kommer vår media att få detsamma från andra hållet för att kunna motverka. När stormen sedan lagt sig kommer vår media att fortsätta använda sina verktyg att gå statens ärenden.

Uppenbarligen missade du grundskolans samhällskunskap, gå tillbaka till grundskolan. Du kanske har läst för mycket alternativa medier som bara skriver nyheter baserade på rykten

Hur ska lögnaren hantera någon annans lögner menar du?

Än så länge går det att upptäcka AI-genererade ganska enkelt men det försvinner med tiden också.

Kanske AI hjälpa till att upptäcka deepfakes också. Man får gilla läget och anpassa sig efter det. Försfalskningar av nyheter har funnits i alla tider. SVT vinklar och fejkar dagligen sedan en lång tid tillbaka så ser inte det hela som något enormt hot.