Borde verkligen bild, video och ljud fortsätta accepteras som bevis?

Jag tror inte att AI kommer att ta alla jobb eller förgöra världen och det är inte det jag vill diskutera.

En sak AI däremot verkar bli bättre och bättre på rätt fort är att fejka bilder, ljud och video. Vi är väl inte riktigt där än men det känns som det inte är många år innan det inte går att skilja något AI genererat från något riktigt. Särskilt om det rör sig om gryniga bilder från övervakningskameror.

Nuvarande samhällstrend är att vi ska ha kameror överallt för den som har rent mjöl i påsen har inget att frukta osv. Det är illa nog vad en stat kan göra med bara övervakning, tänk vilka möjligheter att sätta dit besvärliga personer om den bara kan skapa bevis.

Så, för rättssäkerhetens skull är det väl säkrast att börja se över ett totalt ogiltigförklarande av typ allt utom vittnesmål och fysiska bevis. Eller?

Ja men det har väl snackats en hel del om just såna saker?

Att kunna manipulera denna typ av bevis har funnits länge och det viktiga är att domstolen värderar bevisen precis som man värderar vittnesbevis.

I Sverige så har vi fri bevisprövning och fri bevisvärdering, vilket innebär att nästan* allt får läggas fram som bevis, och sen ankommer det på domarna att avgöra vilket bevisvärde (om något) som bevisen har.

AI-genererade bilder kan i stort sett alltid skiljas från riktiga bilder av proffs. Hur det ligger till med ljud vet jag inte. Problemet skulle väl vara om domarna tror att de är bättre på att avgöra vad som är äkta eller inte. Vittnesmål är bland de mest opålitliga bevisformer som finns, men många domare tror (felaktigt enligt forskningen) att de är duktiga på att avgöra vem som talar sanning. Och det förutsätter att det faktiskt är en lögn det är fråga om, och inte ett vittne som uppriktigt tror att de har rätt, men har tagit fel.

Den största risken är väl att domarna får falskt självförtroende när det gäller bilder och ljud också, men eftersom vi där talar om rent tekniska bedömningar så tror jag domarna skulle vara mindre benägna att få för sig att de är duktigare än vad de är. Men det får väl tiden utvisa.

Rent tekniskt sett så tror jag inte vi är i närheten av AI som klarar av att skapa helt naturtrogna bilder, men det får väl tiden också utvisa.




*Det finns ett fåtal undantag med vissa sorters bevis som inte får användas, men de är väldigt få, till skillnad från t.ex. U.S.A. där det finns mycket regler kring sånt.

Jag vet att det inte är några problem nu, men ge det ett par år.

Mitt svar var generellt, och kan läsas om ett par år lika gärna som nu.

Med det sagt så tror jag inte det kommer vara möjligt att generera helt naturtrogna bilder om ett par år. Men om så skulle vara så har ju vi i Sverige ett bra system, eftersom den fria bevisvärderingen tillåter att domarna kan ta hänsyn till nya omständigheter direkt, utan att behöva vänta på lagändringar.

Tror inte det är jättelångt borta. Tror mest det är en fråga om att sänka kvaliteten på bilden. Kör upplösning 240 så lär det gå rätt bra redan idag.

Om man misstänker att en bild eller video är falsk så kan ett första steg vara att kontrollera vilken kamera som använts. Alla digitala bildsensorer har små avvikelser som gör det möjligt att ta fram ett slags fingeravtryck, PRNU - Photo Response Non-Uniformity.

Om då någon hävdar att en bild är tagen med en viss övervakningskamera eller mobil så går det att se om fingeravtrycket stämmer som en första kontroll.

Ja, det mest oroväckande i dagens samhälle är väl att främst män döms på ord mot ord för våldtäkt för att de som dömer tror sig kunna avgöra vem som ljuger och vem som talar sanning, trots att det är omöjligt enligt vetenskapen att göra detta.

Angående fejkad bevisning gjord med AI får man väl hoppas att det kan komma något verktyg som kan avgöra när något är gjort med AI eller fejkat. Kanske AI självt är verktyget som kommer användas för att kunna upptäcka sådant? Eller om det kommer finnas experter som kan avgöra sådant.

Vid ett vittnesmål menar du att det inte är möjligt att manipulera det, dvs ljuga?

Hur skiljer det sig från AI-genererat material?

Det finns redan fall där åklagare valt att inte väcka åtal för att enda bevisen var en inskickad film som inte går att säga säkert att det inte var AI.

(Nu var det fråga om ett företag och miljöbrott där det an någon anledning brukar ställas högre krav än om någon "känd av polisen" gjort något)

Det är ett större problem att domstolarna har hybris och tror sig kunna avgöra vem som talar sanning och inte trots att det bevisligen inte går