Ersätt domarna i domstolarna med artificiell intelligens

Först borde vi pröva att ersätta nämndemännen med naturlig intelligens. Det funkar i andra länder. Ai är bara ett sexigt namn på statistiska metoder. Det funkar dåligt på sånt som är svårt att kvantifiera, som vittnens trovärdighet. Och även sämre på sånt där facit saknas. Men vet ju inte vilka som blivit oskyldigt dömda eller skyldiga som sluppit dom. Så hur skulle man kunna passa in en funktion på data som inte finns?

Varför är det svårt för AI: n att kvantifiera vittnens trovärdighet utifrån deras vittnesmål? Eller snarare, varför skulle det bli svårare för en AI att göra en bedömning av trovärdighet än det är för en domare?

Det är så att studier visat att människor har en klar tendens att krafigt överskatta sin förmåga att bedöma sådant som trovärdighet hos exempelvis åtalade på deras uppträdande och ansiktsuttryck och allmänna uppträdande. Man bedömer ofta i enlighet med vad sin egen uppfattning och förförståelse än efter förment objektiva kriterier. Detta överskattande av vår förmåga att bedöma lögner utifrån personlighet, ansiktsuttryck osv är en huvudsaklig ingrediens i många rättsskandaler.

Så är inte bilden av den vise domaren som kan avläsa om den åtalade är skyldig genom sin intuition och erfarenhet snarast en romantisk myt som tillhör föreställningarna om dömande verksamhet som en skön konst som är så omhuldade för att bekräfta domarnas auktoritet?

Är det inte bättre om man istället kan göra sig av med denna intuitiva och icke redovisade bit av bedömningen för att istället bedöma trovärdigheten efter just hur objektivt tillförlitlig en berättelse är i ljuset av andra tillgängliga fakta osv som bättre är kvantifierbara och kan bedömas mer objektivt och likformigt från fall till fall?

Nej, man vet givetvis inte alltid om resultatet i form av beslut har blivit riktigt i alla rättegångar, men det finns ändå mycket juridisk empiri att bygga på om vad som gör vittnesmål och berättelser tillförlitliga och trovärdiga. Den delen av domarens bedömning som bygger på erfarenhet av andra fall och dennes uppfattningar vad gäller vittnespsykologinskulle stödja sig på ett betydligt större underlag medan det intuitiva och personliga som är högst osäkert skulle utmönstras.

Har du rätt så är givetvis AI en ren bluff och konmer aldrig att få något genomslag eftersom poängen med dess överlägsenhet just skulle vara att man tvärtom inte standardiserar på ett sätt som går ut över att kunna bedöma enskilda situationer efter deras specifika förutsättningar utan att man standardiserar sådant som är önskvärt att standardisera medan man man samtidigt kan anpassa beslutet efter det specifika.

Jag kan inte avgöra i vilken mån du har rätt eller inte, men jag fortsätter i alla fall här att resonera efter att du inte har rätt, så får man ha med sig den grundförutsättningen.

Vad gäller juridik så är jag allra mest intresserad av brottsmål. Den större diskussion du för är intressant i sig, men jag avstår den tills vidare. Jag förutsätter då att AI handlar om mer än sammanställande av statistik och behandlar frågan mer på denna lägre nivå.

Poängen här är alltså då att AI visserligen sammanställer en mängd data som inte enskilda människor förmår, men också förmår fatta mer rationella beslut på alla sätt i den specifika situationen, utgående från just de parametrar som gäller för det enskilda fallet. Vi vet empiriskt att det fattas många felaktiga beslut som beror på att man i det enskilda fallet medvetet eller omedvetet drar felaktiga slutsatser om sådant som gäller generellt avseende trovärdigheten hos ett vittnesmål. Om, och jag säger om, AI fungerar som det är tänkt, kommer man i alla fall kunna eliminera dessa felaktiga slutsatser och därmed höja nivån på rättsäkerheten, medan variabler som inte tillhör denna grupp av generella slutsatser fortfarande kommer att bedömas utifrån det enskilda fallet.

Du är välkommen att beskriva ett trovärdigt vittnesmål med bara siffror. Gör en enkel korrelation som exempel, så kan nyare matematiska metoder som support vector machine tillämpas därifrån. Här är en utförlig beskrivning av SVM (som redan är utkonkurrerad av bättre metoder, men det är den jag kan bäst inom machine learning):
https://youtu.be/5u4G23_OohI?list=PL...6ADACE599&t=14

Använd gärna Anders Behring-Breiviks vittnesmål som exempel. Jag tycker att hans vittnesmål och erkännande var trovärdigt.

I normala västerländska demokratier har man inte brottmål på handlingarna annat än vid rena småbrott eller då de har erkänt. Tänk efter lite, hur ska du lösa hela grundproblemet med ord som står mot ord om du inte tar dit folk och bedömer om de är trovärdiga eller inte? Menar du att en dator ska lyssna av dem? Hur ska du själv kunna lita på en robot som lyssnar av dig?

Jag var lite svepande ang utredningar för att jag får intrycket på dig att du tror att lagstiftaren inte ens har tänkt på detta. Det finns hur mkt olika utredningar som helst om olika aspekter på olika slags automatiserade beslut, det berörs redan i på flera håll i lagstiftningen. Om du bläddrar lite i den här t.ex. så ser du att det redan pågår lagstiftningsarbeten inom en stor mängd områden. Det är en ovanligt flummig SOU men den refererar rätt stora områden och flera andra lagstiftningsprojekt.
https://www.regeringen.se/495f60/con...sou-201825.pdf

Det främsta skälet till att rättsväsendet har fungerat allt mer godtyckligt, framförallt i tings- och förvaltningsrätt som på senare år blivit lite av ett lotteri är att våra kära politiker ungefär från och med Reinfeldt-regeringen och framåt har gjort besparingar som gradvis tvingat personalen att göra avkall på kvaliteten i verksamheten. Det har blivit allt mer oattraktivt att arbeta där pga lön/arbetsbelastning vilket medfört att fler medelmåttiga/undermåliga jurister lyckats få arbete inom domstolsväsendet än som var möjligt för säg tjugo år sedan. De problemen löser man inte med en övertro på ny teknik.

Om du kan området någorlunda bra så är det nog mer lämpligt att du beskriver exemplen.

Eller de eventuella tillkortakommandena och problemen. Vad menar du är det huvudsakliga problemet?

För visst kan man väl lätt sätta siffror på olika delar vittnesmål? Vad annat utgör en bedömning av trovärdigheten än att man tilldelar olika variabler sanningsvärden och av det sammanställer en helhetsbild? Behring-Breiviks utsagor kan alltså bedömas i jämförelser med andra vittnesmål om händelseförloppet och med kända fakta och den enskilda delarna tilldelas sanningsvärden i siffror.

Problemet är att sätta siffror på sånt som vittnesmål. Det är ett komplext mänskligt beteende som är mycket beroende av sammanhanget. AI tillämpas på datamängder. Har du en datamängd av vittnesmål och domslut så finns det konsultfirmor som kan tillämpa AI/ML på det. Idag är det populärt att tillämpa på sånt som finansiella marknader, onlinehandel och bilder eftersom sånt är kvantifierat i extremt hög grad.

Det man skulle kunna åstadkomma är en algoritm som imiterar mänskliga domslut.

Inget hindrar att man kombinerar förhandlingar med inlämnade handlingar i den mån man önskar. Det strider i sig inte mot rättssäkerheten eller förmågan att få rättvisa och korrekta domslut, problemet med handlingar är främst att målen blir gigantiska och tar enorm tid, men det är ju det AI kan hjälpa till att lösa.

Låt oss säga så här, du är anklagad för ett brott du är oskyldig till, där medicinska fakta är avgörande och dessa kommer att kunna fria dig. I rätten har du visserligen möjlighet att låta ditt ombud lägga fram dessa handlingar för att rätten skall kunna dra slutsatser från dem, men problemet är att ditt ombud inte kan lägga fram dem på riktigt rätt sätt och domarna saknar möjligheter att bedöma dem riktigt. Oavsett då att ett avgörande på handlingarna av hur medicinska fakta skall tolkas alltid kommer att fortsätta innebära vissa problem, vad är den principiella vinsten med att låta bedömningen av tillgängliga fakta begränsas i onödan av omedelbarhetsprincipen, om det inte längre är nödvändigt? Är det inte bättre att tillgängliga relevanta fakta i så hög grad som möjligt blir underlag för bedömningen?

Ja, om ord står mot ord kan det bättre avgöras på objektiva och likformiga grunder. Som jag skrev ovan är problemet uppenbart med att domare drar slutsatser av annat än strikt rationella skäl, där de överskattar sin förmåga att intuitivt bilda sig en uppfattning om sanning utifrån sådant som parternas uppträdande i rätten. Detta accentueras givetvis av de problem du beskriver, men de finns reellt som en grundförutsättning med systemet. Ja, varför skulle man inte lita mer på en dator, förutom rent emotionellt då?

Tack för länken, det är intressant och jag skall titta lite på den. Att man tänkt på konsekvenser av AI är givet och att det för med sig andra problem vd gäller integritet, insyn osv är förstås sant och vad jag förstår handlar större delen av utredningen om det. Om du i väntan på att jag tittar på den själv kan visa mig var det som det mest relevanta för just vår diskussion, dvs vad gäller dömandet i sig, finns, så vore jag tacksam. Det är inget krav förstås.

Fast vad man har idag är snarast människor som imiterar maskiner och tror sig objektivt processa en mängd variabler och göra en helhetsbedömning av tillgängliga fakta när man istället godtyckligt rensar bort de som inte passar in och tar beslutet på mycket få av dessa tillgängliga variabler.

Den del som eventuellt inte är kvantifierbar och som du väl då anser att människor gör bättre än maskiner, vad består den av? Kan det var något annat än något slags intuition som i så fall måste vara definierad som inbyggt opålitlig och högst skiftande i resultat beroende på personlighet?

Och om vi alltså inte tar hänsyn till denna del vad gäller bedömning av sammanhanget så undrar jag fortfarande vad som gör människor bättre än maskiner vad gäller det? För bortsett från denna intuitiva del är väl det som du kallar sammanhanget inget mer än summan av beståndsdelarna i målet, alla vittnesmål osv, som oavsett om det är människor eller maskiner som bedömer och oavsett om de gör det medvetet eller inte gör det genom att kvantifiera beståndsdelarna?

Ja, sådana problem är förstås aktuella, men å andra sidan är det principiellt inte så annorlunda situation som idag. Det går bra att ha kontrollmekanismer av systemet även om det är tekniskt avancerat och kontrollmekanismerna av sådant bias du beskriver kan sägas vara bristfälliga också idag, fast av andra skäl. Min uppfinning är att problemen skulle kunna bli mindre än idag med hjälp ny teknik.

Moral och etik är i vårt juridiska system idag en fråga för lagstiftningen och skall inte spela in. Idealet skulle AI då också vara neutralt i förhållande till sådana frågor och syssla med det som domare idag gör, dvs döma i enlighet med gällande lagstiftning. AI: n skulle vara oförmögen att fatta beslut som stred mot lagstiftningen och om du ville döma högerextrema hårdare måste det framgå av denna.

Det kan inte vara omöjligt att konstruera maktdelning och kontrollmekanismer av hur det fungerar. Anser du verkligen att du idag i praktiken kan kontrollera biaset inom rättsväsendet?

Människor förstår människor. Vi är så gott som kloner av varandra. Evolutionen har skapat våra sociala beteenden. Svårt att ersätta det med kvantiativa matematiska metoder. Mycket av det vi gör och beslutar är vi inte ens själva medvetna om.

Far out men ändå till synes möjligt en dag, som jag har fått mig till livs av futuristen Nick Bostrom, vore att mäta alla elektriska aktiviteter i en mänsklig hjärna och skapa en algoritm med motsvarande logiska orsaks-verkan-samband, neuron för neuron. Tekniken att göra sån brain scanning går raskt framåt och extrapolerar man så kommer man om ett antal årtionden att kunna mäta en hel hjärna i realtid ned till varje enskild neurons elektriska aktivitet. Om datorers minnes- och beräkningskraft fortsätter att förbättras enligt en slags exponentiell Moores lag (passande namn förresten, Moore, mer), så skulle en sån algoritm kunna köras snabbare och snabbare. Alltså göra det som en viss verklig människa skulle göra, fast allt snabbare, Det skulle vara så nära en verklig AI i science fiction betydelse artificiell människa man kan komma. Fast det vore en black box. Man skulle bara ha en ogenomträngligt komplex algoritm som imiterar en människas tänkande mellan sinnenas input och beteendent. Man skulle inte veta vad man gör. Man skulle bara ha en virtuell kopia av Göran Andersson som tänker hundratals och tusentals gånger snabbare än det mänskliga originalet Göran Andersson. Han skulle bli världsmästare på schack, fast ändå inte ha en chans mot en specialiserad schackalgoritm med samma datorkraft. Man skulle förstås imitera Göran anderssons fördomar och omedvetna intuition på köpet.

AI är imitation av det mätbara. Jag tycker inte om att kalla det för "intelligens" eftersom det inte innebär någon förståelse för vad som händer. Intelligens är att förstå (som är ett diffust begrepp) antaganden och logiken som binder dem till slutsatser.

Än värre är det med kvantdatorer. Där existerar, eller bevaras, inte ens mellanstegen i "resonemanget". Man programmerar kvantdatorn med en slags fråga, och får ett svar som med t.ex. 99.99% sannolikhet är sant. Det vore den vetenskapliga metodens död. Vetenskapens embryo grundades cirka tusen år före Kristus av greker som lämnat det gamla samhället för att kolonisera andra sidan av Egeiska havet. De trotsade den gamla traditionen att tro på gudar och orakel och skapade filosofin för att själva resonera om hur saker och ting verkligen är. Med machine learning och än värre med kvantmekaniska datorer, så är vi tillbaka till oraklet igen. Man har maskiner som ger sannolikt korrekta svar, givet att frågan är rätt ställd. Men ingen människa kan begripa resonemanget som leder fram till de svaren. I komedin Liftarens Guide Till Galaxen har en civilisation tillverkat en sådan dator och ställt den frågan om vad meningen är med livet, universum och allting. Efter hundratals år kommer svaret. 42. Så man bygger en ny dator, Jorden, för att ta reda på hur frågan lyder. Det illustrerar att vi nog är hänvisade till vårt eget förnuft och vår egen moral trots allt. Vi är vad vi är. Människor bör dömas av människor, för att den åtalade är en människa.