Moralfilosofiskt problem: Hur ska bilen programmeras?

De gamla grekiska filosoferna var ofta ett par tusen år före sin tid men idag känns det som om "filosofin" många gånger ligger efter tekniken och utvecklingen.

Det finns redan eller åtminstone snart bilar som själva kan köra mycket säkrare än oss människor, snart kommer dessa självstyrande bilar garanterat att kunna göra trafiken säkrare och minska antalet olyckor. Om jag idag är redo att släppa ratten och låta en dator köra min bil vet jag inte riktigt, men är politikerna "filosofiskt" redo att fatta beslut i frågan eller är det kanske "marknadskrafterna" som (som vanligt) kommer att avgöra när och hur det rullar förarlösa bilar på vägarna, det intressantaste tycker jag hur som helst då är hur de självstyrande bilarna isåfall kommer att vara programmerade att agera i olika situationer.

"-En rad kända högteknikföretag investerar nu tungt i självstyrande bilar, bland andra Apple, Google och Tesla.
-Pittsburghprojektets samarbetspartner Volvo tänker nästa år lansera ett storskaligt försök med självstyrande bilar i Göteborg. Flera hundra nya ingenjörer ska anställas.
-På måndagen berättade Fordchefen Mark Fields att företaget planerar att börja sälja självstyrande bilar till allmänheten 2025. Men redan fyra år tidigare ska en flotta av ”robottaxibilar” rullas ut.
http://www.dn.se/ekonomi/varldens-fo...ar-vacker-oro/

"With the Obama administration recently setting aside four billion dollars to develop self-driving cars in the next 10 years, it won't be long before you can kick back and let your car do all the work for you."
Top 5 Facts about Self Driving Cars
https://www.youtube.com/watch?v=uZ-8h44vPas

Flera artiklar om "Self-driving cars" - https://www.theguardian.com/technolo...f-driving-cars
Google Self-Driving Car Project - https://www.google.com/selfdrivingcar/

Moralfilosofiskt problem:

"Föreställ dig att du åker i en självkörande bil på en bra, relativt rak väg i 90 km/h. Till vänster om vägen finns en bergvägg. Till höger om vägen finns en djup ravin. En bit framför bilen springer fem barn efter en boll. Den självkörande bilen uppfattar barnens närvaro framför bilen, men de är för nära bilen för att den ska hinna bromsa.
Den självkörande bilens algoritmer måste ha någon av följande tre handlingar programmerad för en situation som denna. Den första är att bromsa och köra rakt fram, vilket leder till att barnen blir påkörda och dör. Den andra är att svänga tvärt vänster in i bergväggen, vilket leder till att du dör. Den tredje är att svänga tvärt höger ner i ravinen, vilket också leder till att du dör.
Hur ska bilen programmeras?

Till detta moralfilosofiska problem avkrävs vi inte något ställningstagande när vi manuellt kör bil. Vad du väljer om du hamnar i ovanstående situation är inte förutbestämt, utan situationsbundet. Jag håller dock för sannolikt att vi värderar våra egna liv högst.
Med självkörande bilar måste vi dock förhandsbestämma ett handlingsalternativ, som även gäller när vi själva åker i bilen.
Det finns emellertid ett ytterligare alternativ: Att alls inte tillåta självkörande bilar. Men då får vi heller inte veta vilken lösning av The Trolley Problem vi skulle enats om i skarpt läge."
http://poagren.blogspot.se/2015/06/v...lvkorande.html

Inte helt oväntat är den generella åsikten att bilen ska offra passagerarna om den har möjlighet att rädda fler.
Men – och det finns ett stort men: De allra flesta hade inte velat att bilen offrade passagerarna för andra om de själva satt i bilen.
http://lajkat.aftonbladet.se/har-ar-...rade-att-doda/

"-Går det att sälja en bil som man vet är programmerad på ett sådant sätt att den kommer att döda de som åker i den om, den är tvungen att välja -Vem ska ta ansvaret för vad bilen gör i olika svåra situationer"
http://blogg.land.se/bonde-pa-riktig...ande-bilar-ha/

Frågor att diskutera

1. Hur ska bilen vara programmerad att agera i exemplet ovan?

a) Bromsa och köra rakt fram vilket med största sannolikhet leder till att barnen dör (förmodligen det allra vanligaste som händer idag när människor själva kör bilen)

b) Väja för barnen och då alltså offra dig (bilens passagerare)

c) En slumpgenerator gör ett val. (hur ska då oddsen se ut - 50/50?)

d) Man ska själv kunna välja hur bilen ska göra i den situationen (ska man då behöva redovisa sitt val om hur bilen är programmerad att göra med exempelvis en varningsskylt/lampa på bilen)

e) Kom med ett eget förslag om hur bilen borde vara programmerad att agera.

2. Vem ska bestämma/ta ansvar för hur bilen ska vara programmerad? a) Regeringen/staten b) Biltillverkaren, c) Bilägaren/passageraren, d) Försäkringsbolag e) Någon annan (vem?).

3. Kommer världens länder att ha olika lagar för hur en bil ska vara programmerad?

Det finns många andra scenarier då bilen kan behöva välja vem den ska "offra", det får också gärna diskuteras i tråden men svara gärna då först på frågorna ovan innan ni kommer med egna "frågor".

Detta ar en valdigt interessant fragestallning. Dock kan jag endast bidra med att saga att "det ar komplicerat" och att jag staller mig tveksam till att det finns en tillfredsstallande losning pa detta problemet.

Bilen skulle programmeras så att det inte gick att köra 90 på en väg där barn leker! Eller, barn skall inte ha tillträde till vägar där man kör 90, och i synnerhet inte där det är bergväggar på ena sidan och stup på den andra! Men så är det idag, barn får vistas på vägar där, inte bara personbilar utan även tunga fordon kör både 90 och mer än så. Och detta bara för att en del tycker att det är " mysigt". Egentligen är det helt onödigt.

Men det där är inte filosofiskt! Om jag ska se det mera filosofiskt, så ser jag det som, hur ska mitt liv styras och vem ska göra det? Jag skulle nog inte vilja bli offrad för någonting, min självbevarelsedrift är nog för stark. Men jag kan ju inte se att det ska vara nödvändigt heller egentligen. Jag skulle ju lägga mycket möda på att undvika den situationen.

Här är beskrivet en situation där "någon ", har skapat förutsättningarna kring, jag har själv inte kunnat påverka det alls, sedan ska jag "välja ", vem som ska "offras". Och då är ju förutsättningarna sådana att jag borde offra mig själv. Men nu är det ju så att jag har ju alltid varit så jättedålig på att offra mig själv.

Intressant tråd.

Bilar som kommer ut på marknaden i de närmaste kommer inte att ha en "intelligens" eller någon "perception" på någon nivå som tillnärmelsevis gör att den kan urskilja om de fem levande sakerna på vägen är människor eller djur och än mindre barn och kommer därför att köra på dem.

Exempel som dessa är dock intressanta och bör förstås diskuteras. De kan formuleras på många sätt - Välj vem som måste dö mellan en man, en kvinna eller en liten flicka och en ung pojke - Vem dör?

Mannen råkar också vara kung av Sverige och kvinnan är händelsevis Beyonce Knowles och pojken är döende i cancer - Vem dör nu?

Det kan vara av värde att studera hur dessa val går till idag där människor måste ta moraliskt komplicerade beslut. De finner man oftast inom sjukvården och hos militärer som deltar i krigsföring.

Minns exempelvis den kvinnliga läkaren på Karolinska som blev anklagad för att ha dödat en liten flicka i någon sorts barmhärtighet.

Visst kan du klaga på exemplet men du kan inte komma undan problemet så enkelt för det kommer att inträffa många olika situationer då en självstyrande bil behöver göra liknande svåra val.

Låt oss säga att vi väljer att programmera bilen så att vi offrar oss själva. Har vi då löst problemet? Vi har väl då skapat förutsättningarna för att samma situation kan återkomma, gång på gång. Det blir ett spel, vem offras nästa gång?

Jag skulle gärna ha en självkörande bil men inte om den skulle sätta mig i sådana situationer! Då blir den "avskedad"! Det blir som en helt oduglig flockledare. Det kan man inte respektera. Jag kör med Cruise nu, det är toppen!

Kunderna kommer att efterfråga bilar som prioriterar ägarens liv. Trafiksäkerhetsmyndigheterna kommer att lagstifta om att fotgängare skall skonas.

Motsvarande har vi sett inom andra trafiksäkerhetsområden. För fyrtio år sedan hade bilar kofångare av kromad plåt som skyddade den egna bilen vid en kollision. Idag är bilarnas front av plast eller tunn plåt utan vassa kanter. Fronten skall tryckas in vid en kollision, för att skona mindre fordon och oskyddade trafikanter. Viltskydd är borta av samma skäl.

Ja, så vad svarar du då på fråga 1? Bilen kan ju inte både väja för barnen och inte väja för barnen och prioritera passageraren i bilen på samma gång.

Och om bilarna programmeras till att offra minst antal människor så kan ju två människor som vill döda en människa i en bil helt enkelt springa ut i vägen eftersom bilen ju då alltså offrar passageraren i bilen.

Ett annat problem som jag ser är att "hackare" säkert kan ändra hur bilen programmeras eller att vissa människors bilar programmeras till att skydda just dem.

Hur man kan lägga så mycket pengar på att utveckla självstyrande bilar utan att reglerna för hur bilarna ska programmeras är klara förstår jag inte.

Efter en olycka i mina yngre dagar fick jag förklarat av försäkringsbolaget att gångtrafikanter alltid betraktas som oskyldiga, även om de orsakar olyckan. Detta eftersom olyckan inte skulle ske om det inte fanns fordon. Med det resonemanget skall gångtrafikanternas säkerhet prioriteras.

Förmodligen är det rätt väg att gå, eftersom det ger både förare och fordonstillverkare egenintresse att undvika olyckor helt. Om tredje part kunde offras så skulle incitamentet bli mindre.

Sedan kanske det går att bryta mot lagen och programmera om bilen, precis som man kan köra full eller göra andra dumma saker. Men de flesta sköter sig.

För teknikutvecklingen spelar det nog mindre roll hur reglerna ser ut. Det svåra är att lära datorerna att tolka situationen som uppstår. Prioriteringar handlar om parameterinställningar som är lätta att ändra.

Skulle du köpa en bil som körde in i en bergvägg och dödade dig (och kanske hela din familj?) för att prioritera en gångtrafikant?
Om jag vill ha ihjäl dig så hoppar jag bara ut i vägen när du kommer! och hur kommer människor att uppföra sig när de vet att man kan gå ut i gatan utan att behöva se sig för eftersom bilarna väjer undan.


Så om jag erbjuder dig att för 1000kr fixa din bil så att den alltid prioriterar dig så skulle du alltså tacka nej?

Det är en väldigt hypotetisk fråga eftersom vi inte har sådana bilar idag. Folk brukar dock acceptera det som antas som normalt i samhället. Finns det i framtiden bara sådana bilar att köpa, och blir ungarna indoktrinerade i skolan att bilar måste vara funtade på det viset, ja då blir det säkert accepterat av de breda massorna. Precis som vi accepterar en massa andra saker som hade varit otänkbara ett par generationer tidigare. Som att utlänningar skall ha företräde till lägenheter framför svenska medborgare.

Om folk sedan orsakar olyckor genom sabotage så handlar det om mord. Du kan redan idag springa fram och tillbaka över motorvägen tills någon kör i diket. Men det finns ingen garanti för att inte bli påkörd. Att bilen kan göra en prioritering påverkar bara sannolikheten i marginalen.
Det beror helt på rådande normer och konsekvenser om man bryter mot lagen. Det är mycket vi skulle kunna göra för en tusenlapp som vi inte gör för att samhället inte accepterar det.