Citat:
Ursprungligen postat av
SecretGarden352
Gör problemet lite svårare.
Såg nyligen ett problem som såg ut såhär:
Du kan antingen döda en individ.
Eller
Inte döda någon och presentera problemet för nästa person, fast med [antingen +1 eller x2 offer, minns inte riktigt] som måste göra samma val som dig.
Så frågan är, ska du döda en individ eller förlita dig på att alla i världen gör valet att inte döda. Ha i åtanke frågan kommer förr eller senare presenteras för:
islamister
sekter
psykiskt sjuka
individer som kanske vill att alla ska dö.
Sen kan man fundera över om en själv är i risk att vara i gruppen som dör om det valet väljs av någon annan, men låt oss säga att alla som har svarat är säkra.
--
En annan tanke är att The Trolley Problem är mer relevant än någonsin.
Det började med att du väljer mellan 1 och 5 men vad händer när du sitter i trolleyn och valet är mellan dig och 5? Nu är det inte en trolley längre utan en bil. En självkörande sådan som tar beslutet.
Det finns faktiskt filmer där självkörande bilar accellerar okontrollerbart. Vad bör de vara programmerade att göra?
Så säg att du besöker Grand Canyon i din självkörande bil. Den ska parkera vid ett stup men bilen upptäcker att den inte kan stanna. Det du gör hjälper inte heller. Faktiskt, du kanske har somnat och kan därför inte hoppa ur bilen. Bilen vet om detta. Framför bilen är 5 turister. Till sidan, stup. Ska bilen köra över de 5 för att rädda dig?
Nästa steg i frågan är, bilen har programerats för detta val. Antigen en programmerare eller på ett generativt sätt. Men du kan fråga bilen innan du köper den: "Om du måste välja mellan att döda mig eller 5 personer, vilket väljer du?"
Skulle du köpa en bil som svarar "Du dör"?
Nästa steg, när du ska köpa din självkörande avancerade AI bil och ställer frågan så blir svaret "Det är konfidentiellt". Du frågar försäljaren varför den inte kan ge ett svar. De svarar, "Det var ingen som ville köpa bilen när den gav ett svar".
Biltillverkare vill sälja sina bilar. Så antingen så ger de inget svar på bilens beteende för svaret avskräcker köpare.
Eller så kör det omkring en massa AI bilar som är berädda att offra dig och gänget när ni är ute och går, för att rädda föraren.
Sen kan bilen ha sålts till dig med löftet att du är säker i din bil. Men så sker en uppdatering som ändrar TOS som du måste godkänna...
Lite roligt att ponera över tycker jag.