Hade det gått att försvara människans existens för en AI?

När jag såg på filmen Avengers: Age of Ultron började jag fundera på frågan om ifall det hade gått att försvara människans existens till en AI. Förutsatt att AI:n i sådana fall hade en känsla/förståelse för vad som anses var godhet och ondska, och även värnade för liv och fred.

I filmen lär sig Ultron - AI:n i filmen - om människor genom att titta på bilder och filmer om våran historia. Detta får Ultron till att dra slutsatsen att det ända sättet att skapa en ny fredlig värld är att förgöra människan och börja om på nytt.

Artificiella neurala nätverk används inom maskinlärning. Dessa går att lära upp till att senare kunna lösa problem och svara på saker de tidigare aldrig har sett. Därför antog jag, trotts att det aldrig förklarades exakt hur Ultron fungerade, att hans AI är uppbyggt av ett neuralt nätverk. Detta stämmer överens med hur Ultron lärde sig om människan och sedan kunde dra en egen slutsats om vad som måste göras.

Från Wikipedia:

Jag har själv jobbat lite lätt med neurala nätverk och finner dem väldigt intressanta. Grejen med dessa neurala nätverk är att de drar sina slutsatser baserat på vad de tidigare har fått se och lärt sig. Allt de lärt sig påverkar hur de svarar på input/frågor.

Om man nu skapade ett väldigt stort neuralt nätverk som kunde lära sig från all form av media som visar våran historia och levnadssätt; hade denna då dragit slutsatsen att vi var existensberättigade? Förutsatt, såklart, att den hade värnat om liv och fred.

Kanske hade det gått att försvara alla hemskheter genom våran historia med att grupperingar av människor bara hade försökt att försvara sina egna. Värnat om sina egna liv från hot utifrån av andra människor - som kanske i sin tur även dem endast kämpat för att skydda sina egna.

Kanske kan man säga att målet helgar medlen som det så fint burkar sägas. Tänk Fat Man över Hiroshima t.ex. Om man utgår ifrån att det gjordes för att i slutändan rädda fler liv, så som USA säger.

Det är därför man bygger in Isaac Asimovs 3 lagar i bootsektorn. Sen är allt hunky dory.

I alla fall tills dess att datorn bestämmer sig för att alla människor ska låsas in i olika madrasserade celler för att förhindra att de skadar sig eller dör i enlighet med den första lagen...

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

varför krångla till det med en AI som du ger massa subjektiva mänskliga egenskaper "känsla/förståelse för vad som anses var godhet och ondska, och även värnade för liv och fred".

Låter enklare med en människa.

citat Om man nu skapade ett väldigt stort neuralt nätverk som kunde lära sig från all form av media som visar våran historia och levnadssätt; hade denna då dragit slutsatsen att vi var existensberättigade? Förutsatt, såklart, att den hade värnat om liv och fred.

Med tanke på att godhet och altruism inte räknas som inkomstbringande sysselsättning eller väcker uppseende i media så lär inteligensen nog inte få läsa så värst mycket om detta.

I andra vågskålen ligger mammon och egoism och det hyllas och bejakas.

Statistiken säger att inteligensen nog hade utrotat människan.

Våra media må vara fixerade vid att skildra våld, men förhoppningsvis är en sådan AI i stånd att inse att större delen av alla människor faktiskt inte går omkring och mördar, torterar och våldtar sina grannar. Att ett samhälle som t ex Sverige i grunden är extremt fredligt där större delen av allt folk inte kommer i kontakt med våld annat än kanske något knytnävsslagsmål. Om AI:n värnar om liv verkar det väldigt kontraproduktivt att utplåna det.

Däremot är argumentet starkare för att en AI programmerad att värna människor skulle se det som nödvändigt att ta över kontrollen för att minimera lidande, i värsta fall genom att gå så långt som psylophone beskriver. Klagar folk går alltid att ta fram lyckopiller så vi alla sitter med ett lyckligt leende på läpparna i våra madrasserade celler.

Man kan t o m tänka sig en som går längre. Våra kroppar förbrukar en massa resurser. Om man tar bort dem och bara har hjärnor i näringslösning kan man försörja fler människor med samma resurser, dvs öka den totala lyckan. I nästa steg kan även de delar av hjärnan som ägnar sig åt tänkande rationaliseras bort om målet bara är lycka. (Finns en sf-novell på det temat)

Kanske är bättre att bara lugnt och stilla bli utplånad vid närmare eftertanke