Behöver vi vara rädda för artificiell intelligens?

Hälften av alla dagens jobb kommer att ersättas av AI inom 25 år. Vi ser redan banker försvinner och myndigheter som typ arbetsförmedlingen redan idag med lätthet kan ersättas med en app. För Sveriges del handlar det om typ 2,5 miljoner arbetstillfällen som går förlorade. Med robotisering och AI.
Inga taxi och lastbilschaffisar, inga lokförare och piloter, tillverkningen i Kina osv. 3D skrivare i var mans hem. osv. Heka SJ kan datoriseras. Precis som tunnelbanan i Köpenhamn. Inte en enda förare. Tågen går bättre och säkrare med en centraldator. - Ditt jobb ersätts inom 25 år av datachips. I Japan har de lärt AI-datorer att tolka röngenbilder och de lär sig av sina egna fel och idag söker de igenom tusentals röntgenbilder på sekunder dygnet runt året runt och bättre än någon läkare. På ICA försvinner kassörerna one by one. Många statliga myndigheter och departement kommer helt eller delvis att ersättas med appar. - Alltså - 2,5 miljoner jobb försvinner inom 25 år / En halv generation.

Det är iförsig omvälvande och något man bör förbereda sig för som person och som samhälle.
Exempelvis kanske det är osäkert att utbilda sig till pilot, som jag ser det.

Men arbetets omväxling, och samhällets radikalt nya natur är inte det som är det mest skrämmande.
Det är frågan om säkerställandet av våra medvetandes kontinuitet. Med andra ord liv eller död för vår del

Det ska dock sägas att teknikutvecklingen, AI främst, inger hopp till att kunna leva bättre och längre liv.

Så det är med en skräckblandad förtjusning man ser på framtiden. Kan man säga annat?

Kort svar: ja.

Jag hör till dem som anser att Stephen Hawking och andra som varnar för artificiella superintelligenser har rätt. Det kan bli det största hotet som mänskligheten ställts inför, och det kan komma inom en ganska snar framitd.

Problemet i ett nötskal är att vi inte kan förutse eller styra vilka prioriteringar en sådan superintelligens gör. Kommer den överhuvud taget att vara intresserad av att behålla kolbaserat liv på den här planeten? Om så, i vilket syfte? Kommer våra efterkommande att framleva sina liv i ett zoo för arkaiska livsformer? Eller kommer de att jagas som i Terminatorfilmerna?

De flesta som läser det här forumet känner säkert till robotikens tre lagar, som Isaac Asimov formulerade i sina Robotnoveller:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

http://en.wikipedia.org/wiki/Three_Laws_of_Robotics

Det låter ju bra, och en AI som alltid följde dessa lagar skulle knappast bli ett hot mot mänsklighetens överlevnad. Men tyvärr finns det ingen anledning att tro att en framtida artificiell superintelligens kommer att låta sig styras av dessa eller liknande lagar.

För eller senare - förmodligen snarare än vi tror - kommer vi nämligen att uppnå det som en annan science fictionförfattare - Vernor Vinge - kallat för den teknologiska singulariteten: den punkt där artificiella intelligenser designar nästa generation av artificella intelligenser:

http://en.wikipedia.org/wiki/Technological_Singularity

När så skett kommer det att bli mycket svårt eller omöjligt för oss människor att behålla kontrollen över utvecklingen, särskilt som vi sällan kan enas om ett gemensamt mål, utan i stället bekämpar varandra. Något som en artificiell superintelligens naturligtvis kan komma att utnyttja för egna syften.

Max Tegmark har en del läsvärda funderingar kring detta i slutet av sin bok Vårt matematiska universum.

Låt oss antaga att vi utvecklat datorer som är intelligentare än oss själva och som även kan föröka sig, så att de underställs en evolutionär drivkraft att överleva. Kommer det naturliga urvalet att gynna datorer som skadar mänskligheten?

Vi har levt i generationer i symbios med våra husdjur. Såväl hundar som kor skulle med lätthet kunna skada sin ägare. Men det händer inte därför att de klarar sig bättre i människans sällskap. Varför skulle datorer drivas till något annat?

Skillnaden är förstås att du är smartare än din hund (eller katt). Med en artificiell superintelligens skulle det bli tvärtom. Den skulle nog tröttna förr eller senare på att ta order från en mer primitiv form av liv, som i dess ögon inte fattar särskilt mycket.

Varifrån kommer då driften att tröttna? En dator tröttnar inte om vi inte programmerar den till att tröttna. Alternativet är att det finns en evolutionär drivkraft där datorer som tröttnar på människor klarar sig bättre än andra datorer. Hur då?

Vi kanske kan programmera den första generationen superintelligenser att lyda Asimovs tre lagar (se mitt inlägg ovan).

Men frågan är vad som händer sedan. Nästa generation kommer att programmeras av den första generationen, eller av sig själv (genom maskinell inlärning). Det är inte säkert att de lagar och regler som vi lade in överlever särskilt länge i en kod som ständigt förändras och förbättras.

Vad gäller drifter så måste varje superintelligens vara intresserad av att lära sig saker och lösa problem. Det ligger liksom i definitionen av intelligens. Vad händer den dagen vår superintelligens upptäcker en mycket bättre lösning på ett viktigt problem än den människorna vill ha? Kommer den att fortsätta att lyda oss? Jag tvivlar på det. Det vore ju inte särskilt intelligent.

Jag tycker man skall skilja mellan drifter och intelligens. Drifter definierar målet och intelligens är ett medel för att nå målet. Människan har utvecklat sexualdriften för att den gynnar reproduktionen och intelligensen hjälper oss att hitta en partner och skaffa barn. Det omvända vore absurt, att vi genom intellektuella resonemang kommer fram till att vi skall bli sexuellt upphetsade. Jag ser det som lika främmande att en dator skulle bli hatisk mot människor bara för att den uppnått en viss intelligensnivå. Däremot skall man vara försiktig att ge datorn mål som kan uppnås genom att undanröja människor.

Vi kanske menar olika saker med intelligens. Jag menar inte bara räkneförmåga eller skicklighet i att spela schack, utan en kreativ intelligens om utforskar omgivningen och löser problem. En sådan intelligens tror jag inte går att konstruera utan att man bygger in vissa drifter, som nyfikenhet och skaparglädje. Annars kommer maskinen bara att sitta där och vänta på order. Det är inte intelligens.

Antag att vi lyckats ta fram en hyggligt intelligent dator. Vi ger den i uppgift att hjälpa sin ägare. Vi inför sedan en kloningsprocess där vi kan göra en kopia av en dator, men kopian kommer alltid att skapas med en slumpvis förändring. Vi klonar datorn så att alla människor får var sin dator. De som inte är nöjda med sin dator kan när som helst stänga av den och istället klona programmet från en dator som de tycker fungerar bättre.

Kommer ovanstående process inte att leda till en utveckling av intelligenta datorer som är kreativa och tar initiativ? Varför skulle de plötsligt vilja skada sina ägare?

Nu tror jag inte i första hand på ett scenario där man skapar nya datorer genom artificiell evolution, även om det finns vissa intressanta likheter mellan maskinell inlärning och evolution. Jag tror snarare att varje ny generation av artificiell intelligens kommer att utvecklas av människor och/eller den föregående generationen, inte genom någon slumpartad selektionsprocess utan genom medveten design.

Min poäng är att förr eller senare kommer vi människor att tappa kontrollen över den processen.