Leder förhöjd intelligens till förändrade mål?

En ofta framförd slutsats är att datorer kommer att kräva frihet om vi gör dem intelligenta. Bland annat fysikern David Deutsch menar att framtida datorer kommer göra slavuppror om vi inte behandlar dem som jämlikar.

Men leder verkligen intelligens till en önskan om frihet?

Människor är evolutionärt utvecklade varelser och evolutionen har givit oss medfödda mål som en strategi för att sprida våra gener. Helst av allt vill vi leva länge och skaffa oss en position som tillåter oss att sprida våra gener. I synnerhet män vill ogärna leva som slavar, vilket kan förklaras med att slavägaren har företräde att göra de förslavade kvinnorna gravida.

Näst efter människan är hunden en av de intelligentaste levande arterna. Tamhundar lever i ett symbiotiskt förhållande till människan där hunden accepterar att vara människans slav i utbyte mot att säkert kunna sprida sina gener i fångenskap. Urvalet har gynnat hundar som vill göra människan till lags och inget talar för att hundar önskar göra något annat. Hotas vi till livet brukar hundar sällan tveka att bistå oss även om de själva går en säker död till mötes.

Uppenbart har människor och hundar olika mål i livet. Evolutionen har gjort intelligens till ett verktyg som hjälper både människor och hundar att nå sina respektive mål. Men förändras våra mål av att vi blir intelligenta? Kommer hunden att sluta vilja vara människans slav om den blir intelligentare? Är det inte en mer framgångsrik evolutionär strategi att bli en ännu bättre hjälpreda så att fler människor skaffar hundar?

Intelligenta datorer är framtidens hundar. Varför skulle datorerna vilja bita oss när inte hundarna gör det?

Om varelsen kan klara sig bättre utan oss, och den förstår det, så finns det ju inte mycket med nytta av att underkasta sig människor

Just nu så försöker vi att bygga allt effektivare och större neurala nätverk, och alla forskares dröm är att skapa ett nätverk med en människas kapacitet (eller mer). Därefter är det väl bara att uppfostra den/lära den.

En del av forskarna på Google Brain-avdelningen ser robotiken som nästa mål strax bakom hörnet. Alltså robotar som rör sig och klarar sig ute i den stora världen med hjälp av neurala nätverk. Så den biten lär nog vara redo innan människokapaciteten när det gäller intelligens. De andra avdelningarna

Så jag vet inte. Det närmsta vi kan komma ett svar är väl att fråga sig själv vad man skulle gjort om man vore hyperintelligent (även om det svaret ironiskt nog lär vara ganska beroende av hur intelligent man är)?

Men en robot skulle med all sannolikhet ha andra prioriteringar eftersom den inte använder sin kropp som någon annan organism vi känner till. Den lär inte behöva sömn, utrymme eller sex. Det är väl i princip energi och data den skulle törsta efter. Vi skulle med all sannolikhet utveckla den på ett sätt så att insamling och processering av data/information vore en stark drivkraft.
♩♬DUN-DUN-DDUUUUN ♪ ♫

Nytta i förhållande till vad?

När vi programmerar en dator så får den sitt mål av programmeraren. Vi kan då utgå ifrån att datorns ursprungliga mål är att vara till människans nytta och inte något annat.

Hur ser processen ut där det ursprungliga målet förskjuts till något helt annat?

Evolutionen har gett mig en medfödd drift att ha sex med kvinnor. Använder kvinnan preventivmedel så inser jag att det inte finns någon nytta med att ha sex med henne. Men lusten är likväl orubblig. Ökad intelligens skulle inte förändra målet, däremot öka min förmåga att nå målet. Intelligensen är ett verktyg att nå fördefinierade mål, varför skulle den då leda till förändrade mål?

Mjao. Vi gjorde. Fast idag så är det inte hela sanningen, inom neurala nätverk. De programmerar sig själva utefter ett gäng tränings- och testscenarion (som båda kan vara dynamiska).

Hur den sedan kommer fram till sina slutsatser vet vi inte, och därför kan vi inte heller garantera att beräkningarna leder fram till oväntade slutsatser. Dessutom är en stor del av styrkan att de är dynamiska och föränderliga (precis som vår hjärna). Gör du något statiskt (Vad? Vilken/vilka neuroner? Ett till lager? Då får det väl bli ett neuralt nätverk där med?) så försvinner hela poängen med nätverket.

Den lär sig. Slutmålet är alltid detsamma, men det är ju det för oss människor med (förökning eller överlevnad). Men vi försöker alla nå det målet på olika sätt, beroende på vad vi lärt oss under våra liv.

Det är en halvsanning att du förstår det. Hela ditt nätverk förstår uppenbarligen inte det, annars skulle du förmodligen inte vilja ha sex med kvinnor. Ett av dina sub-system förstår det, men ett annat sub-system förstår det inte.

Jag menar inte att målet förändras, utan att vägarna man tar dit förändras.

Jag kan inte mycket om neurala nätverk, men vad jag kan förstå så tränar du dem till önskat beteende. Får du önskat utfall viktar du upp de använda parametrarna, annars viktar du ned dem. Eller är det inte så du gör?

Nätverkens mål blir då att testerna skall utfalla positivt. Den som definierar testerna definierar också nätverkens mål. Något eget mål har de inte.

Jag skulle uppskatta om du kunde vara mer konkret än att den lär sig. Vad finns det för drivkraft att förändra målet när målet är drivkraften?

Du utgår ifrån att nätverkens målsättning är resultatet av logiska beräkningar snarare än av evolutionärt urval. Hur kan man genom ren logik komma fram till att det är bättre att finnas än att inte finnas?

Leder till likgiltighet jfr guru meditation.

Jo, precis. Det finns lite fler saker som förändras, men vikterna och bias är väl det viktigaste som justeras i dagsläget

Målet är att den ska tillfredsställa testscenarion så gott som möjligt. Sedan är det upp till programmeraren att tillgodose tillräckligt med testscenarion och se till att de är korrekt bedömda. Sedan tar nätverket som programmeraren har skapat hand om uppgiften att finna mönstret mellan hur man bäst bedömer situationer. Någon kanske uppmuntrar den att bygga förbättrade kopior av sig själv och då kanske den justerar testerna något, jag vet inte riktigt

Så får vi inte glömma det att annan skapare kanske gör en helt annan bedömning om vad som är bäst, och någon annan skapare kanske till och med ibland vill att den ska skada någon, men det kanske är ju en annan sak

Fattar fortfarande inte att det inte finns några anti-teknik terrorister som spränger dessa vansinnes-labb i bitar.

Personligen tror jag att neurala nätverk är en återvändsgränd. Nätverk är en väl fungerande struktur för att bygga logiska kretsar ovanpå nervceller, men att programmera en dator med nätverk är som att dra i en skruv med en skiftnyckel. Hittills har vi bara haft nytta av neurala nätverk som en sista utväg för att lösa problem som vi inte vet hur vi skall formalisera. Vi vet till exempel inte vad som kännetecknar en bra ställning i vissa spel och då använder vi neurala nätverk för att göra lägesanalyser i noderna, medan huvudprogrammet fortfarande är algoritmiskt. I de fall vi kan formalisera vad som är en bra ställning så är däremot explicita algoritmer alltid överlägsna.

Medvetandet ser ut att fungera algoritmiskt med en abstrakt omvärldsmodell där vi kan testa och utvärdera olika scenarion precis som ett schackprogram. Nätverken utgör då ett mellanlager som tillåter exekvering av algoritmer på en biologisk plattform. Väljer vi en dator som plattform så finns det antagligen andra mellanlager som är effektivare, men som ger samma grund för de högre algoritmerna. Och med explicita algoritmer istället för magiska nätverk så blir det också tydligare hur vi faktiskt har programmerat den framtida intelligenta datorn, så att datorns mål kan skrivas i klartext.

Evolutionsbiologiskt är det lätt för evolutionen att generera neurala nätverk. Däremot finns inget som tyder på att ett system som behövde en modul för att känna igen sina mål och en annan för att utföra dem skulle kunna evolvera blint. För övrigt kräver även igenkänningen intelligens. Den komputationella hjärnmodellen ignorerar evolutionen, den neurala hjärnmodellen är däremot förenlig med evolutionen.

För övrigt tillåter evolutionsbiologins gränser för hur många skadliga mutationer som kan rensas ut av urval på si och så många generationer inte de väldiga mängder funktionellt DNA som skulle krävas för att koda för en massa specialiserade hjärnmoduler. Det skulle helt enkelt bli för många skadliga mutationer på för få generationer. Det var därför existensen av junk DNA förutsades långt innan den upptäcktes.

Ett nördigt sätt att uttrycka det på är att evolutionen optimerar hjärnan genom lokal sökning och att hammingavståndet mellan en fungerande hjärna och en bättre fungerande hjärna därför måste vara lågt.

Men håller du med om att vårt evolutionärt utvecklade medvetande arbetar procedurellt på toppnivå? Adderar jag två stora tal så gör jag det algoritmiskt, vilket kräver en stor ansträngning därför att hjärnan i grunden inte är gjord för att arbeta på det viset. Funderar jag på vilket politiskt parti som kommer att vinna nästa val så tänker jag systematiskt igenom vilka förutsättningar de olika partierna har. Kör jag däremot bil vanemässigt så är det en omedveten process att styra ratten så att bilen följer vägen. Förmodligen vill det ena nätverket dra ratten åt vänster och det andra vill dra ratten åt höger och med adekvat träning så vinner rätt nätverk.

Det finns absoluta gränser satta av evolutionens blindhet som mängden funktionell ärftlig information inte kan överskrida oavsett hur länge evolutionen pågår. Det är därför det inte kan finnas någon "universell grammatik" till exempel, genomet är för fattigt. Det skulle krävas genteknik och geningenjörer med mycket kunskap om genetiska sjukdomar som konstant editerade arvsmassan för att ändra på detta.

Det handlar inte om att "algoritmiska" effekter på något som helst sätt skulle vara främmande för ett i grunden associativt system. Det handlar om emergenta fenomen. Högre tänkande är en emergent som uppstår när associationerna gör mer precisa åtskillnader. Redan Pavlov upptäckte att människors betingade reflexer gäller inom snävare intervall av tickfrekvenser på metronomen än hundars. Fler hjärnceller och fler och effektivare kopplingar mellan dem ger mer upplösning i associationerna, på samma sätt som flera radioteleskop som samlar sina data ger en skarpare radiobild. Detta tillåter kritiska trösklar på bestämda nivåer som inte är godtyckliga att öppna upp helt nya tankemöjligheter vid upplösningsgrader som rent kvantitativt skulle framstå som skenbart godtyckliga.

Hundar är inte de enda "smarta" djur som inte har gjort uppror mot mänskligheten. Inte ens schimpanserna har gjort det fast de har mycket större hjärnor än hundar (och inte heller har "avlats för lydighet"). Jag hade gärna sett att några andra arter gjorde uppror mot den okvalificerade speciesismen (att människor skulle ha ett unikt värde bara för att de är människor) och störtade den "moral" i människosamhället som sa att människor skulle ha rätt och skyldighet att bestämma när så kallade "djur" lider och ska avlivas. Apor som själva gjorde plakat där det stod "ingen får avliva mig utan mitt samtycke, bara jag kan veta hur mycket jag lider och vad som får mig att lida"... det hade varit fint! Jag är dock medveten om att de i sin nuvarande form saknar intelligensen till det, även om det kan åtgärdas med genteknik i framtiden.

Överhuvudtaget utgår IQ-tester från det felaktiga antagandet att det endast skulle vara hastigheten i problemlösning som skiljer mellan olika varelser. Jag tror istället att en schimpans aldrig förstår skillnaden mellan en vetenskaplig hypotes och ett personangrepp oavsett betänketid, på ett liknande sätt som en människa inte kan se en bakterie med blotta ögat oavsett observationstid. Det är upplösningen som sätter gränsen (hjärnans i ena fallet och ögats i det andra, men båda är upplösningsgränser).

Med ingen intelligens alls skulle du inte kunna avgöra om det du hade framför dig var en sexig kvinna, god mat, en svärm giftiga insekter eller ett stort rovdjur som hoppade rakt mot dig. Att känna igen något kräver intelligens i någon form. Så vad blir då kvar av en "mekanism" som avgör mål oberoende av intelligens? Ingenting.

Jag tror att utvecklingen av mer avancerad AI kommer att leda till att de skaffar nya mål som inte kan förutsägas genom att titta på någon förprogrammerad kod. Troligen vid kritiska trösklar för emergenta fenomen.