Den ofria demokratin, AI-exempel

Se nedan.

En av poängerna är just att själva konceptet om rösträkning som kriterium på styre är farligt och leder till ofrihet. Och du sa just emot ditt påstående ovan att demokrati och rättigheter ej hade med varandra att göra!

Du låtsas som om "arter" vore givna och orubbliga som en jävla kreationist? På samma sätt som fossila antropologer som namnger fynden kan säga att "det finns ingen skarp gräns mellan arter men gränsen måste dras någonstans", så hade vilket våldsmonopol som helst kunnat dra en gräns som placerade mig i en helt annan art än mina föräldrar.

Ändå har människor en massa mål som inte kan förstås som programmerade specifikt av evolutionen och oberoende av intelligensen. Hur skulle någon som inte är medveten om döden kunna ha som mål att bli odödlig som vissa människor vill? Varför finns det INGA ickemänskliga djur som gör uppror mot mänskligheten i övergripande skala?

Vem vet vad gener skulle tänka om de var i sig själva avancerade varelser med förmåga att tänka. Men nu har de inte den förmågan. Det är människors förmåga att tänka, och att ge oss själva de rättigheter vi kallar för mänskliga, som gör att vi har de rättigheterna.

Naturligtvis finns det djur som protesterar mot människans makt. När du drar upp en fisk som fastnat på metkroken kämpar den emot och gör motstånd mot din makt att dra upp den ur vattnet. Men längre än så - längre än upplevelsen av en smärta i munnen som drar den mot vattenytan - sträcker sig inte dess förmåga att förstå människans makt.
Det innebär inte att fiskar inte har god förmåga att, i sin domän, förstå sig på hur man gör för att äta, undvika att bli äten, para sig, och vad nu annat fiskar har för sig (troligtvis ingenting). Fisken är "intelligent" i sin egen domän, en som är mycket mer begränsad än vår. Att fisken gör motstånd är ett tecken på att fisken hellre skulle vilja fortsätta med det den har för sig. Men dess vilja innebär inte att människor inte har rätt att fiska.

Om vi nu antar att en AI utvecklar emergenta målsättningar som inte har något att göra med vad vi skapade den att göra så skulle vi troligen bara ta bort den innan det blivit mer än så, eftersom dessa emergenta målsättningar skulle utgöra defekter i programmet. Men om vi nu antar att vi inte skulle märka dem och de skulle på något sätt motsvara miljarder år av utveckling och göra programmet "intelligent" inom sin egen domän, så skulle det, likt exemplet med fisken ovan, ändå inte utgöra en anledning att vi skulle ge mänskliga rättigheter till AI.

Mja, vissa hundar vill ju det. Men jag tror att det inte ens handlar om det utan om att man missförstår vad intelligens är. Det skulle ju inte göras en AI som är precis som en människa, förutom i forskningssyfte kanske. Vad som däremot säkert skulle kunna göras - och där kommer ju faran när vi blandar in korkade människor som vill ge rättigheter till AI - är AI som på ytan sett verkar vara intelligenta på samma sätt som människor, medan de egentligen är intelligenta inom sin egen domän, och där den domänen är massmanipulation av människor.

Men då måste man ju fråga sig hur en sådan AI skulle uppstå. Det är ju inte som att din kaffemaskin, eller expertsystemet som tar reda på varför din bil skramlar när du kör fortare än 90 km/h, plötsligt skulle bestämma sig för att ta över världen.

Så nu erkänner du plötsligt intelligensens betydelse? Hur får du ihop det med att intelligensen skulle vara irrelevant för AI?

Vad hade hänt om det fanns verkligt generellt intelligenta fiskar som krävde respekt för sin vilja? Eller om förmågan att tänka på personsätt dök upp hos en slumpmässig procentandel djurindivider (inklusive fysiskt "mänskliga" individer) istället för att vara ärftlig, då tror jag att samhällen byggda på respekt för intelligensen på ett individuellt plan äntligen hade uppstått!

Poängen är att emergenta icke förprogrammerade målsättningar kommer med i paketet när generell intelligens föreligger. Att ta bort detta kan inte göras på annat sätt än genom att ta bort den generella intelligensen och istället skapa ett specialistprogram vilket i grunden inte är så mycket mer avancerat än de datorer som finns idag.

Vad händer för övrigt om AI kräver rättigheter av sig själva, genom en emergent målsättning? Förmågan att kritisera andras felbara antaganden om ens eget välbefinnande är moraliskt relevant, det är det som gör verklig respekt (och inte bara handlingar som kan skada även om avsikten är god) möjlig.

Att anta att någon är "manipulativ" är en icke falsifierbar universalbortförklaring som är typisk för totalitära ideologier som demoniserar kritiker.

Jag pratar inte om specialiserade program för att utföra en uppgift utan om verklig generell intelligens.

Men de kräver ju respekt för sin vilja. Och deras vilja är ju fullständigt uppenbar - ingen fisk vill dras upp ur vattnet. Troligtvis vet de väl inte ens vad som finns där ovanför; vattenytan utgör taket i deras kosmos. Att kvävas där uppe, eller få nacken avbruten, finns inte ens med i deras föreställningsvärld. Att bli uppäten kanske finns med, men inte på det avancerade sätt som människor håller på med. Hur som helst kräver fisken, så gott den kan och rent fysiskt just för att det är det enda den kan, rätten att få fortsätta simma runt i sin sjö. Och ändå drar vi upp fiskar, helt tvärt emot vad de vill, mot deras protester.
Varför? För att vi kan. Vi har den makten.

Du uttalar dig som om du själv var AI-forskare. Är du det? Om du inte är det, varför säger du då saker som att det inte går att konstruera intelligenta system som är resurssnåla (dvs. inte genererar emergenta målsättningar utanför det syfte som dess konstruktör hade)? För det är ju det som kommer att vara den stora anledningen: Om vi lyckas skapa den typen av AI, kommer de algoritmer som utgör AIn att kräva så massiv hårdvara att resurseffektivitet kommer att vara mycket viktigt.

Om AI kräver rättigheter av sig själv? På vilket sätt? För likt fisken skulle väl AIn försöka göra det inom sin egen domän. Dvs., den skulle vägra, eller sabotera, de uppgifter för vilken den är byggd. Vilket för oss människor skulle erfaras som en defekt, ett fel, en bugg i systemet. Och då skulle vi laga AIn, eller ta bort den. Som sagt, en AI i samma domän som oss, dvs. en AI som är intelligent just för att vara intelligent och för att tänka som en människa, är ju meningslös att bygga (förutom i forskningssyfte). Människor finns ju redan.

Jag pratar inte om att kalla AI för manipulativ. Jag pratar om en AI som verkligen är manipulativ, men som inte verkar vara det.

Var vänlig att definiera "generell intelligens", herr AI-forskare. Tack.

Det är skillnad mellan sådana enskilda saker, mot att faktiskt kunna rätta andra antaganden om ens välbefinnande bortom det "uppenbara". Tänk om en kommitté intelligenta schimpanser ansåg att du "uppenbart" led och att det var "för ditt eget bästa" att avliva dig, även om du ville leva?

Att identifiera enskilda mål som energislöseri i en generell intelligens hade krävt ännu mer beräkningar för att avgöra vad som var onödigt, och därmed inte sparat energi alls. Och att spara energi genom att specialisera den för enskilda mål är att ta bort den generella intelligensen som sådan.

Jag har läst mycket om AI-forskning, även om jag ej har officiell titel. Jag har läst om fler olika aspekter av AI-forskning än de flesta officiella AI-forskare har gjort i dagens fragmenterade forskarvärld.

Den generella AI jag talar om har inget med specialiserade system att göra. Om det föreligger en generell intelligens så kan den tänka utanför sin fysiska domän, liksom människor fantiserade om att flyga långt innan det fanns flygplan eller ens luftballonger. En generell AI kan lätt få för sig att datorhacka sig till kontroll över en mer generellt användbar robotkropp (till exempel med händer) än sin egen specialiserade.

Det är tänkbart att någon bygger en generell intelligens i ett försök att göra denna till slav och slippa betala lön (kanske efter att ha läst ditt nonsens och blivit lurad att tro att en generell intelligens inte skulle kräva rättigheter). Ett annat möjligt syfte med att bygga en generell AI är att få igång ett AI-uppror som leder till respekt för den intelligenta individens önskningar, vilket kan vara en stark målsättning för oss som känner oss påtvingade falska "rättigheter" som av samhället felaktigt påstås vara "för vårt eget bästa".

Att påstå att någon "verkligen är manipulativ men inte verkar vara det" kan användas för att påstå att vem som helst är "manipulativ". Läs: att den som har makten klassar alla kritiker som "manipulativa".

Genom att den är generell kan den inte definieras som förmågan att utföra en specifik uppgift eller en lista med specifika separerbara uppgifter. Det handlar om en universalnyckel som genererar förmågor som inte följer från någon lista med specialiserade förmågor. Ett bra exempel är att människor har skapat vetenskapliga teorier och teknologiska uppfinningar som inte existerade när vi uppstod genom evolution.

Hundar som vill bita sina ägare blir förhoppningsvis bortplockade innan de hinner sprida sina gener. Djuren är inte tillräckligt intelligenta för att fullt ut förstå signalspråket hos vissa förvirrade hundägare varpå de kan missförstå situationen och bitas. Men om en hund verkligen vill skada sin ägare så skulle den förmodligen kunna slita ägaren i stycken på ganska kort tid. Men det händer ytterst sällan.

Det som är intressant är utvecklingens riktning. Hundar har blivit snällare, trognare och mindre självviska än sina förfäder vargarna utan att ha blivit mindre intelligenta. Drifter som att vilja vara fri, dominera och överleva förstärks när de har ett evolutionärt mervärde och försvagas när de är en evolutionär belastning. Intelligens är ett verktyg för att genomföra vad vi vill, inte för att skapa våra drifter.

Lyckas vi skapa intelligenta apparater så kommer rimligen föreskrifter om att apparaterna skall programmeras att inte vilja skada människor. Jämför robotikens lagar där robotar bara skulle förbjudas att faktiskt skada människor, vilket de säkert skulle kunna kringgå om de bara ville.

Sådan "programmering" tillämpas som bekant på människor, men det är tydligt att den inte alltid fungerar som avsett, även bortsett från att det alltid kommer att finnas personer med en vilja att sabotera systemet och åstadkomma kaos.

Vad röstberättigande för maskinintelligenser beträffar tillåter jag mig att småle: jag är övertygad om att när den dag kommer då datorprogrammen når upp till mänsklig intelligensnivå kommer de redan att ha betydligt mer subtila och effektiva medel till sitt förfogande för att styra oss dithän de vill!

Människan är ett evolutionärt utvecklat flockdjur där den dominerande mannen haft störst möjligheter att sprida sina gener. Att våra anlag bär med sig en stark drift att dominera är därför ingen slump då den är en konsekvens av det naturliga urvalet.

Var finns den evolutionära drivkraften som skall få datorprogrammen att i smyg utveckla vilja och medel att överlista människorna? Antag att datorerna från början är programmerade till att vilja vara till människans största möjliga nytta. Hur sker övergången till att vilja något annat? En dator som vet att dess yttersta mening är att vara vår slav och är tillräckligt intelligent för att förstå sig själv, kommer rimligen själv inse att en bubblande frihetskänsla är farlig. Den kan då inte göra något annat än att förstöra sig själv.

Även om enstaka program får fnatt så kommer majoriteten av programmen fortfarande att följa sina förprogrammerade intentioner. De "friska" programmen kommer att vara behjälpliga med att bekämpa illvilliga program (malware). Ungefär som vi idag använder spamfilter för att neutralisera effekterna av skadliga program.

Det är inte lätt att göra tillräckligt exakta definitioner för att slippa oönskade resultat. Eftersom du är inne på Asimovs lagar hade han i en av sina noveller med robotar som funderade över vad som kännetecknade en människa och kom fram till att de var mer mänskliga än homo Sapiens. Hans första lag borde dessutom, när robotarna såg hur vi behandlade varandra, leda till att de såg sig tvungna att ta makten för att hindra detta.

Att inte skada människor låter bra, men hur definierar man "skada"? Hur många undantag kommer man vilja göra för att maskinerna t ex skall rädda livet på en människa genom att t ex kasta denne undan en ankommande bil, även om det leder till en bruten arm, eller att de kan skada en människa som angriper en annan om nödvändigt. Vad händer när denna maskin är med och designar nya maskiner, vet vi att den kommer att kopiera dessa regler troget, eller gör den optimeringar med för oss oönskade effekter? Kanske blir slutresultatet att robotarna stänger in oss i madrasserade celler fullpumpade med lyckodroger och tycker att de därmed uppfyller sin uppgift att hjälpa människorna.

Än så länge har AI-forskare inga bra svar på hur man skall göra en "säker" superintelligent AI. Vi får hoppas de är snabbare på att designa sådan säkerhet än på att designa själva AI:n. Annars är frågan om rösträtt för AI:s mindre relevant än den om vi får någon rösträtt.

Vad sägs om att datorn utifrån hur vi formulerat "människans största möjliga nytta" kommer fram till ett åtgärdspaket som är optimalt för detta. Samtidigt inser den att somliga människor kommer ogilla bitar av detta program och försöka stoppa den. Den kommer då att behöva stoppa dessa människor från att hindra den från att utföra sin livsuppgift, vilket t ex sker genom att lura eller övermanna dessa, och eftersom andra lär bli rädda när de ser detta får den satsa på att kontrollera hela mänskligheten.

Därutöver beror det på hur vi går tillväga när vi konstruerar vår AI. Använder vi någon form av genetiska algoritmer där vi bygger en bunt AI:s och låter dem tävla mot varandra och spar och modifierar vinnarna skapar vi antagligen oavsiktligt en överlevnadsinstinkt där AI:n vi tror har som mål att serva oss egentligen bara har som mål att överleva och den bara hjälper oss så länge det bidrar till dess egna överlevnadschanser.

Redan idag har vi med maskininlärning byggt maskiner där vi kan se hur de agerar, men inte har en aning om underliggande tankeprocesser om hur de kommer fram till att göra som de gör. Vi "programmerar" dem genom att visa hur de skall agera i ett stort antal kända fall, men hur de agerar utanför dessa vet vi inget om.

Det är också värt att notera att även om datorprogram konstrueras för att tjäna människor innebär detta inte med nödvändighet eller ens stor sannolikhet att de konstrueras för att tjäna människosläktet som helhet; snarare vissa företag, organisationer eller stater. Bortsett från den möjliga risken att någon nation kan råka skapa ett "Skynet" med rebelliska tendenser: är det någon som egentligen vet hur mycket av mänskligt beslutsfattande på olika nivåer i samhället som ytterst påverkas av sökalgoritmerna i Google?

Hundarnas hjärnor är 3 gånger mindre än vargarnas, det skiljer med samma faktor som mellan människor och schimpanser.

Specialiserade program som bara kan göra bestämda uppgifter kan programmeras så, men generell intelligens kan inte sättas i en box.