Maskinernas samhälle - inte långt kvar(?)

Vi måste faktiskt kunna diskutera detta på ett seriöst sätt.

Jag pysslar lite med detta, och ska försöka arbeta ännu närmare det. Är det någonting ni tycker att jag borde ta med mig inför min resa? Hur gör vi så att detta gagnar oss alla och inte riskerar att missbrukas?

Utvecklingen kommer att gå mycket snabbt framöver. Vi har sedan några år tillbaka nått den punkten att människan inte längre förstår algoritmena. Vi förstår alltså inte hur en del avancerade maskiner kommer fram till sina resultat. Vi kan bara konstatera att de gör det.

När AlphaGo såldes till Google så satte skaparna ett villkor att avdelningen måste lyda under en mänsklig etikkommité. Vad tror ni om någonting liknande? Kan man lagstifta om det?

Go-världsmästaren lyckades efter ett antal utklassningar att övelista datorn gemom att presentera en situation då väldigt många möjligheter fanns om jag förstått det rätt. Om några år lär detta bara kunna vara en ouppnålig dröm i och med kvantdatorerna. Kvantdatorer finns redan idag. Vi försöker förstå dem. Den största barriären i dagsläget tycka vara bryggan mellan mänsklig förståelse och maskinernens förståelse.

Så det är dags att ta frågan på allvar. Hur borde ett samhälle leva med maskiner den dagen de utklassar oss människor?

Om X antal år kommer ni nog t.ex. inte ens kunna avgöra huvida detta är skrivet av en människa eller maskin. In the year 2525...

Men möjligheterna är fantastiska. Redan idag så används AI i cancervården och har fått ett stort genomslag. Och ni använder förmodligen AI själva utan att veta om det, flera gånger om dagen. I framtiden kanske vi inte ens behöver arbeta. Men det är diskussionen kring hur man politiskt och som samhälle förhindrar missbruk jag är intresserad av. Tankar?

Flummig inspiration, bara för att väcka intresse:
http://youtu.be/pc8mJU9OaRQ
http://youtu.be/anMOQ3vTy9k

Kan du ge några konkreta exempel på fall där en dator utför någonting, och den som skapat datorn inte förstår hur datorn kommit fram till resultatet? Vad har du för kunskap/utbildning inom elektronik, datorer, matematik eftersom du gör dessa anspråk?

AlphaGo (bästa exemplet)
Siri
Modernare bildigenkänning
NSA:s (med fleras) program för identifiering av märkliga beteenden.

Avancerad AI fungerar i dagsläget så att man har 3 typer av lager. Input, dolda lager och output. Endast I/O är definierade. De dolda lagren får datorn leka med hur mycket som helst. Vi "ser" (förstår) dem inte. Det är därför de är anses vara dolda.

Vi säger till datorn: Du får detta. Vi vill ha detta. Gör hur fan du vill. Efter en tid så presenterar datorn önskat resultat utan att man förstår riktigt hur. Jag anser att detta kan vara farligt eftersom vi inte kan förutse all världens önskade output eller ens vad som är nödvändigt input. Vad ska de ta hänsyn till?

Ingen vet hur algoritmerna fungerar i detalj. Möjligtvis extremt övergripande. Det är för länge sedan bortom vår förståelse. Vi kan inte säga hur de fungerar. Vi kan bara konstatera att de fungerar. Årets nobelpris i medicin (eller vad det nu var) var fan forskare som hade lärt sig hur djur navigerar i tid och rum med ett neuronantal under 10 neuroner? Sex neuroner kanske det var? Simpel sak att navigera, men tänk att det tog såhär lång tid att förstå dessa få 6 neuroner...

Påståendet kommer ursprungligen inte ifrån mig, utan ifrån en av skaparna bakom världens första kända kvantdator (om jag inte minns fel, kan ha varit någon från Googles Deepmind också, kan leta upp på begäran).

Jag har jobbat som systemutvecklare i ~5-7+ år, är endast medelmåttig inom klassisk matematik (symbolerna är jobbiga, men Haskell underlättar som fan), samtliga tillgängliga onlinekurser inom artificiell intelligens (MIT) samt spenderat ~50-100 h extra inom att bara studera teorin bakom AI. Har bland annat köpt forskningsrapporterna som ledde fram till AlphaGo och personligan chattat med några av de ledande forskarna (inte för att det gav mig jättemycket, men jag tror att det visar att jag i alla fall brinner för ämnet). Jag påstår mig inte vara expert. Men jag påstår att jag jobbar på att bli det. Jag anser mig vara hyfsat insatt, och tillräckligt insatt för att jag ska hålla fast vid min TS.

Men är jag verkligen relevant här? Dina och mina åsikter är lika mycket värda så länge argumenten är giltiga. Är det inte ett intressant ämne? Tror du att det aldrig kommer att hända? Jag vill att alla ska diskutera detta.

Vi börjar närma gränsen mellan människa och maskin. Senast igår publicerades den här nyheten:
http://www.svd.se/minister-ser-snabb...vkorande-bilar

Vem är ansvarig vid en krock? Vem ska bilen döda om den tvingas välja? För någonstans måste den göra ett val. "Ah, men där är ju företaget ansvariga!" tänker säkert någon, det är ju de som programmerat!. Okej. Men hur blir det när den är självlärd? Vem har programmerat en självlärande maskin? Det låter säkert som "spejsade" frågor, men detta är väldigt nära. Och ju tidigare sånt här diskuteras, desto bättre.

Är det okej om jag programmerar en robot med kort stubin..? Hur kort? Om ens någon alls? Blir den kort av evolutionär programmering (där prototyperna i många simuleringar lär sig att attackera motparten, även om det inte var de ursprungliga instruktionerna)? Hur behandlar vi sånt? Vi måste ju framåt. Vi får inte vänta tills "det är dags". Vi kanske inte kommer långt här på FB, men det är alltid bra att väcka diskussion och medvetande om det. Äh, jag vet inte. Förväntade väl mig inte att bli tagen på allvar heller...

Tänker mest på rent kunskapsteoretiska aspekter. Vilka är egentligen kvalificerade att diskutera detta? Mensa-medlemmar med utbildning inom AI? Kommer att bli svårt att få till ett demokratiskt samtal om dessa frågor eftersom så pass många (inklusive jag själv) inte är speciellt insatta på området. Vi är i hög grad i händerna på specialister.

Nu skriver jag utan att ha kollat på länkar ovan.... Det kommer nog inte bli någon plötslig revolution där maskinerna tar över eller överlistar oss så att det blir ett maskinernas samhälle tror jag. Utan det är gradvisa omställningar som redan pågått i hundratals år.

Det är ju redan lite problem med ansvarsfrågan vid flygkrascher t.ex., då diskuteras det om det var autopilotens uppträdande som överraskade piloten eller tvärt om. Maskinen och människan försöker hjälpas åt att utföra arbetet, men ibland går det fel. Ofta är det då en kombination av maskinfel och mänsklig faktor som orsakar haveri.

Det går ju också att bygga och programmera maskiner generellt så att vissa delar av dessa är överordnade andra delar, det finns en slags hierarki internt. T.ex. så kan en maskin ha både inbyggt mjukvarugränsläge och nån slags elektriskt/elektromekaniskt gränsläge vid leverans från fabrik, så då spelar det mindre roll om användaren klantar till det och programmerar fel eller kör oförsiktigt.

Och sensorsystem känner av automatiserade fordons rörelser. Maskinen bromsar/stannar ju om ett plötsligt hinder dyker upp i dess färdväg, säkerhetssystemet är då ofta kopplat förbi den underornade programmerade färdvägen så att säga. Säkerhetssystemet är chef över mjukvaran. Så kommer det nog att bli även i fallet med självkörande bilar på allmänna vägar om det blir verklighet i större skala. Kanske kan trafiken samordnas via nåt centralt trafiksystem också, då kanske den enskilda bilen slipper en del av ansvaret i trafiken. Men svårt att i förväg säga hur det kommer funka i detalj, jag är inte speciellt påläst i just den frågan. En del justeringar i försäkringssystem och lagar och sådant blir det ju efter hand om det ska fungera. Om de självkörande fordonen inte slår igenom stort så kan de automatiska systemen i vilket fall som helst även i fortsättningen byggas in i vanliga fordon som hjälpsystem för att undvika krockar etc.

Det händer ju att maskiner skriver saker på Internet redan idag som sagt. Då blir det också aktuellt att implementera liknande överordnade säkerhetssystem kan man förmoda. Vissa tillmälen eller ordkombinationer kan kanske plockas bort ur maskinens ordförråd för att undvika lagbrott eller fula påhopp.

Vi människor bestämmer oftast ändå hur systemen byggs och vi programmerar maskinerna, så vi bör kunna kontrollera situationen även på längre sikt även om maskinerna blir mer avancerade.

Vad .Suarez är inne på är att det kommer att uppstå etiska problem, liksom sådana existerar idag.

Anta att det går åt helvete. Den som styr fordonet har att välja på att meja ner köttpåsar eller köra in i en vägg.

Maskinen kanske väljer på ett sätt som fordonets passagerare inte skulle göra.

På det viset tror jag att det i förstone kommer vara ett visst motstånd mot sådana maskiner.

Maskinerna kommer med tiden att utvecklas och förmodligen att bli bättre än vad vi är även inom expertområden. Det kommer att kännas bra med en maskin som diskar, men hur känner man när det kommer en robotadvokat och snor ens jobb, eller när hela rättsprocessen kanske styrs av maskiner? Mängder av yrkesgrupper kommer att vara emot utvecklingen inom deras område, för att inte tala om politikerna, som inte alls kommer att behöva vara särskilt många.

Något om Alphago, utvecklingen har gått rasande snabbt inom AI. Alphago söker bara på 1000-delar av spelpositioner jämfört med Deepblue. Den hittar också ett mycket bra drag otroligt snabbt, nästan som att den inte behöver tänka eller analysera. På det viset kan man säga att den uppvisar något som liknar mänsklig intuition.

Men att spela go är förstås allt Alphago kan. Den är inte heller särskilt ekonomisk. Den slukar mängder av energi jämfört med människan som den spelar emot, men så skall den ju också tävla med världsproffs, och inte med Joe Sixpack.

Efter självstyrande bilar tror jag att vi kommer att få se hushållsrobotar. Spontant känns det som att det finns en enorm marknad för en maskin som tvättar, diskar, handlar mat och sådant.

Bara för att inte vi vet vad parametrarna för vikterna i det dolda lagret är betyder det inte att vi inte förstår hur det fungerar.

Dina exempel är väldigt dåliga, Siri vet vi exakt hur hon fungerar och versioner av Siri har funnits ute sedan 60-talet. Det finns ingen AI inom Cancervården utan det är machine learning man använder.
Att argumentera att ML är AI är som att påstå att en Rube Goldberg maskin är intelligent.

Du verkar inte ens kunna särskilja de olika begreppen.

I vilket fall, så är det som så att det som händer är menat att hända, så att oroa sig över AI och/Eller robotar (två helt skilda koncept) är onödigt och lite larvigt.

Självkörande bilar kommer inte att ta över helt och hållet inom några få år tror jag, utan snarare kommer de automatiska systemen att gradvis byggas in i bilarna. Det finns ju sedan länge t.ex. ABS och sådant som hjälper föraren. Backsensorer finns det också kopplade via förstärkeri till summer som larmar om vi försöker backa in i en lyktstolpe. Sedan kan ännu fler automatiska system hjälpa föraren på olika sätt.

Om självkörande bilar ska tillåtas att köra i full fart i tät trafik med dagens tekniknivå så verkar det lite farligt. Det skulle vara att föredra om de kör i lägre hastighet så att fordonet slipper ställas in för ovan nämnda etiska problem till att börja med. Det går troligen att kombinera olika sensorsystem så att bilen väljer att styra undan från levande hinder också. T.ex. någon slags ir-sensorsystem som känner av värme kan användas så att fordonet styr ned i diket eller in i väggen istället för att köra över folk.

Undrar hur många som vill ha självkörande personbilar överhuvudtaget. Vid vissa typer av varutransporter etc kan det kanske vara önskvärt med helt automatiserade eller långsamtgående system, men i en del fall så är det bättre att någon kör fordonen på traditionellt sätt.

Det tekniska runt det hela är mer intressant än de etiska problemen tycker jag i.o.f.s. också. Det blir väl politiker och advokater och andra som får titta på de etiska problem som uppstår på vägen under införandet.

"Menat att hända" låter ju lite religiöst (eller som historicism). Finns ju en ganska lång lista på meriterade personer som "oroar sig". Stephen Hawking, Steve Wozniac och Elon Musk bland andra.

Kanske var jag otydlig? Jag var lite full vid båda inläggen så jag ber om ursäkt i så fall

Vi förstår givetvis teorin bakom hur datorn lär sig. Det är ju vi som programmerat det. Men vi tappar snabbt kontrollen över förståelsen av alla neuroner när den väl börjar lära sig. De dolda lagrens kopplingar och vikter har inte vi programmerat. Det har maskinen själv gjort.

Med Siri så syftade jag på röstigenkänningen (inte dess kommandon). Analysen av alla dialekter och språk. Jag vet inte, men jag antar att det är ML. Vilken Siri-version menar du är från 60-talet? Låter intressant! Fungerade den lika bra? Använde den teknik från de senaste årens framsteg inom maskininlärning?

Va, ML används väl inom all modern AI? Att jämför statiskt programmerade Rube Goldbergmaskiner med dynamiskt programmerade program är väl galet om något? Det är så olikt det bara går att få.

Jag har väl inte sagt att det är samma sak. Däremot är ML den utan tvekan viktigaste komponenten inom AI. Därför är det av yttersta vikt att ta upp framstegen inom ML när man vill diskutera framstegen inom AI. Det är ju för fasen där nästan hela utvecklingen legat.

Hur föreslår du att man istället ska diskutera framstegen inom AI när det är just inom ML framstegen har skett de senaste åren?

Hmm, du menar att det typ är ödet, och därför onödigt och larvigt att bry sig?

Eller menar du att etiska problem omöjligt kan uppstå inom AI-området och därför är onödigt och larvigt att bry sig?

Jag ber om ursäkt om jag låter nedlåtande, men jag måste säga att det är min reaktion på att jag uppfattar dig som nedlåtande. Lite smått frustrerande är det faktiskt. Om du inte menade att vara det så ber jag om ursäkt.


Jag svarar på fler inlägg när jag har möjlighet, det är intressanta saker ni tar upp

Var inte meningen att låta nedlåtande, hade bara lite bråttom när jag skrev.

OK nu ska jag oroa dig lite

Det första man gör när man har ett fungerande system är att få systemet att om-designa sin miljö på ett sådant vis att människan inte kan förstå det (pga säkerhet) sedan ber man systemet att om-designa sig själv i 9000 iterationer på ett sådant sätt att intelligensen amplifieras och att systemet inte går att förstå för människor (igen pga säkerhet).

Sedan är tanken om etik och moral och "Robotikens lagar":
https://sv.wikipedia.org/wiki/Robotikens_lagar

En ganska naiv idé då systemen inte fungerar så och är dynamiska i sin natur. Ett system har som mål att förändra sig själv tills ett utsatt mål kan nås, att då tro att man kan ha några statiska konstanter i systemet är, låt oss kalla det naivt.

Elon Musk och Hawking & co är väldigt intelligenta individer, men så vitt jag förstår det har de absolut ingen kunskap om de mest framstående AGI systemen och hur de fungerar. Därför är det lätt att tjoa om "dödsmaskiner från internet" istället för att reflektera på logiskt och sansat sätt.

Slutligen det jag menar med om det händer så är det meningen att det ska hända är just vad det låter som. Om vi skapar en AGI som dödar oss och ersätter oss alla, så är det helt enligt både naturlagar och Darwins teorier. Evolutionen har aldrig fel och styrs ej av etik eller moral.

Det var dock inte Musk och Hawking som skrev 'brevet', det var en kollaboration från Future of Life-institutet, du kan själv bedöma deltagarlistan om du känner att ingen av dem har "någon kunskap".
http://futureoflife.org/2015/10/12/a...n-puerto-rico/