Artificiell intelligens

Risken för en permanent övervakningsstat är illa nog, men stater kan vara än jävligare när de behandlar folk i andra länder.

Du är helt fokuserad på något sorts medvetet uppror, men det är inte vad jag talar om. Mer sannolikt är att en AI tolkar sina instruktioner på annat sätt än avsett, eller att dessa instruktioner är sådana att de missgynnar stora befolkningsgrupper. Att få stopp på en sådan AI kan visa sig omöjligt eftersom den kan tolka varje försök att slå av eller modifiera den som ett hinder för att nå det mål den är satt att uppnå.

Att AI:n är "slav" är här ingen som helst hjälp, snarare tvärtom. En självständig AI med "sunt förnuft" kan komma fram till att den som gav instruktionerna nog inte menade vad han sa och ignorera orderna, en "slav" gör vad den är tillsagd vad resultatet än blir.

Om nu inte datorerna vid det laget är fullt förmögna att bygga och reparera sig själva.

Tack ska du ha för den informationen, det låter som att jag får fullt upp den närmsta tiden. Andrew Ng:s kurs hade jag faktiskt inte sett innan, det var andra kurser som jag tittat på. Men enligt Andrew så är det bästa att prototypa i GNU Octave så det sitter jag och kollar på nu.

Du och jag inser att det blir tokigt om datorn gör så. Om datorn är klokare än oss så fattar den också att det är tokigt. Och är den inte klokare än oss så har den inte förmågan att orsaka en katastrof.

Blir det inte lite hollywood-nivå på det hela om man antar att den genialiska datorn förstår allt utom vad den absolut inte får göra?

Återigen, i enstaka fall kan det gå fel precis som med allt annat. Men så länge majoriteten av alla datorer lyder så är situationen hanterbar. Det är därför det krävs en konspiration, så att de elaka datorerna kan bli i majoritet innan människorna hinner fatta vad som är på gång. Annars slår någon av strömbrytaren och säger godnatt till Dr. Strangelove.

Det handlar inte om att datorn fattar. Har den ett inprogrammerat mål kommer den följa det *även* om den inser att konsekvenserna blir horribla, alternativt så har den helt enkelt helt andra åsikter om vad som är "tokigt". I en film som "War Games" (eftersom du nu var inne på filmer) avslutade datorn kärnvapenavskjutningen så fort den förstod att ett sådant krig inte gick att vinna, i verkligheten är inte säkert att den bryr sig.

Du verkar båda vilja äta kakan och ha den kvar. Å ena sidan skall AI:n vara slav som bara gör vad vi säger åt den, men å andra sidan skall den vägra så fort konsekvenserna av att lyda är dåliga.
Jämför med cancer. Det räcker inte om nästan alla kroppens celler beter sig som de skall, en enstaka felprogrammerad cell kan döda dig.

Om du dessutom har rätt om datorer som förbättrar sig själva kan vi mycket väl hamna i en sits att den första AI:n som når denna nivå kommer nå ett försprång som andra inte har möjlighet att ta igen.

Jag såg aldrig filmen War Games, men förstår jag upplägget rätt så ersatte man den rådande konsus-principen, där flera beslutsfattare skall godkänna ett kränvapenanfall, mot en förenklad process där en enda superdator ensam fick styra över kärnvapnen. Varför skulle man göra så utanför Hollywood? Vi litar inte idag på ensamma beslutsfattare. Människor kan bli sjuka och datorer kan få fnatt. Systemen är byggda för att förhindra tokiga beslutsfattare från att ställa till det på egen hand. Det kommer att fungera i framtiden enligt samma principer som det fungerat fram tills nu.

Lyckas vi skapa intelligenta datorer så kommer inte intelligens och kunskap spridas som en löpeld så att alla datorer plötsligt bildar ett gemensamt medvetande. Om vi antar ett eldledningssystem så kommer det att lyssna på målangivelser och förmedla måldata till berörda missiler. Precis som schackdatorn presterar bäst utan att störas av annat än schackdrag så kommer eldledningssystemet optimeras för sin uppgift att skicka missiler, utan att belastas med ovidkommande fakta. Varför skall den alls ha en abstraktionsmodell där människor finns med som tänkande varelser och tvingas fundera över vad som händer efteråt? Jämför besättningarna på strategiska u-båtar och bombflygplan som mer eller mindre hjärntvättas för att sköta sin uppgift och inget annat.

I princip förändras ingenting av att mänskliga individer lämnar över besluten till datoriserade individer. Systemen måste fungera även om enskilda individer fallerar. Men jag tror inte att vi kommer att lämna över besluten. Människor älskar att besluta själva och datorer är fullt nöjda med de uppgifter de blir tilldelade. Det finns ingen drivkraft till förändring.

Jag tror att vi har gått lite vilse från TS ursprungliga frågeställning.

Jag finner denna frågan extra intressant "Är det nån här som byggt nåt med TensorFlow?". Är det någon mer som har det?

Jag hade nästan väntat mig det, men jag har fått en del intressant info i alla fall.

Ja, det var bra tips om studiematerial. Prenumererar själv på Two Minute Papers. Kan bara hålla med.

Andra kanaler av intresse är:
ACMSIGGRAPH
DeepLearning.TV

Själv så började jag med att gå kurserna på Artificial Intelligence, men det rekommenderar jag inte att göra. Den är på flera fronter föråldrad, och vi har kommit mycket längre de senaste åren än vad som lärs ut där.

Därefter kollade jag mycket noga på DeepLearning.TV. Sedan pluggade jag en del matematik på egen hand (och gör det fortfarande). Därefter har jag läst Tensorflows dokumentation. Sedan läste jag https://www.udacity.com/course/intro...earning--ud120.

Sedan Tensorflows dokumentation, och uppgifterna. Jag har också fördelen att ha ganska stora kontakter inom branschen.

Det är också roligt att läsa på Googles forskningsblogg.
https://research.googleblog.com/

Zupyo. Det låter intressant. Vill du berätta om något du byggt i Tensorflow? Vad använde du för data och hur samlade du in den?

Det kan vara bra att åtminstone tagit reda på basal information innan man börjar diskutera ett ämne så man inte framstår som en idiot när man avslöjas som okunnig.
Både djur och människor har instinkter. Därmed faller dina beskyllningar mot skeptikerrörelsen ihop likt ett korthus.



https://sv.wikipedia.org/wiki/Instinkt

Själv har jag laddad ner stora bibliotek av bilder av olika kategorier och tränat ett visual system.

Tror att AI kommer användas först av de stora plattformarna, Google, Facebook etc.
Google kommer skicka reklam på tex skor, då de kan analysera att jag tänker köpa nytt. Innan jag själv tänkt tanken. Likaså kan polisen göra social analys av de kriminell nätverken för att gripa och förebygga brott som kommer ske. AI kommer göra livet lättare för de som har tillgång till det.
Tror inte att Al blir så självständig att den bli farlig för oss. Men den kommer lätt och snabbt kunna kartlägga oss, både på gott och ont. Det hela beror på vem som styr Al. Al är framtiden...

AI är nog det mest överdrivna området inom teknik just nu (och har varit ett antal år tillbaka). Visst kommer det att ha fortsatt stor betydelse för vårt samhälle och arbetsmarknad men det jag menar med överdrivet är när vi jämför AI med människan och tror på något sätt att AI är medvetet eller motsvarar mänsklighet.

Jag såg ett korrespondenterna på SVT om robotar och interjuvaren är fascinerad över robotar som är slående lik sin skapare. Det är ganska klart att drömmen om AI handlar mycket om oss själva och vår egen vilja att animera allting (två prickar blir ögon etc). Liknelsen i både muskulär rörelse i ansiktet på roboten och skaparen säger egentligen ingenting om AI. Hans fru har med en liten robot som många gånger inte ens förstår vad hon säger och verkar väldigt simpel (hon skrattar som att det vore fantastiskt att den säger att batteriet tar slut).

Att roboten som intervjuvaren ställer frågor till (Erica) svarar på frågor som om hon har känslor och hon svarar att hon tycker att hon har det för hon blir glad när hon pratar med en människa får mig bara att himla. Det tror jag såklart inte en sekund på. Det som många gör som konstruerar AI är att det relativiserar begrepp som vi vet ganska mycket om som tex känslor. Även tex medvetandet vet vi mer om idag än vad vi gjorde innan neurovetenskapens intrång i området med tex Damasio. Jag blir rätt trött på jämförelsen med en handikappad med robotprotes för det är bara en dimridå som gör det möjligt för AI kreatören att säga att titta Erica är också en människa.

Det som är slående är att reportern mest reagerar på den uppfodrande blicken Erica har. Det är skickligt gjort men det är också en skicklig tavla eller skulptur eller varför inte sexdockorna som vissa betalar hundratusen för. Det säger föga om AI men vi tilltalas av det visuella.