Blir artificiell intelligens människans undergång?

Vet inte riktigt varför, men ett AI-programs vinst över en
skicklig Go-spelare räknas som ett betydelsefull framsteg
för AI. Kanske någon som kan Go bättre än jag kan förklara.

https://www.youtube.com/watch?v=g-dKXOlsf98

Om dagens tävling:

http://www.wired.com/2016/03/third-s...atch-go-champ/

–

Det är betydelsefullt dels för att go har så enormt många möjliga drag att man inte som för schack bara kan söka igenom alla drag på jakt efter det bästa utan maskinen måste kunna känna igen mönster mer som en människa. Det är också betydelsefullt för att googles maskin inte detaljprogrammerades med smarta drag utan i huvudsak lärde sig spela genom att spela mot sig själv och gradvis förbättra sig.


Å andra sidan är kanske en dator som kan lära sig själv på så sätt inte helt fel:
https://www.youtube.com/watch?v=s93KC4AGKnY

Ju enklare regler men fler möjliga drag som i go jämfört med schack bridge eller poker desto mindre inverkar det mänskliga psyket. En irrationell nybörjare kan ju exv. råka vinna mot en speldator då det gäller schack men knappast då det gäller go.
En speldator eller AI kan på sin höjd programmeras för en 3D värld där det trots allt finns begränsade möjligheter men omöjligen för en 4D verklighet som mänskliga psyket behärskar genom sin tro på oändliga möjligheter i en evig tid. Därför kan vi också vara lugna för att ingen dator kan springa ikapp tiden och överträffa människan i verkliga livet.

Att lösa direkta uppgifter är ju inte riktigt samma sak som att agera helt autonomt på världen.

En AI kan redan idag lösa avancerade uppgifter bättre än vad mänskliga experter kan.
Som tex det schack, och Go - samt vissa dataspel - som tråden beskriver har ju AI besegrat människan.

T.o.m. vid simulerade luftstrider (Dog Fights) har AI kunnat besegra mänskliga stridspiloter.

Dvs en AI är mycket bra på att lösa direkta uppgifter, med bättre resultat än människan.

Det kommer antagligen att leda till den ökade robotiseringen man pratar om, där AI tar hand om våra uppgifter, på ett bättre sätt än vad vi någonsin hade kunnat.

Som tex AI i stridsflygplan, i stridsvagnar.
I vanliga flygplan, och lastbilar
AI som sköter kraftverk, AI som tar hand om VVS-system.
Fartyg som skeppas iväg över haven med AI som skeppare



MEN - det är autonomin som saknas.

Utan denna autonomi hade inte ens denna så överlägsna AI i stridsflygplanen kunnat få någon användning.
För planet hade inte ens kunnat starta utan ett kommando från en människa.
Utan autonomi hade AI aldrig kunnat veta när det var dags att starta, lyfta och sikta in sig på en fiende.



Ingen AI är ens i närheten av de icke-mänskliga djurens intelligens och autonomi.

Det tål att tänkas på ... eller hur?

Djuren lever sina liv helt av egen vilja.
Helt utan kommandon och befallningar.
Du kan ta vilken ... kråka ... som helst, och bara släppa den ut från ditt fönster, och den kommer att kunna leva sitt liv precis som den gjort alltid annars.
Det finns ingen AI som kan göra så.


Jag skrev på annat ställe en tänkvärd sak:
Att vi tex kan göra en självkörande bil, med AI, som kan köra längst med gatorna på GPS-kartan, i enlighet med de inmatade kommandona (resväg).
Den hade t.o.m. kunnat beräkna snabbaste rutten, närmaste vägen.

Men ... det den inte hade klarat, det hade varit att tex gena över en park, eller över en åker.
För AIn hade den åkern varit lika med ett hus. Den hade enbart kunnat följa gatunätet.



Jag tänker emellertid mycket på hur fantastiskt det ändå hade varit med de, kraftigt begränsade, kunskaperna en självlärande AI ändå hade kunnat få¨.
Men för att det ska hända måste man först ge den möjligheterna till att lära sig på egen hand - dvs den måste "släppas fri."
I den verkliga världen, inte i det begränsade labbet.



Tänk tex drönare, med självlärande AI.
Tex "transport-drönare" som delar ut paket osv.
De begränsas idag av kommandot "Från punkt A till B och sen tillbaka till A igen".
Det finns inget självlärande i det.

Utan det som hade krävts hade varit en hel flotta av dessa drönare, som ständigt var i arbete.
Som inte bara flög från A till B, utan också självständigt skulle flyga till ett, av flera, självvalda lager-centraler. Självständigt beräkna fördelar och nackdelar med uppskattad leverans (vikt, resväg, plus uppskattat väder, bränsleåtgång, närhet till bränsledepå osv) i relation till själva arbetsuppgiften.
Det hade man ju kunnat göra genom att programmera in olika "belöningssystem"

Och då den tvingats hämta erfarenheter/lärdomar från den Verkliga Världen och alla dessa skiftande faktorer den erbjuder, så kommer det självlärande systemet att bli verkligt intressant.

Det hade krävts att AIn var inkopplad på många olika informationsystem, som tex meteorologisk data (vindstyrka, -riktning, temperatur, nederbörd etc), lokalt, regionalt, globalt ... till GPS, till satellitfoto, och -karta. Till övervakningskameror med så heltäckande input som möjligt.
Dvs "Situational Awareness" som närmar sig det totala.

Mja. Tolkningsfråga. Finns en "perfekt simulering" av en mask, programmerad i en legorobot. Jag har för mig att man kikade på maskens hjärn-topologi och körde över den till elektronik, tryckte på start, och fick se en robot som lärde sig (eller kanske redan kunde) kräla omkring med sina mekaniska lemmar.

Sen så finns det en laboratorierobot som gjort minst en vetenskaplig upptäckt på egen hand utan mänsklig översikt, fast jag vet inte precis hur autonomisk den är, men såhär skriver dom:

As a prototype for a "robot scientist", Adam is able to perform independent experiments to test hypotheses and interpret findings without human guidance, removing some of the drudgery of laboratory experimentation. Adam is capable of:

• hypothesizing to explain observations
• devising experiments to test these hypotheses
• physically running the experiments using laboratory robotics
• interpreting the results from the experiments
• repeating the cycle as required

Jag håller med om det du skriver, att det är självinlärning och ett bredare beteende som behövs för att vi kanske ska börja ta AI på allvar. Det är mest troligt inte så långt borta däremot.

Jag vet inget om maskar och deras intelligens.
Men jag kan väl anta att de gör lite mer än bara krälar omkring iaf ...

Vad jag vet så kryper de upp till ytan när det är regnväder-
Gör AIn det?

Samma när man sätter ner en spade med ström i i jorden, då kravlar maskarna också sig upp.
Det tror jag inte AI-masken hade gjort.


En ganska så enkel, och kanske lätta att imitera, intelligens kan kanske ses hus bina.

Iaf kan man se hur de lär sig, och hur de använder sig av det inlärda för att förstå sin omvärld och sköta sitt arbete.

Dvs de lär sig genom att observera, genom att "ta kort" av det de ser.
När biet börjar sin karriär, så börjar den med att hovra direkt utanför boets ingång.
Den hovrar där för att ta in själva utseendet och lukten. Men det flyger inte längre.

Sen vid nästa nivå, så flyger de ett litet steg längre utanför.
Och kan ta in hela bikupans utseende på det sättet - sen tillbaka igen in i tryggheten.

Längre och längre ut flyger den.

Om det kanske står en lång solros fem meter utanför bikupan, då kommer biet att snurra runt det, och ta in hela utseendet.

Ju längre bort biet flyger, ju mer beroende blir den av dessa "referenspunkter" i miljön.
Den behöver inte ta in hela landskapet, bara det utmärkande, det som den kan förhålla sig till.


När något sen försvinner från denna "karta" så hastar den inte bara förbi, som om inget hänt.
Utan den börjar snurra runt på samma plats som det gamla fanns på.
Tex om man tagit bort ett möblemang från sin trädgård, då flyger biet omkring på den platsen och tar nya kort över den nya platsen.


På det sättet kan ett litet bi hitta hem, fast avståndet är flera hundratals meter, kanske flera km också.
Och om man fångar in ett bi från kupan, opch släpper den på ett annat ställe (inom "reviret" så kommer biet att börja snurra runt i cirklar, på jakt efter något välkänt landmärke. Och så fort den hittat något som finns i minnet, så sätter den iväg tillbaka hem.

Men, om man släpper den längre bort, på ett helt obekant ställe. Då kommer den aldrig att hitta hem igen
Men - den kan hitta ett Nytt bisamhälle, och bli medlem i det istället - om det hittar ett sådant.
Det hade ju ingen AI klarat av, så biet har trots allt en autonomi.


Biet äter ju också under tiden den arbetar.
Men det motsvarande för en AI hade ju varit att bara återvända till Punkt A, för att där få nya kommandon (och ny energi).

För fullständig autonomi så är det ju sådana saker som måste klaras av först.
Den måste kunna bestämma självständigt när det är dags för ny batteripåfyllning, och var det är bäst att få den (med flera olika alternativ såklart att välja mellan).
Då hade AIn kunnat vara i arbete Konstant.
Inte bara "fram o tillbaka", utan beroende på de krav arbetet ställer, miljön ställer, och andra möjliga förutsättningar som kan finnas.

---

Men, tråden handlar ju också om det "Hot" en framtida AI hade kunnat utgöra.

Och det krävs ju lite för att det ska realiseras.
Bortsett från det självlärande, så krävs ju också att Möjligheterna faktiskt finns.

Dvs har AI tillgång till internet ?

Har AI tillgång till källkod ?


En AI som tex bara "spelar dataspel", är ju - av sin egen natur - en kod, en algoritm, som är en del av en annan, större/bakomliggande kod, algoritm.

När kommer denna AI att "bryta sig ut" ur sin egen kod ?


För, i en värld där allt är ettor och nollor - finns det då egentligen några "gränser" mellan ett program och det program som programmet är en del av ?

Kommer den självlärande AIn att börja "snylta på" koder som den hämtar utanfrån sitt eget program tex?

Dvs - ett alfabet bryr ju sig inte om ifall det står "stopp" någonstans, eller hur.
För alfabetet är allt ändå bara bokstäver.

Om vi utgår från att hela maskens neurologiska funktioner finns i roboten, samt motsvarande sinnesorgan, så menar du alltså att det finns nåt utanpåliggande som gör att en riktig mask beter sig annorlunda. Vad skulle det vara? Hoppas det finns något vetenskapligt som passar den beskrivningen.

Det arbetas på det också, i någon utsträckning åtminstone. http://motherboard.vice.com/read/thi...ney-bee-brains

För övrigt så finns det AI-robotar som lär sig känna igen sin egen, och andra robotars, kroppsrörelser och dessutom uppfinner egna språk som dom sen lär varandra, baserat på vilka rörelser dom lärt sig göra. Tydligen lär dom sig abstrakta saker som "vänster" och "höger" på egen hand.
http://thirdmonk.net/knowledge/robot...elligence.html
https://www.theguardian.com/technolo...-robots-sautoy

Här är också lite intressant läsning om två neurala nätverk som försöker prata mellan varandra utan att någon annan ska förstå, medan en tredje AI försöker förstå sig på vad dom två andra säger: https://techcrunch.com/2016/10/28/go...an-encryption/

Kort sagt finns det många intressanta projekt redan idag som verkar vara allmänt okända. Det finns nog inte nåt som uppfyller alla dina krav, men poängen är att det arbetas mot det hållet ganska flitigt och—även om det inte har verkat så—ganska framgångsrikt.

Autonomi kräver snarare metabolism och reproduktionsförmåga än intelligens. En bakterie klarar att leva ett autonomt liv utan att tänka alls.

Men utan autonomi, ingen "riktig AI".

Då blir det bara uppgiftslösare, och aldrig något mer.

Det är kanske riktigt att det du kallar "metabolism" måste vara en del av deras beteende.
Det låter ju ungefär som de självgående taxibilar och leveransdrönare jag exemplifierade med innan, eller?

Dvs där de "släpptes lösa" och på egen hand - samt som kollektiv (med den kollektiva intelligensen) sköte sina/kollektivets uppgifter - som enskilda individer, och som kollektiv.

För om de hade fungerat idag, så hade det bara varit tal om att, likt lager-robotar, åka från Punkt A till Punkt B, och sen tillbaka igen.
Men en helt autonom ... "taxi-grupp" hade varit tvungna att på egen hand förstå när de behövde "tanka" (metabilism), och var det kunde göras (finns ju flera olika ställen i en stad).
De måste också självständigt veta hur hela arbetet fungerar. Veta hur de ska köra till kunden efter en bokning. Men även kunna beräkna var det är störst chans att kunna träffa på spontanåkare (tex centralstationer, eller vid stängningsdags vid koncerthus och krogar etc.
Allt sådant måste AI klara av - samtidigt som de ständigt kör runt.
Dvs samma färdigheter som en mänsklig taxichaufför - fast Bättre (det är ju ändå AI ... ).

Och fördelarna hade ju hittats i dess förmåga att direkt behandla, analysera och nå slutsatser, av den metadata de hade tillgång till.
Metadata som den ständigt varit inkopplad på, både som centraldator, och som individuell enhet.
Där allt från stadens samlade övervakningskameror, satellitbilder, drönarefilmer, ger (vilket ställer krav på ansiktsigenkänning, karaktärsigenkänning och en förmåga att tolka/förstå situationer).
Samt information som finns på internet, som handlar om just staden och det som är relevant för just taxinäringen där.

I det hade Lärande situationer ständigt dykt upp, och det är i de som det spännande finns tycker jag.

Men det hade ändå inte varit 100 % autonomt.

För de hade inte kunnat gena över en åker tex.

Men, jag tycker det hade varit tillräckligt spännande - och användbart (överlägset mänskliga i många, vissa, avseenden) även utan den förmågan.

---

Det finns dock ett problem.
Och det är förmodligen i att detta aldrig kan hända om man inte låter AI få lära sig av "verkliga livet".
Det hade inte gått i den stängda, begränsade och kontrollerade miljön i labbet.
För datorn hade varit tvungen att testa sig mot den verkliga världens ständiga slump.


Inte förrän man "överger robotarna", och alltså låter de få pröva sina vingar på riktigt, genom att släppa dem lösa, kan någon av dem "go rougue", som det heter.

Men det är i just de, som man kanske kan börja hitta tecken på "egna val".

Om en av dessa taxibilar tex hade börjat undvika vissa bostadsområden, eller kunder med ett visst övergripande utseende, då hade den ju tagit ett steg utanför det förväntade.

Men hade det ens gått, om alla enheter delade lika på en gemensam centraldator?

Detta har du helt rätt i. En AI kan på sin höjd bli problemlösare åt människan och då endast för de problem människan själv definierat och hunnit bli medveten om. En AI kan aldrig motiveras eller självprogrammeras ens till att lösa sin egen överlevnad i ny miljö exv. I schackspel lär det kunna bli remi mot vilken apa som helst då denna ö h t inte kunnat lära sig vitsen med att spela på detta människans vis.
Endast människan med den gudomliga förmåga hon kan tilltro sig själv kan någonsin åstadkomma något nyskapande. Till skillnad mot djur har vi både autonomi och medvetande med fri vilja till att kunna tro på eviga möjligheter och samtidigt förmåga att kunna jämföra och lära av förfäders erfarenhet inför varje ny livssituation.
En AI måste lösa balansproblemet mellan tid och evighet samtidigt med det vi kallar självmedvetande innan den kan inhämta och överträffa människans oändliga försprång.

nej

Du blandar ihop kompetens och förståelse. För att överleva behöver vi kompetens, förståelse klarar sig de flesta varelser utan.

Vad tror du skulle hända om robotgräsklipparna kunde äta gräset de klippte istället för att åka till laddstationen? Och om de kunde tillverka en ny liten gräsklippare varje gång de hittade en kompis? Och om de hade ett lite trasigt flashminne där en etta växlade till en nolla eller tvärt om vartannat år?

Efter några år skulle bitfelen göra att vissa gräsklippare struntade i magnetslingan som omgärdade hemmatomten. De flesta skulle köra fast i skogen eller bli överkörda på motorvägen. Men efter några tusen år skulle en gräsklippare av ren tur hitta till slottsparken och ha fått sådana konstiga programfel att den stannade där och frodades. Och där skulle den kunna bli stamfader till en ny version gräsklippare, annorlunda än den ursprungliga.

Där är så det fungerar. Precis som en insekt gör gräsklipparen vad den gör utan att förstå varför. Vad förståelsen tillför är snabbare omställning då vi kan justera vårt beteende medan livet pågår, istället för att vänta på nya generationer. Men det handlar om tid, inte om resultat. Och gräsklipparen kommer att vara lika autonom som någon annan.