Skynet nära nu - Googles AI blir bäst i världen på schack på fyra timmar

Det som är nytt är att tidigare schackdatorer haft en grund av mänsklig spelkunskap för öppningar osv och blivit bättre än människor bara för att de utöver det kan söka igenom så många fler tänkbara positioner framåt. Googles dator har istället lärt sig hur man skall spela bra helt själv utan mer än reglerna att gå efter, och den söker igenom mycket färre positioner än traditionella schackdatorer.

I schack verkar den kommit fram till liknande lösningar som människor gjort, bara lite bättre, men när den lärde sig Go vart sättet den spelade helt obegripligt för människor. Den följde ofta inte alls sådant som man ansåg vara grundläggande principer för bra spel.

Det viktiga här är inte så mycket att datorn är bra på att spela schack eller go utan att den kan lära sig själv att spela bra. Att utveckla en bra schackdator tog massor av år, och med de metoder man använda skulle det ta lika mycket möda att utveckla en dator för att spela något annat spel. Nu kan man på några timmar skapa en mästare i vilket spel som helst. I alla fall så länge det handlar om spel med fullständig information.

Wooow skynet. Stäng ner internet så dör skynet och allt annat

Hur väl kan den där schackdatorn anpassa sig till förändringar i reglerna då? Om man tar bort tre av de fyra tornen eller lägger till en ny sorts pjäs, är de där 4 timmarnas uppbyggande av det jätteneurala nätverket helt bortkastade? Gamla hundar är svåra att lära sitta som man säger.

I så fall är 4 timmar inte alls imponerande, då man lär upphöja den tiden med alla tänkbara små förändringar som skulle kunna ske och som man vill kunna hantera hyfsat. T.ex. att motståndaren bjuder på tårta.

Jag tror inte att datorerna kan bli smartare än de bästa autisterna eller psykopaterna.

Det du beskriver kallas brute force. AlphaZero använder neurala nätverk vilket är en annan metod för att lösa optimeringsproblem.

"It approaches the 'Type B,' human-like approach to machine chess dreamt of by Claude Shannon and Alan Turing instead of brute force."
https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match

Jämför med "enklare" optimeringsmetoder som t.ex. genetiska algoritmer eller linjär programmering etc.
https://en.wikipedia.org/wiki/Genetic_algorithm

👀
Det är ju ganska givet att en del AI kommer att kunna smita ut i internet
I bästa fall blir de väl "vilda virus" som ställer till en massa oreda och går att stoppa.

"The leading AI companies have taken great steps to ensure safety. They recognize the danger, but believe that they can shape and control the digital superintelligences and prevent bad ones from escaping into the Internet. That remains to be seen..."
Detta är väldigt stora krafter som ligger inom området osannolikhet och unintended consequences.
Det är en illusion att tro att det går att kontrollera sådant.

1935 införs en padda till Australien som under kontrollerade former ska käka upp skadeinsekter.
Resultat ett ekologisk h*lvete.
👁️
Cane toads were introduced to Australia from Hawaii in June 1935 by the Bureau of Sugar Experiment Stations.🐸
Unintended consequences
"the depletion of native species that die eating cane toads; the poisoning of pets and humans; depletion of native fauna preyed on by cane toads; and reduced prey populations for native insectivores, such as skinks"
Bara ett av många exempel på unintended consequences. 🤖

Här gör facebooks AI ett eget språk...
Facebook's AI Created Its Own Language, so Its Creators Shut It Down.
after trying to learn to communicate in English, the AI behind Facebook's chat program decided that it would create its own, more efficient language, which was unintelligible to humans. When researchers realized what it was doing, they quickly shut it down.

Vilka unintended consequences kommer AIn som smiter ut i internet att skapa? Och vilka unintended consequences kommer människors försök att stoppa dom skapa? 👀

Men kontrollen blinkar blå
En signal för det säkra ♩
♬ Kontrollen blinkar blå
♩ Då är allt som ♪ det ska
Om skärmen ♬ är normal
♬Finns inga skäl att tveka
När kontrollen blinkar blå ♩
Då är allt som det ska
👁️

Ett träd är ett träd. Men hundra träd blir för de flesta av oss en skog. Men det gäller inte för autistiska människor. De kan inte se en skog utan bara 100, 1000 eller 375 träd.
Det känns ju tryggt att veta att de som sysslar med detta nästan uteslutande är autister utan möjlighet att förstå de egna konsekvenserna. Leve Skynet, snart i en moske nära dig!

Är det inte? Hur skulle du då definiera intelligens? Effektivare informationsprocessering och minneslagring känns rätt grundläggande begrepp för även mänsklig intelligens. Jo, men hastighet har nog aldrig inkluderats i en definition av intelligens. Det har däremot de två begrepp du tidigare nämnde.

Utan betalvägg: https://web.archive.org/web/20171210123014/https://a.pomf.cat/kccduo.html

Jorden klarar sig alltid, utan människor eller robotar. Jorden har ingen plan där det måste existera en viss typ av ekologi, även om den vore täckt av smält stål skulle den syssla med vad den alltid gjort, rotera planlöst runt närmaste stora himlakropp. Roligare än så blir det inte.

Historien de senaste 200 åren talar tydlig emot vad du befarar. Betänk vilka enorma effektiviseringar vi haft i allt! Varje gång en nytt teknologiskt skutt har tagits har olyckskorpar kraxat.

Ex: automatiska vävstolen. Spinnmaskinen. Traktorer. Motordrivna fartyg. Motorsågen. Elektromekaniska telefonväxlar. Industrirobotar. Datorer. Persondatorer. Sträckkodsläsande kassor. Självskanning. Datorstyrda brevsorterare. osv osv.

Sverige är världens mest avancerade samhällen tillsammans med Japan. Båda länder har i princip noll arbetslöshet (räknar inte kulturberikarna som ju gör sitt bästa men normalt inte kan räknas in bland svenskar).

Vad fiskar du efter? Att skriva ett prov handlar mer om att uppnå ett resultat än att briljera med sin intelligens. Möjligtvis kan AI få svårt att kopiera människans irrationella beteende men är detta ens önskvärt med tanke på hur ofta människan har fel? Om 80% rätt räcker för resultat behövs inga 100%.

För övrigt var Skynet undermåligt som utrotare av mänskligt liv, varför inte bara förgifta atmosfären eller vattnet istället för att kopiera människan och överdriva det * 1000?

Du och jag är helt klart mer effektiva på att optimera omvärlden än vad evolutionen är. Vi har inte riktigt kommit ikapp alla miljoner år som evolutionen har haft som försprång men vi stänger gapet allt eftersom.

Ok?

Vet inte riktigt vad du pratar om. Jag citerade en av världens bästa schackspelare som tyckte det är uppenbart att datorer är bättre än människor på spela schack.

Bara som kuriosa så går vi också på ström och är programmerade.