Artificiell Intelligens, Gud eller Satan ?

Det är ju det som är äkta AI, annars är det bara ett program.

Äkta AI är något som utvecklas utan mänsklig påverkan.

Annars brukar ju "artificiell" betyda just människotillverkad...

När AI'n blir "äkta" så är det inte artificiellt längre, utan en ny sorts intelligens.

Det finns psykopater som är väldigt intelligenta men det förhindrar inte dem från att förtrycka andra människor och arter närhelst de får chansen. Så hög intelligens är alltså ingen garanti för fromhet och välvillighet. Varför är inte en intelligent psykopat välvillig, vad har gått fel där och kan samma ”fel” uppstå i en superintelligent AI-hjärna?

Sen är ju frågan hur ”välvillighet” manifesterar sig, det mest välvilliga vore kanske att utrota all mänsklighet eftersom detta är den enda tänkbara vägen att gå ifall ditt mål är att utrota allt mänskligt lidande…

Menade mera begreppet "singularity" när programmet självt tar över.

Detta stämmer och kommer troligen att förekomma i AI också. Individualism.

Det vill säga BÅDE Gud och Satan kommer också att finnas i AI.

Även i ett sådant fall kommer det vara avgörande hur vi byggde de första maskinerna och vilken motivation vi la in i dem, avsiktligt eller oavsiktligt. Förvisso kan denna mutera under utvecklingens gång, men kommer ändå sätta spår.

Här en intressant artikelserie om hur med dagens lagstiftning en AI kan äga företag och därmed få vidsträckta juridiska rättigheter eftersom företag idag i mycket betraktas som individer med fulla rättigheter.
https://www.dailykos.com/stories/201...-Skynet-Part-I

Liknar rätt mycket romanen Accelerando.

Trots, eller kanske på grund av, att det här påståendet är så vanligt så är det ändå så vagt. Jag köper det inte.

"Det kommer att finnas en viss brytpunkt "

Hur vet du det? Varför?

"när AI till slut kan förbättra sig själv"

På vad? Inom vilket område? Hur? Inom vilka ramar?

"och i slutändan i teorin bli oändligt mycket smartare "

Vad betyder "smartare"? Inom vad?

"än vad vi någonsin kommer att vara."

Hur vet du det? Varför?

Vi kanske inte strikt vet att det finns en brytpunkt, men jämför med att en schimpans och en människas hjärna är väldigt lika, ändå har de små skillnaderna haft en radikal effekt på vad vi kunnat åstadkomma. Det är rätt rimligt att anta att vid någon punkt något liknande kommer hända även med AI.

AI:n kan dock ta ett steg vi inte kunnat, att börja förbättra sin egen konstruktion. Vi har haft en explosion av kunskap trots att vi är i det närmaste identiska med stenåldersmänniskor. En AI som når upp till nivån där den kan konstruera en ny AI som är bättre än sig själv kan leda till en långt snabbare utveckling.

Däremot är det där med " oändligt mycket smartare" rätt hyperboliskt. Förvisso kan en AI skapa bättre AI, men det finns också fysiska gränser även om vi inte har någon idé om var de ligger. Å ena sidan kommer varje generation av AI:s att vara smartare, å andra sidan kommer det vara svårare att förbättra deras konstruktion ytterligare. Vilken av dessa faktorer som tar överhanden är ingen som vet.

Det kan man givetvis inte veta till 100% men vi är inte speciellt långt borta redan i dagsläget.


Att lära sig själv. Hela poängen är att det inte egentligen finns några ramar. I dagsläget gör AI vad vi säger åt den att göra. Om vi kommer till punkten att vi har självlärande autonom AI så finns det bokstavligen inga gränser.


Att kunna lösa problem som vi som människor inte på överskådlig framtid (eller aldrig) kommer att kunna lösa.


En maskin behöver inga pauser, en maskin kan processera och minnas betydligt mer än vad en människa kan. Den påverkas inte av yttre faktorer. Det finns redan i dagsläget områden där AI gör avancerade beräkningar som människor inte skulle kunna göra lika bra, och framförallt inte lika snabbt.

Långt borta från vadå? Du är fortfarande vag.


Jo, maskiners inlärning har väldigt tydliga ramar, nämligen de vi själva definierar upp. Ta exempelvis AlphaGo. Skitbra på att spela Go, och blir bara bättre ju mer den spelar. Men det är för att vi har definierat ramen för spelet och reducerat det till ett beräkningsproblem. Ändra ramen för programmet genom att lägga till, ta bort eller modifiera lite regler och programmet har inte en susning hur den ska göra utan kommer förlora stenhårt och i princip behöva tränas om, troligtvis behöver all tidigare inlärning förkastas helt. Oavsett hur många Go-matcher den än spelar så kommer den aldrig att lära sig lägga till egna regler, skapa nya spel, lära sig måla eller uttrycka sig kreativt, fundera över meningen med livet eller för den delen förstå att den spelar Go.

Och om programmet inte kan förstå sig själv, inte har någon uppfattning om sin egna existens, hur ska den då kunna förbättra sig inom områden utanför ramarna vi sätter upp?


Men det kan de ju redan idag och har kunnat väldigt länge, så länge som vi pratar om beräkningsproblem. Vilket vi gör eftersom vi pratar AI. En dator kan exempelvis snabbt räkna ut 185734942^(5.426)- 23/1242489234 och presentera svaret med en noggrannhet på flera hundra decimaler, vilket troligtvis ingen människa skulle klara inom en livstid eftersom vi är människor. Så länge vi kan omformulera problemet som ett beräkningsproblem så kommer en dator i sinom tid klara av att lösa det, troligtvis bättre än en människa. Men på vilket sätt är den "smartare"? Kan den själv formulera problemet och sätta upp sina egna ramar? Förstår den någon som helst kontext? Nej.


En maskin förstår inte semantik, på samma sätt har den inte en aning om vad den faktiskt sysslar med.

Så frågan kvarstår:

Vad menas med "Det kommer att finnas en viss brytpunkt när AI till slut kan förbättra sig själv och i slutändan i teorin bli oändligt mycket smartare än vad vi någonsin kommer att vara."?