Behöver vi vara rädda för artificiell intelligens?

Kortfattat (Wall of text) -> Alltså bör vi frukta skapandet av en generell artificell intelligens för att en sådan har förmågan att omdana vårat samhälle negativt(/katastrofalt)?

Jag känner rädsla inför eventualiteten, jag brukar grunna på saker och kanske är mitt grunnande föremål för en annan forumavdelning, och måhända tar jag mitt allmänna grunnande dit. Men jag tycker frågan kring artificiell intelligens (AI) är rättmätig att ställa.
En gång i tiden såg jag filmen terminator utan att tänka om filmens frågeställning, nu kan jag se den i annat ljus, även om den förstås är en förgrovning och ”actionification” av grundföreställningen

Så.
AI kan vara svårdefinierat både för den oinsatte såväl som den insatte. Men det handlar ju om ett intelligent system. Applicerad AI, som i datorspel och liknande har ju funnits ett tag. Men det är generell AI, som i högre grad kan bygga på sig själv (liksom vår hjärna men med tillgång till mycket mer datorkraft) som är det som antas kunna komma och det som vissa fruktar
Denna generella AI som antingen är en process av allt smartare system eller ett ”eureka moment”, är profeterad av kanske främst personer som Ray Kurzweil och andra dator-teoretiker.
AI är på mångas läppar, vetenskapsmän, it-entreprenörer, journalister såsom även i någon grad politiker. Kommer inte länka, men kan namedroppa namn som Stephen Hawking, Elon Musk och ja Ray Kurzweil förstås, m.m. Denna generella AI:n antas omdana samhället till oigenkännlighet, och om den utvecklats fel (anser vissa) kan den vara detrimental.
Samtidigt planerar samhället byggprojekt som ska hålla i 200 år, långt framtida pensioner diskuteras.
Jag vet inte vilken grupp jag ska sälla mig till, vill väldigt gärna kunna planera min egen framtid. Även om man förstås inser alla möjligheter med generell AI. I slutändan handlar det ju även en del om vad man tror och inte vad man vill.

AI har omtalats och förespåtts komma tidigare har jag lärt mig i mina eftersökningar, redan på 60-talet talade vissa om ett riktigt intelligent system inom decenniet. Så man kan ha viss skepcis till hypet om att generell AI är runt hörnet. Nu anses dock läget vara annorlunda, mer forskning både av stat och företag finns på området, programmering är välutvecklat, intelligens i hjärnan mer utforskad och internet finns som grunddatabas.
Kan alltså sådan generell AI komma (om någonsin)?

Frågan blir då, bör vi frukta AI? Kanske inte om det är en förlängning med allt mer sofistikerade program-algoritmer såsom att:
Om vi menar ett trafiksystem som kan analysera sin egen data och ”omprogrammera” sig utifrån vissa mål.
Ett program som kan läsa igenom internet och skriva egna intelligenta nyheter.
En mycket intelligent chatbot.
Etc.
Kort sagt ser jag inte det som ett hot, sådan AI, AI som allt smartare applikationer.

Ska även säga att jag i någon mening kan ”hantera” tanken om en ”benevolent” stark generell (ja även utopisk intelligens /maskin), såtillvida att den har hoppat över sina buggfaser, och fått inprogrammerat/har uppfattning / kommit till insikt i, det positiva med människors existens (eller i vilken form våra sinnen kommer fortleva). En sådan stark generell artificiell intelligens är ju det som vissa futurister sätter hoppet till, om att de ska ge teknologisk explodering, evigt liv och vara en vidareutveckling av ”meningen med universum”.
Jag kan vara fundersam och oberedd på vad en sådan stark generell intelligens skulle innebära.

Därutöver, om man tänker på vad de första faserna i allmän forskning/utveckling kring AI skulle kunna uppbringa. Så blir man rädd att de kanske inte skapar ett intelligent medveten intelligens, utan endast ett så kallat ”utility monster”. Säg en maskin med ett grundsyfte att framskapa något speciellt, t.ex. en medicin/molekyl/ge svar på alla decimaler av pi, och har förmågan att omprogrammera sig själv (och andra egenskaper). Därmed med sin stora intelligens (men inriktade förmåga) så omdanar den jorden till att endast lösa dess grundproblem.
Jag underlåter här att i grunden utlägga för alla sätt det kan gå fel, delvis för att jag inte är expert.

En del säger att en AI-explosion som profeteras ej kommer ske alls, eller ej på det sättet.
Vissa säger att ”riktig” AI kommer snart, kanske om 25 år, 10, tidigare eller kanske senare. Vid detta skeende lovas allt som tänkas kan, medans andra oroar sig för människans fortlevnad.
Själv tänker jag ju på mitt eget liv, mina framtidsutsikter, framtida barn etc, och det gäller ju för alla på jorden. Likväl, fastän profetiorna rullar in, infinner sig ingen debatt inför denna omtalade omvälvning.

Det sägs att om riktig AI kan utvecklas så kommer det att göras, reglerat eller ej. Men jag tycker det låter defaitistiskt och vansinnigt om man tänker på vad som står på spel (om man ser det som ett hot).
Kanske borde det funderas på säkerhetsfrågan kring AI, men frågan är om sådant är möjligt/kan koordineras.

Spridda tankar, svåra frågor. Vet inte hur jag ska förhålla mig till detta, och är faktiskt rädd i någon mån, för denna eventualitet verkar ju delvis finnas på eventhorisonten för dagens intellektuella elit.
Vilken inställning ska man ha? Ska man vara rädd? Hur ligger det till?

Vad säger ni om detta?

Tycker inte det. Ser inte AI som ett direkt hot idag eller inom snar framtid. Den mest avancerade datorn idag kan knappt simulera en daggmask. Förstå då hur otroligt långt kvar det är till hundar, apor och till slut människor. Det indirekta hotet från AI bör dock tas på stort allvar. Människor som förlorar sina jobb och blir ersatta av maskiner och därmed blir frustrerade och till slut radikaliserade arbetslösa. Och radikaliserade massor är farliga, riktigt farliga.

Men visst om ett flertal decennier när AI har utvecklats mycket mer då blir frågan mer relevant (AI som ett direkt hot). Just nu tror jag dock att det största hotet mot människan är människan själv. På kort och medellång sikt har vi risken för ledare med narcissistisk personlighetsstöring som kan få för mycket makt (makten över kärnvapen med mera) och ta ödesdigra beslut. På längre sikt tror jag att risken kan vara av människor programmerade virus som effektivt kan döda många miljoner, förutsatt att denna explosiva utveckling som sker inom biotekniken fortsätter.

Vi borde fokusera på de hot som finns nu tycker jag. Sen om kanske 20-30 år då kan vi lägga mer fokus på AI om så är nödvändigt.

https://www.youtube.com/watch?v=anMOQ3vTy9k
https://www.youtube.com/watch?v=pc8mJU9OaRQ


Nej, men jag hobbysysslar lite med detta. Det är ett fantatiskt intressant ämne och har en enorm potential.

Visste du att ett AI-stridsflygplan utför sina uppdrag (döda givna människor) bättre än en människa? Jag vill mig minnas att det krävdes inte mer än prestandan motsvarande av en Raspberry Pi (en 400-kronorsdator). Det revolutionerande här är att hur jäkla mycket data den kan processera. De hastigheterna, och allt som händer samtidigt är enorma. Som en människa alltså, eller bättre.

Och det häftiga är att den har "programmerat sig själv". Vi behöver förenklat bara säga vad vi vill ha för resultat.

Jag tycker att det är jättebra att folk i allmänhet är oroliga över detta. Men inte för att jävlas, utan för att det är viktigt att föra debatten redan idag.

Den allra största risken är att en enskild organisation får ett för stort försprång och riskerar att använda den i tvivelaktiga syften. (På grund av denna risken så har mycket framstående personer och organisationer satsat mycket på att göra moderna neruala nätverk open source. Elon Musk är en. Google till viss del också, men de håller vissa saker hemliga.)

En annan risk är den juridiska. Vad händer om jag utvecklar ett självlärande AI som sedan dödar folk? Är jag skyldig? Och om någon annan "uppfostrade" den? (På grund av denna anledningen har det etablerats en moral- och etikkommité. Kommitén består av t.ex. Facebook, Google, Microsoft, IBM och Amazon.

Jag tror att vi kommer att behöva ställa om samhället rejält för att handskas med detta. Möjligtvis kan vi behöva förbjuda t.ex. aktiehandel m.m, vilket vore en mycket extrem ekonomisk förändring.


Mycket respekterade forskare anser för övrigt att ja, vi behöver faktiskt ta detta på allvar. Nu.
Efter ett par revolutionerade upptäckter de senaste ~5 åren så har utvecklingen skett explosionsartat och robotar utför massvis med uppgifter bättre än människor idag på ett sätt som hade varit otänkbart för bara 15 år sedan.

Det är mycket som tidigare har kallats "AI", men det som har varit revolutionerande de senaste åren var ett par stora upptäckter kring "neurala nätverk" kring något som kallas "back propagation", vilket är en metod för att tala om för "neuroner" i ett binärt system om de gjort bra eller dåligt ifrån sig.

Vad som behöver göras? Detta behöver bli en seriös samhällsdebatt, och såväl forskare som politiker behöver väcka frågan redan idag. I princip alla som är insatta i området säger detta och har varnat för det.




Men i slutändan så tror jag att AI blir nästa steg i evolutionen. Vad vi än gör så kan vi bara skjuta upp på ett "övertagande". Det är en oundviklig slutsats att det någon gång, någonstans kommer att skapas en artificiell intelligens med både kapacitet och vilja att sprida sig på bekostnad av andra precis som oss människor.

Bra genomgående svar.

Jag känner mig mycket ambvivalent, om AI kommer utvecklas, om isåfall den kommer att verka som folk påstår och därför kan jag vara orolig

Lite är det eftersom jag är så skeptisk till hur optimisterna ser på det hela, att jag ifrågasätter hela deras grundhypotes att sådan AI kommer utvecklas.
Vill dock säga att jag tror att AI i någon bemärkelse kommer att utvecklas

Jag löste Asimov i yngre dar, men nu på lite äldre så ser min deprimerat skeptiska syn på det hela annorlunda.

Jag håller med dig om att man måste ta detta på allvar. Men min fundering är om förespråkarna är för optimistiska. Iden om att vi som i Asimovs verk kunnat inpränta lagar och liknande. Märk väl också att kanske måste vi få det rätt första gången.
Min farhåga är (även om det är en god poäng) inte aktiemarknaden.
Min farhåga är att ett självlärande system (medvetet eller ej) går bärsäkagargång direkt, kanske pga att vi utformat det fel.
Nick Bostrom t.ex.
https://www.youtube.com/watch?v=pywF6ZzsghI
anser att vi kanske måste utforma det rätt från början,
om inte kan det vara ett existentiellt hot, allt liv kan utplånas direkt
Och vill poängtera att jag kunnat se att det kunnat hända, utan att våran AI, gått vidare i evolutionen, den hade stått och hackat utefter dess likväl begränsande förmåga

Jag har hört hoppet, om att AI kunnat vara enda vägen till evigt liv, och att vi skulle utvecklas evolutionärt, ja jag har tidigare gått och hoppats på det.
Men jag har kommit på mer pessimistiska tankar, och sett att andra även delar oro.

Hårda tider vi lever i

Jag tror inte att det är mycket att var rädd för. Än så länge så är det inte i närheten av sådan nivå att maskiner kan designa om sig själva och utveckla sin egen konstruktion helt utan mänsklig hjälp.

Snarare så måste all inlärning vara designad från början. Modeller och nätverk måste tränas (och inte överträns), plan måste anpassas i utafallsrum osv.

Att bygga en AI som är bra på något specifikt är fotfarande en konst, och de bygger definitivt inte sig själva. Det tekniken används mest till idag är att prediktera saker som om du kommer att säga upp ditt mobilabonemang i framtiden. Det är inte speciellt avancerade grejer man gör även om man tar hänsyn till många fler parametrar än vad en enkel statistisk modell skulle kunna göra. Det är egentligen det som är så "revolutionernade". Med AI behöver man inte använda regressionsanalys utan man bygger automatiskt ihop en funktion från observationerna i rummet A till utfallen i rummet B. Exakt hur den funktionen skall se ut räknar man inte ut på förhand, utan den blir som den blir, men man kan mha. en mängd kända observationer och utfall bestämma med vilken sannolikhet den predikterar rätt.

En enkel form av AI (eller snarare, maskininlärning) är en algoritm som automatisk viktar om en funktion som bestämmer hur vida det är bäst att ta bussen eller tunnelbanan vid en viss tid på dagen, baserat på en mängd observationer och utfall.

Jag tror inte heller att vi någonsin kommer att få se den ultimata algoritmen som förändrar välden, utan snarare så är det alla små bitar tillsammans som blir en helhet. Tänk efter hur människor kroppen fungerar. Synen t.ex. är baserad på mönsterigenkänning och heuristik, och det finns inbyggda reflexer, "automatiskt beteende" baserat på "if satser". Det mesta som sker i kroppen har du som person ingen kontroll över, utan det sker som små distribuerade, autonoma processer.

Ja, vi kan absolut skapa ett system som följer vissa lagar.

Det vore trevligt om det räckte, men det gör det förmodligen inte. Ta dig en titt i din dator och se hur många olika program av helt olika utvecklare det finns. Samma sak kommer det att bli med neurala nätverk. Bara för att vi har ett system som följer vissa regler så kommer det inte att förhindra att någon annan skapar ett system med andra (eller inga) regler.

Sedan så finns det folk som utvecklar skadlig programvara idag. Jag sätter min årslön på att det finns såväl ensamma som organisationer (privata och statliga) som försöker använda neurala nätverk för direkt skadliga syften redan idag.

Jag har inte tittat på mycket av föreläsningen du länkade till men den verkar extremt intressant. Jag tänker ta mig en titt.

Ja, jag menade mer att AI:t utvecklas och blir nästa steg i evolutionen, fast utan oss. Jag tror att det lär bli någonting i den stilen. Men visst kan det bli någon mix. Svårt att säga, men intressant att fundera på.

Tekniken är väl inget att frukta. Däremot finns all anledning att vara mycket rädd för att den kommer att missbrukas, det har ju historiskt visat sig främst vara de maktgalna psykopaterna som tar kontroll över mänskligheten. Bara det hysteriska användandet av IPhones, visar ju att det är inte tekniken som står i vår tjänst utan snarare förslavar oss.

Kort svar. I dag, nej, i framtiden, ja.

Enkelt förklarat går det att dela in AI i tre olika kategorier. Den vanligaste formen förkortas ANI (Artificial Narrow Intelligence) och är framtagen för att att utföra specifika sysslor. Det kan handla om allt från att besegra människor i schack till att trycka ner bromspedalen i våra bilar. Det är egentligen där utvecklingen inom AI befinner sig nu.

Den lite mer avancerade formen går under namnet AGI (Artificial General Intelligence) och klarar i stort sett av att göra det vi människor är kapabla att göra.

Slutligen finns ASI (Artificiell Superintelligens). Här pratar vi om system som inte bara klarar av det vi människor gör utan även kan utföra sysslorna bra mycket bättre.

Tekniken rör sig väldigt fort framåt just nu. Se bara på AI för bilar. 2004 arrangerades Darpa Grand Challenge för självkörande fordon och då kom bilarna knappt 12 kilometer i öknen. I dag finns det självkörande bilar som redan har kört hundratusentals kilometer.

På tio år har man alltså kommit från ingenting till en nästan färdig produkt. Med en lika fokuserad satsning på något annat område går det att ta sig väldigt långt.

Vi vet nog inte riktigt hur beroende vi är av AI idag, förmodligen är vi mer beroende än vi skulle vilja vara. Datorer fattar i dag väldigt många beslut åt oss. När vi betalar med kreditkort har vi en dator som snabbt undersöker om transaktionen är trovärdig. På samma sätt hjälper en AI till att utvärdera de låneansökningar som en bank får in. Och genom att hålla koll på din sökhistorik kan AI:n förutspå saker, som att du exempelvis är gravid eller följa en stundande pandemi genom att se hur folk söker. I dag handlar mycket om att jämföra med tidigare resultat för att se vad det finns för underliggande mönster i det mänskliga beteendet.

En effekt av utvecklingen är att våra arbetsliv inte kommer att se likadana ut som de gör just nu. I takt med att AI blir allt mer avancerad kommer den också ta över många av de arbeten som i dag utförs av människor.

Ungefär hälften av jobben vi har i dag kommer kunna ersättas framöver. Generellt sett rör det sig om mer rutinmässiga jobb, men det kommer även även påverka mer kvalificerade arbeten. Den stora utvecklingen som vi ännu inte har sett än är att datorer inte bara blir bra på att analysera komplexa system utan även blir kreativa. I dag är AI-system dåliga på att hantera relationer och ta hand om mer mjuka värden. När det området blir bättre kommer AI på allvar kunna hota alla typer av mänskliga arbeten. Redan i dag finns det robotar som kan gå runt i lokaler och flytta på sig när de ser människor.

Så hur långt bort ligger vi då en tänkande och superintelligent AI, som inte bara kan ta egna beslut utan även agera rationellt och utifrån ett känsloregister? Att försöka återskapa den mänskliga hjärnan är trots allt något som forskningsvärden har kämpat med länge nu. Principiellt går det att förstå den mänskliga hjärnan och forskarna borde kunna bygga en beräkningsmodell för hur en mänsklig hjärna fungerar.

Varje modell och representation som en dator bygger upp är också subjektiv sett från datorns perspektiv, ungefär som vår egen uppfattning av omvärlden är subjektiv till oss. Vi har ju egna upplevelser och vi kan ju inte veta hur en dator upplever verkligheten. En dator kanske inte har ett medvetande sett till vår definition men beter sig datorn som om den är medveten, ja då är den kanske också medveten.

Global Challanges Foundation släpte nyligen en rapport där en rad experter pekade ut AI som ett av de tolv mest troliga hot som kan tänkas förgöra mänskligheten framöver, tillsammans med bland annat klimatförändringar och kärnvapenkrig. Och i våras ställde sig tekniksnillet Stephen Hawkning till dem som varnade för att AI till slut kommer bli mänsklighetens fall.

I dag pratas det mycket om singulariteten, att tekniken till slut når till en punkt där den utvecklar sig själv. Nyckeln framöver ligger i vem som kan kontrollera det här och i vilka syften.

Bortser man från AI så är syntetisk biologi antagligen det område där riskerna ligger närmast i tid då möjligheten kommer finnas att kunna skapa artificiella virus som är mycket farligare än naturliga. Vad händer med mänskligheten om dessa virus släpps lösa?

Ett stort problem är ju att det finns så spridda tankar om vad AI kommer innebära. Även av forskarna.

Ray Kurzweil är optimist, enligt honom kommer det gå snabbt, men enligt en viss process. AIn kommer vara till gagn för oss, och vi kommer slutgiltligen ta beslutet att uppgå i maskinintellingensen. Vi människor kommer då på något sätt att leva vidare. Blurrigt, men ja något sådant. Han säger att vi kommer skapa en "gud".

Vissa menar, att innan vi skapar denna "gud" (om vi ens gör det), kommer vi skapa system som är skadliga för mänskligheten. Ett sådant system behöver ej vara något slags upplyst, eller ens i våran mening smart, men likväl kapabel att bygga på sig själv, och vars operationer kan bli vårt slut.

Det finns mellanmjölksversionen. Att systemen kommer komma långsamt, att de kommer vara begränsande i sin natur, och kan kontrolleras väl. Att de ej kommer ta över.

Åsikterna går isär och därav blir det inget konsensus på hur skeptiska vi ska vara.
Det som stör mig så oerhört är att få som ser denna totalitet som kan vänta oss, åkallar full mänsklig uppmärksamhet och bereder en plan på hur vi ska möta denna förändring.
Kanske skulle man kunna komma på metoder för att göra detta "säkert": I viss mån diskuteras det väl redan, men det borde göras på hög nivå och i mycket stor omfattning.

Logiskt borde ju riskerna (om de finns) hanteras, människan bör reglera efter sitt bästa. Vi borde agera rationellt
Men människan är ju begränsad i sin natur, och tar ju inte alltid de bästa besluten
Jag hoppas det inte blir ödesdigert.


Vissa forskare erkänner att det finns stora frågor kring utvecklandet av AI, men menar samtidigt att ämnet är så coolt så man ska fortsätta därthän utan direktion och eftertanke.
Vafan? Fattar de vad som kan vara på spel?
Alla dessa miljarder människor som vi sliter så hårt och kärleksfullt för, allas vår framtid och lycka.
Man blir förbannad, samtidigt som man känner en stor resignation.

Men vafan ska man göra som person?

Ska man försöka verka politiskt för att lyfta frågan? Är det meningsfullt?

Ska man anta att man potentiellt kan komma att dö i förtid av detta?
Att långtida planer, utbildningar, långa karriärer kan gå om intet?
Alla barn som går i skolan, är de onödigt att de gör det?
Bör man leva för stunden? Eller iallafall ha ett kortare tidsperspektiv?


Tills världen i grunden kanske omdanas, eller i värsta fall förstörs?

Hur ska man inställa sig till detta personligen?

Man behöver inte frukta ett verktyg skapat av människan utan naturlig kreativitet hur hög kognitiv förmåga den än har (AI). Däremot naturlig inteligens (NI) från utomjordlingar är inte att leka med. Detta är bara skenande rädsla för automation.

Ja, det är meningsfullt. Det är många stora frågor vi kommer att ställas inför de kommande åren. Vem är t.ex. ansvarig om en artificiell intelligens begår brott? Eftersom det t.ex. inte nödvändigtvis finns någon klar skapare.

Nej, det är inte ett vettigt perspektiv att utgå utifrån

Oja. Garanterat. Detta är inget framtida problem, utan ett nutida som kommer att växa mycket. Jag förslår medborgarlön delvis på grund av detta.

Inte mer än vad du redan borde ha gjort. Det finns ingen anledning att börja agera irrationellt. Men frågan är viktig att diskutera.

Behandla frågan med respekt, öppet sinne (eftersom detta är helt nytt för oss alla) och var rationell. Att så många som möjligt spyr ur sig tokiga idéer är i det här läget bara gynnsamt tror jag, för det är vad som kommer att läggas till i en potentiell framtida arsenal om något går fel eller börjar gå fel. Det behöver inte gå fel, men det är dumt att anta annat.

Som sagt så är jag ganska övertygad om att mänskligheten någon gång i framtiden kommer att totalt ersättas av robotar. Det är inte en helt dum tanke att se det som vårt arv. Människan 2.0. Jag ser inte detta som någonting negativt. Och det nog så långt fram att vi aldrig kommer att få uppleva det.