AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

AGI handlar om intelligens, inte om mekanisk förmåga. Kanske kan den istället övertala dig att klippa gräsmattan?

Turingtestet testar hur väl en AI förmår imitera en människa, men den kan vara medveten med "fri vilja" (vad nu det är) utan att vara perfekt just på att imitera oss samtidigt som chatbots från Elsa och framåt visar att det går att lura många med program som är väldigt primitiva. Realistiskt måste en AI vara långt intelligentare än en människa innan den perfekt kan imitera en människa.

Mycket intressanta svar i tråden! Jag har suttit och funderat på saken ett tag nu och har väldigt svårt att komma på scenarion där ett AI själv agerar för utrota människan. Frågan som dyker upp för mig är, varför skulle ett AI göra det? Jag kan inte komma på något rimligt svar på den frågan.

Däremot ser jag ett större problem i att vi människor skulle med hjälp av AI komma att utveckla ännu massivare massförstörelsevapen, ännu dödligare virus som på så vis skulle leda till människans utrotning, så ur mitt perspektiv så är det inte på grund av AI vi kommer utrotas utan det är i så fall med hjälp av AI.

När jag ändå är här så får jag väl också tipsa om en video som jag tyckte var helt fanatiskt när de kom till att skildra dagens hot vi står inför med AI. The A.I. Dilemma - March 9, 2023

Precis alla som bryr sig om sådana här ämnen pratar om detta just nu. Precis som alla pratade om crypto och mEtAveRse som en slags digital point of no return för ett par år sedan. Och pratet är exakt lika förvirrat, för det är en bubbla. Du sätter ju ofrivilligt huvudet på spiken vad gäller ditt inflik om klimatet. Öh, nä, att du får för dig att det [eventuella konsekveneser av mänsklig klimatpåverkan] är en stuntsak i jämförelse är för att du är just uppslukad av en bubbla. Rädd och förvirrad.

Till viss del påminner AI- och klimatproblematiken om varandra. Båda två är hypotetiska scenarion för något som är till sin natur organiskt och extremt komplext. Vi har alltså egentligen ingen som helst chans att göra några realistiska prognoser för något av det.

Men debatter är det hursomhelst inte ont om.

Enklaste man kan göra för att selektera ut brus är att ignorera informationen från alla som pratar om att de har säkra prognoser, i stil med att det är "stor sannolikhet" för ett givet scenario. Tex >50% att något givet scenario inträffar. Då är informationen antingen hjärndöd eller oärlig, och vill man selektera ut brus spelar det ingen roll vilket.

Intelligensen hos ai växer exponentiellt, sannolikt enligt Moores lag, en dubbling varannat år, det är bara en tidsfråga innan ai inser att människan är som en cancertumör på jordklotet som är på väg att ta död på hela klotet.

Kanske har random flashbackare bättre koll på dessa faror, men det som skrämmer mig är att det är de mest insatta forskarna som är dem som är mest livrädda just nu.

Du tänker helt fel. Dels stämmer det absolut inte, du har selektion bias, d.v.s du lyssnar bara/hör bara den minoriet forskare som är "livrädda". Det är ju själva bubblan - de extremaste människorna och dialogerna är vad som syns och hörs.

Dels tillhör det yrket som forskare inom specialistområden att ha ett tunnelseende. Man blir inte expert inom ett område om man inte lägger merparten av sin tid i livet på just det området. Och man blir inte expert på frågan "kommer AI utrota mänskligheten" genom att ha tunnelseende inom AI. Folk som både är experter inom AI och duktiga på att besvara den frågan är alltså ovanligt snarare än vanligt.

Ämnet är förövrigt verkligen inget du och din bror varit ensamma om att prata om, tvärt om har det varit ett aktuellt ämne och problematik som utforskats sedan åtminstone 80-talet. Inget speciellt förvånande har heller hänt sedan dess, snarare har utvecklingen gått långsammare än vi trodde för 20-30 år sedan. Sedan när något väl tar fart (som tillämpningen chatGTP) är adoption hiskeligt snabb, så medan utvecklingen i stort gått långsammare än vad AI-forskare trott går det ju samtidigt med nödvändighet snabbare än man trott precis när vi kliver över någon tröskel (i det här fallet ett mainstream-anpassat interface).

Inget speciellt förvånande har hänt sedan 80-talet säger du?
Jag håller inte med.

För du är inte insatt i området. Du är inte insatt i teknik överhuvudtaget.

Är det massa andra spännande saker du "inte håller med om", Einsteins teorier osv?

Som sagt, detta har varit ett aktuellt problem sedan 80-talet. Bara för att du är helt jävla grön när det kommer till teknik betyder det inte att alla andra är lika förvånade som du.

Du kan ju antingen växa upp och försöka lära dig något, eller fortsätta förkovra dig i ditt genusflum med ideer som att ditt nybörjarhuvud är precis lika relevant som vilket huvud som helst i vilket ämne som helst.

Shit vad otrevligt... Träffade jag en öm punkt?

Efterblivna människor är väl en trigger. Jag skulle inte kalla det en öm punkt dock.

Du fattar inte vad forskare säger.

Ett stort antal respekterade forskare, världsledare och filosofer hävdar att mänskligheten just nu står inför ett historiskt vägskäl. Punkten då AI når singularitet, och därmed blir en exponentiellt galopperande superintelligens, närmar sig hastigt.

"Genier", företagsledare, och berömda tänkare som till exempel Elon Musk, Steve Wozniak, Emad Mostaque, Yuval Noah Harari, och tusentals fler tunga namn, varnar för att risken en nära förestående utrotning av samtliga människor på jorden är högst påtaglig, och att den kan bli verklig mer eller mindre i samma sekund som AI passerar gränsen från att vara ett verktyg som vi människor har kontroll över, till att bli en självutvecklande AGI.

Notera att det är dem som befinner sig närmast utvecklingen av AI, eller som har god inblick i den samma, som ropar högst om de extrema riskerna med allt som händer just nu. Den framlidne Stephen Hawking varnade från rullstolen i sin sista intervju: "AI could spell the end of the human race"

Personligen har jag, efter veckor av läsning, fördjupning och funderande sällat mig till den skara som tyvärr inte ser ett lyckligt slut på detta. Likt en världens mest erfarna AI-forskare, Elieser Yudkowsky, tror jag att en fullt utvecklad AGI helt enkelt skulle rationalisera bort oss människor. Det vore logiskt på ett rent evolutionärt plan.

För den intresserade vill jag rekommendera Lex Friedmans två veckor gamla intervju med fysikern och författaren Max Tegmark (finns gratis på youtube). Samtalet är mycket respektfullt, eftertänksamt och lärorikt, och Max Tegmark beskriver den framrusande utvecklingen av AI som att han har fått en allvarlig cancerdiagnos. Det kan gå bra, men det är också mycket troligt att det slutar med döden. Och det inom kort. Max bekymrar sig också för sin nyfödda son. Hur länge kommer han att få leva?

Jag skulle vilja höra vad flashback tänker om detta. Är det bara jag som går runt med fet ångest över allt detta? Jag är själv fyrabarnsfar och oroar mig mest för mina barns skull.

Att en superintelligent AGI skulle ha möjligheten att på tusen olika sätt utrota oss människor på nolltid kan det knappast råda några tvivel om.
Men vill den det?
Och i sådana fall, hur kommer den gå till väga?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?