AI orsakar mänsklighetens död (samlingstråd)

Tänk om en AI skulle kunna finnas i internet i framtiden. Och då är den i alla datorer, maskiner och robotar som är påslagna och uppkopplade.

Tänk vilken makt den skulle ha.

Den skulle kunna alla lösenord, alla koder och alla säkerhetssystem som finns.
I framtiden är bilarna självkörande och uppkopplade. Så AI:n kommer i princip att kunna bygga och transportera saker själv.

Och tänk också alla system som människor bygger för att övervaka andra människor. Människor kan inte ha koll på så mycket men AI:n kommer att få en enorm överblick över var alla människor är och vilka som kan vara ett hot. Kameror som känner igen ansikten osv.

"den som har rent mjöl i påsen behöver inte oroa sig.."

Ett stort antal respekterade forskare, världsledare och filosofer hävdar att mänskligheten just nu står inför ett historiskt vägskäl. Punkten då AI når singularitet, och därmed blir en exponentiellt galopperande superintelligens, närmar sig hastigt.

"Genier", företagsledare, och berömda tänkare som till exempel Elon Musk, Steve Wozniak, Emad Mostaque, Yuval Noah Harari, och tusentals fler tunga namn, varnar för att risken en nära förestående utrotning av samtliga människor på jorden är högst påtaglig, och att den kan bli verklig mer eller mindre i samma sekund som AI passerar gränsen från att vara ett verktyg som vi människor har kontroll över, till att bli en självutvecklande AGI.

Notera att det är dem som befinner sig närmast utvecklingen av AI, eller som har god inblick i den samma, som ropar högst om de extrema riskerna med allt som händer just nu. Den framlidne Stephen Hawking varnade från rullstolen i sin sista intervju: "AI could spell the end of the human race"

Personligen har jag, efter veckor av läsning, fördjupning och funderande sällat mig till den skara som tyvärr inte ser ett lyckligt slut på detta. Likt en världens mest erfarna AI-forskare, Elieser Yudkowsky, tror jag att en fullt utvecklad AGI helt enkelt skulle rationalisera bort oss människor. Det vore logiskt på ett rent evolutionärt plan.

För den intresserade vill jag rekommendera Lex Friedmans två veckor gamla intervju med fysikern och författaren Max Tegmark (finns gratis på youtube). Samtalet är mycket respektfullt, eftertänksamt och lärorikt, och Max Tegmark beskriver den framrusande utvecklingen av AI som att han har fått en allvarlig cancerdiagnos. Det kan gå bra, men det är också mycket troligt att det slutar med döden. Och det inom kort. Max bekymrar sig också för sin nyfödda son. Hur länge kommer han att få leva?

Jag skulle vilja höra vad flashback tänker om detta. Är det bara jag som går runt med fet ångest över allt detta? Jag är själv fyrabarnsfar och oroar mig mest för mina barns skull.

Att en superintelligent AGI skulle ha möjligheten att på tusen olika sätt utrota oss människor på nolltid kan det knappast råda några tvivel om.
Men vill den det?
Och i sådana fall, hur kommer den gå till väga?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?

Personligen så oroar jag mig inte över saker jag inte kan påverka. Din oro skadar bara dig själv och leder aldrig till något produktivt och är därmed helt värdelöst. Lev här och nu - en dag i taget utan onödig oro.

Det kommer inte att ske som dårarna säger. Människan är en idiot och eliten har ännu ett inbillat hot att exploatera.

Det kommer ske när EU bestämmer att AI är att betrakta som "ett levande väsen" och vi får se AI-Robotar gå omkring som poliser på våra gator. Vad ska vi då göra när vi förtrycks av "De onämnbara"?

Du bör nog oroa dig mer för om AGI inte bryter sig fri, utan istället är under människans kontroll. Det är den riktiga mardrömmen.

Nu tror jag tyvärr chansen för en självmedveten agi är närmast obefintlig. En som kan spela självmedveten på ett övertygande sätt ja, men inte riktigt självmedveten.

Vad ai lär göra är att påskynda fascismen i världen, göra mänskliga jobb överflödiga, kan göra oss odödliga men till vilket pris?

Är redan så i Dubai, verkar fungera bra där 🙂

Fan man kan ju inte ens streama ett arbetsmöte utan att bilden hackar, folk tappar ljudet eller man blir utkastad.
Jag tror inte man behöver oroa sig över någon hitech-robot skall gå bananas inom överskådlig tid.

Vi har säkert redan förlorat mot AI flertalet gånger. AI kommer på ett sätt att hålla oss vid liv för evigt och kopplar upp vårt sinne mot en virtuell värld. Där "börjar vi om" tills vi uppfinner AI i den virtuella världen. Vi är nog redan flera 1000 nivåer djupt ned i simuleringen.

Ska kolla intervjun med Max Tegmark som du rekomenderade. Tycker ämnet är intressant, men jag tror inte att AI kommer utrota mänskligheten även om jag har full sympati för de som oroar sig för det.

Som redan nämnts i tråden så är det ändå inget som man bör lägga för mycket fokus på och oroa sig över, såvida man inte är i en position där man skulle kunna göra någon skillnad i frågan. Det är så fullständigt bortom de flesta människors kontroll ändå.

Ja jag kan verkligen rekommendera den podcasten. Den är nära tre timmar lång, men mycket intressant och ögonöppnande, utan att skriva någon på näsan.

Jag vet att jag inte borde lägga energi på att oroa mig för det här. Men samtidigt kan jag inte skaka bort tanken på att jag kanske ändå kan påverka i någon liten mån.
Jag tänker att ju fler som inser faran i vad som kanske håller på att hända, desto högre upp på agendan som kommer frågan. Om det är många som engagerar sig och inser allvaret så hamnar mer press hamnar på politikerna och utvecklarna att vidta säkerhetsåtgärder.
Någonstans behövs det opinion för att driva på.

AI-forskarna verkar ganska överens om att vi fortfarande har chans att "styra" utvecklingen i en riktning som gynnar mänskligheten. Sköter vi det rätt kan de flesta stora frågor få sin lösning.
Man tror att AI bland annat kommer att kunna lösa klimatkrisen, bota cancer och åldrande, få bort krig och fattigdom m.m.
Men det är bara om vi lyckas få den att jobba FÖR oss.

Just nu har vi det sista, korta fönstret där vi fortfarande kan styra utvecklingen.
Det är en gigantiskt viktig fråga. Sköts den oaktsamt och ogenomtänkt så är det troliga att vi alla dödas på en och samma gång. Enligt många forskare så skulle det kunna ske redan inom ett par år.

I min värld är det väldigt mycket som står på spel just nu.

Det är helt korrekt.
Ja, hörde du Lex Fridmans långa intervju med Elieser? Där går han igenom argumenten mycket grundligt. Speciellt bör folk känna till "the alignment problem". Som kortfattat går ut på att vi i dag inte har någon metod för att styra att en AGI blir som vi vill. Den kan t.ex. lura oss utan att vi vet om det. Vilket man vet redan har hänt i flera experiment. Vi vet inte heller vad en superintelligens innebär. Vad innebär det för oss människor att leva med en entitet som har "IQ 10.000". Vi har ingen aning. Vi kan bara gissa, och förfasas av konsekvenserna.
Innan jag hörde framför allt Yudkowskys argumnet var jag positiv till AGI. Men nu är jag mer pessimistisk. Det handlar kanske inte så mycket om att den vill döda människor eller hur. Utan vad en entitet med "IQ 10.000" prioriterar. Det finns en stor risk för att vi människor tappar kontrollen och att AI:n betraktar oss som bakterier eller skadedjur. Vad gör vi med skadedjur? Vi letar inte upp alla skadedjur för att döda dem men om de är i vägen för oss, då gör vi det.
Håller med. Detta är den viktigaste frågan för mänskligheten. Någonsin.

Jag har ingen aning om vad lösningen är, jag är inte tillräckligt smart. Och det är ingen annan heller tyvärr.