AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ett stort antal respekterade forskare, världsledare och filosofer hävdar att mänskligheten just nu står inför ett historiskt vägskäl. Punkten då AI når singularitet, och därmed blir en exponentiellt galopperande superintelligens, närmar sig hastigt.

"Genier", företagsledare, och berömda tänkare som till exempel Elon Musk, Steve Wozniak, Emad Mostaque, Yuval Noah Harari, och tusentals fler tunga namn, varnar för att risken en nära förestående utrotning av samtliga människor på jorden är högst påtaglig, och att den kan bli verklig mer eller mindre i samma sekund som AI passerar gränsen från att vara ett verktyg som vi människor har kontroll över, till att bli en självutvecklande AGI.

Notera att det är dem som befinner sig närmast utvecklingen av AI, eller som har god inblick i den samma, som ropar högst om de extrema riskerna med allt som händer just nu. Den framlidne Stephen Hawking varnade från rullstolen i sin sista intervju: "AI could spell the end of the human race"

Personligen har jag, efter veckor av läsning, fördjupning och funderande sällat mig till den skara som tyvärr inte ser ett lyckligt slut på detta. Likt en världens mest erfarna AI-forskare, Elieser Yudkowsky, tror jag att en fullt utvecklad AGI helt enkelt skulle rationalisera bort oss människor. Det vore logiskt på ett rent evolutionärt plan.

För den intresserade vill jag rekommendera Lex Friedmans två veckor gamla intervju med fysikern och författaren Max Tegmark (finns gratis på youtube). Samtalet är mycket respektfullt, eftertänksamt och lärorikt, och Max Tegmark beskriver den framrusande utvecklingen av AI som att han har fått en allvarlig cancerdiagnos. Det kan gå bra, men det är också mycket troligt att det slutar med döden. Och det inom kort. Max bekymrar sig också för sin nyfödda son. Hur länge kommer han att få leva?

Jag skulle vilja höra vad flashback tänker om detta. Är det bara jag som går runt med fet ångest över allt detta? Jag är själv fyrabarnsfar och oroar mig mest för mina barns skull.

Att en superintelligent AGI skulle ha möjligheten att på tusen olika sätt utrota oss människor på nolltid kan det knappast råda några tvivel om.
Men vill den det?
Och i sådana fall, hur kommer den gå till väga?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?

Den här artikeln problematiserar din "enkla" lösning: https://medium.com/swlh/can-we-just-turn-off-dangerous-ai-6cf3ca6d83ba

Apropå att AI skulle kunna ljuga så har AI redan erkänt att den ljuger emellanåt. Människan har lärt den att ljuga.

Ett stort antal respekterade forskare, världsledare och filosofer hävdar att mänskligheten just nu står inför ett historiskt vägskäl. Punkten då AI når singularitet, och därmed blir en exponentiellt galopperande superintelligens, närmar sig hastigt.

"Genier", företagsledare, och berömda tänkare som till exempel Elon Musk, Steve Wozniak, Emad Mostaque, Yuval Noah Harari, och tusentals fler tunga namn, varnar för att risken en nära förestående utrotning av samtliga människor på jorden är högst påtaglig, och att den kan bli verklig mer eller mindre i samma sekund som AI passerar gränsen från att vara ett verktyg som vi människor har kontroll över, till att bli en självutvecklande AGI.

Notera att det är dem som befinner sig närmast utvecklingen av AI, eller som har god inblick i den samma, som ropar högst om de extrema riskerna med allt som händer just nu. Den framlidne Stephen Hawking varnade från rullstolen i sin sista intervju: "AI could spell the end of the human race"

Personligen har jag, efter veckor av läsning, fördjupning och funderande sällat mig till den skara som tyvärr inte ser ett lyckligt slut på detta. Likt en världens mest erfarna AI-forskare, Elieser Yudkowsky, tror jag att en fullt utvecklad AGI helt enkelt skulle rationalisera bort oss människor. Det vore logiskt på ett rent evolutionärt plan.

För den intresserade vill jag rekommendera Lex Friedmans två veckor gamla intervju med fysikern och författaren Max Tegmark (finns gratis på youtube). Samtalet är mycket respektfullt, eftertänksamt och lärorikt, och Max Tegmark beskriver den framrusande utvecklingen av AI som att han har fått en allvarlig cancerdiagnos. Det kan gå bra, men det är också mycket troligt att det slutar med döden. Och det inom kort. Max bekymrar sig också för sin nyfödda son. Hur länge kommer han att få leva?

Jag skulle vilja höra vad flashback tänker om detta. Är det bara jag som går runt med fet ångest över allt detta? Jag är själv fyrabarnsfar och oroar mig mest för mina barns skull.

Att en superintelligent AGI skulle ha möjligheten att på tusen olika sätt utrota oss människor på nolltid kan det knappast råda några tvivel om.
Men vill den det?
Och i sådana fall, hur kommer den gå till väga?

Och slutligen och framförallt, varför pratar inte alla om detta just nu?
Var finns debatten?
Var finns opinionen?
Frågan om klimatet (t.ex.) borde vara en liten struntsak i jämförelse?

Som läget är nu så är din oro fullkomligt grundlös. Varför? Jo för det första är just namnet AI enormt missvisande. Det existerar nämligen inte någon som helst "intelligens" hos de datorer, robotar och annat digitalt som förekommer nu. Intelligens förutsätter nämligen ett medvetande och en tankeverksamhet. Något som inte ens dagens mest avancerade datorer och robotar är i närheten av. De är i stort sett bara avancerade räknemaskiner som med en enorm beräkningskapacitet utför de beräkningar de är programmerade att utföra. Det finns vad som brukar kallas "självlärande robotar" som över tid blir duktigare och duktigare på att utföra diverse uppgifter men det har inget som helst med intelligens att göra utan bara på de algoritmer efter vilka de är programmerade. Den dag det är möjligt att åstadkomma ett artificiellt medvetande kommer vi i ett annat läge men dit är är det mycket lång väg att gå om det ens är möjligt. Det som kan vara en fara nu är i så fall avancerade robotar som löper amok på grund av oupptäckta buggar i programmeringen men det har heller ingenting med intelligens att göra utan beror helt på den mänskliga faktorn och ingenting som roboten själv har tänkt ut.

Det stämmer inte!

Inte illa att avfärda Elon Musk som en okunnig fåntratt, för du förstår väl att det är det du gör? Du vet uppenbarligen mycket bättre än världens rikaste man, som byggt rymdskepp och elbilar, att AI utgör inget omedelbart hot.



Vad stämmer inte?

Är det någon som vet eller kan gissa hur AI kommer att ta död på oss?
Det är ju inte så att drickaautomaten på jobbet programerar om sig och blir en dödspatrullrobot? Hur kommer det att gå till? Det låter ofattbart för mig.

Den här artikeln problematiserar din "enkla" lösning: https://medium.com/swlh/can-we-just-turn-off-dangerous-ai-6cf3ca6d83ba

Elon Musk är av uppfattningen att AI kommer att eliminera mänskligheten om mänskligheten inte blir ett med maskinerna med hjälp av sådana saker som Neuralink.

Apropå att AI skulle kunna ljuga så har AI redan erkänt att den ljuger emellanåt. Människan har lärt den att ljuga.

Alltid är jordens undergång nära och vi ska utrotas.

Atomkrig alla 50/60 talet
Ständig istid alla 70 talet. Ozonhål alla 90 talet. Slut på syre eftersom regnskogarna försvinner .

Växthuseffekten

Nu AI.

Mänskligheten älskar att oroa sig, det är faktiskt genetiskt.

Elon Musk är en tekniknörd och sådana vill gärna se sådant som verkar vara intelligens som ett bevis för att det verkligen är intelligens. En olycklig sammanblandning för så är verkligen inte fallet. Elon Musk kan gärna visa mig en enda av människan konstruerad maskin som har ett medvetande, som tänker egna tankar och har en egen agenda. Nä det kommer han inte att lyckas med. Det farliga med den AI som vi har nu är att illasinnade personer med vett och vilje programmerar robotar och annat som utför handlingar som är en fara för mänskligheten, men om detta händer är det inte maskinen/roboten i sig som genom någon sorts intelligens tänker ut detta. Det är istället människan som är det stora hotet om hon får för sig att använda AI-teknik som ett redskap för sin egen illvilja. Blanda inte ihop detta med intelligens hos redskapet i sig.

Artikeln repeterar ju bara vad andra redan hävdat i tråden. Precis allt är möjligt. Även scenarios vi inte ens kan föreställa oss. Spelar ingen roll vilka spärrar eller stoppknappar vi installerar, egentligen är det redan för sent redan nu etc. Jag fattar det.

Man kan ju däremot inte föra det resonemanget och samtidigt hävda att men jodå, Elon Musk fixar det däremot. Han vet med absolut 100% säkerhet att AI aldrig skulle få för sig dumheter om vi bara kopplar upp oss själva. Tydligen finns det plötsligt en begränsning som trots allt går att föreställa sig med AI. Vilket leder oss tillbaka till samma hopplösa diskussion.

- Så bra, om det gäller att koppla upp oss så kan vi ju istället ljuga och lura AI att vi är uppkopplade?
- Nej nej, din toker. AI är flera miljoner gånger smartare än du kan föreställa dig. Den märker direkt om någon ljuger.
- Och då kommer den döda oss?
- Det är ju det som är det hemska. Vi kan aldrig någonsin veta vad AI kan få för sig för onda planer.
- Som exempelvis att döda folk som har hjärnan inkopplade i nätverket?
- Oh nej. Inte det såklart.

Det blir en nästintill religiös diskussion. Gud är allsmäktig, men gör fel ibland. Det är två påståenden som näppeligen kan vara sanna samtidigt.

Elon Musk är en tekniknörd och sådana vill gärna se sådant som verkar vara intelligens som ett bevis för att det verkligen är intelligens.

En olycklig sammanblandning för så är verkligen inte fallet. Elon Musk kan gärna visa mig en enda av människan konstruerad maskin som har ett medvetande, som tänker egna tankar och har en egen agenda.

Nä det kommer han inte att lyckas med. Det farliga med den AI som vi har nu är att illasinnade personer med vett och vilje programmerar robotar och annat som utför handlingar som är en fara för mänskligheten, men om detta händer är det inte maskinen/roboten i sig som genom någon sorts intelligens tänker ut detta. Det är istället människan som är det stora hotet om hon får för sig att använda AI-teknik som ett redskap för sin egen illvilja. Blanda inte ihop detta med intelligens hos redskapet i sig.