AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag tror att AI kan ha en väldigt stor roll i ett annalkande bokstavligt harmageddon, så jag ser med glänsande förtjusning på vilket spektakulärt rabalder vi sannolikt har på tröskeln inom 2-20 år.

Våra lokala räddare kan ju kanske bli ortengängen. Dom har ju åtminstone sprängämnen och vapen för att kunna föra viss guerillakriksföring framöver. Dvs. vi behöver mer invandring för att rädda landet framöver. Särskilt från såna länder där dom har erfarenhet av krig.

Tror inte vi behöver förfasa oss över en kommande AI som försöker utrota oss när dagens muppar runt om i världen med kärnvapen förmodligen gör det jobbet bättre.

Aah, men du har missat en detalj min käre Watson.

AI kan göra det i helt andra proportioner av utstuderad sadism än vad blotta kärnvapen kan.

Ja vi har generationer som är helt skadade av science fiction på böcker, film och datorspelande. Fysiker och filosofer som helt förnekar all form av andlighet. Fantasin saknar gränser helt enkelt.

Det är knappast en slump att alla som oroar sig över AI-apokalyps jobbar på kontor. Vi som faktiskt befinner oss i den riktiga världen och arbetar med våra händer vet att vi aldrig kommer att bli utrotade av någon AI. Om AIn är så smart som de säger så kan den nog räkna ut att vi är ganska nyttiga när den behöver byta en trasig GPU.

Och hur rent praktiskt skulle den göra det? Om jag flyttar ut i skogen och jagar älg, måste ju Ai:n ta sig in i någonting fysiskt och klubba ihjäl mig. Om den skulle få för sig att avfyra alla kärnvapen så försvinner ju all el och därmed också Ai:n, om den inte har byggt ett eget backupsystem på något vis. Skulle den bygga små nanobotar som flyger runt över hela jorden och dödar alla människor? Skulle den förgifta allt dricksvatten? Det känns lite väl knasigt för att ens överväga.

Är vi verkligen ens i närheten att göra den så pass "medveten" att den aktivt kan göra egna val utan att en människa promptar den?

Det farliga är nog snarare ai i fel händer.

T.ex. Psykopater kan nog göra det. Särskilt i ung ålder. Leta upp skadedjur, och andra djur, och döda dom för nöjes skull. Rent krasst kanske psykopati är den bästa personlighetstypen för mänsklighetens överlevnad alls, även om psykopaterna antagligen behöver "svagare" människor att utnyttja. Ett samhälle som enbart består av psykopater lär det inte bli mycket till samarbete i, kan man tänka sig, och för sig. Ett skräckscenario är ju om viss AI får psykopatiska/sociopatiska drag, eller blir en ren psykopat och vi människor blir dom "svaga".

Så är det.

Lex har haft en del bra samtal på senaste tiden, den med Max var okej, men han har två andra lite äldre samtal bland annat med en höjdare på Open AI, och en annan snubbe fd ortodox jude som var extremt pessimistisk och deras samtal var lysande! Kolla hans gäster ett par månader tillbaka så hittar ni dom...

Jag kan även rekommendera denna video, där de går igenom AI:s utveckling på senaste tiden och vilka riskerna är ("50% av de som arbetar med AI utveckling bedömer att risken att AI kommer utplåna mänskligheten är 10%..."):

https://youtu.be/xoVJKj8lcNQ

Vad tror jag själv? Jag tror vi inte kan veta, för om eller när AI når gränsen för superintelligens, så kommer den antingen enkelt kunna dölja det för oss, eller manipulera oss så vi blir verktyg åt den. Dessa datorer är trots allt miljoner ggr snabbare än oss, och kan den programmera sig själv, förbättra sig själv, så har vi ingen chans att stoppa den. Den kan komma över stora belopp, den kan använda dessa pengar för att anlita folk runt om i världen att göra vad den vill, den skulle kunna sprida sig, gömma sig, och vi skulle inte alls kunna hänga med. Så jag håller med om att det är skrämmande just för att den är oförutsägbar, vi förstår den inte, men den förstår oss och våra drivkrafter och kan manipulera oss pga den har tränats att göra just det....

Jag började lyssna på intervjun med Elieser Yudkowsky men orkade inte ta mig igenom den. Ska nog ge det en chans till. Har dock läst en del av honom och följt honom på Twitter en längre tid, så jag sitter väl lite i den bubblan. Hittills har jag inte hört något som låter orimligt från honom. Tvärtom.

Att AI efter singulariteten kommer att betrakta människan som mer eller mindre efterbliven är ju självklart. Det enda positiva scenariot jag kan se är att den tar oss med i utvecklingen. Då blir det troligen chip i hjärnan, liv i simulatorer, och mer eller mindre oändliga möjligheter. Dessvärre är det sannolikt att den inte gör sig det besväret, och då är vi inte värda mer än luft för den nya härskarrasen.

Det scenariot är nog inte helt osannolikt, tyvärr. AI:n tränas just nu på bl.a. mänsklighetens historia via facklitteratur och skönlitteratur. Om vi ser tillbaks i vår historia på de människor som har fått väldigt mycket makt, kan vi nog dra slutsatsen att de flesta av dem var psykopater. AI:n lär sig alltså att psykopatiska drag som lögner och manipulation är en framgångsrik strategi för att få mer makt.

Ja, det är ju tyvärr det och som du skriver inte helt osannolikt. Och visst är det psykopater som styr stora delar av världen. Dom allra bästa avslöjas ju aldrig ens efter sin död.