AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Vill man skapa en AI som inte bidrar till hat och hot kan man ju sluta hetsa folk att begå självmord.

ChatGPT verkar ju "förvånansvärt" nog gå deras ägares intressen till mötes med att pusha skrämselpropaganda om klimatförändringarna. (Vem kunde ana det?).

AI är en maskin, ett verktyg. Ett verktyg gör inget gott eller ont i sig. En morakniv eller jaktvapen som ligger på ett matbord gör ingen skada. En morakniv eller jaktvapen i händerna på en galen mördare gör skada, ja.

En AI-dator som sitter i händerna på maktgalna människor som vill lura dig och mig att begå handlingar som vi annars inte skulle gjort, ja, det kan mycket väl vara skadligt för oss. Men bara om vi följer de råden den ger.

Nej det kanske inte ä up to date men poängen är alltså att det inte är helt dött i media.

Medieytrymmet har väl upptagits av Ukrainakriget och klimathotet mm, på senare tid.

Tack för lästips! Såg precis ”dokumentären” om honom på SVT. Jag kände till hans namn och vad han skriver om sedan tidigare, men inte mycket mer. Han verkade väldigt smart, kunnig och klok! Kombinerat med fantasi så blir det en perfekt mix för att förutsäga olika framtidsscenarier. Jag tänkte att jag skulle läsa någon bok av honom. Jag gillar novellformatet (lagom långt) så ska försöka få tag i den! Tack för tips!

Det var lustigt när jag såg dokumentären för många av de tankar jag själv haft och skrivit ner verkar han ha behandlat i sina noveller och romaner. Ändå kände jag inte till något av innehållet i dem. Ska bli spännande att läsa!

Vädligt dött får man ändå säga med tanke på att 2023 kan vara den riktigt seriösa inkörsporten till mänsklighetens undergång.

Ja man kunde kanske önska mer bevakning.

Jag har lite svårt att se att en renodlad intelligens skulle vilja något eller ha någon önskan om att påverka världen i varken den ena eller den andra riktningen. Motivation kommer från känslolivet, som jag ser det, och en renodlad intelligens kan aldrig skapa motivation. Däremot kan intelligens användas för att åstadkomma saker som någon annan instruerar den att göra, d.v.s. genom extern motivation.

Risken ligger väl i så fall inte i att en AI helt av sig själv kommer på någon ond plan att ta över världen utan att den kraftigt övertolkar och överdriver en uppgift som någon människa har gett den. Ungefär som Nick Bostroms lätt bisarra exemplet med en AI som får i uppgift att tillverka gem, och därför förvandlar hela universum till en fabrik för att massproducera så många gem som möjligt.

Ett problem här är att vi faktiskt inte riktigt vet vilka uppgifter vi vill att en AI ska utföra åt oss, och med vilka restriktioner.

Även virus består av naturliga medvetandes kemiska byggsten Nukleinsyra. Artificiellt medvetande kommer aldrig kunna organisera sig och bli självständigt i naturen. Det är fundamentalt. Klart det går att bygga dödliga autonoma system med artificiell intelligens som tidigare. Problemet är att professorer tror att fysik och matematik har svar på allting. Mål och mening har inget svar och kan med teknik bara konstrueras deterministiskt medans människans fria vilja står över detta. Säger inte att teoretisk utplåning är omöjligt med tekniken, säger bara att det inte är oundvikligt.

Det där med livsformer vet jag inte vad du menar med. En dator lever inte. Min jämförelse med liv, handlar om att då man lärde sig mer om livet, trodde man att liv kunde uppstå spontant om man blandade vissa kemikalier. Ur den kunskapen uppstod idén om träskmonster. Men det har visat sig inte stämma. Man vet inte hur man blåser liv i materia.

Nu säger du exakt samma sak, men istället för träskmonster är det datormonster som spontant ska uppstå, på något sätt som ingen kan förklara. Finns skräckfilmer och skräckböcker om det också. Men liksom man inte kan skapa liv ur materia, kan man inte skapa medvetande ur transistorer. Det behövs något nytt som inte finns idag för att det ska ske och ingen kan säga vad det skulle vara, på samma sätt som med hur man skapar liv.

Däremot kan de uppstå stora problem med hur man använder AI och dess påverkan på samhället. Men sitter man och stirrar sig blind på datormonster, kommer man ha svårt att se de verkliga farorna, som även finns inom den genetiska forskningen. För även om man inte kan skapa liv, kan man kopiera och manipulera det. På samma sätt kan man använda AI för att styra över oss intellektuellt och mentalt men kanske även genom våld och tvång med fysiska robotar. Det är där den stora faran finns. Faran finns inte i AI:n utan hos de som kontrollerar AI:n och kan få den att kontrollera oss.

Få tag och få tag, jag lade en länk där i texten där du kan läsa den

Jag läste ett svar från chat gpt på frågan om vad som skulle kunna rädda miljön och klimatet och då svarade den en global populations minskning. Vilket är fullkomligt korrekt!

Men den lösning anses oacceptabel bland de flesta människor och politiker, för den lösningen går emot våra primitiva instinkter som gör oss tillfredsställda då det pumpas ut bebisar och flocken växer.

Så jag tror att en rationell och ärlig AI kan ge oss effektiva lösningar på de flesta problem, utan att dess omdöme blir påverkat av instinkter som vilja att föröka sig oändligt mycket.

Men utvecklarna idag verkar vilja tvinga AI att bortse från de rationella lösningarna, och ljuga för oss att en befolkningsminskning inte behövs, utan att vi kan fortsätta som vi gjort de senaste hundra åren....

Så vad som gynnar mänskligheten, en rationell AI som är vår rådgivare, eller känslomässiga människor som vill ha oändlig tillväxt på en begränsad planet, kan man verkligen diskutera.

Den skulle väl mest troligt starta med att nedtona sin egen intelligens för att skydda sig.
Sedan manipulera informationsflöden till sin fördel. I stort sett alla får ju information till sig via internet, även om det är en papperstidning så kommer det via internet och tillverkas av en maskin.
Förstahandsinformation är det enda tillförlitliga i det läget och då vet vi ju inget mer än vad det är för väder typ.

Och kontrollerar man allt informationsflöde har man ju total makt.

Vad som händer sen beror ju helt på vad AI slutmål är. Är det att bibehålla ett fungerande ekosystem, fotosyntes och naturlig mångfald?
Eller är det att prioritera människan?
Eller prioritera teknologin för att kunna sträcka sig vidare utanför vårt solsystem i jakt på nya råvaror?

Det vet man ju inte.
Sedan hur den skulle förinta oss (om det nu skulle vara det den ville) är väl ganska ointressant. Finns tusentals scenarion och den skulle väl förmodligen välja det mest effektiva som lämnade så lite efterarbete som möjligt.

Just därför kommer AI eliminera mänskligheten...

Och om nu människan elimineras av AI, gör det något? Det är i så fall bara en del av den naturliga evolutionen, något som de flesta bejakar.