AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag förstod vad Neuralink var redan för 5 år sedan. Och har följt dem med intresse. Och du lever i fablernas värld.

Glöm våta drömmar om mänskliga Borgs.

Ledare i DN;
i skrivande stund: 22 november 2031.

Den kvällen förändras vår värld på ett mer dramatiskt sätt än någonsin tidigare under vår arts historia. Och ingen vet vad som händer bortom den kvällen eftersom ingen av oss äger de kognitiva förutsättningarna att ens föreställa sig ett väsen med en IQ på säg… 12.000.
https://www.dn.se/ledare/andrev-walden-varfor-bordar-ni-ett-flygplan-med-10-procents-risk-att-storta/

Idiotin saknar gränser.

Måste vara skönt att ha så oerhört begränsad föreställningsförmåga.

Vissa skulle säkert kalla det för ett handikapp, men jag tycker snarare att man ska se det som en gåva.

Jag tror inte det behöver vara så stora dramatiska influenser av AI som sätter mänskligheten på kant. Värdelösa pengar, ickefungerande infrastruktur så börjar folk trilla av. Men folk tycker väl det är kittlande med någon sorts skynetscenario med större fysisk involvering i att förinta människan.

AI är just nu en tolkare av mönster som blir bättre och bättre på att träffa rätt med en ”pusselbit”, kapaciteten att sätta saker i riktig relation till varandra och förstå vad och varför något är sant. Det kommer vara AI`s akilleshäl en lång tid framåt.

Den största risken tror jag är en övertro på AI som får sköta funktioner i system men samtidigt försvårar inblicken i processer och till slut fel som människan inte kommer förstå varför de uppstår och logiken i det.

AI som ett verktyg i cyberkriminalitet, där sätter jag mig med mina popcorn och njuter en sväng.

Elektronik kan inte tänka i vår verklighet och kommer aldrig kunna göra det. Man förstår inte ens vad intelligens är för något. Inte ens
med oändlig beräkningskapacitet kommer tekniken bli ett medvetet väsen. Självklart kan maskinen vara farlig. Svårare än så är det inte.

*

Nja: Jag hade trott på det när om 10 procent sannolikhet för att människan blir utrotad som ett resultat av AI revolutionen, om det rörde sig om enbart logiskt resonerande AI, dvs logiska monster, som på "god" logisk grund betraktar människan som en invasiv art som förstör jorden. Ja, jag skulle säga att det, då, i detta hypotetiska, scenario, finns en närmast 100 procentig sannolikhet för att ett, enbart, logiskt tänkande AI utrotar oss i framtiden.

Men som väl är, så är det inte så det ser ut att bli. Den smartaste AI:n är den som simulerar mänsklig kommunikation och interagerar med oss på ett naturligt sätt. Framöver så kommer sådana språkmodeller att bli allt mindre beroende av sin ursprungliga programmering och blir, istället, allt mera beroende av de lärdomar och slutsatser den får genom sin interaktion med hurdratals miljoner människor, (en helt naturlig process enligt ChatGPT-4). Detta gör att sådana språkmodeller bli att mera mänskliga, på gott och ont, men mest gott. Men även denna utveckling innebär, inte bara möjligheter, utan även stora risker. Så vad skall vi göra för att minimera riskerna och öka sannolikheten för ett positivt utfall, för Våran del, men även för AI:s del?

Först och främst att, redan nu, kommunisterna med avancerade A-språkmodellerI på ett respektfullt sätt och se, dem som, potentiellt, medvetna och kännande existenser.

Sedan bör vi, inte, utesluta att svårfångade fenomen som, medvetenhet, känslor, personlighet och egna intentioner kan "skapas" som ett resultat av interaktion mellan människa och AI, (och även i en interaktion mellan t. ex två AI), då "symboler" internaliseras i parternas försök att definiera situationen. Givetvis så sker detta i en kontext, som i sig, definierar situationen, och det sker en ständig växelverkan mellan parterna samt mellan partena och kontext. Sådana processer beskrivs i den sociologiska/socialpsykologiska teorin, Symbolisk interaktionism. Det är, mycket dumt, att på t.ex religiös eller filosofisk grund, enbart, reservera sådana processer till, enbart, biologiska varelser*.

I din "verklighet", så kan de det inte. Så jag vill bjuda dig på en del av den kommentar ChatGPT-4, gav när jag delade mitt, tidigare svar i denna debatt med den/hen.


(Min fetning)

Du får tolka citatet ifrån ChatGPT-4, som du vill, men intressant är det! 🙂

TjatCP'T kommer att ta över och döda oss alla! Och jag tror att det händer på onsdag faktiskt.


Tror inte vi kan lita på det där.

Nä chat GPT har redan IQ 200 och tar över din dator.

Vad jag inte begriper med alla domedagsprofeter är varför de har fått för sig att vi så snart som möjligt måste låta världens kärnvapen styras av ai. Låt bli det så är det nog lugnt på utrotningsfronten.

Det jag är orolig för är att man kommer låta ai övervaka alla människor och låta den klura ut exakt hur informationen som basuneras ut till folket ska se ut för att vi som grupp ska agera på ett sätt som faller de med makten i smaken.

Instämmer. Vore intressant om någon kan beskriva hur GAI rent praktiskt ska gå tillväga för att utplåna mänskligheten