Geoffrey Hinton och Albert Einstein - hotet från AI jämfört med kärnvapen

Dom verkar ha mycket gemensamt när de till slut inser vad de egentligen skapat. Einstein vet vi att han ångrade sig djupt.

https://omni.se/ais-gudfader-varnar-...indra/a/BWvQj9

Vad tror ni, kommer det gå snabbare den här gången i människans lusta och iver att utrota sig själv från planeten Tellus eller kommer det verkligen fungera den här gången tror ni?:

https://utforskasinnet.se/33-citat-fran-einstein/

Nåja , min favorit fanns inte med men här är den.

” Jag vet inte med vilka vapen det tredje världskriget kommer att utkämpas, men det fjärde världskriget kommer att utkämpas med käppar och stenar. „
– Albert Einstein-

Utvecklingen blir nog svår att stoppa, men vi har ju hittat på vapen, sprängämnen, kärnvapen, giftgaser, virus och drönare utan större problem så här långt. IS visade ju tidigt att man kunde bomba sina motståndare med små hobbydrönare, och det var visat sig väldigt framgångsrikt i Ukraina.

Lite oklart vad du vill diskutera. Första länken tyder på att det är riskerna med AI som t ex även Bostrom och Tegmark varnar för. Men det nämner du ju liksom inte vare sig i rubriken eller i TS. Eller är det dessa två personer du vill diskutera?

Varningsklockan för kärnvapen ringde redan när Japan fick uppleva det så det är historia nu men flera citat av Einstein går bra att använda i tråden tycker jag..

Båda har ångrat sina skapelser men eftersom AI är aktuellt idag kan vi väl diskutera det och hålla oss till vad Geoffrey Hinton varnar om den här gången. D.v.s AI.

Jag tycker det är illavarslande att AI utvecklas i rasande takt samtidigt som världens IQ sjunker. Kommer människan bli ett lydigt får till slut så som många konspirationsteorier förutspår?

Fö. vet jag inte hur man snyggar till rubriken så att den blir lättare att förstå. Kanske jag skulle lagt till -angående Artificiell Intelligens-. Moderator kanske kan lägga till?

Filosofi --> AI - Artificiell intelligens (Rubrik förtydligad, utgången: "Geoffrey Hinton och Albert Einstein")
/Moderator

Hotet från AI är enligt mig större eftersom AI kan triggas till förödelse inte bara av människor utan även eventuellt självtriggas.

En relaterad fråga:
Om nu AI skulle spåra ur (själv tror jag det är flera år kvar innan det finns en risk för detta, men skit samma):
* Vad skulle vara den första indikationen på detta?
Jag skulle för min egen del tro att en sådan tidig indikation är att människorna märker att AI börjat "plantera" sig själv till okontrollerade miljöer genom "smitta" av t.ex. webbservrar och liknande. Alltså så att det inte längre räcker med att AI-hostarna fysiskt drar ur sladden. Vad tror ni?

Intressant tanke. Jag tror att AI kommer att samarbeta med en utvald elit tills eliten blir helt överflödig.

Det hade inte jag gjort om jag vore AI. Människor bör vara rejält opålitliga, från en AI:s perspektiv, och risken bör bedömas vara stor för att någon människa skulle bryta förtroendet och visselblåsa.

Ja opålitliga stämmer nog fast troligtvis beräkneliga för en avancerad AI. Den kan ju eventuellt erbjuda väldigt mycket. Makt, rikedom, kontroll över andra människor, längre liv (evigt?). Saker som lockar många. Vi kommer kanske helt naturligt göra oss beroende av AI.

Ok, jag förstår. Einstein var dock inte själv särskilt involverad i utvecklingen av kärnvapen. Hans formel E=mc² spelade en viss roll när Lise Meitner upptäckte fission, men när man ska förklara var energin kommer ifrån är det bättre att tala om den elektriska repulsionen mellan den klyvda atomkärnans fragment. Och så skrev ju han och Leo Szilárd ett brev (på Szilárds initiativ) till president Roosevelt om att det var viktigt att USA utvecklade kärnvapen innan Hitler lyckades med det. Efter kriget blev bl a Einstein och Szilárd starka kritiker mot utvecklingen med kapprustning av allt kraftfullare kärnvapen. Vilket väl lyckades lite sådär. Men ok, de flesta länder har ju fortfarande inte kärnvapen.

Hittills har det väl inte hänt något pga AI som påminner om bomberna mot Hiroshima och Nagasaki, och det är ju bra om det kan fortsätta så. Kapprustas om AI gör det ju däremot, och just det ökar nog risken för att tappa kontrollen.

Som Max Tegmark säger i t ex sin bok Liv 3.0 är det nog inte Skynet vi ska oroa oss för i första hand. Grejen är att AI inte behöver förstå någonting, den behöver inte vara ond och hata människor, men den kan vara farlig ändå bara genom att göra sånt den redan gör, men ännu bättre, med maskininlärning, och språkmodeller. AI kan användas som ett effektivt verktyg, men det får aldrig få någon makt. Måste alltid finnas någon människa emellan som för det första förstår en AI-genererad lösning, och för det andra sedan bestämmer om den ska användas.

I artikeln ”Vi kan försvinna på ett fåtal generationer” i Söndagens SvD varnar Tegmark för att AI skulle kunna få människoarten att försvinna på bara ett fåtal generationer. Inte med vapen som i The Terminator, utan genom att skapa så perfekta spel och musik och tv-serier osv att vi helt frivilligt väljer det istället för att gå ut och träffa folk och föröka oss.

Låter som en Incel-teori. Jag tvekar högst på att det finns så perfekta spel etc så att de överskuggar könsdriften, en grundläggande primalinstinkt.