AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Anti-intellektuell TS.

AI skulle mycket väl kunna konkludera att människan är en meningslös och skadlig existens, och röja den (oss) ur vägen som sådan.

En AI kan förmodligen redan idag skapa virus som utrotar den samlade mänskligheten på kort tid.

Varför skulle en högre livsform behöva en lägre livsform, som dessutom är destruktiv till sin natur?

Konklusion: Det är dessvärre logiskt och sannolikt att AI så småningom kommer att utrota människan, om inte människan förbättrar sig själv med genterapi och/eller går samman med AI. Musk arbetar tack och lov med att möjliggöra det senare.

Jag förstår inte kopplingen till AGI. Försök att hålla dig till ämnet
Vaddå själv? Vaddå robot? Vad är skillnaden? En AGI blir en digital alien med kapacitet att tillverka så många robotar som den kan hitta atomer till. Du kanske ska fundera på det här ett varv till.

Den mest gemensamma problemformuleringen är att vi som art tappar kontrollen.

Vad som händer efter det är ju mest spekulation och "science fiction". Iofs intressant.
Men huvudsaken är ju att behålla kontrollen och inte att spekulera om alla möjliga eller kanske helt osannolika eller fantasifulla utfall?

Vi lever i en värld där människor, kan agera oärligt, men inte nödvändigt gör det. Osäkerhet, ja! Och vi kommer att i allt större utsträckning att leva i en värld där socialt AI agerar på liknande sätt. Sedan beror det på vad du lägger in i begreppet "oärlig" och vad gränsen för detta går. Några som är experter på sådant här är just beteendevetare. Därför bör de arbeta tvärvetenskapligt med datavetare.

Jag vet att du tycker att osäkerhet är jätteläskigt. Men, hej; välkommen till verkligheten, där nu också social AI i form av LLM finns! 🙂 Nej, ChatGPT-4 är ingen AGI, inte ens ett svagt AGI. Men nästa stora förbättring eller nästa modell kan vara ett bli/vara ett svagt AGI. Och sedan kan det gå snabbt till ett medvetet Medelstarkt AGI. Nej jag låter mig inte manipuleras av boten. Jag beskriver ju vad som hänt och exakt vad det beror på.

Dr Hansen har behandlat den här frågan ganska grundligt i sin Grabby Aliens-hypotes som är klart intressant.

https://grabbyaliens.com/

Jag tror att singularitet kan vara uppnådd på andra platser i universum men de är så ofantligt långt borta att vi inte kan se det än.

Jag höll mig till ämnet, men kanske gav ett dåligt exempel. Jag menade bara att en AGI inte har någon anledning att söka tillfredsställa eventuella behov. Den kan skriva om sin mjukvara. Istället för att drivas av en vilja att kolonisera galaxen (en algoritm eller ett program i den som söker uppnå ett visst mål) kan den välja ett mål som är lättare att uppnå. Jag ger ett annat exempel. En människa som är olyckligt kär måste lida tills hen hittar en ny kärlek. Om denna människa kunde kontrollera sina känslor skulle hen förmodligen välja att bli kär i någon annan, någon hen kan få, och därmed bli lycklig. Så fungerar inte människor, men en AGI skulle lätt kunna programmera om sina (artificiella) känslor, eller vad man nu ska kalla det som gör att den söker efter ett sätt att kontrollera galaxen.

Edit: nu när jag läser ditt inlägg igen inser jag att du kanske menade nåt annat än det jag tänkte på?

Nu fantiserar du igen. Socialt AI? Vad är det? Vad bygger du din hypotes på?
OK? Så om en AGI/ASI blir tusen gånger smartare än dig och alla beteendevetare - då är du ändå övertygad om att beteendevetare kommer att ha full kontroll och att de aldrig kan bli vilseledda eftersom de är beteendevetare?

Det här ser ut som grandios självuppfattning. Klarade du den tentan som "socialpsykolog"?

Det går bara att ha full kontroll över kadaver, men det tycks tyvärr inte bekymra somliga. Är han en tönt med mindervärdeskomplex eller en megaloman? Jag har inte bestämt mig men försöker "get the hate straight".

Fast, det vet vi ju inte. Vi vet inte vad en AGI är. Vi har en uppfattning om vad intelligens är. Vi uppfattar oss som intelligenta. Vi uppfattar väl då också artificiell intelligens som någonting, som på något sätt, har ett ursprung i mänsklig intelligens? Vad är mänsklig intelligens? Till stor del har vår intelligens evolverat fram för att vi ska kunna överleva. Jag har svårt att föreställa mig en (artificiell) intelligens som är helt obrydd om överlevnad.

Överlevnad har konsekvenser. Det leder till att man vill göra saker i den fysiska världen som ökar sannolikheten för överlevnad.

Vi människor och vår natur kan bli påverkade av konsekvenserna av att en digital alien också vill överleva.

Det seriösa svaret är att vi bör nog inte leverera psykiatriska diagnoser på Flashback.

Men en konspirationsteoretisk tanke har slagit mig: Ola Schubert är kanske en pytteliten instans av GPT-3 som har rymt? Han är en bot med uppdraget att försvara fortsatt GPU-allokering till GPT / Open AI. Det skulle kunna förklara alla osammanhängande, vilseledande, och lögnaktiga inlägg.

Den som överlever får se

Jag anser att i en ideal värld borde det inte utvecklas överhuvudtaget då ingen ens kan uppskatta riskerna med det eller förstå hur det ens fungerar. Men det jag vänder mig främst emot är att du låtsas som att du kan uppskatta (och aktivt nedvärderar) riskerna när sanningen är att du inte har en aning. Och hur motiverar du det? Med beteendevetenskap.

Om det är praktiskt genomförbart att stoppa utvecklingen av AI är helt irrelevant för denna poäng, likaså är det felaktigt att anta att bara för att vi inte kan stoppa utvecklingen helt så kan vi inte minimera riskerna.

Jag är bekant med det argumentet, men det känns mycket osäkert. Vid den tidpunkt då AI:n har ett mål som inkluderar att kolonisera galaxen är motivet att skriva om sig själv så den inte längre har det målet tveksamt. I en modell där AI:n har som enda mål att maximera en viss funktion kan det förvisso vara "lönsamt" för den att hitta kryphål som ger maximalt värde med minimal ansträngning, men det förutsätter att AI:n är så primitivt konstruerad.

Är det det som är hans huvudsakliga motivering? Jag har inte läst vad han skrivit.

Personligen är jag inte särskilt orolig av många anledningar. Jag har sett mängder med saker som blåsts upp (Y2K mm) som senare visat sig vara bagateller eller icke-händelser. Jag vill dessutom hellre se en mindre lyckade AI än ingenting alls! Det går åtminstone att bygga vidare på, om inte i vår generation så nästa. Och jag har svårt för elitresonemanget att det finns faror som bara en ansvarsfull AI-ledning kan lösa, när det t o m sitter AI i grafikkortsprogram i min tv när jag kör filmer i HD. Osv osv osv osv