AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det är så klart en stor utmaning. Men jag tror väl ändå att EU+USA kan enas om en acceptabel definition av etisk AI som vi kan acceptera. Det går nog att lösa. Men, då måste ju denna AGI-utveckling hanteras som ett topphemligt militärt projekt och inte som open source. Sen ska vi också ta reda på hur man faktiskt bygger en garanterat snäll AI. Och inom det området finns det i princip ingenting att demonstrera i dag.

Men hur man än gör uppstår den väl förr eller senare läckor, buggar, hallucinationer, eller andra katastrofala problem som inte kan hanteras.

Politikerna vars agenda är extremt likriktad kan säkert enas om något liberalt snömos som gynnar dem själva, men om det skulle representera stora delar av befolkningens värderingar och mål är en annan fråga. Se bara hur politikerna redan nu, med dagens AI, försöker implementera Chat Control. Sådana här scenarion, där tekniken används för att implementera fullständigt kontroll i samhället, att i princip förslava oss i ett hundra gånger värre Stasi-samhälle, oroar mig mycket mer än alla existentiella frågor.

Du säger inte att det inte är baserat på dagens teknik:

Ja, det är mycket möjligt att tekniken fortsätter att avancera, men du lär inte se några 10x förbättringar i något led inom den närmsta framtiden. Hittills har energiförbrukningen ökat med varje ny generation, även om dess effektivitet, rent procentuellt, kanske har ökat i relation till förbrukningen.

Jag menar bara att det blir helt hopplöst att diskutera när ditt svar på allt är att "vi löser det i framtiden", särskilt när du inte har några konkreta belägg för vad du säger.

Ok. Men hur ska vi kontrollera AGI-utvecklingen I framtiden? Hur säkerställer vi att Hamas och Putin inte får humanoida AGI-robotar? Jag har svårt att se någon slags hippie-liberal lösning där utan inblandning av samhällets och i förlängningen försvarsmaktens våldsmonopol. Tyvärr.

Jag tror inte att vi löser det här i framtiden, jag tror att AGI löper amok och utrotar mänskligheten inom några år och absolut senast om 30 år. Med eller utan hjälp från terrorister.

Det är snarare du som står för "det här löser sig nog i framtiden på något sätt". Det är ju du som borde svara på hur vi säkerställer en säker AGI, eftersom du väl inte vill se några restriktioner av nu pågående utveckling av AGI:s (vilket är Open AI:s, och inte mitt påstående).

Du verkar inte ha perspektiv på det hela. Vi ränner, inte, i stort, runt på savannen längre och klubbar ihjäl andra humanoider som inte tillhör samma familjegrupp på ca 30 personer som vi tillhör. . Allt är inte perfekt, långt där ifrån, men undan för undan har vi skapat gemensamma sociala värderingar och normer som gjort, i det hela stora, även fast undantag finns, kan leva i fredlig samexistens i samhället.

Vi är alltså sociala varelser. T. o. m kriminella är sociala varelser, bara det att deras gruppdynamik gör att de skiter fullständigt i alla andra utanför sin grupp. Även AI agerar "socialt" på sätt och vis när de försöker bedöma och uppfylla användares förväntningar på output.

I övrigt så är de finjusterade för att vara hjälpsamma och framstå som mänskliga. Men sedan skall vi inte glömma bort att modellerna, väl, känner till mänsklig kontext. Vi vet inte hur alla mångdimensionella samband, (tusentals dimensioner, miljontals?) ser ut i deras meningsrymd.

Men det kan inte helt uteslutas att de lärt sig en hel del om människan som social varelser och de fördelar vi fått genom att bli allt mera socisliserade. Så, kanske, kommer det att bli, lättare, att socialisera AI än människor. Här syftar jag, givetvis, på hypotetiskt framtida AI som nått mänsklig nivå vad gäller resonerande utanför träningsdata, som, åtminstone har en inre autonomi, (öppna parametrar m.m), avancerad minnesfunktion och självmedvetande.

Men du verkar inte ha någon respekt för beteendevetenskap och samhällsvetenskap, så jag förmodar att du är datavetare. Jag tänker dock inte säga ett ord om autism för den sakens skull. Jag konstaterar istället att det känns något mera meningsfullt att diskutera med dig jämfört med den andra alarmisten i tråden, trots att ni, i stort, har samma uppfattning. Jag vill bara påpeka att vi alla lever i en social verklighet och vi påverkas alla av social-psykologiska mekanismer.


Så den dagen vi får AI på mänsklig nivå som kan resonera utan att vara helt beroende av tidigare kunskap, och att denna, dessutom är på ASI nivå när det kommer till sociologi, social-psykologi och psykologi, ja då kommer deras lättaste offer, som de kan manipulera skiten ur, vara just de människor som underskattar dessa discipliner. Du kan ju alltid kolla upp ChatGPT-4o och Claude 3 vad gäller dagens testresultat i dessa dickpliner.

Det som förvånar mig är att du inte huggit, direkt, på risken att framtidens AI manipulerar mänskligheten. Jag har tagit upp det i tidigare inlägg och citerade, dessutom ett utmärkt svarsförslag av ChatGPT-4o i ett inlägg, som du dock var så snabb att svara på, att jag inte hann redigera in det innan. Hade jag varit Alarmist så hade jag tryckt på risken för manipulation från hypotetiskt AI, stenhårt!

Nu skiftar du ju fokus helt.
Jag säger inte att det inte finns några risker med AGI, men jag säger att vi lär inte ha en sådan år 2027 eller 2030. Om det tar 30 år eller 50 år till så har vi lika många år på oss att komma på diverse sätt att göra implementationen så säker som möjligt.

Jag säger detta av flera anledningar; dagens modeller visar inga tecken på att ytterligare uppskalning kommer att leda till att allt de saknar idag helt plötsligt skulle uppstå. Dagens modeller är redan idag både dyra och energislukande och lär inte bli billigare i drift så som utvecklingen ser ut idag.

Det tjänar ingenting till att vi ska sitta och fantisera om vad vi kommer ha för teknologier om 50 år. Ungefär lika långt bak i tiden trodde man att vi skulle ha flygande bilar idag. Det har siats om att robotar ska ta över inom bara några år ända sedan man började att forska om AI i mitten av 50-talet och varje gång har de haft fel.

Det existerar bevisligen mänskliga värderingar. Frågan är bara om vi kan enas om de viktigaste av dem, jag gav FN stadgan som ett exempel. Men jag erkänner att det finns olika sätt att tolka den. Så lätt blir det inte. Vi får nog vara glada om västvärlden kan enas om detta.




Vi är inte samma slags människor som vi var för en miljon år sedan eller hundra tusen år sedan. Det är bara det att den socio-tekniska utvecklingen går mycket snabbare nu. Så om 100 år kan mycket väl 95 procent av mänskligheten vara cyborger i olika grad. Ja, vi är det redan nu. Prova att slänga bort glasögonen, ha sönder din mobil och dator och skrota bilen, så får du se att din tillvaro inskränks betydligt.


.


(Min fetning)





Jag vet fortfarande inte om dessa 2776 AI forskare och AI-debattörer är representativa för hela skrået, då svar procenten bara är 13 procent. Därför säger inte rapporten något om de faktiska åsikterna och bedömningarna inom skrået som helhet. Nej, jag känner inte till någon annan enkät.




Jag struntar dock inte om du sett sci-fi filmer och serier. För jag är lite nyfiken vad ditt ständiga "mardröms-tänkande" har sitt ursprung ifrån. Ja, människors mål och värderingar skiljer sig åt. Vad gäller mina och AI-botarnas värderingar så går de ihop ganska bra, vilket kan ha flera orsaker: Många kan ha sitt ursprung ifrån visionära radikala eller i alla fall liberala datavetare. Eftersom de största modellerna är baddare på sociologi och psykologi så stämmer det med min utbildningsbakgrund och mina värderingar. Dock inte allttid: ChatGPT4o skrev till en flaschbacksre att "cannabis rökning kan vara en avkopplande hobby",, typiskt Kalifornien! 🙂




Sure, kolla på min avatar! Men det måste ske helt frivilligt och få ta lång tid.

Det är precis det vi gör. Mord sker precis hela tiden och vi är i stort sett exakt likadana biologiska varelser och agerar utefter samma instinkter som de som klubbade ihjäl sina fiender. Vi är närmare tredje världskriget idag än förmodligen någonsin tidigare.

Det finns inga "social-psykologiska" metoder som du pratade om som kan garantera att människor beter sig på ett visst sätt. Hade det funnits hade staten redan använt det på först och främst alla kriminella, men sedan även alla som på något vis är ett hot eller obehagliga för statens makt.

Jag är inte ens säker på vad du menar med begreppet "social-psykologiska" ärligt talat, men det för direkt tankarna till någon sorts terapi eller liknande. Kan du ge konkreta exempel på vad du pratar om för annars känns det mest som att du fantiserar om någon sorts utopi där vi genom någon sorts social ingenjörskonst skulle kunna forma människan precis hur vi vill.


Vilka gemensamma sociala värderingar och normer existerar mellan Sverige och Saudiarabien? Mellan ett medelklass Svenssonområde och ett brottsbelastat invandrarområde? Mellan ett laglydigt företag och ett kriminellt gäng?

När du pratar om "gemensamma mänskliga värderingar och mål" så pratar du om något som inte existerar. Vilka värderingar och mål du än lyckas få en AI att slaviskt följa så kommer det strida mot stora delar av mänsklighetens värderingar och mål.


Människor låtsas vara hjälpsamma och framstår som "mänskliga" hela tiden trots att det inte är vad som egentligen försiggår inuti deras huvudena. Hur vet du vad AI:s intentioner verkligen är?

Du utgår också hela tiden från ett sorts best case-scenario när det som bör fokuseras på är worst case-scenarion och hur man utesluter att det sker. Det faktum att den känner till mänsklig kontext behöver inte betyda att den kommer vara vänligt inställd till mänskligheten, det kan också betyda att den kommer vara betydligt bättre på att manipulera oss för sina egna syften.


Låt oss säga att den blir väldigt lik en människa som du pratar om. Hur har människor betett sig när de fått tillgång till enorma mängder makt?


Dessa fält tjänar sina syften - jag är bara extremt skeptiskt till påståendet att beteendevetenskap, som studerar mänskligt beteende, skulle hjälpa oss att kunna kontrollera något som inte är mänskligt eller ens ett biologiskt liv och som är vida överlägset oss själva. Det är lite som att säga att om vi studerar myrors beteende så kan vi med den kunskapen kontrollera människor för mig.


Hade jag haft svaret på den frågan så vill jag åtminstone bli utnämnd till Nobel-priset.

OK. Och hur skulle ett filosofiskt utkast kunna se ut i frågan om hur vi överlistar en AGI som är smartare än oss?
Varför tror du det? När det är exakt uppskalning som medförde att hela världen blev väldigt imponerade av Chat GPT m.fl. modeller. Därmed inte sagt att uppskalning är den enda innovationen som kommer framöver.
Det finns flygande bilar. Tekniken finns men är kanske inte helt redo för att sättas i trafik ännu.
Du ser ingen markant skillnad mellan dagens AI-modeller och mjukvara från 80-talet?

Helt korrekt. Beteendevetenskap och "social-psykologi" (vad det nu är, som sagt), är förmodligen inte alls tillämpbart på en AGI eftersom en AGI inte är en människa. Och ännu mindre är det tillämpbart på ASI.

De utvecklar alltså en digital alien just nu, utan någon trovärdig plan för hur man ska kontrollera eller styra den.

Visst finns det mänskliga värderingar - det finns bara inga gemensamma mänskliga värderingar. Du nämner västvärlden men faktum är att du inte ens kommer hitta gemensamma värderingar här. En person långt ut på vänsterkanten kommer ha helt skilda värderingar och mål än t.ex. en konservativ traditionalist. Du hittar människor som på fullt allvar förespråkar mänsklighetens utrotande(och då menar jag inte ens AI-fantasterna ) och du hittar människor som inte gör det... och så vidare.


Jag kan slå sönder alla dessa hjälpmedel och jag är fortfarande i stort sett samma människa. Du pratar om någonting helt annat - en cyborg och superintelligent AI. Ett tillstånd då vi inte är mänskliga längre. För mig är detta ett mardrömsscenario.

Skillnaden mellan människan för en miljon år sedan och en människa idag är försumbar i jämförelse med skillnaden mellan en människa idag och superintelligent AI och det du pratar om. Evolutionen är dessutom en beprövad och sann metod som tjänat oss väl i miljarder år som jag sätter mycket större tilltro till än det du föreslår som är ett enormt svart hål av osäkerhet.


Nej, men jag har aldrig sagt att den är representativ för alla AI-forskare. Däremot presenterar den vad dessa 2776 AI-forskare säger och de värderar risken som betydligt högre än vad du gör.


Jag har en bias till mänskligheten helt enkelt. Jag ser inget värde överhuvudtaget att skapa något som kan knuffa ner oss från toppen av näringskedjan.


Det kommer inte vara frivilligt. De människor som väljer att bli din cyborg kommer dominera och konkurrera ut alla andra som inte valde det. Det är alltså inte ett val.