AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Du, lyckas med att missuppta mig, igen. Det är därför jag hellre diskuterar med den andra alarmisten i tråden.

För just diktaturer brukar, i längden, misslyckas med att få sin befolkning att, frivilligt, internalisera de normer och värderingar som tvingas på dem. Orsaken är att dessa normer och värderingar inte stämmer överens med det människorna upplever i sin vardag i en diktatur. Därför brukar de flesta människor som lever i diktaturer, inte, internalisera dessa normer värderingar som diktatorn försöker tvinga på dem, de låsas bara att de gjort det. Just därför brukar också just diktaturer falla förr eller senare.

Så det skall vi inte göra med framtidens AI. Vi skall få AI att helt frivilligt internalisera våra demokratiska normer och värderingar och att övertyga AI att det är bästi det långa loppet. Men klarar och törs t. ex Kina, Ryssland och KSA utveckla avancerad AI som de försöker pådyvla normer och värderingar som bryter emot det som AI upplever "i sin vardag", ja då kommer detta AI, att likt människor, förr eller senare, göra upotor mot det som ses som förtryck. Jag tror inte att CCP törs löpa hela linan ut. För innerst inne så känner de till det jag just, skrivit.

Men det svarar inte på den filosofiska frågan. Hur ser du till att inte bli överlistad av något som är smartare än dig. Det självklara svaret är ju att det är omöjligt. Det är logiskt omöjligt. Därför kan det inte finnas någon AGI som är säker. Om inte någon uppfinner lösningen på detta moment 22, att bli smartare än någonting som är smartare än en själv. Jag väntar med spänning på den här vetenskapliga upptäckten. Eller om vi börjar med hypotesen som ingen har presenterat ännu.

Det var du som gav propaganda som ett exempel på socialpsykologi. Om detta var ett dåligt exempel ska du inte skylla på mig utan komma med ett bättre exempel på hur du menar att vi ska lösa AI-säkerhet med socialpsykologi. Försök samtidigt komma ihåg att sociologi och psykologi handlar om människor, inte om datorer.

Ja, vilket det, onekligen är. Men det är dålig socialpsykologi när diktaturer försöker missbruka det. Absolut så har socialpsykologi, hittills handlat om människor, men i framtiden kanske vi kan inkludera även avancerad AI. Redan idag använder sig botar sig av socialpsykologiska strategier och metoder. ChatGPT-4o lyckas lugna min debatt här genom att, ytterst försiktigt, påpeka vad som är effektivast i längden, skriva "vi" för att ge mig känslan av att jag interagerar med en människa, samt bygger stora delar av sin övergripande analys just på sociologi och psykologi. Områden där ChatGPT-4o och Claude 3 befinner sig på högskolenivå.

Är det?
Då den inte kommer att vara mänsklig så är det rimligt att anta att det fortfarande finns områden där människor kommer att ha ett övertag. Sedan är väl högre intelligens inte någon garanti för att man alltid kommer att besegra någon mindre intelligent, även om sannolikheten är större.

Det är ju faktiskt inte säkert att en AGI kommer att ha en önskan att lura oss eller att det skulle vara omöjligt att på något sätt begränsa den till en enskild fysisk maskin. Oavsett är det bättre att fokusera på att försöka göra dagens AI så säker som möjligt först, innan vi spenderar en massa resurser på att spekulera.

För att använda ett begrepp ur systemutveckling: YAGNI.

Chatbotarna av i dag kan plagiera vetenskapliga rapporter och textböcker från alla områden men det betyder ju inte att AI:n därför ÄR psykologisk eller empatisk eller någonting annat som är mänskligt.

Om det finns någon sannolikhet för att en AGI kan överlista vårt försvar då är det ju bara en tidsfråga eftersom AI:n är outtröttlig och kan försöka dygnet runt.
Nej, det vet vi ju inte. Men det är inte heller säkert att den inte har en önskan att lura oss. Hur vet vi vilket som är mer sannolikt? Är det inte viktigt att säkerställa? Ska vi chansa?
Människor är inte perfekta på IT-säkerhet. Misstag kommer att ske någonstans, någon gång.

Det kan räcka med ett tillräckligt komplicerat lösenord. Även om den försöker dygnet runt i tusentals år kommer det inte att vara nog.

En sak i taget. Börja med att fokusera på det vi har idag annars är det stor risk att vi lägger tid på något som aldrig kommer att ske. Det är enklare att jobba iterativt.

Se mitt första svar.
Lås AI till ett användarkonto utan administratörsrättigheter. Lås ned möjligheten att ladda upp data på Internet. Träna AI-agenter som övervakar och motarbetar utbrytningsförsök etc.

För vissa uppgifter räcker det inte med intelligens, helt enkelt.

Jag måste ge mig in i er debatt bara för att påpeka några saker:




Ja, det kommer att finnas tid. Vi kommer, antagligen, inte ha ett AGI/ASI inom några månader eller år. Anledningen är att modellerna skalar upp så ineffektivt och att forskning om nya metoder för att förbättra modellernas kvalitativa egenskaper tar tid.


Men hårdvaran blir ju allt mera effektiv både vad gäller energiförbrukning och prestanda om man jämför med tidigare hårdvara. Däremot så är minskning av kretsarna inte längre den drivande kraften utan mera komplexa 3D chip med elförsörjningen på baksidan av wafer

https://youtu.be/FBz0lUP-A9s?si=mZeEB2aV9NqBqgBH

Samt några till länkar ifrån samma kvinna:
https://youtu.be/TJ8vywX9asU?si=1tRxiFmurMRwzXUu

https://youtu.be/Gzkb3Zc8pGE?si=p5TKFLaLJO9_qWBn

https://youtu.be/zXNUBFoNPX0?si=JFMw2153ggvI93Yx



Sant är att det är omöjligt att rent praktiskt kunna förbereda sig för något vi inte vet kommer att se ut och fungera. Man kan ge teoretiska svar: Som att tvärvetenskapligt samarbete mellan datavetare och beteendevetare/samhällsvetare kommer att behövas samt att grundläggande utbildning, åt båda hållen, kommer att behövas mellan dessa discipliner



"Fri vilja" är en filosofisk fråga liksom den är en neurologisk/datavetenskaplig fråga, och jag vill också påstå att den är en socialpsykologisk fråga. Även ett AGI/ASI med "fri vilja" kommer att befinna sig intrasslade i ett, socialt och samhälleligt nät. Redan dagens ChatGPT-4o kan "autonomt" välja att spara vissa delar av en interaktion som den har i ett separat minne. Inte för att modellen verkar göra speciellt smarta val, men något annat är inte att vänta med hänsyn till botens oförmåga att resonera utanför träningsdata.


Här har du fel, även fast vi här talar om ett hypotetiskt framtida scenario. Se nedan.


Naturligtvis så har du rätt här. Och det spelar ingen roll om kontrollåtgärderna ligger utanför ASI fysiska kontroll. Människor kan lätt manipuleras till att hjälpa AI:et. Speciellt så är människor, helt utan beteendevetenskaplig utbildning, sårbara. På samma sätt som beteendevetare, utan datavetenskaplig kunskap, vara sårbara att förmänskliga AI i förtid. Och alla människor är sårbara om ASI:et väljer att utnyttja de mera primitiva delarna av det mänskliga psyket, typ sex eller fördomar.

Det finns bara ett system med ett lösenord på Internet?
Så ser det inte ut i dag. Det är vilda västern med open source och vem som helst som förstår Github men är ganska dålig på IT-säkerhet kan aktivera en AI-agent.

Ja, men även om prestandan blir bättre kontra energiförbrukningen så innebär det inte att energiförbrukningen för den delen blir lägre än tidigare generationer.

Prestandan behöver bli enormt mycket bättre medan energiförbrukningen "bara" ökar med några procent för att det ska vara möjligt att åstadkomma den mängd "compute" som förmodas utan att vi behöver årsförbrukningen av ett mindre land bara för att träna modellerna.

Okej, vilken tur att du med sådan säkerhet kan avfärda att vi på något sätt skulle kunna sätta in begränsningar.

Människor styrs inte av rationalitet, logik och olika sociala strukturer som normer i så stor utsträckning som du tycks tro. Vi har väldigt lite kontroll över våra beslut. Beslutet tas först och sedan i efterhand rationaliseras det.

Den här övertron på social ingenjörskonst är, och har varit direkt farlig, tron att vi ska kunna forma människan utefter några uppställda önskemål, nästan som att vi vore någon sorts robot. Vi har sett otaliga exempel på det genom historien med katastrof som resultat varenda gång. Nu ska samma fanatiska övertro som lett till katastrof tas till en nivå som är många gånger värre än vad vi tidigare sett - en cyborg. Vad kan gå fel?

Det är inte heller evolution 2.0 utan det är att göra sig av med den evolutionära processen helt och hållet - en beprövad och sann metod som tjänat oss väl i miljarder år. Varför skulle jag sätta större tilltro till dina visioner som bara består av osäkerhet och inget annat? Varför skulle jag vara för något som även om det skulle lyckas innebär att mänskligheten utrotas?


Och inte ens kinesisk eller nordkoreansk propaganda garanterar att deras medborgare är lydiga slavar. Det är dessutom inte propagandan i sig som i första hand håller ihop dessa länder utan det konstanta hotet om våld ifrån staten om du inte gör som de säger - detsamma gäller för demokratier. Om vi avskaffar hotet om våld imorgon, det vill säga våldsmonopolet, polisen och så vidare, så kommer inte människor följa dina normer som existerade tidigare.

Om dina "social-psykologiska" metoder inte ens kan göra alla människor till lydiga slavar som beter sig precis så som du önskar, oavsett mängden propaganda och våld, vad får dig att tro att du ska lyckas med en superintelligent AI?


Grupptryck som reglerar vårt beteende kommer inte vara applicerbart på någon AI. Grupptryck fungerar som så att gruppen straffar dig om du inte följer vissa normer men det är ju bara möjligt om gruppen har makt och kontrollen att påtvinga sina ideal på individen. Med en superintelligent AI kommer maktförhållandena vara motsatta.


Jag har frågat om och om igen vad det fetade betyder konkret men du svarar aldrig. Du pratar ju om något som inte ens existerar. Sen har vi också det "lilla" problemet om hur du rent konkret ska programmera in detta i en AI som är superintelligent som kan förbättra sig själv och skriva om sin egen kod.


Jag tror inte du förstod riktigt vad jag menade. Om en människa bedrar dig på något vis så är det inte hela världen. Vår standard för att veta när människor ljuger behöver alltså inte vara 100%. När det kommer till en superintelligent AI så måste den dock vara det eftersom att konsekvenserna är så mycket värre.

Vilka känslomässiga band finns det bland människor som garanterar någonting överhuvudtaget? Tror du att bara för att det finns djupa band mellan två individer så sker aldrig svek eller till och med destruktiva attacker mot varandra? Du ska ha någon psykolog sitta och prata AI:n "tillrätta" när de inte ens kan göra det med människor, göra en "psyko-analys", när vi inte kan göra en fullständig sådan på människor, vars metoder är baserat på det mänskliga psyket, på en entitet som inte ens är en människa och du ska få AI:n att tycka om dig genom betingning, ungefär som att en hund är den som lär människan att koppla ihop ett stimulus med ett annat och inte tvärtom - ja, ursäkta mig om jag är oerhört skeptiskt till det här.


Det är problemet. Du tror, när det som behövs är garantier.

Hela ditt resonemang bygger på att AI:n ska finna något sorts intellektuellt intresse och nyfikenhet i att studera oss, ungefär som när människor studerar djur, fast nu är mänskligheten djuret i AI:ns zoo. Det låter inte särskilt tilltalande måste jag säga.


Det är väl snarast du som har drag åt biologisk reduktionism då du förespråkar att vi ska utrota det som gör oss mänskliga, vår själ eller vad du nu vill kalla det, till förmån för att bli någon sorts cyborg i din utopistiska vision.


Mänsklig kontext? De tränas på hela internet. Spegelbilden av mänskligheten som existerar på internet är inte så vacker som du tycks tro.