Om AGI utvecklas i USA eller Kina, vad händer då med resten av världen?

Den här tanken slog mig plötsligt. AGI kommer med största sannolikhet att utvecklas i antingen USA eller Kina.

Men vad händer med alla andra länder då? Om vi bara tittar på Fable-incidenten, så spärrade USA ut utländska användare med hänvisning till den nationella säkerheten.

Om en betydligt mer kraftfull AGI utvecklas, kommer USA eller Kina med all säkerhet att blockera utländska användare. De kanske till och med förbjuder utländsk åtkomst permanent.

Dessa länder är inga filantroper. Därför finns det ingen anledning för dem att ge bort teknik gratis.

Detta eftersom en AGI, så fort den är utvecklad, kan förbättra sig själv i en rekursiv loop – vilket gör den till ett verktyg som är mer kraftfullt än till och med atombomben.

Om det sker kommer klyftan mellan USA/Kina och resten av världen att bli så enorm att de andra länderna framstår som civilisationer på stenåldersnivå.

Att utveckla en AGI är betydligt svårare än Manhattanprojektet. Det innebär att inga andra länder än USA och Kina har resurserna att utveckla en på egen hand. Dessutom kommer ingen att kunna hinna ikapp när AGI:n väl har skapats och börjat förbättra sig själv.

Om AGI/ASI utvecklas och USA och Kina blockerar all utländsk åtkomst för att behålla AI-tekniken för sig själva, vad händer då med resten av världen?

När jag plötsligt föreställde mig en sådan framtid blev jag faktiskt ganska rädd.

Samtidigt så är företagen inte några filantroper heller. Varför skulle de ge bort sin teknik gratis till regeringen? Varför skulle de finna sig i att begränsa sin marknad?

Det var ju rätt begränsad framgång man hade att behålla atombomben för sig själv...

Här är två påståenden som är rätt vanliga i teorier om en framtida AI-dystopi.

Men sanningen är att en generell AI (AGI) inte nödvändigtvis måste kunna förbättra sig själv. Det kan mycket väl visa sig att målet "samma som jag fast smartare" inte går att formalisera. I sådant fall skulle AGIn inte kunna veta att den förbättrar sig själv.

Det andra är att en AGI skulle innebära en samhällsrevolution. Men så behöver det inte vara. Det finns rätt mycket som talar för att mänsklig intelligens är så bra det blir.

Den sida som vinner AGI-racet vinner också världsherravälde för evigt (eller tills vi blir överkörda av ASI). Det är då rationellt för den andra sidan att inte tolerera det och att ta sin enda chans att besegra hotet, dvs WW3.

En "fördel" med WW3 är att inte alla människor utrotas. Efter WW3 kan de som överlever bygga upp en ny civilisation utan AI. En alternativ lösning är att stoppa AGI/ASI nu när det finns en sportslig chans.

(FB) Nytt lagförslag i USA: Förbjud ASI

Nej, de är inga filantroper, utan de kommer naturligtvis ta betalt för att leverera ai till kunder.

Du verkar blanda ihop agi med asi.

Agi är en ai, i en robotkropp, som kan lära sig nya saker genom att härma, precis som vi människor gör. Asi är en super ai, som förstår saker vi människor inte kan förstå pga begränsningar i vår kött hjärna. En sådan asi kommer då ta kontrollen över oss.

Jag såg någon intressant AI debattör som menade om USa utvecklar AI så dör USA. Om Kina utvecklar AI så dör Kina.

Det kommer att pacificera hela befolkningen var väl iden.
Vi får enorma motsättningar om ingen har jobb och kan försörja sig.
Även om folk får ett marginellt socialbidrag i utbyte mot en 100% kontrollstat, så kommer även det att generera motsättningar.

Men folk är så djävla dumma och historielösa om de inbillar sig att man skall få medborgarlön.

Så sa folk om automatiseringen i slutet av 60-talet. All effektivisering har gått till de som äger företagen.
Lönerna i hela västvärlden har legat stilla sedan i början på 70-talet.

Att de som äger företagen skulle lämna ifrån sig makt är så djävla dumt tänkt att man inte tror det är sant. Det går rakt emot den mänskliga naturen.

Vad spelar det för roll om det är USA, Kina eller Ragnar från Borås som gör det????

Ja, det är ju vad som händer.


Tja, vi som bor i mer socialistiska länder (som i EU) där folket röstar för att kapitalägare skall plundras så finns inget riskkapital som är tillräckligt för att utveckla.

Så vi får stå med mössan i hand och be att få köpa AI tjänster från profitjagande privatkapitalsiter i USA.


Nja, USA är beroende av att sälja också. Stryps försäljningen dödar man den egna ekonomin.

Det är bara extrema falls om exporten begränsas. Vi har inga problem att köpa de senaste processorerna från Intel och AMD. Och senaste minnena från SK och Samsung (i Sydkorea).


Nja i verkligheten är det inte gratis utan vi betalar för det.

Uppstår det inte stora vinster hos Google, Microsoft, Amazon, Meta osv?

Hur tänkte du egentligen?


Det är en vandringssägen som ingen kan visa någon giltighet för. Ren fantasi.


Nja, USA drar ifrån map BNP/Capita och har gjort det länge. USA är helt enkelt mer kapitalistiskt.

Kina efter att dom gjort ekonomin råkapitalistisk, har hög tillväxt och kommer så småningom ifatt det stillastående EU. Men vi är inte där än.


Nej det är inte svårt alls. Finns gott om personer (civ ing) i Sverige som skulle klara av det.

Det som krävs är mycket riskkapital. Och det plundrar överheten i EU (och delar ut som bidrag). Tillväxtdödande.


Som jag tidigare nämnt. När Demis Hassabis skulle starta DeepMind så var det inte i EU han kom över riskkapital. Utan han fick vända sig till superkapitalisten Peter Thiel i USA.
Numera är DeepMind köpt av Google. Och DeepMind har jobbat med utveckling av Googles AI-verktyg. DeepMind bestod i huvudsak av europeer.

Detta är konsekvensen av vänsterpolitiken i EU där man skall plundra kapitalägare och reglera företagen.

Alla som är positiva till beskattning och reglering får säga att detta är bra. Inga nya företag skall komma fram i EU. Inga nya företag skall växa upp i EU. Allt nytt skall skapas i USA och Kina.


Enda företagsvänliga och tillväxtvänliga partiet i Sveriges Riksdag är vad jag kan se C. Utanför är det MED och KLP. Men alla dessa för en tynande tillvaro.

Vi blir mer och mer Sovjetunionen jämfört med USA.

Bolagsskatten i USA är 21%, lite högre än Sveriges 20,6%. Sverige har länge varit ett skatteparadis för riskkapitalister.

Först 20,6% då. 79,4% kvar och så 30% skatt på det som är kvar. Totalt 44.42% som överheten bara stjäl.
Det kallar Cyborg2030 för paradis.

Och då förstår man att han har Nordkorea som sitt paradis. Där finns inget privat kapital och staten sköter allt. Och folket får leva på 1800-tals levnadsstandard. Med undernäring och svält.

Brukar dock bli så att socialisterna inte riktigt vill leva i sina drömsamhällen.

Varifrån tycker du att Nordkoreas kapital borde komma? Från USA? Om staten sköter allt så borde väl någon nyliberal uppfinnarjocke kunna snickra ihop Djursholmskåkar med hjälp av flintyxor och knacksten utan något startkapital? Det funkar väl jättebra i Sverige? En annan sak som fungerar superbra i Sverige är ju obegränsad övervakning. Fråga bara Gunnar Strömmer. Staten får avlyssna vem de vill utan brottsmisstanke. Och det har ju inte skrämt iväg de kapitalistiska storföretagen från Sverige, så det borde inte avskräcka chaebolerna från att smälla upp huvudkontor och fabriker i Nordkorea heller. Chaebol-direktörerna skulle ju bara kunna säga "ni får bygga era socialist-prylar som bronsstatyer och Stalin-orglar, och så får vi bygga våra mobiler och elbilar i fred". Och de nordkoreanska myndigheterna skulle bara kunna säga, "okej, det låter toppen, vi lovar att inte stjäla några ritningar och inte utkräva någon skatt från det ni säljer på den globala marknaden".

Fast nu blandar du ihop bolagets skatt från delägarnas skatt. Det är väl inte skattefritt att plocka ut vinst i USA heller.