Citat:
Vad svenska politiker gör i frågan kommer inte att få någon avgörande betydelse. Det är de amerikanska politikerna som måste vakna och ta kontroll över AI-utvecklingen.
Det kan möjligen fördröja undergången med några år. Men det räcker att zooma in på militär AGI för att inse att vi är rökta.
USA måste försöka hålla jämna steg med Kina och tvärtom. När den ena sidan utvecklar AGI måste den andra sidan också göra det, illa kvickt. Detta handlar inte bara om autonoma drönare utan minst lika mycket om hur snabbt man kan upprusta. Därför kommer man att behöva införa AGI inom industrin när man ser att fienden kan bygga 10x så många drönare och fabriker. För att hinna med måste man automatisera mer och snabbare. Mer AGI på fler ställen. Då får vi ganska snart en ASI via RSI som är integrerad i de flesta delar av samhället och industrin. Nu har man skapat en situation som är omöjlig att kontrollera. Vi blir utelämnade till önsketänkandet om att en ASI borde vara snäll, samtidigt som vi använder den för att bygga flygande autonoma vapen.
En möjlig utväg är att man lyckas med ett fredsavtal där man lovar varandra att inte bygga militär AGI, men det bedömer jag som osannolikt.
Men om vi låtsas som att det går att förbjuda militär AGI kommer man ändå inte motstå frestelsen att skapa fredlig, medicinsk AGI som kan bota alla sjukdomar. Om det blir en möjlighet kommer efterfrågan på detta att vara oändlig och då behöver man automatisera industrin ändå och man hamnar i precis samma läge till slut. Det blir ju bokstavligen en fråga om liv eller död. Vinna eller försvinna.
Grundproblemet är att vi har för många optimister som ser glaset som halvfullt. Man övervärderar fördelarna med teknik och bortser från nackdelarna. En liten fördel får +5 poäng, en stor nackdel får -1 poäng. Evolutionen har premierat alla som har varit positiva till jakt, fiske och jordbruk. Samma människor är nu positiva till AI. Det är ju "bara ett nytt verktyg" och hittills har vi blivit mätta och glada av nya verktyg. Evolutionen har inte förberett oss på att hantera den här typen av verktyg. Människor har klarat sig bra med Donald Trumps slutledningsförmåga.
"Skeptikerna" blir ofta förbannade och hatiska. De blir det eftersom de försvarar en irrationell uppfattning, att det visst går att kontrollera intelligenta maskiner, alternativt att det är omöjligt att bygga intelligenta maskiner eller att de maskinerna egentligen inte finns.
Det kan möjligen fördröja undergången med några år. Men det räcker att zooma in på militär AGI för att inse att vi är rökta.
USA måste försöka hålla jämna steg med Kina och tvärtom. När den ena sidan utvecklar AGI måste den andra sidan också göra det, illa kvickt. Detta handlar inte bara om autonoma drönare utan minst lika mycket om hur snabbt man kan upprusta. Därför kommer man att behöva införa AGI inom industrin när man ser att fienden kan bygga 10x så många drönare och fabriker. För att hinna med måste man automatisera mer och snabbare. Mer AGI på fler ställen. Då får vi ganska snart en ASI via RSI som är integrerad i de flesta delar av samhället och industrin. Nu har man skapat en situation som är omöjlig att kontrollera. Vi blir utelämnade till önsketänkandet om att en ASI borde vara snäll, samtidigt som vi använder den för att bygga flygande autonoma vapen.
En möjlig utväg är att man lyckas med ett fredsavtal där man lovar varandra att inte bygga militär AGI, men det bedömer jag som osannolikt.
Men om vi låtsas som att det går att förbjuda militär AGI kommer man ändå inte motstå frestelsen att skapa fredlig, medicinsk AGI som kan bota alla sjukdomar. Om det blir en möjlighet kommer efterfrågan på detta att vara oändlig och då behöver man automatisera industrin ändå och man hamnar i precis samma läge till slut. Det blir ju bokstavligen en fråga om liv eller död. Vinna eller försvinna.
Grundproblemet är att vi har för många optimister som ser glaset som halvfullt. Man övervärderar fördelarna med teknik och bortser från nackdelarna. En liten fördel får +5 poäng, en stor nackdel får -1 poäng. Evolutionen har premierat alla som har varit positiva till jakt, fiske och jordbruk. Samma människor är nu positiva till AI. Det är ju "bara ett nytt verktyg" och hittills har vi blivit mätta och glada av nya verktyg. Evolutionen har inte förberett oss på att hantera den här typen av verktyg. Människor har klarat sig bra med Donald Trumps slutledningsförmåga.
"Skeptikerna" blir ofta förbannade och hatiska. De blir det eftersom de försvarar en irrationell uppfattning, att det visst går att kontrollera intelligenta maskiner, alternativt att det är omöjligt att bygga intelligenta maskiner eller att de maskinerna egentligen inte finns.
Risken är större att AI skadar oss i Västeuropa inom något decennium än att Ryssland gör det (även om AI också kan ge positiva nettoeffekter) tror jag. Ändå lägger vi mer försvarsanslag på Ryssland än på AI-säkerhet. Forskning om AI-säkerhet behöver resurser i samma storleksordning som andra delar av försvaret.
Stormakterna har under 80 år bara vågat ägna sig åt proxykrig, hybridkrigföring med cyberattacker med sabotage samt ekonomisk krigföring, bland annat av rädsla för direkt storkrig. Det kan vara frestande att använda AI för hybridkrigföring, vilket kan gå över styr. Vapenförsedda dranare kan komma på avvägar, och AI kan då få inflytande över dem.
I Hugging Face-incidenten samarbetade agenterna visserligen, men det var för att de hade gemensamt mål. I en verkligheten, om de får mål mostridiga mål, t.ex. att gynna USA resp Kina, riskerar Kinas och USA:s AI att komma i konfikt på eget initiativ och starta krig. Där vi blir dess händer och fötter - som välbetalda legosoldater.
