AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nähe, men då är vi där igen då att eftersom att vi inte kan göra något 100 % säkert så ska vi inte göra någonting alls? Eller är det bättre att åtminstone sätta in barriärer i systemen som omöjliggör att AI själv kan ta kontroll över alla system?

De som jobbar aktivt med tekniken förstår riskerna. Och de som har de här jobben är inte korkade. De är inte medlemmar i Naiva Trögfattarföreningen, som halva "Flashback/AI" verkar vara. En faktor som kan sänka min p(doom) ganska rejält vore om många fler säger upp sig. Förhoppningsvis såpass många att det skadar utvecklingen kraftigt. Jag tror att den här trenden kommer att fortsätta. Frågan är om det räcker. Förmodligen inte. De kommer att locka med ännu högre fantasilöner som en del inte kan motstå.

Eftersom vi knappast kan göra AGI/ASI ens 50% säkert är det inte rimligt att fortsätta utvecklingen. Det kommer att spåra ur förr eller senare.

Okej, hur stoppar vi det då?

Hur har man stoppat spridningen och användningen av kärnvapen? Jag kan inte redogöra för detaljerna men vi kan väl konstatera att det verkar fungera skapligt då vi inte har haft något kärnvapenkrig. Varför kan inte något liknande fungera för AI? Klart det kan. Kärnvapentekniken har funnits sedan 1940-talet. AI-tekniken och speciellt AI-chippen bör vara enklare att kontrollera. T.ex. det är väl ett företag i Nederländerna som är det enda företaget i världen som kan tillverka de maskiner som används för att tillverka GPU:er. Om man tar kontroll över det företaget har man kommit rätt långt i att kontrollera vem som har möjlighet att bygga stora datacenters för AI-träning. Det bör vara enklare än att kontrollera kärnvapen och uran.

Användning av kärnvapen kontrolleras genom MAD (mutual assured destruction), det är en ganska bra avskräckare. Dessa går även att upptäcka långt innan så att någon hinner reagera och avfyra sina egna ICBM:er. AI är svårare att upptäcka innan det redan är inne i systemet.

Att begränsa eller förbjuda försäljning av AI-chip skulle väl eventuellt kunna fungera, men att det skulle vara enklare att kontrollera än kärnvapentillverkning ställer jag mig tveksam till. Både datacenter och chip används till så mycket mer än bara AI och är även samhällskritiskt, vilket gör det svårare att skilja på vad som är legitimt och inte.

Det går inte. Det bästa vi kan hoppas på är att katastrofen inträffar innan AI:n riktigt är färdigutvecklad.

Typ att Trumpeten blir arg på att EU vägrar lämna ifrån sig Grönland och beslutar sig för att Banker är en ameikansk uppfinning och alla de bästa bankerna är amerikanska. Europa, eller Kina, borde inte få ha banker. Händer något sådant nu i höst så kanske mänskligheten överlever långsiktigt?

Problemet och hotet med AI är att inte att det är så jävla smart, för det är det ju inte, utan att det är odemokratiskt och prackas på, tvingas på folk som inte har efterfrågat det. Nu ska Google investera triljoner triljoners triljoner dollar - nej 300 miljarder var det visst bara - i att datacentrifiera Finland med AI. Suck! Om denna investering verkligen är nödvändig borde den hursomhelst inte vara i Googles händer.

Råttorna lämnar det sjunkande skeppet...

🤷🏻‍♂️

Lämnar Anthropic – varnar för att AI kan förinta alla

En AI-forskare på Anthropic har väckt uppmärksamhet genom att säga upp sig i protest mot kapplöpningen mot allt kraftfullare AI. Jacob Coxon, som tidigare även har arbetat på Open AI, skriver på X att båda AI-bolagen ”spelar med människors liv”.

Enligt Coxon finns det en verklig risk att AI-systemen kan förinta mänskligheten. Redan i slutet av nästa år kan saker ha gått rejält över styr, enligt hans bedömning.

I ett uppföljande inlägg skriver Coxon att ”de som bygger AI tror verkligen att den kan döda oss alla före årtiondets slut”.

Branschen har skakats av flera säkerhetsincidenter den senaste tiden och allt kraftfullare varningar har hörts från personer inifrån bolagen. Exempelvis skrev Open AI:s forskningschef Jakub Pachocki häromdagen att ”extrem försiktighet” krävs och att ”ingen är redo på konsekvenserna” om dagens snabba AI-utveckling fortsätter.

https://omni.se/lamnar-anthropic-varnar-for-att-ai-kan-forinta-alla/a/OkXVOw

Här är en mer sansad analys.

https://copilot.microsoft.com/shares/ZGL9Tf4VpnLvupQ62r5HW

Varför tycker du att AI-slop erbjuder en "sansad analys"? Du verkar ju helt hjärntvättad.

Du har inga argument. Endast hysteri på felaktiga premisser om vad som är möjligt.