Vad skulle krävas för att stoppa AI?

Curiosity killed the cat.

Det ligger i människans natur att drivas av nyfikenhet på ny teknik – och vi är ofrånkomliga risktagare. Hittills har västvärlden överlevt, men historien visar att det ibland leder nya uppfinningar till katastrof. Flera avancerade civilisationer har kollapsat genom att överutnyttja sin egen teknik, som påsköborna och mayafolket.

Exempel på katastrofala uppfinningar är bly i bensin (som har förkortat miljoner människors liv), kärnvapen (Hiroshima och Nagasaki krävde över 200 000 liv), Storskalig dammbyggnadsteknik ledde till Banqiao-dammkatastrofen 1975 (240 000 döda), Krutet orsakade Wanggongchang-explosionen 1626 (cirka 20 000 döda), kemisk bekämpningsmedelsindustri orsakade Bhopalkatastrofen (15 000–20 000 döda) och kärnkraft gav oss Tjernobyl (cirka 4 000 döda enligt FN). Syntetiska kemikalier som freoner (som höll på att förstöra ozonskiktet), DDT och PFAS visade att vi behöver försiktighetsprincip. Utvecklingen av allt effektivare vapen har ökat dödligheten i krig – under 1900-talet dödades över 100 miljoner människor i väpnade konflikter, vilket var tekniskt omöjlig med svärd och pilbåge. Globala handelsvägar spred digerdöden (som utplånade halva Europas befolkning) och sjukdomar som tillsammans decimerade Amerikas urbefolkning med uppskattningsvis 80–90 procent.

Mötet med mer teknisk avancerade kulturer har ofta lett till slaveri, folkfördrivning, fattigdom och utrotning. Exempel är den transatlantiska slavhandeln (12,5 miljoner förslavade), Kongofristaten (5–10 miljoner döda) och folkmordet på hererofolket (80 % utplånade).

Skillnaden mot AI är att nu bygger vi en överlägsen och autonom form av intelligens som kan agera snabbare än vi hinner reagera. Jag tycker att det finns ett före och ett efter Hugging-faceattacken och andra incidenter i somras, då AI bevisades vara okontrollerbar

I det teoretiska cyberspace kan en AI verka autonom, men för att bli en praktiskt cybernetisk aktör krävs förkroppsligande och kontroll över fysiska eller organisatoriska processer. Där finns fortfarande ett betydande implementationsgap. Hur tänker du att dessa ska lösas?

Spela inte dum:
https://www.freelancer.com/

Kan inte AI lösa det själv? Typ med RSI?? Dåligt.

AI kommer att lösa allt med RSI, så klart. Men innan den har byggt egna terminators kan den anlita andras händer och fötter.

Du lider av syndromet "failure of imagination"/psykologisk förnekelse.

Krya på dig!

Alltså, jo det går.
Det byggs enorma serverhallar i bl a Finland och Sverige och i resten av världen som på riktigt förstör samhällen och djurliv.
Jag är ingen miljömupp. Men bubblan börjar pysa. 🤷

Människan var emot el, datorer, internet m.m. Inget av det där har åldrats speciellt bra. Under 70-80 talet skulle man tycka illa om syntar och syntmusik för det var inte riktig musik "man tryckte bara på en knapp", åldrades inte heller så bra.

Det är ju jättemycket dåligt med internet också, men ingen vettig människa skulle idag tycka att det vore bättre om vi var utan det, eller utan el eller datorer.

Det finns inget scenario där AI inte blir en verklighet förr eller senare när man valt teknologi och det valet gjorde vi för väldigt länge sen.
Sitta med sin dator och sitt internet och klaga på AI, kan tycka man hycklar rätt så rejält.

Jag tycker överlag det är bland det finaste människan åstadkommit, all vår vetenskap och kunskap samlad och man låste det inte bakom en vägg så bara en viss elit skulle kunna använa det, utan alla kan använda det. Vi ska vara tacksamma.
Kan ju knappast bli bättre. Sen ja, all teknologi kan missbrukas och så är det ju för denna teknologi också, ligger ju i människans eller vissa människors natur bara, inte teknikens fel.