AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Anthropic har redan lagt in FN:s deklaration om de mänskliga rättigheterna i Claude, vilket är ett bra första steg, men det räcker inte i längden, (tänk "Myrornas rättigheter"). Känslomässig bindning till människan hos sociala LLM är bättre. Men i det långa loppet så är det cyborger som gäller för oss.

På vilket sätt blir AI:n snäll och bra när din hjärna placeras i en maskin?
Och varför skulle en ASI vara intresserad av att bevara din hjärna när din intelligens är 0,01 promille av en ASI? Du är lika oviktig som en myra. Detta är kanske ditt stora problem här, du vägrar att se dig själv som obetydlig. Du blandar ihop din egen självkänsla med AI-teknik, detta är inget framgångsrikt koncept.

Har du hört talas om det psykologiska begreppet "överföring"? Tragiskt nog är du beredd att riskera ett kärnvapenkrig pga att du vill "vinna" över alla "mansgrisar". :

Jag har inga problem med att acceptera att lilla jag har, noll, inflytande över IT-företagen. Jag kan bara hoppas på att de är så desperata efter en lösning att de börjar bryta det tabu som verkar finnas hos datavetare mot samhälls- och psykologisk forskning.

1. Vi riskerar kärnvapennkrig pga AGI och militär AI, inte pga mig.
Men naiva och otekniska personer som dig förvärrar problemet eftersom ni inte kan begripa riskerna.
2. Vem har sagt att det är tabu? Problemet är att de inte vet hur. De kan inte kan styra LLM:s på den nivån som du önskar. Det är ingen AI-bebis som ska uppfostras. Det finns ingen känd teknik eller metodik för din idé och därför håller den inte måttet. Dessutom förutsätter din idé att det inte existerar några mänskliga skurkar eller psykopater som kan missbruka AI och det vet vi ju helt säkert att det inte stämmer.

Men du är ju beredd att, i värsta fall, ta till kärnvapenkrig för att stoppa utvecklingen av generell AI.


Om man är teknisk eller inte har ingenting att göra med om man förstår risker eller ej. The alligement problem handlar, i praktiken, inte bara om att anpassa AI till människans behov och värderingar. Det handlar, minst lika mycket om samspelet mellan AI och människan. Ju närmare vi kommer AGI/ASI ju större betydelse får detta. Och det området är ni tekniknödar inte experter på!


Som sagt var: Ju närmare vi kommer AGI/ASI ju större betydelse får interaktionen mellan AI och människa. Och humanister/samhällsvetare/sociologer/psykologer/socialpsykologer m.fl. känner till bra mycket mer om sådant än datavetare. Det ni kan bidra med då är kunskap om modellerna tekniska möjligheter och begränsningar.

Det datavetare dock inte verkar förstå är att social språklig och symbolisk interaktion med modellerna innebär/befinner sig på en högre övergripande metanivå än att pula med enskilda.parametrar. Men som sagt var: Det är ingen större vits för t.ex symboliska interaktionister att integrera med LLM i nuläget, givet att modellerna saknar förmåga till genuin självreflektion pga deras grundläggande begränsningar. Läget för det kan dock var helt annorlunda inom en snar framtid.

Och du vill att Vladimir Putin ska kontrollera världens första Artificial Super Intelligence och att NATO ska låta honom ha det, dvs total global dominans och slutet på demokrati i västvärlden?
Jo, eftersom det är väldigt lätt att förneka riskerna när man inte förstår riskerna. Du är lyckligt ovetandes om potentialen. Det blir lite som att fråga en bonde från medeltiden om en kärnvapenrobot är farlig. Han vet inte vad det är och blir kanske bara imponerad över det stora metalliska röret med helt okänd funktion. På samma sätt blir du imponerad av att Chat GPT verkar så trevlig i sina svar.
Men ni har ju inte löst problemet med människa till människa interaktion. Vi har ingen homo sapiens alignment. Vad som är rätt värderingar beror på vem du frågar. Här finns en stor variation och många källor till konflikt och krig. "Ni psykologer" kan ju börja med att lösa human alignment, löser ni det är ni kvalificerade att lösa AI alignment. Lycka till.

Kommer människan tvingas agera likt judge dreed? (eller blandar jag ihop filmerna här? högst troligt.. ) där man straffar någon INNAN ett "brott" begåtts`? Tex, X land håller på att utveckla en potenciellt skadlig AI... bomba skiten.

Pre-crime är från "The Minority Report". Bomba länder i förväg är annars inget nytt. både Israel och USA+allierade har t ex vid flera tillfällen bombat Irak för att de misstänker att landet avsett skaffa kärnvapen. Iran lider under hårda sanktioner och har drabbats av sabotage och lönnmord av samma skäl.

Möjligtvis Xi Jinping, inte "Putler". Rysslands enda chip-fabrik arbetar med 90nm teknik.Standard hos oss ligger väl på 3mn numera.

Iof illa om kineserna hinner ta ledningen inom AI, (förutom AIbövervakning av befolkningen, vilket de redan är världsledare på.)

Men det finns två saker som talar emot detta:

USA:s och västvärldens sanktioner

Kinas ekonomiska problem. Landet har deflation nu och både export och import minskar i värde.

Om två år kan Xi mycket väl blivit så mör att han är beredd att skriva under på en global träningspaus för nya stora AI modeller. Inte minst också för att ett eget ASI kan utgöra ett större hot emot CCP än vad USA gör.


Nopp, jag är inte naiv i förhållande till dagens LLM. Men jag är heller ingen alarmist i dagsläget.


Börja du med att lösa ditt eget alligement problem i förhållande till mänskligheten så skall du se att du kan slappna av mera och förespråka en testpaus effektivare. Den enda orsaken jag har för att diskutera vidare med dig är att en debatt om the alligement problem är viktig, i sig.

Jag behöver inte lösa The Alignment Problem eftersom jag inte tycker att AGI-utvecklingen ska fortsätta längre än så här. Vi får hoppas på att andra kan lösa The Alignment Problem. Det kommer att krävas teknik och tvärvetenskaplig forskning. Det kommer att ta många år, kanske decennier. Du som vill trycka plattan i botten på AGI-utvecklingen har däremot ett ansvar för att förklara hur det kan göras på ett säkert sätt. Eftersom du driver den politiska linjen. Men det kan du ju inte. Du vet inte heller hur The Alignment Problem kan lösas eller om det ens finns en lösning. Du är alltså gravt ansvarslös och slarvig i ditt AI-engagemang.

Det finns inget alignment problem. Efter som det inte finns någon AGI och kommer inte göra på överskådlig framtid heller, oavsett hur mycket du än grepar efter halmstrån och försöker påvisa det.

Och utveckling kommer alltid fortsätta så länge det finns ekonomiskt incitament för det, det spelar ingen roll om någon "Cyborg2030" skriver domedags profetia som en religös på flashback.

OM AI får börja styra diverse kärnvapen ?