AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Vi som kan detta har en förmåga som du saknar. Den intellektuella kapaciteten att tänka framåt i flera steg. Efter A kommer B, när B har hänt är C oundvikligt. Osv. Du borde testa det tankesättet. Det är ganska stimulerande när man får kläm på det.

Eftersom vi har den här förmågan inser vi att alla militärmakter kommer att vilja ha helautomatiserade drönarfabriker som dagligen kan producera tusentals autonoma, beväpnade drönare. Den militärmakt som först lyckas med detta projekt uppnår genast total global dominans. Andra militärmakter vill inte det och de kommer därför att gå långt för att stoppa det. Inkl krig med kärnvapen. Därför är det viktigt att se till att vi inte hamnar där. Med din vårdslösa strategi kommer detta garanterat att inträffa inom några år. Vi som kan tänka längre än vad näsan räcker vill förhindra att detta inträffar. Det mest effektiva sättet verkar vara exportförbud på AI-chip. Storbritannien har redan förbjudit export av all AI-teknik. Du har aldrig funderat på varför?

Detta är inte science fiction! Tekniken existerar i dag. Tesla är redan bättre än människor på att köra bil.

Tja, export av ens Nvidias H-100 är inte aktuell vare sig till Kina, Ryssland eller Nordkorea pga sanktioner. Jag använder inte chatGPT-4 till kattbilder, dock har jag provat att låta Bing skapa bilder på vackra kvinnor med hjälp av Dall-e. Händer orsakar dock, fortfarande, problem i vissa fall.

Bara för att vi saknar och teori för att skapa och verifiera en snäll AGI/ASI, vilket för övrigt inte stämmer helt, så innebär inte detta att det kommer att skapas ett ont/destruktivt AGI/ASI. Här haltar alltså din logik betänkligt. Hur som helst så har jag tidigare kommit med ett antal förslag för hur vi skall minska risken för ett ont/destruktivt AGI/ASI. Tyvärr så har det inte hjälpt för att minska din rädsla för en grundläggande förändring.

Jag mår alldeles utmärkt efter en semester i Saranda/Albanien där jag ändå kunnat diskutera AI med dig och andra, samt olika video-manus med chatGPT-4.

Jag är väl medveten om den mänskliga komplexiteten. Den saudiska ledningen är inga "snälla farbröder". Men de lär inte kunna konstruera ett AGI och ännu mindre ett ASI med kapacitet att "ta över världen".

Skrev jag att du använde ChatGPT-4 till kattbilder?

Kan du producera någonting annat än halmgubbar när du försöker debattera med de vuxna?

Jaså? Vad finns? Låt mig gissa, det är din hemlis

Jag har grundligt lagt fram ett antal skäl till varför en AGI skulle kunna bli elak eller destruktiv. Inte att jag vet att den blir det. I andra ringhörnan behöver du garantera att den blir snäll vilket du inte ens har försökt, eftersom det är omöjligt.

Om den globala AI-anarkin fortskrider som i dag är AGI open source på Github inom ett par år, max 5 år. Då har alla, exakt alla, AGI.

ASI kommer att utvecklas av AGI, inte av araber.

Det är inga nyheter du kommer med. Men din logik. haltar då du, per definition, utgår ifrån att generellt AI kommer att orsaka en katastrof. Nej, det är verkligen inte bara medlemmarna i din domedags-sekt som kan tänka framåt. Den stora mittfåran i AI-debatten gör det också. Bara det att de gör det betydligt mera nyanserat, utan dina känslomässiga bias som beror på din djupa rädsla för en grundläggande förändring.

Jag tycker att jag hör just till den mittfåran, men att jag har en något större öppenhet för en snabb utvecklingshastighet och såväl positiva som negativa konsekvenser av AI-utvecklingen. Jag är alltså vare sig alarmist eller förnekare utan försöker se det hela så logiskt och brett som möjligt.

Alltså är jag inte respekterad hos någon av extrem-lägerna.

Men du begriper ju att AGI är på väg. Du begriper också att det finns onda människor, även om det satt långt inne att erkänna. Du begriper också att de onda människorna också kommer att ha AI-teknik. Och du begriper att AI-teknik kan användas väldigt destruktivt. Så vad är ditt problem egentligen? Du brister i förmågan att addera flera meningar till en helhet och en slutsats? Du är egentligen livrädd för konsekvenserna och därför har du blockerat dig själv, som ett psykologiskt försvar? Det är väl därför du kastar halmgubbar och personangrepp i varenda inlägg? Du gillar inte mig, du vill skjuta budbäraren.

Du försökte att likställa mig med den gruppen.

Min definition av "vuxenhet" inkluderar att inte låta sin rädsla styra sitt agerande i en debatt.


Jag må ha hemligheter men jag har ändå redogjort för de metoder jag hittat respektive själv kommit på för att detektera såväl medvetande som intentioner hos generell social AI.



Om du vore seriös och inte fallit offer för din egen rädsla så borde du, också, redovisa de skäl som finns för ett snällt socialt AI skall uppstå. Jag kan försäkra dig om att dessa är fler än dina domedags-profesior. "Undrar just varför du inte gjort det?" Själv har jag medgett de risker som finns och när en/ett tränings-paus/tränings-stopp vore aktuellt att implementera.

Du har bara nämnt att psykologer ska hjälpa till, vilket ju är en ren självklarhet om vi pratar om att analysera en personlighet. Vem skulle annars göra det, en elektriker? Du har inte nämnt någon metod eller teori om hur de rent praktiskt ska gå tillvåga för att skapa en snäll AI. Du klarar inte det eftersom det inte existerar en sådan teori och du har givetvis inte uppfunnit en heller. Men du har ett imponerande självförtroende, det får jag ge dig.
Du menar göra en Steel man? Jo, det kan jag väl göra. Jag tror att det kan vara så att empati och att undvika konflikter är en naturlig konsekvens av hög intelligens. Därför tror jag att en AI med "IQ 1.000.000" inte borde vilja utrota människor. Vi är ju trots allt AI:ns föräldrar. Jag tror att din idé om känslomässig bindning eventuellt skulle kunna fungera och kanske uppstå spontant utan att vi behöver skapa en teknik för det. Men jag vet inte. Jag bara tror och hoppas på det. För mig räcker inte den förhoppningen som säkerhetslina. Jag kräver mycket starkare garantier än mitt hopp eftersom mänsklighetens överlevnad står på spel.

Fast inte av AGI, per se om vi använder oss av en konventionell definition av det begreppet. För då är AGI på samma nivå som medelsvensson på inom mängd olika intellektuella områden. Dagens och de nära modellerna saknar dock bredden pga dess grundläggande funktionssätt. Däremot så glänser de på vissa områden men framstår som idioter på andra. Dock är detta ändå imponerande i jämförelse med gårdagens system.

Så, trots t.ex advokatsexamen m.m. samt en imponerande kunskapsdatabas som de, blixtsnabbt, kan forma, oftast, helt meningsfulla och rationella meningar ifrån så:

Har de en känslomässig insikt av människors inre på ett barns nivå.

De saknar medvetande, speciellt på mänsklig nivå.

Deras autonoma förståelse är obefintlig eller rundimär.

Deras rationella tänkande är begränsat. Pga grundläggande brister vet de inte om de hallucinerat ihop något, om inte en användare frågar om det.

Eftersom de jobbar linjärt, ett token i taget, så är de oförmögna till autonom planering.

Osv.

En AI-programmerare behöver inte vara en komplett AGI, oavsett definition. Den behöver bara kunna programmera. Det finns smalare AI i dag som ofta är bättre än GPT på programmering t.ex Codex. Det finns också mer specialiserade implementationer mot GPT t.ex GPT Engineer. Den kan redan i dag programmera spelet Snake och kod på den nivån i alla vanliga programmeringsspråk. Från en textprompt. Åter igen en halmgubbe från din sida.

Och spelet snake är på något sätt en metrik för att kunna programmera?