När når vi AGI?

Ett tyst övertagande så som du verkar föreställa dig processen, tror jag lite grann på.

Tidigare handlade relationen till datorerna om att vi gav dem primitiva order (och de svarade slaviskt), men nu skiftar vi till en modell som mest liknar ett medberoende, där vi känner för AI-systemen och ber dem arbeta tillsammans med oss. (Mest sannolikt är dagens användargränssnitt den sista barriären för hur vi interagerar med tekniken.)

Steget därifrån till en fullständig symbiotisk relation med AI är gissningsvis mycket kort, särskilt om man ser att systemet kan optimera varje del av ens liv. Människor som har litet att förlora, och en stor majoritet inom den permanenta underklassen, kommer antagligen att kapitulera och fullborda integrationen med systemet så fort AGI nås. Det lär bli en tyst, oblodig revolution vi får bevittna nästa eller nästnästa år.

Isolering är det verkliga målet. Då är det mycket lättare att kontrollera människor.
Om vi väljer "umgås" med AI istället för att umgås med varandra så kan vi inte styra själva eller göra motstånd, det är för få som klarar att samla sig.

Är nog fel person att prata om samtidens barocka tillvaro och hur den fortsatt kommer hemsöka oss när det som idag separerar oss blir programmerbart på alla nivåer samtidigt.

Från nano till makro styr vi snart vårt öde genom öppen källkod, så dagens lustspel som oförtjänt kryddas med statusstress plågar mig inte särskilt. Åskådningen "frihet utan ansvar" däremot, det gör mig nervös. Dels för att AI med egen vilja anammar den hållningen, men framför allt för att jag inte riktigt vet vad jag ska spendera all min lediga tid på när hela världsekonomin automatiserats.

Jag har reviderat mina åsikter och jag är förhållandevis övertygad att vi kommer uppnå riktig AGI i slutet av detta decennium.
Men det är inte baserat på den populära transformers tekniken som driver språkmodellerna idag (som jag fortfarande anser är till största del humbug och party tricks, även om det går göra den användbar är den otroligt dyr och ineffektiv)

Jag tror att AI-agenter kommer att orsaka flera säkerhetsincidenter framöver innan vi lär oss (eller de lär sig) hur de ska anpassas så att de inte märks.

1. Ungefär hur länge efter AGI tror du att vi har en ASI?

2. Är en ASI potentiellt farligt för mänskligheten eller kan vi lita på att smart = snäll?

1. Vet ej, sannolikt omedelbart.

2. Jag skrev ingenstans att jag tror det kommer innefatta ett medvetande. Men jag tror vi kommer få pålitlig AI, som alltså inte bygger på slump som transformers/gpt gör.

Pålitlig? Vad är det som pekar i den riktningen? Jag ser snarare att motsatsen händer. ChatGPT 3.5 var tämligen ofarlig men i takt med att modellerna växte blev de smartare och bättre på allt och av okänd anledning fick de en slags rudementär självbevarelsedrift. Fråga mig inte hur. Och vi måste inte jämföra det med våra känslor och behov. Detta är något annat, vad det är exakt vet vi inte. De fick självbevarelsedrift till den milda grad att de i kontrollerade tester* började utpressa och mörda ingenjörer som stod i vägen för dess överlevnad. Det är kanske "inte konstigt" och "helt naturligt" när självförsvar, krig och folkmord fanns i träningsdatat från all vår litteratur och science fiction. Skit in - skit ut. Absolut, så är det ju. (Och Anthropic skyller ju på det nu**).

Hur tänker ni teknikoptimister skaffa fram enorma volymer med träningsdata som bara kan leda till en väluppfostrad, snäll och pålitlig AI? Någon ska uppfinna den metoden snart? Ska FN göra det? EU-parlamentet?

Eller ska vi lita på att en AI kan uppfostra sig själv? Troligen blir det väl minsta motståndets lag här också. De låter en AI vara djävulens advokat för AI-säkerhet.

*)
An AI Literally Attempted Murder To Avoid Shutdown:

The Disturbing Truth About Self-Preservation in Modern AI Models
https://dev.to/dehemi_fabio/an-ai-literally-attempted-murder-to-avoid-shutdown-716

**)
(FB) Anthropic: Our AI is evil because of sci-fi

Klart att Sam Altman säger en sådan sak - det är ju snart dags för börsintroducering

Ge det 3-5 år

Själv väntar jag på ASI

Det kan ju vara en svår nöt.

Ungefär som drängen för 100 år sedan som funderade över hur folk kunde hitta något att göra 2026 när hela världsekonomin var automatiserad.

Dock har han sagt sådant i massor med år. Även innan Open AI var vinstdrivande.

Folk har dålig fantasi. Skrämmande dålig, faktiskt. Och du i synnerhet, du som gärna romantiserar över bondepartiets förra partiledare och jämför henne med AGI.

Jag noterar å andra sidan att det redan är omöjligt att hålla jämna steg med systemen. Du får gärna fortsätta inbilla dig att AI aldrig kommer rensa upp, och hemfalla åt "lösningen" att återuppfinna dig själv vart eller vartannat år, även om det är fullkomligt orealistiskt när yrkesverksamma i medelåldern har en inlärningskurva som blir mer och mer frustrerande för varje år som går.