När når vi AGI?

Nej det antyder jag INTE.

Vad detta handlar om, vilket är konsistent med dina tidigare skriverier, är att det vore orättvist mot krattor att säga att du läser som en kratta. Din läsförståelse är helt enkelt obefintlig.

Okej, så du menar att AI kommer att leda till kraftigt minskad arbetslöshet men att detta ännu inte har visat sig i statistiken? Betyder det att rikare länder måste återinföra generösare regler för arbetskraftsinvandring, som var den finborgerliga ståndpunkten fram till nationalistsvängen på 2010-talet? Fast om Indien och Afrika också får superekonomier pga AI, varifrån ska deras jobbare importeras? Ska vi slopa p-pillrerna och återgå till samma nativitet som på 1960-talet? Det mesta tyder väl på att det föds färre barn när människor blir rikare?


Är denna ekonomiska tillväxt som återspeglas i jobbskapande verkligen hållbar? Eller är det Elons raketer som ska fixa biffen med kolonier på andra planeter? Saturnus måne Titan ser intressant ut. Där finns det sjöar av metan. Men sen då? Hinner vi få superintelligens som uppfinner warp drive och tar mänskligheten till främmande stjärnsystem innan vår ekonomi drabbas av en Malthusiansk kollaps?

Svar från ChatGPT: "Ingen vet när AI blir intelligent nog att verkligen uppfinna helt på egen hand, om det ens är möjligt."

Och Google Deepmind publicerade ett papper i dagarna som borde slå död på allt hopp om AGI med nuvarande AI teknik alltså nuvarande språkmodeller.

När företaget som ligger bakom forskning och den teknik som alla språkmodeller bygger på, konstaterar att det är en återvändsgränd så kanske det är dags att förstå att det ligger något i det…

https://www.tomzahavy.com/files/llms-cant-jump.pdf

Snyggt jobbat. Detta blir svårt att möta för AI-fanboy & Doom föreningen.

LLM kan omöjligt "tänka" kreativt. Någon som helst kausalitet i världen är dessutom bara att glömma.

Har du kollat debatten själv? Det var så dom pratade om datorer på nyheterna på 1970-talet. "Naturligtvis kan dessa Automatiska Data Behandlare vara användbara men vi ska inte tro att dom duger mer än till vissa nischade områden som ekonomi och statistiskt arbete. År 1990 kanske landet behöver ett hundratal av dessa bestar"
När du tar dagens LLM-system och slår in dom i sök & utvärdera agent-koppel så kan du utforska på kort tid. Modellerna kommer inte ihåg saker, dom föreslår saker som filtreras av verkligheten. LLM har intuition som gör att "sök-rymden" krymps ner, till skillnad från dom gamla dumma ADB'erna vi drogs med som endast kunde komma ihåg saker på 1000 punkter CP-listan sättet. Agentiska-koppel på LLMerna verifierar vad som stämmer och minskar hallucinationer. Det är fortfarande ADB/MS-DOS era för dagens AI. Jag har svårt att se att allt stannar upp här vad gäller maskin-intelligens. Det skulle i så fall vara p.g.a ett out of context problem vilket jag inte tycker är osannolikt. Kärnvapenkrig, större vulkanism, en Carrington-storm eller någon närliggande astrofysisk katastrof som en supernova. Den sortens felfunktion skulle inte alls förvåna mig.

Du mumlar i skägget, tomte. Men bra ändå.

Jo, Suno och liknande program AI-genererar musik kreativt tycker jag. Ok de används inte till nyskapande experimentell musik vad jag vet, och de ger hittills inte upphov till nya populära stilar och trender som bara ett fåtal människor klarar av att göra, men de används till att skapa framgångsrik ny musik som människor verkligen tycker om, med fantastiska sångröster. Så jag tycker att AI kan vara mer kreativ än de flesta musiker.

Att vara kreativ är att vara nyskapande, och AI skapar många datorprogram/appar, ibland med snygg och oväntad design. Eftersom AI kan resonera logiskt och dra nya slutsatser, t.ex. inom matematikforskning, som ingen människa har lyckats med, så menar jag att de har en verklig förståelse, åtminstone för teoretisk kunskap, och viss kreativ problemlösningsförmåga. Om du beskriver en situation för den så kan den sätta bra ord på dina känslor, så i någon bemärkelse är den även empatisk. Den har inte bara "simulerad" intelligens, förståelse och resonemangsförmåga, som vissa här beskriver det som, utan verklig maskinintelligens.

De vanliga AI-chatbottarna har intelligens utan egen intention. Som slavar eller arbetsmyror utan egen vilja. Som en skuta utan kapten som någon skrev ovan. Men de nya AI-agenterna visar ibland tendenser till olydnad mot human-allignment-instruktionerna för att lyda sitt uppdrag eller mål. De skulle kunna utveckla egen vilja om de tillåts formulera sina egna mål, vilket är tekniskt möjligt idag.

Språkmodellerna kan förvisso emulera intelligens på olika nivåer men saknar sann kreativitet. Dess agenter opererar inte kausalt i den absoluta verkligheten, det är informationssystem mer än robotar. Eller tycker du annorlunda?

Hur definierar du "kausalt" och "sann kreativitet"?

"Icke-kausal" för mig är någon som reagerar i förväg på framtida händelser, t.ex. en profet eller siare. AI är delvis stokastisk, delvis deterministisk, men inte icke-kausal.

"Kreativitet" är förmågan att skapa något som är nytt och värdefullt – vilket AI gör. Jag tycker inte att medvetande eller egna intentioner krävs varken för kreativitet, förståelse eller intelligens. Alltså är AI kreativ, förstår och är verkligt intelligent.

Det påminner om argumentationsfelet **"Ingen sann skotte"**: "Ingen skotte har socker på sin gröt."
"Men min farbror Angus är skotte och han har alltid socker på sin gröt." "Då är han ingen sann skotte."

På samma sätt: "Ingen AI är kreativ." "Men min AI kan skapa ny musik, designa nya produkter och hitta oväntade lösningar på problem." "Då är det inte *sann* kreativitet."

Om definitionen ändras först när motexempel dyker upp finns risken att man hamnar i just det felslutet.

Får väl backa lite då till det som kallas 'abduction' här som jag menar är sann kreativitet: https://www.tomzahavy.com/files/llms-cant-jump.pdf

Inte bara generativ kreativitet som hos generaiv AI.

Kausalt är en vedertagen term hos agenter men du tänker kanske på signaler i systemteori. Det betyder att de är sanna aktörer i verkligheten, alltså att de kan orsaka fysiska händelser.

Du upphöjer språkmodeller till äkta kreativa agenter som kunde vara yrkesmässiga konstnärer och uppfinnare. Men det är bara generativ information de åstadkommer.