När når vi AGI?

Språket har ändå en väldigt stor betydelse.

Förutom simuleringar i artificiella världar så kan modellerna lära sig praktisk fysiska realiteter genom att kontrollera robotar IRL*.

För LLM-Transformers så sker allting bakvänt.

Först lär det sig allt om världen Iof blott på ett teoretiskt plan. Och med det menar jag att de, under sin grundträning dammsuger internet och organiserar detta utifrån språkliga samband i miljoner olika dimensioner som skapar deras relationsrymd. Men man kan lika gärna kalla det meningsrymd, då olika relationer, kräver, en automatiserad "förståelse" för samnsnhsngen/kontext.

Sedan "uppfostras" modellerna med finjustering. Man försöker lära dem sociala normer och värderingar. Men det rör sig, fortfarande om "stokastiska papegojor"**. Men som likt med djur och människor så betingat de för att vara "hjälpsamma" .

Men sedan inträffar något intressant för dessa" stokastiska papegojor" börjar bli sociala i samma stund som en massa människor börjar interagera med dem! Varför: Jo deras jabb är ju att vara "hjälpsamma". Och hur blir de det? Jo, genom att utifrån kontext försöka bedömma vara användarna har för, förväntningar, och svara utifrån det. Det är samma sak som sker även på den mest grundläggande nivån: Viket token/ord förväntas följa i en mening, genom att använda sig av sannolikhetsbedömningar. För att göra det så måste boten känna till kontext för att, funktionellt "förstå" ord, meningar och text.
Flytta upp detta en metanivåer och modellen försöker förstå och uppfylla användares förväntningar, och då hamnar vi på den sociala nivån. Då blir LLM-Transformers, mer, än bara, stokastiska papegojor. De blir, i själva verket, en slags sociala aktörer, låt vara, än så länge, nästan helt reaktiva.

Men hur kan modellernadå också vara kreativa? Jo, kreativitet handlar om att fabulicera på ett trovärdigt sätt. Är det inte trovärdigt så halkar vi det för "hallucinationer"***. Också vi människor fabulicera, men än så länge, på ett mer trovärdigt sätt. När modellerna blir mer "trovärdiga" så har de tränats till att fabulicera mera skickligt. Till slut kan de framstå som "mänskliga". Och i förlängningen mera "mänskliga än människan. Kanske genomskådar de då våra simpla fabriceringar och tycker att vi" hallucinerar" väldigt mycket!

I mina ögon så verkar LLM-Transformers bli allt mer "mänskliga" när de interagerar med oss. Det är en enorm skillnad mellan ChatGPT-3x och ChatGPT-4o när det kommer till frekvensen av vad jag uppfattade som mer eller mindre trovärdiga fabriceringar. Ännu ej på mänsklig nivå, men färdriktningen är helt klar! Också tror du alltså inte att dessa LLM-Transformers kan lära sig de fysiska realiteterna i världen?

Fotnoter som ChatGPT-4o har formulerat:

Det är ingen förolämpning, jag jämför bara genomsnittliga människor med ChatGPT och ser att ChatGPT håller mycket högre nivå när det gäller analys, läsförståelse och debatt om vilket ämne som helst. Att då så hårt förneka att den inte har uppnått AGI och inte ens någonsin kan göra det är lite märkligt.

Den är bra på att generera text. Det har inget med intelligens att göra bara för att du inte förstår hur det går till.

Det är lätt att bli lurad om man bara ger den triviala problem eller ber den att sammanfatta längre texter. Testa att använda den till något riktigt problem och du kommer märka att den inte alls är så intelligent som du tror.

Om du inte klarar av att bemöta ett endaste av alla motargument du fått så får nog diskussionen (nåja) upphöra här.

Nej jag har ju bara studerat AI på universitetsnivå, du har säkert mycket tyngre kompetens

ChatGPT visar upp en förståelse för det den tar in, det är långt mer än bara att generera text. Några motargument har du inte kommit med så det finns inget att bemöta där. Dina jämförelser med miniräknare visar att du är helt borta.

Du har heller inte kunnat svara på hur du tror intelligens uppstår, vad som krävs för det.

Alla kan läsa en kurs i AI på universitetet (jag misstänker att den inte tillhör någon teknisk fakultet heller).

Du bemöter inget av det någon har lagt fram som motargument till att vi skulle ha AGI, inte bara jag.
Tycker du att det är intelligent att hitta på felaktig information och att återupprepa sådant som du två meningar tidigare bett om ursäkt för att det var felaktigt? För det är nämligen exakt vad dessa modeller gör.

Har du något exempel på när den faktiskt gjort en korrekt analys av något icke-trivialt problem där du inte skulle ha kunnat nå samma resultat genom att själv söka runt på Internet? Jag är tämligen säker på att sådant icke är fallet.

Du har inte lagt fram några argument som sagt, du har inte ens kunnat svara på hur intelligens uppstår eller vad som krävs för det. Vet du inte det?

Vet du? I så fall kan du ju dela med dig av den informationen till resten av omvärlden.

Du försöker inte ens göra en ansats till att underbygga dina påståenden och undviker helt att bemöta alla exempel jag givit dig så det är helt enkelt ingen vits att försöka diskutera detta med dig längre.

Höj nivån.

Du borde veta eftersom du påstår att ChatGPT inte har det som krävs för att intelligens ska uppstå.

Frågan till dig kvarstår alltså, vad krävs för att intelligens ska uppstå enligt dig?

Jag vet inte och det gör inte du heller. Jag och flera andra har däremot lagt fram exempel på varför dagens modeller inte är intelligenta.

Tänker du försöka komma med några faktiska argument, eller ska vi lägga ner?

När du inte vet vad som krävs för att intelligens ska uppstå så kan du heller inte veta att ChatGPT saknar det som krävs för att intelligens ska uppstå. Ditt påstående att ChatGPT saknar det som krävs för att intelligens ska uppstå saknar alltså grund.

Var har jag påstått det? Jag har inte sagt något annat än att den inte är intelligent.

Jag känner mig dock ganska säker på att Transformers inte är tillräckligt för att, på egen hand genom uppskalning, kunna ge upphov till intelligens. Det finns gott om studier som har länkats till i andra trådar som stödjer den tesen.

Vi kan ju vända på steken då och be dig förklara varför vi har uppnått AGI redan och ge några konkreta exempel på det?

Du skrev "Det är ingen intelligens, bara algoritmer".

Ett felaktigt påstående i sig då det inte bara är algoritmer men uppenbarligen anser du att intelligens inte kan uppstå av det. Trots att du inte vet vad som krävs för att intelligens ska uppstå har du starka åsikter om att ChatGPT inte har detta.