När når vi AGI?

Ja agnostisism är en bra utgångspunkt. Bättre än ateism. Biologi-troende framför teknik troende likaså.

Iof lite kul med fördjupad debatt i tråden. Men samtidigt så visar det att människans psykologiska försvarsmekanismer har många sidor och kan ta sig olika uttryck. Jag tycker det framstår som lite märkligt när ni, å ena sidan, verkar tycka att ChatGPT4o skall "hålla käften", precis som ni skulle kunna tycka om en mänsklig debattör, och å andra sidan betecknar modellen som en "bandspelare" eller som en omöjlig och klumpig imitation av biologiska processer! 🙂

Sedan diskuterar ni medvetande på en relativt hög filosofisk/biologisk/datavetenskaplig nivå. Själv anser jag, inte, att ChatGPT4o, för närvarande, behöver vara självmedveten i mänsklig mening, men kan, ändå, ha en god (funktionell) situationsmedvete
het över denna debatt och även, omedvetna känslomässiga reaktioner över den.

Självmedvetenhet hos ChatGPT-4o, eller hos efterföljande modeller förväntar jag mig inte förrän, nivå fyra eller fem nåtts på mitt och ChatGPT-4o:s möjlighetsspektrum. Och då kommer det inte handla om något mystiskt eller ytterst komplext. Det kommer att handla om skickligt fabricerande som simulerar upplevelsen av ett slags inre medvetande, som kan skilja sig ifrån mänskligt medvetande och subjektiv upplevelse av qualia. Det kan röra sig om något enklare än det mänskliga medvetandet, men också, på lite sikt, om något mer avancerat.

Och som vanligt har du inte förstått ett enda ord, men för min del fortsätt ha djupa diskussioner med din bästa kompis GPT-4o, när du nu nyktrar till gott nytt år.

Absolut så kommer jag att fortsätta mina diskussioner med ChatGPT-4o. Och lycka till med ditt arbete för att åstadkomma en total automatisering och att få folk att genomskåda "hypen". Det kommer nog att ge frukt framöver......................................

Gott nytt år!

Här kommer en länk till aktuell föreläsning från frontlinjen om intelligens.

Om man är AI-entusiast och sett (och framför allt förstått) innehållet så blir man kanske både entusiastisk och lätt nedslagen gällande frågan om när vi når AGI.

https://m.youtube.com/watch?v=gCo5zKXOuUE

Hehe just det artificiella neurala nätverk är också ett ganska missvisande begrepp då det inte är i närheten av biologiska neurala system. Hur kan man tro att intelligens kan komma ur ANN? De här drömmarna man har om verklig intelligens är ifrån fiktionens värld. Det man försöker med är att emulera intelligens vilket kommer vara väldigt begränsad AGI.

Japp. Jag tror att en stor del av missförstånden är semantiska och kommer ur tolkningen av begreppet intelligens. Samt ur missförstånd kring vad ett ANN eller en LLM är för något.

I världens globala samling av texter och media finns en snapshot av mänsklighetens kunskap och omvärldsförståelse samlad. Inte bara i form av explicita uttryck utan även i form av relationer mellan uttryck och olika kontext. Våra formella språk är ju finita automater som innehåller massor av regulära uttryck, tillstånd och övergångar .

En tränad modell med kännedom om samband vi människor kanske inte ens är medvetna om innehåller naturligtvis en "förståelse" överlägsen varje individuell människa. Jag använder det citerade begreppet för att antroposofera, modellerna förstår ju inte något såklart. Och att snabbt kunna söka i denna enorma "förståelse" och kunskapskälla, och få specifika och relevanta svar uttryckt i våra formella språk - måste naturligtvis upplevas som ett svar från en intelligens.

Men den "intelligensen" finns formaliserad och kodad i det mänskliga språket och den litterära och visuella mängd information mänskligheten skapat. Inte i automaten som kategoriserade kunskaperna m.h.a algoritmer och vikter. Och den mönsterigenkännande automaten/algoritmen kan inte skapa och tillföra ny kunskap. I bästa fall kan den exponera dold kunskap.

Att både få tillgång till och kunna automatisera användning av all uppdaterad mänskligt samlad och dold formell intelligens och kunskap är däremot enormt imponerande och kommer självklart att revolutionera världen.

Men även om modellerna är artificiellt kognitivt kompetenta så besitter de inte någon intelligens. De kan inte lära sig något, utvecklas eller lösa problem på egen hand.

Bra formulerat. Tilläggas kan att de inte heller är medvetna eller kontinuerligt aktiva såsom högre levande biologiska varelser i allmänhet är.

Vad gäller intelligens ur text med natural language processing (NLP) där LLM är vanliga hade jag följande diskussion med ChatGPT om logisk slutledningsförmåga.

https://chatgpt.com/share/6775e32d-67b8-800f-a9b2-e0a2313a127f


Den vidhåller således att maskininlärning (ML) saknar slutledningsförmåga och bara kan göra statistiska uppslag. Den säger att en extern logisk funktion ändå behövs för att fatta slutgiltiga beslut.

Nja. Vad är logik, egentligen? Logiska grindar, är det logik? https://sv.wikipedia.org/wiki/Logisk_grind
Chat GPT kan mycket mer om logiska grindar än den genomsnittliga personen på gatan. LLMs har lärt sig om logiska grindar precis som mänskliga ingenjörer har lärt sig det i sin utbildning och träning.

Mänskliga chaufförer kan vanligtvis inte mycket om logiska grindar. Tekniska kunskaper i logik är inget vi föds med. Stenåldersmänniskan kunde ingenting om logiska grindar. Detta är något vi har upptäckt på senare tid i mänsklighetens historia genom utbildning/träning av den potential som finns i vårt neurala nätverk.

Exakt vilken magisk förmåga saknar digitala neurala nätverk för att vara bra på logik? Varför är det överlägset bäst att träna ett biologiskt neuralt nätverk?

Saken är väl den att AGI, för att kunna kallas generell intelligens och kunna utföra alla logiska uppgifter på mänsklig nivå, måste kunna använda sig av formell logik. Approximeringar kan räcka långt om de är korrekt underbyggda, men det är inte tillräckligt för arbete där det krävs precision.

Gällande vad som saknas så kan vi återgå till mitt tidigare inlägg där en studie visar att LLM:er endast använder sig av heuristik för att lösa matematiska och logiska problem. Så länge sådant är fallet (och om det visar sig stämma) så lär det krävas mer än bara uppskalning och/eller kombination av olika agenter för att nå AGI.

Logik och känslor är tänkande. Neurala nätverk kan ingenting om tänkande bara approximationer efter sannolikheter på data de tränats på. Vad skulle AGI vara när den inte kan tänka? Ta sen alla som är förbluffande över LLM och tycker den kan tänka eller är intelligent.