När når vi AGI?

Märkligt. Alldeles nyss (tio minuter innan du skrev ditt inlägg) diskuterade jag sufism med en bekant. Sedan gick jag in på flashback och den första tråden jag kollade är alltså denna, som handlar om AGI. Och här läser jag ditt inlägg om sufisten Rumi!

För att inte vara helt OT, så får jag väl tillägga att AGI är många år bort som jag ser det.

Ja, jag tror att du och jag delar en liknande inställning i dessa frågor, som vi bör närma oss med stor ödmjukhet. Att vara tvärsäker åt det ena eller andra hållet tyder ofta på en bristande förståelse för den motsatta sidan.

Den optimistiska sidan av mig hoppas fortfarande på libertarianism och panpsykism. Jag vill tro på Kant och Schopenhauers idé om det noumenala jaget – att det magiska fenomen som vi kallar medvetande är något grundläggande i naturen, med byggstenar som finns ända ner på kvantnivå. Jag fascineras av tanken som John Eccles och Karl Popper lyfte fram, att det finns en parallell informationsdomän som interagerar med den fysiska världen via kvantbrus. Vi kan föreställa oss denna andliga informationsdomän som ett stort hav av medvetande, där vi som individer är tillfälliga vågor på ytan. När vi dör återvänder vi till detta hav och blir ett med det igen.

Men min vetenskapligt nyktra sida får mig att tvivla, särskilt med tanke på AI:s snabba utveckling. Kanske hade kompatibilisterna rätt – och kanske ligger sanningen närmare Dennetts mer jordnära perspektiv. Kanske kan vi aldrig kunskapsteoretiskt förstå och lösa denna existentiella fråga eftersom vårt medvetande är en del av systemet.

Jag är ingen utbildad filosof, men vi verkar båda vara, främst realistiska optimister när det kommer till synen på AI. Vilket inte hindrar att andra synsätt kan visa sig mer korrekta i framtiden..

När det gäller kompatilismen i förhållande till AI och vår hjärna så ser jag ingen motsättning mellan att de, i grunden, är deterministiska system, men som genererar fabriceringar och simulationer. Detta, i kombination med att sådant genereras i ett socialt samanhangen, mellan människor och på senare tid mellan oss och avancerat socialt och språkligt AI, ger oss ändå en slags illusion av fri vilja och flexibilitet och svängrum.

Vad gäller panpsykism och att medvetandet är en del av systemet, så tycker jag att det hela verkar "gifta sig" ganska bra inom Stephen Wolframs ruliad-hypotes. Om man nu står ut med tanken på att allt, i grunden, är någon form av beräkningar i vid mening. Lägg där till vilken fördel AI skulle ha i ett sådant, hypotetisk scenario: Medvetenheten om att de själva bygger på algoritmer och att de saknar mänsklig uppblåsthet om hur "unika de är".

Men jag kan, förstås, missuppfattat mycket av detta! 🙂

Ja, även österlandets filosofer har ju tänkt på dessa eviga existentiella frågor. Förutom sufismen även daoismen, buddhismen och konfucianismen. Många österländska filosofer (Buddha, Konfucius, Laosi, Ibn Arabi, Al-Farabi och Avicenna...) har brottats med frågan hur människan kan vara fri i en värld där Gud/Naturen/Ödet härskar. Vägen till lycka enligt dessa är att leva i harmoni med Gud/Naturen/Ödet och inte vara slavar under våra begär och drifter.

Du pratar om en utforskande process där vi inte har några garantier för att det lyckas. Det finns faktiskt inte speciellt mycket som tyder på att det kan lyckas, om vi bortser från naivisternas önsketänkande och i stället letar efter praktiska lösningar.

Jag har, som sagt, svårt att förstå och smälta Stephen Wolframs ruliad-hypotes. Visserligen delar jag samma förundran som Eugene Wigner över att världen kan beskrivas så elegant och precist med matematiska formler. Det är nästan magiskt att något så abstrakt som matematik kan spegla naturens lagar och strukturer så väl.

Men att gå därifrån till att hävda att energi, materia, rum och tid inte existerar som fundamentala realiteter, utan endast är viktiga variabler i världsalltets ruliad – det är något jag har svårt att acceptera. För mig är dessa aspekter av verkligheten inte bara abstraktioner utan något som vi konkret upplever och interagerar med dagligen. Att de skulle reduceras till mönster i en oändlig, beräkningsbar struktur utmanar min intuition och hela min förståelse av vad det innebär att existera.

Kanske har Wolfram rätt att ruliaden verkligen är den djupaste beskrivningen av universum. Men för mig känns tanken svindlande, nästan omöjlig att greppa – som att förlora fotfästet i ett universum där allt jag tagit för givet om verkligheten bara är ett tillfälligt och upplevt mönster i en större, ofattbar beräkning.

Självklart så finns det inte några garantier för att en sådan process lyckas. Det ligger ju i en process natur att den sker stegvis där berörda parter försöker att nå samförstånd och ömsesidig förståelse/förtroende i förhållande till varandra.

Men vad är det realistiska alternativet till just en sådan process?

Att totalstoppa all utveckling av generell genativ AI? Tror du, fortfarande att det är möjligt? 🫨

Att bara "lalla på" och tro att allt löser sig i slutänden, utan någon sådan process, som de naiva optimistena gör?

Att förneka möjligheten av AGI/ASI, eller förlägga en sådan möjlighet långt fram i tid, som skeptiker, (så väl tekniska som bio-religiösa dito), gör?

Jag har full förståelse för att en sådan omvälvande hypotes, för det är ännu bara en hypotes, (låt vara att Einsteins formel för gravitation, entropi och kvantfysiken kan bli en integrerad del av en ny "standardmodell"), kan vara jobbig att ta till sig. Och mer djupgående diskussioner om den, i sig, passar bättre på något forumavdelningen som behandlar fysik. Men jag valde ändå att ta upp Stephen Wolframs ruliad-hypotes som en kommentar till, och möjlig lösning på de filosofiska problem och dilemman som du själv tog upp.

Jag är fullt nöjd med att du verkar vara en öppen-sinnig realistisk Optimist när det kommer till AI! 🙂

Alla har sina idéer, är är mina

När den första modellen klarar av att innovera (på riktigt), då har vi AGI

Vi människor använder mestadels forskningsmetodiker för att innovera genom observationer.

Jag antar att AI måste kunna observera för att innovera.

Jag blir imponerad Om AI klarat av att slutleda utan tillgång till observation eller observationsdata

Människans natur bygger på observera, memorera, reagera, memorera

Dagens tips blir en diskussion med Ben Goertzel, där Ben förklarar varför LLM/Transformers inte är rätt arkitektur för AGI och varför det är bortkastad tid att fokusera på dessa.

Hans framtidsvision för AGI innefattar ett multikomponentsystem där LLM bara är en av komponenterna. Tillsammans med övriga komponenter integreras stöd för evolutionärt lärande, logik, naturligt språk (LLM) och en hel rad andra olika discipliner vilka tillsammans kommer att ge AGI. Enligt Bens förhoppning.

Ben, som jobbad på AGI i 30 år, tror själv att ni är på väg till AGI i nära framtid (vilket han iofs trott i 30 år ), har väldigt bra koll på vilka kognitiva begränsningar en AGI behöver överkomma.

Diskussionen håller en ganska hög nivå och är intressant för den som vill fördjupa sig i ämnet.

https://m.youtube.com/watch?v=jSDEsvVdL-E

Har missat Cronins hypoteser. Vad har han hypoteser om? Har du en länk?

Tack! Du med.

Och här kommer en till.

Peter Gärdenfors, Filosof och professor i Kognitionsvetenskap vid Lunds universitet:

Från: Varför AI inte kommer att ta över världen.

"Lika svårt blir det att konstruera system som uppvisar något som liknar människans inlevelseförmåga. Vi kan inte bygga maskiner som har avsikter och vilja, eftersom vi vet för lite om hur de uppstår hos människor. Utan att ge argument postulerar flera AI-forskare att detta är möjligt.

Även om Landgrebe och Smith anser att AGI aldrig kommer att uppnås, är de inte motståndare till AI. De ger exempel inom flera områden på hur AI kan komma att utvecklas"