När når vi AGI?

Tack, jag är medveten om att så väl IQ nivå som bredden på tänkandet varierar mellan olika debattörer här. Själv prioriterar jag brett tänkande, även fast detta är svårfångad att definiera precist. Men, givetvis kan ett lågt IQ ställa till det med tanke på förståelsen.

Om vi nu återvänder till topic så måste jag säga att, ChatGPT-4o kompenserar sitt dåliga resultat på ARC-pussel väl, just genom brett tänkande och kreativitet. Min gissning är att OpenAI kommer att få jobba hårt för att få till en modell* som, både, kan tanka brett samt vara trovärdigt kreativ och resonera rationellt och logiskt när det behövs. Jag tror att det skulle vara bra för AI-säkerheten/anpassningen, både nu och på sikt.

*Vi vet redan att OpenAI jobbat hårt för att ge "Orion-modellen" tillräckligt med prestanda utan att driftskostnaderna blir helt orimliga. Sam Altman har på sitt vanliga kryptiska vis sagt att han "gillar stjärnhimlen på vintern". Detta gör att många spekulerar om att "Orion" i alla fall kommer att presenteras senast i slutet av februari nästa år. Kanske har du rätt och "Orion" blir sista, spiken i kistan för LLM-Transformers teknologin. Eller också får du helt fel och modellen ger en snabb utveckling av den teknologin. Förhoppningsvis så får vi svaret på det inom några månader. 🙂

Nja, först lyckades man kartlägga/simulera en mask som hande några hundra neuroner i sitt nervsystem. 2013 började man kartlägga fruktflugas nervsystem. I år blev man färdig med kartläggningen/Simuleringen*. Nu är man inriktad på att kartlägga/simulera en mus nervsystem. Så jag vet inte vilken bio-gud du tillber.

*Man kunde köra hela simuleringen av en fruktflugas nervsystem på en kraftfull Laptop. Vilket, knappast är all världens datorkraft!

En psykopat är, per definition, inte social. Varför tror du att den diagnosen finns?
Sedan att, väldigt intelligenta, psykopater är bra på att manipulera och ytligt "smälta in" är en annan sak. Suck, nej att vara social handlar inte om man är elak eller snäll utan om i vilken utsträckning man följer sin grupps och/eller samhällets värderingar. Och dessa värderingar och normer behöver inte vara "snälla". Det finns grupper och samhällen vsrs värderingar och normer jag ser som vidriga, t. ex kriminella nätverk och KSA.


Jag har heller aldrig påstått att allt blir problemfritt och att vi och AI plötsligt förvandlas till ett gäng knallblå glada Smurfar som sitter och sjunger "Hallonsaft, hallonsaft är den bästa saft vi haft". Men det innebär inte att jag ansluter mig till ditt ineffektiva och kanske rentav skadliga doom-paradigm. Istället försöker jag göra mitt bästa för att det skall bli en, någorlunda, lycklig utgång vad gäller AI-säkerhet/anpassning över en AI-utveckling som jag anser vara ostoppbar.

Vaddå ansluta sig till? Tror du att jag vill bli utrotad? Det vill jag såklart inte och därför varnar jag för riskerna. Det finns ju enorma risker med ASI, det har du erkänt många gånger. Men du växlar gärna mellan att erkänna det och att förneka riskerna vilket du gör genom att förvränga det till en "åsikt" som bara negativa doomers har. Du orsakar mer risk när du sprider dina dumheter. T.ex. verkar du tro att du kan uppfostra GPT-4o genom att prata snällt med den. Men modellen fungerar inte så. Den tränas inte när du pratar med den. Du har heller inte löst problemet med att det finns andra människor än dig, som inte är lika "snälla". Du har alltså inte bidragit till AI-säkerhet på något sätt, snarare tvärtom. Du förvärrar situationen med ogrundade fantasier och desinformation.

Lol. Nej.. långt ifrån så. Du behöver förstå komplexiteten i detta bättre, innan du överlägset slår dig för din platta panna.

Om du ska simulera en enda bakterie så behöver du simulera upp till många miljarder molekylers interaktioner. Molekyler som rör sig i en så enorm hastighet att varenda molekyl hinner röra sig runt i cellen och stöta i varenda en av de övriga molekylerna en gång varje sekund.

När molekylerna bumpar i varandra sker en massa olika händelser som får olika effekter och bara att göra en animation av detta är en mardröm. Att simulera hela förloppet i nära nog en omöjlighet. Inte bara eftersom vi saknar tillräcklig kunskap utan även p.g.a den enorma beräkning detta innebär.

Detta är dock möjligt att göra idag. Craig Venter har lyckats göra det med en minimal syntetisk bakteriell cell, som är mycket mindre än den minsta riktiga bakterie. Lägg då till att eukaryoter innehåller 10 000 gånger fler molekyler än enklare bakterier. Men vi har teoretisk datorkraft nog till det idag.

Att sedan fortsätta och simulera cellens tillväxt (hur den förökar sig och bildar en hinna) är däremot som sagt kört.

Det du lyckades googla fram, men inte fattade, handlar om gravt förenklade simuleringar av neuroner som abstraherats som fördefinierade noder i ett neuralt nätverk. Dvs hundra tuser noder med några tusen connections per styck. Något som är otroligt många magnituder simplare än vad jag pratar om.

Sätt dig gärna in i systembiologi om du vill lära dig om riktigt komplexa saker, istället för trams som LLM'er.

Ah, du menar alltså att, bygga, en virtuell bakterie en , genom att försöka simulera varenda cells arbete, i detalj, osv. Nej det kan man kanske inte, och jag förstår heller inte varför man ens skulle försöka!

Okar inte förklara och diskutera intuitiva självklarheter som vi allvetare begriper direkt men den normale debattören har svårt för och inte blir det lättare när muppar som Tegmark, Boström med även forskaren Chalmers blivit korrumperad på AI frågan.

AGI är en dröm på nivå med medvetande problemet även om det enkla problemets lösning här skulle räcka för att emulera AGI.

För att lära sig förstå den biologiska existensens uppkomst. Dvs hur vi fick medvetande, agens och allt det maskiner/AI inte har eller kommer få. Som jag skrev i meddelandet du svarade på.

Först när vi fattat det kan vi fundera på att återskapa dessa egenskaper syntetiskt.

Fast det är långt ifrån säkert att vi behöver veta allt hur det mänskliga medvetandet uppstod och fungerar rent evolutionshistoriskt och evolutionärt .

På bara 5 år och en synnerligen grov AI-imitation av "hur hjärnan fungerar" gett imponerande resultat. Så vi kan långt ifrån utesluta att vi får en AI-imitation av vårt medvetande, som hur som helst är en simulering som bygger på fabriceringar. De flesta människor kommer nog att uppfatta ett medvetet AI som tilltäckligt äkta, fast de saknar evolutionshistoria och biologisk komplexitet.

Ja så ”synnerligen” grov att den inte har något gemensamt med den biologiska hjärnan.

Ungefär som vår synnerligt grova imitation av hur händer fungerar- gav oss svetsroboten.

Det är förstås väldigt intressant att man har påbörjat arbetet med att kartlägga och förstå hjärnans alla beståndsdelar ner till varje atom. Men vi måste inte nödvändigtvis ha all den informationen svart på vitt för att emulera någon form av intelligens.

T.ex medvetandet förutsätter ett minne så att existensen kan minnas att den finns. Men för den sakens skull måste vi inte återskapa ett biologiskt minne så som det fungerar i vår hjärna. Vi har datorer som har ett minne som fungerar på ett mycket enklare sätt. Vilket samtidigt inte betyder att datorns minne är sämre.

Enligt samma princip bör vi kunna simulera andra delar från hjärnans funktionalitet. Våra tankar är väl någon form av process som använder vårt minne. Förmodligen har hjärnan någonting som schematiskt liknar en eller kanske flera "processorer' i ett neuralt nätverk. Vi behöver förstå mer om den arkitekturen på en hög nivå. Vilka 4-5 boxar i diagrammet består medvetandet av. Då kanske kan vi återskapa det i en dator. När vi har förstått essensen snarare än varje mikroskopisk detalj. Jag tror inte att detta behöver vara så långt borta.

Tja svetsroboten fungerar ju utifrån sin uppgift


Instämmer.