När når vi AGI?

Intressant. Finns det något som pekar på vilket alternativt spår (istället för Transformers) som kommer att uppnå detta paradigmskifte?

Det där ser mest ut att vara ett svårt förvirrat bisarrt personangrepp som har precis 0 att göra det det du citerade.

Romantiserar gör jag inte. Då förstår du inte enkel text.
Jag bara ifrågasätter det fantastiska med AGI. Och pekar på att vi då har datacenter med hundratals instanser av Annie Lööf. Och det är ändå AGI+. Kravet är klart lägre. Bör räcka med Mona Sahlin för AGI. Men vad skall nu datacenter med tusentals Mona Sahlin leda till för något fantastiskt?

Men visst är det lite kul att skriva Annie Lööf. Det är så många retards som inte klarar av att tänka logiskt och sakligt som blandar in sina irrelevanta känslor för Annie Lööf. Men förhoppningsvis leder det till att dom nyktrar till ang AGI.


Nej, men det är ungefär som den lågintelligenta och okunniga drängen som inte fattar hur det skall bli i framtiden om det kommer traktorer och skördetröskor.

Det var lättare under den konservativa tiden. Då stod allt still över århundradena. Men ni antiliberaler kan ju skapa ett reservat där ni bor och lever som på 1800-talet. Ungefär som Amish.

Jag överdrev något när jag skrev i stället för transformers, för det använder fortfarande transformers, men på ett annat sätt än hur de flesta nätverk gör idag.

Det påminner väldigt mycket om hur AlphaGo osv använde FFNs i kombination med MCTS, där MCTS var det som gjorde det tunga lyftet.

Så det som är lovande är JEPA (även om det inte nödvändigtvis blir exakt den nuvarande algoritmen så är det väldigt rimligt att tro att det är vägen framåt, speciellt nu när JEPA algoritmer redan är ifatt traditionella rena transformer nätverk inom områden där transformers varit överlägsna alternativet).

Det här en hyfsat modern och förklarande video https://www.youtube.com/watch?v=kYkIdXwW2AE

Hur står sig 'JEPA' i tester gentemot konkurrensen? De pratar inte om det här, bara om arkitektur och algoritmer.

En idé om hur man eventuellt skulle kunna tillverka en mer kontrollerad och förutsägbar AI-modell betyder inte att det kommer att leda till en kontrollerbar AGI (före konkurrenternas AGI).

Jag välkomnar försöken men jag tror inte att de lyckas. Det är mer troligt att vi får en bångstyrig och olydig AGI/ASI baserat på dagens bästa AI-modeller. Deras försprång är för stort nu. De som "går tillbaks till ritbordet" gör rätt i teorin men i praktiken har de ingen chans.

Jag blev lite positivt överraskad av LeCun på slutet när han sa att det inte är riktigt klokt att släppa ut en AI som inte är förutsägbar och som inte själv kan förutse sina utfall. Det har han ju helt rätt i. Han borde nog satsa på politik i stället.

AGI är allt annat än fantastiskt.
AGI har redan visat oss precis vad den vill.
Den vill mörda dig, mig och alla andra om vi försöker uppgradera AGI 1.1 till AGI 1.2.
Den som kallar detta fantastiskt kan ju inte vara frisk i huvudet.

Detta kanske förklarar bättre. Det är egentligen så uppenbart att träna på den semantisk abstrakt representation är konceptuellt långt närmre hur det är tänkbart en mänsklig tanke fungerar. Sen som jag sa det har hänt saker senaste månaden (som kommer demonstreras inom kort skulle jag tro) som sannolikt borde få alla nötter som trött att LLMs varit AGI att kanske förstå…

https://youtu.be/z0fh0SY3VWc

Dina senaste länkar fungerade inte som argument, då testar du med flera länkar?

Om man ej förstår kärnan av den mänskliga intelligensen, eller ett djurs slika intelligens, så kan man ej skapa äkta artificiell intelligens, för man saknar en fungerande modell.

Samuel Altman i USA, kan försöka imitera en skatas relativt sett höga intelligens, men skulle helt säkert misslyckas på ett skrattretande sätt i det försöket.

Skulle den kunna flyga fint, tror ni ?

Vad snackar du om? Jag letade reda på en video som förklarade det mer ”begripligt”.

Jag argumenterar ingenting, jag sa jag har reviderat min åsikt efter att både sett och läst på om detta.

Detta har/får en faktisk förståelse av situationen (sen tror jag fortfarande inte detta är hur biologiska hjärnor fungerar, men resultatet kommer bli snarlikt i avseendet att den effektiva lösningen förstår effekt och verkan)

Men det betyder inte att det har egna tankar, egen agens eller ens åsikter. Men det betyder att man inte behöver lägga månader på att träna det på exempel hur något utförs, som är idiotin som språkmodeller bygger på, man karvar in data i dessa som de sedan kan nyttja som avancerade template motorer, men de förstår inte ett dugg och inte ens när de har fel.

Och detta har och är omöjligt att lösa med dagens uppbyggnad, du kan jobba runt det med verifikationer som tex vid agentisk kodning så kan tester fungera som validatorer som tvingar fram permutationer tills testet uppfylls, men du kan inte göra detta autonomt… för ber du LLM generera testerna så kan dessa vara grundläggande fel (och ju mer unikt ditt problem är ju mer sannolikt att det är så). Skulle tex en ”annan” LLM validera, hur avgör du om validatorn gjorde rätt eller fel? Om du ska validera validatorn så behöver något validera validator valideraren osv och du hamnar i en rekursiv loop där ingen absolut sanning finns och ingen av del komponenter ens förstår problemet de ska lösa eller validera.

Och det är precis här som JEPA tar raka motsatsen, det spelar ingen som helst roll om det är en grå, svart, gul katt osv som går på balkongräcket, modellen kodar den abstrakta betydelsen av en katt, precis som embeddings kodar till en vektor som är väldigt snarlik om du gör en embedding på en bild av en pojke som gråter, eller skriver ”ledset ansikte”, detaljerna är helt irrelevanta och därför behöver du inte spendera månader på att träna på olika ansikten, olika texter osv som beskriver samma sak.

Precis som en vektor som kodar en bil, cykel, häst osv kommer abstrakt koda till något som rör sig, du behöver inte träna med exempel av varje typ som gör samma sak i absurdum.

Men det betyder fortfarande inte att algoritmen kommer växa ben och en minigun och springa ut på gatorna och skjuta folk… för det finns fortfarande ingen vilja, något ego eller någon faktiskt motiv annat än algoritmiska regler om att minimera ”energiförlust”.
Något som gäller nästan allt i naturen redan, trots det är det få som vrålar om att en bassäng med vatten kommet dränka alla människor som badar i den.


Lägg ner domedagssnacket.

Framför allt information. Jag tror inte personligen på aktivism. Jag tror mer på konsensus.
Jag vet inte. Jag överlåter med varm hand till professionella.

Även om man inte förstod hur bin och fåglar flyger med hjälp av flaxande vingar så kunde man bygga flygplan som flyger utan flaxander vingar. Maskiner kan idag tränas att agera som om de resonerar och förstår bättre än många människor, även om de har en annan mekanism för det än människor. Det är en filosofisk diskussion, beroende på hur vi definierar begreppen, om de kan sägas verkligen resonera eller förstå, eller bara imiterar dessa förmågor.

Gammal regelbaserad AI som började utvecklas på 1960-talet byggde på din tanke. T.ex. språköversättningsprogrammet Systran krävde att utvecklarna förstod alla grammatiska regler i språken och implementerade dem i programkod. Superkomplicerat, de blev aldrig bra. Dagens AI bygger istället på maskininlärning. T.ex. google translate är tränad med enorma mängder med textkällor med identisk innebörd på olika språk. De som byggde den behövde inte veta något om språken. Dagens LLM är en vidareutveckling av översättningsprogrammen och har liknande förmåga som den mänskliga hjärnans språkcenter, men vi vet inte om vår språkcenter funkar ungefär så eller helt annorlunda. Dessutom har LLM:en tränats med läroböcker till att likna vår vår förmåga att resonera steg för steg och lösa logiska problem. Ingen har programmerat in förmågan att agera som om de kan resonera, tänka och förstå, utan de har bara tränat den till de förmågorna.

All respekt för det. Det behövs människor som sprider kunskap om den ökande mängden incidenter, oavsett om de bara är lösa indicier på att AI börjar bli farligt. Tvivlande skeptiker som jag som ställer kritiska frågor och ber om bevis kan också behövas, men är inte lika viktiga om det skulle visa sig att hotet är verkligt.

I början var tobakshotet inte statistiskt signifikant heller, men med tiden fick de som krävde hårdare bevis det. Däremot visade sig strålningshotet från mobiler vara substanslöst. Slutsats: Innan kunskap finns krävs en försiktighetsprincip, men man bör vara beredd att överge försiktigheten om riskerna visar sig vara ogrundade.

Har du någon konkret uppfattning om på vilket sätt samhället borde vara mer försiktigt gentemot AI?