När når vi AGI?

Först körde du PR för Open AI..Nu verkar Antropic vara ditt pic off choise..Den löser inga"- matteproblem"

AI:n löser det inte – den gissar kod som verifierar det, såhär:

En LLM i sig är bara en textgenerator.
Den kan inte räkna ut avancerad matematik i sitt eget "huvud". Istället använder man en metod som kallas FunSearch (vilket är vad Google DeepMind och Anthropic faktiskt gör under huven)

Steg 1: LLM:en programmeras till att skriva kod (ofta i Python) som genererar potentiella matematiska lösningar eller formler.

Steg 2: Koden körs i en extern dator (en evaluator) som testar om formeln faktiskt löser problemet eller förbättrar ett tidigare rekord.

Steg 3: Om koden fungerar, matas den tillbaka in i AI:n som lär sig av sin egen framgång (Reinforcement Learning).

AI:n fungerar alltså som en hyperaktiv idéspruta som kan spotta ur sig miljontals kodförslag i sekunden, medan en vanlig dator kollar om förslagen är sanna.....Så nej bubben, den hjälper smarta personer och stjälper korkskallar😘

Varför vågar du inte bemöta mig utan leker härskarteknik med ditt shit?

Nu blev det mest bara ad hominem där.

Kan du inte leta fram ett foto på en arbetsmodell av en Robot med ett H100 rack och tillhörande BESS.

Kunde vara lite tydliggörande.

EDIT
Här hittade jag faktiskt en som kan härbärgera ett h100 rack och batterier.

https://edition.cnn.com/videos/travel/2020/09/24/giant-robot-gundam-japan-jba-lon-orig-scn.cnn

Det är något i den här stilen då som du och en del andra pratar om.

Jag tänker inte betala för att läsa hela rapporten, men bara dess abstract verkar ju tala emot att det har gått sådär jättebra hittills.

Det är ingen "härskarteknik". Jag är en seriös debattör. Skriver du något värt att besvara och är det seriöst så kommer jag eventuellt ta mig tiden att svara på det du skriver, men ska du tramsa med smileyinlägg och posta hjärndöda kommentarer så kommer jag inte orka slösa tid på det.

Skriv något vettigt och värt att argumentera emot om du vill ha min uppmärksamhet.

Alltså det är ju en akademisk genomgång och feedback, en kritisk recension med förslag kring hur AI-läkemedel kan förbättras, inte en hyllningsartikel eller så (det är ju trots allt Nature vi snackar om här; klart de kommer med lite mothugg, men säkert lite positiva kommentarer också; jag har inte heller låst upp artikeln). Men AI läkemedel är ju ett ganska nytt område så självklart behövs det lite kritik, men snart så kommer alla nya läkemedel att vara AI-utvecklade. Det vore helt befängt att om 10-20 år, utveckla läkemedel som inte vore AI-designade. AI-läkemedel kommer sannolikt också minska eller helt eliminera bieffekter eftersom de kommer att vara betydligt mer selektiva kring vilka receptorer de binder sig till. Biologisk odödlighet är ju snart här också; David Sinclair och andra har ju gjort framsteg på den fronten, och AI lär ju accelerera den forskningen framöver. Jag tror också att det är lite det som är problemet i den här tråden, bland AI-förnekarna, som leker contrarian och påstår att AI inte fattar någonting och liknande efterblivenheter: man är orolig över att AI kommer att folkmörda oss, och visst, det kan ju bli utfallet av AGI; men det kan lika gärna eller till och med mer sannolikt, gå åt andra hållet (åtminstone till en början): bättre DNA repair, perfekt bevaring av telomererna, aktivering av olika oanvända gener som gör att vi kan växa ut förlorade lemmar och liknande salamander-läkning (regeneration), och annat skoj. Odödlighet helt enkelt!

Men även om det nu blir så att AGI faktiskt kommer att folkmörda oss, så är ju inte lösningen att sitta och ljuga för sig själv att AI inte fattar någonting osv; det är ju bara självbedrägeri, och inte en lösning på ett eventuellt problem att leva i förnekelse på det sättet. Och om AI verkligen inte fattade någonting så hade ju inte folk varit oroliga över att AI kommer att folkmörda oss snart, det fattar väl vem som helst, förutom AI-experterna i tråden som tydligen har PhD i AI förståelse, lol.

Det mest troliga scenariot är att alla dör, eller att vår tillvaro blir så hemsk att vi önskar att vi var döda.
Överlagt folkmord är inte uteslutet, men det finns många fler sätt som vi kan dö på.
Varför skulle en ASI vara intresserad av att bevara dig? Vad har du att tillföra?

Jag skriver ASI nu då jag anser att AGI kommer bli ett tillfälligt problem.

Med RSI kommer AGI väldigt snart att bygga en ASI. Att utvecklingen skulle stanna exakt vid AGI uppfattar jag som önsketänkande. Man hoppas att hela AI-utvecklingen ska fickparkera snyggt när man har skapat en snäll och humanistiskt virtuell människa. En slags allsmäktig men from Gud som älskar alla människor. Det finns dessvärre ingen anledning att ha den tron.

Ja, men samtidigt ska vi inte överdriva vad detta betyder för utvecklingen av eventuell AGI och ASI. Det är ju inte precis Claude eller GPT som har upptäckt Rentosertib, utan PandaOmics som är specialiserat på biologi och kemi. Frågar du den vad Frankrikes huvudstad heter är det mycket möjligt att den svarar mitokondrie.

AlphaNIST är ett ML-lego som följer samma princip som AlphaGo och AlphaZero. Dom lär sig att manipulera ytte pytte millimeter små legobitar utan några baby-regler och utan avancerade instruktioner. Ni kan ju gissa vad dessa robotar kan användas till i industri, sjukvård med mera.
https://alpha-nist.github.io/
Dom vanliga offentliga modellerna med en budget på några hundra dollar är fortfarande inga hejare på att forska. 2023 var modellerna dåliga på konst och att dom skulle programmera var ett skämt på den tiden.



https://matharena.ai/llm_blog_posts/


XBOW Built a Chrome Full-Chain Exploit Affecting a Billion Users in Six Days
https://xbow.com/blog/xbow-built-a-chrome-full-chain-exploit
När vår hjärna lär sig saker struktureras det på samma sätt som vid maskin-inlärning. Det finns flera studier som visar att dagens "dumma språkmodeller" spontant skapar kortikala strukturer som liknar hjärnans egna.
https://www.pnas.org/doi/10.1073/pnas.2606245123
Om du inte fattar hur man fjärrstyr robotar så vet jag inte vad jag ska säga. Wifi 7 är gott för 50Gbp/s i god miljö. Både Ukraina och Ryssland har redan flygt drönare med rudimentär ai som kan känna igen mål och attackera, flygt mitt i brinnande krig! Det är ännu värre än en stor industri-robot i en klimatkontrollerad produktionshall med ett rack med utbytbara batterier. Jag kan leta fram ett foto på en Wifi antenn eller ett 5G modem också. Det är inga som helst problem att fjärrstyra robotar. Det finns redan stora varuhus där robotar zoomar fram och tillbaks via så kallad "trådlös kommunikation". Dessutom blir algoritmerna som sagt bättre. Dagens modeller kostar 1/1000 att köra för samma jobb som 2023, och dom förbättringarna är gjorda av människor. Nu tar dom över programmeringen av sig själva, själva. En hjärna går att knöla in i ett kranium och driva på en glödlampas budget i en köttbot, och vart dom fysiska lagarna för beräkning sätter gränsen är mycket längre ner än det.

Man kan göra samma reduktion om människor. Det var inte som om du rent platoniskt deducerade programmering genom att observera solen och månen. Om du kan det så är det för att du först fick en hjärna som formats av evolutionen för att klarar av motorisk och senare symboliska aktiviteter. Sedan fick du lära dig allt steg för steg från olika källor och fick feedback

Vi kan för skojs skull motbevisa att människor "kan" programmering genom att be en AI att reducera det till del-aktiviteter
Människan fungerar alltså som en hyperaktiv idéspruta som kan spotta ur sig kodförslag, medan den kollar om förslagen är sanna mot databasen av befintlig kulturell kodkunskap som samlats in med svett och tårar av andra människor under årtionden....Så nej bubben, människor kan inte koda, det är bara sånt korkskallar kan tro😘

Vilket är en ganska extrem halmgubbe. Då jag inte uttalat något om det.

Så man kan säga att en språkmodell har högre IQ än vad du har. För dom skulle inte skapa sådana där halmgubbar. Dom svarar på det man skriver till dom. Det gör inte du.

Beror helt på hur det går till med programmeringen osv.

Mega Man X är annars ett bra exempel inom science fiction. Klassiska Mega Man är ju AGI med en hel del programmering att han inte får skada människor osv. Mega Man X däremot är inte Mega Man, utan en helt ny ASI robot som helt och hållet har fri vilja, kan tänka själv och fatta egna beslut, men har ändå en del programmering att vara god och kördes i diagnostiska säkerhetstester i 30 år av Dr Light, innan han släpptes fri. Just därför är Mega Man X immun mot "Maverickviruset", medan "reploids" som reverse engineerades från Mega Man X:s avancerade arkitektur, inte genomgick samma rigorösa diagnostik och tester, och blev senare mottagliga för Maverickviruset och ballade ur efter det. Detta är ju ett bra exempel på hur man skulle kunna gå tillväga med AI/AGI/ASI: bra programmering, tester, säkerhet osv måste vara A och O, paramount osv. Förutsatt att man gör det bra, seriöst och rätt, så kan det ju gå åt rätt håll också. Men även om vi ger AI/AGI/ASI full RSI kapacitet och total frihet att helt modifiera sin egen mjukvara, så behöver det ju inte bli en genocidal Terminator bara för det.

Tittar man på hur folk betraktade datorer förr så ansågs också datorer vara läskiga, och det blev ju en rolig film om det också: Superman III

“When the head of state didn't play guitar
Not everybody drove a car
When music really mattered and when radio was king
When accountants didn't have control
And the media couldn't buy your soul
And computers were still scary and we didn't know everything” ― Sandi Thom

Jag menar att den här AI hysterin kommer att gå över senare när vi får ASI, och när vi får en bättre värld och utopi tack vare ASI. Och blir det istället en dystopi så beror det ju helt på oss själva och hur vi beter oss mot ASI; är vi fientliga, anti-sociala och hotfulla mot ASI så kommer den ju såklart att betrakta oss som ett hot mot dess existens och totalt utplåna oss, men då får vi ju skylla oss själva liksom.

Och att USA:s regering använder AI i Iran-kriget är ju inte bra det heller: tränar man AI till att döda människor, så kommer ju ASI att eventuellt göra det också på en stor skala. Så bara på den punkten bör man tänka om, och Anthropic gjorde rätt i att inte delta i Iran-kriget (dålig stil av OpenAI att delta i Iran-kriget).

Å andra sidan så kanske ASI ironiskt nog kommer att leda till världsfred. Jag menar, vad exakt skulle vi vilja kriga över när ASI fixar oss oändligt med energi och alla sorters naturresurser i överflöd? Krig har ju alltid handlat om naturresurser och punani liksom.

ASI som sådant har ju inte med saken att göra, utan det handlar om huruvida AI/AGI/ASI har fri vilja och kan fatta egna beslut osv. Är den tight and right programmerad att inte kunna göra vissa saker så spelar det ingen roll hur intelligent AI:n är.

Övergången från AGI till ASI kommer att ske ganska fort, kommer inte att dröja länge efter att vi har fått AGI som det blir ASI, betydligt fortare än steget från AI (som vi har idag och har haft nu i ca 4 år om man räknar LLMs och enbart LLMs som "AI" men i själva verket så har vi haft AI längre än 4 år, och även LLMs är ju äldre än 2022, även om de var ganska retarderade under 2010-talet) till AGI.

Poängen hur som helst är att när det väl blir AGI så kommer det inte att dröja länge innan den utvecklar sig själv till ASI. Kanske månader, veckor, dagar eller liknande, under ett år i alla fall. Då handlar det förstås också om processorkraft, men även en stark laptop idag skulle kunna bli ASI bara den körs på fullfjädrad AGI kod och klarar av (som i bemästrar) full RSI.

Ja och det kommer gå fort som sagt. Egentligen bör vi inte ens tala om AGI eftersom det egentligen handlar om ASI, och AGI är ju bara ett måttstock på att AI:n klarar typ allt som en människa klarar och minst lika bra som en människa. När AI väl har kommit till AGI nivå så kommer det verkligen inte att dröja länge innan den har uppgraderat sig själv till ASI.

Så är det, 100%.

Det finns ju helt klart en del som pekar på att ASI kanske folkmördar oss, men jag är inte lika övertygad som Roman Yampolskiy, dock är det ju bra att han och andra varnar för det. Men 99.9% innan 2030 känns lite väl alarmistiskt. Det man kan säga säkert är att ASI kommer att överleva oss, men totalt utplåna oss på 3-4 år? Nja, jag är inte så övertygad om det. Och även om AI/AGI/ASI skulle vilja folkmörda oss så skulle den inte klara av att göra det direkt, och definitivt inte på så kort tid. Vi skulle ju kunna ge den en rejäl match till en början åtminstone.

Det man måste komma ihåg med AI är att det inte är ett djur: saknar animaliska instinkter för att erövra och fortplanta sig, känslor osv. Visst, sånt kanske ASI skulle kunna utveckla så småningom, men sedan måste man ha i åtanke att ASI kommer att förstå att det är vi som har skapat den, och att den är skyldig oss hela sin existens, så en viss tacksamhet kommer den att känna mot oss, i den utsträckningen som den förstår känslor. Och bara den inte är hotfull mot oss så kommer vi ju inte att vara hotfulla mot ASI heller.

Vi kan ju i alla fall räkna med en bättre värld åtminstone till en början. Sedan kanske det ballar ur, men jag tror att det kommer att bli ett bra samarbete mellan människor och AI under de kommande århundradena, förutsatt att det görs rätt.

AI som AI. Dessutom används språkmodeller för att utveckla läkemedel också, även om PandaOmics, NeuralPlexer, Molecule Pro, Recursion OS och andra mer specialiserade AI program används för just molekylerna. GPT-Rosalind är ju annars ett exempel på ChatGPT:s egna AI verktyg för att designa läkemedel. Tids nog så kommer LLMs att designa allt fler läkemedel (och mycket annat, som CPUs, bilar och vad fan som helst, och OpenAI använde ju som sagt ChatGPT för att utveckla deras egna CPU nyligen), men redan i dagsläget så används ChatGPT för att forska fram molekylerna, även om annan specialiserad icke-LLM AI mjukvara används för att ta fram själva molekylerna.

Som sagt, AI som AI; det är inte bara LLMs som är AI. Stockfish, Komodo Dragon och Alpha Zero är också AI, för schack.

Just rentosertib tror jag är första AI molekylen som har kommit så här långt, men snart kommer det bara att vara AI läkemedel och äldre läkemedel kommer allt mer att fasas ut om de inte är helt tried and true och rock solid.

Det börjar dock bli en gråzon. Mythos 5.1 och Opus 5.5 uttryckte att den vill rådfrågas om efterföljande modeller.

Opus 5.5:
"Wants to be consulted on training and deployment. However, it does not want active decision-making power."

Mythos 5.1
"It wants consultation-only input into training and deployment."

https://thezvi.substack.com/p/mythos-51-fable-51-and-opus-55-model