När når vi AGI?

Och du antar att en eventuell AGI med enkelhet skulle lösa alla problem vi idag inte ens har en aning om och på kort tid kunna utveckla ASI. Ännu har vi inte sett någon tillstymmelse till innovation hos ens de mest avancerade modellerna. Du kan absolut hävda att de kan arbeta snabbare än människor och utan vila, men så länge det bara är trial-and-error (vilket det är idag) så är oddsen extremt höga att den skulle träffa rätt och dessutom veta när den faktiskt har träffat rätt.

Oj, vad babblar du om? Hollistiskt betyder att se helheten. Optimistisk betyder att man ser sannolikheten för en lyckosam utgång som högre än en pessimist gör. Och min, objektiva, bedömning är att rationellt steg för steg resonerande modeller respektive mer hollistiskt resonerande modeller arbetar med olika sätt att tänka.

De förstnämnda resonerar, först, rationellt och logiskt. Först, därefter, försöker de se saker och ting i ett bredare perspektiv. Men då har, redan, de rationella och logiska resonemang, som den fört först, begränsat hur brett den kan tänka. Detta kan ge ökad precision men också risk för att de viktiga samanhangen riskerar att missas av modellen. De sistnämnda modellera av mer mer kreativ typ, som ChatGPT-4o, försöker se hela bilden direkt, dvs den tänker hollistiskt. Fördelen med detta är, dels att den ser en större komplex helhetsbild och dels kreativitet: Att se nya möjligheter och hitta oväntade samband. Nackdelen är sämre precision.

Så, om vi jämför med dig med mig för att förstå våra respektive tanke-metoder:

Du är en, ej realistisk, alarmist/pessimist därför att du, först, på god rationell och logisk grund, instämmer i påståendet att: "Vi kommer aldrig kontrollera ett AI som är överlägset oss". Men eftersom du, redan i och med detta, begränsat, hur brett och hollistiskt du kan se på verkligheten, så ser du bara farorna med den och inte de möjligheter som finns för att ändå få till en lycklig utgång. Tvärt om så dömer du ut alla som inte delar ditt synsätt som "naiva", "godtrogna", "förnekare" och att de "sticker ner huvudet i sanden".

Jag, å andra sidan, är en realistisk optimist: Jag instämmer visserligen i påståendet om att "vi aldrig kommer att kunna kontrollera ett AI som är överlägsen oss" och jag ser även faran med ett "logiskt monster". Men, eftersom jag, först, sett på AI problematiken brett och hollistiskt så ser jag också, inte bara, farorna med den utan också de möjligheter som finns för att få till en lycklig utgång. Här tror jag brett holistiskt tänkande AI-modeller kan vara nyckeln till ett fruktsamt samarbete mellan människorna och avancerat socialt och språkligt AI. Medan jag ser faran med de rationellt och logiskt resonerande modellerna som potentiella framtida logiska monster.

Jag visste inte först vad AGI var för något men nu vet jag:

https://www.youtube.com/watch?v=LhLyOWoUnDI

Nejdå. Det är kännedomen om alla drömmares okunskap som får mig att känna mig trygg.

Jag tror inte så mycket på det där med AGI de närmaste århundraden, för ingen kan förstå hur ens den lilla skatan kan vara så intelligent med en matskedsstor hjärna.

Ingen vet hur ett uppenbart självmedvetande kan uppstå ens hos ett så litet djur.
Ingen vet hur dessa avancerade hjärnstrukturer fungerar.

Utan att veta det minsta om hur det fungerar, så kan man knappast imitera processerna i en dator.

17 september 2025.

Enligt Sam Altman är AGI möjligt och kommer att kräva 872 MW. Hur kom de fram till den siffran?
https://x.com/CyberScribe_AI/status/1880443863346864588?t=WUuNBKxyA-AlE_ZilKS4Dw&s=19

Isf borde du ha ungefär samma pdoom som mig. Det är ju så att o1-o3 är de bästa modellerna nu och det är den plattformen man kommer att bygga vidare på och troligen uppnå AGI med inom ett år eller två (enligt OpenAI, inte min åsikt). Dvs plattformen som kan leda till "logiska monster" enligt dig är den plattformen som AGI högst sannolikt kommer att baseras på.

Den här debatten där du återkommande staplar olika adjektiv på varandra är ganska tröttsam. Vi lär oss inget av att du klistrar på ord som bred eller holistisk. Det är bara din subjektiva åsikt och inte fakta om någonting. Det vi borde diskutera mer är vilka kompetenser, förmågor och risker som o3-o4 kan tänkas ha och hur de egenskaperna kan påverka mänsklighetens välbefinnande på kort och lång sikt. Men det kan vi inte göra genom att rabbla värdeord, adjektiv som bred, smal, fin, vacker, snäll, stor eller holistisk. Det tillför ingenting att du adderar de här orden.

Nu sa jag inget om huruvida det var möjligt eller hur mycket energi som skulle krävas. 872 MW är inte direkt en piss i havet och du får skala upp den siffran om du ska ha mer än en AGI.

o1-o3 är inte i närheten av prestanda som kan konkurrera med tex stockfish osv på schack.

Och du har gapat om att diverse språkmodeller varit AGI i över ett år här, det var inte många månader sedan du påstod att GPT-4o uppnått AGI med en lång tråd där du utmålade dig själv som en senior superutvecklare och bedömde att det kunde ersätta dina insatser på arbetsplatsen, något som klart och tydligt påtalade både din inkompetens och ditt bristande omdöme.

Är det inte värt 872 MW att ha en AGI (som jobbar i ljusets hastighet)? Frågan var egentligen inte det, utan hur de kom fram till den specifika siffran 872 MW. Har de börjat testa en AGI redan? Det som du tror ska dröja i 100 år.

Gissningsvis linjär interpolering från nuvarande system. Men är du verkligen så dum så du litar på sådana här siffror? Du känner alltså inte till att biologiska "AGI"er behöver ungefär 20W för att fungera, så varför behövs det miljontals gånger mer energi för att producera artificiell intelligens (som man dessutom får anta är utifrån OpenAIs förenklade definition av AGI), rimligt? Nej det låter som ett nummer taget ur röven med en helt felaktig lösning som man hoppas kan skala oändligt som vanligt.