Citat:
Ursprungligen postat av
ekbo251
Finns säker bra definitioner på det. Men för egen del brukar jag tänka: förmågan att se logiska samband och sedan tillämpa de.
Blir väldigt begripligt och konkret.
Och hur menar du att dagens LLMs misslyckas med detta?
Citat:
Ursprungligen postat av
ekbo251
Det beror väl på precis det jag skrev. Alla enkla frågor tas av en LLM. Då blir det bara de knöliga kvar.
Det är väl mer så att ingen bryr sig om att besvara frågorna idag på Stackoverflow, nu när AI finns. Dagens frågor där är inte knöligare än vad de var förr, och ingen duktig programmerare besvarar dessa frågor eftersom de vet att man kan få svaret av LLMs.
Citat:
Ursprungligen postat av
ekbo251
Men utan stackoverflow kommer LLM'er inte kunna svara på de nya problemen som uppstår. Den behövde ju stackoverflow svaren att lägga in i sin "databas".
Nya, LLMs har lärt sig tillräckligt av programmering idag för att lista ut hur nya kodsituationer ska skrivas. Det är ju inte bara Stackoverflow som AI har tränats på, utan även GitHub och andra sidor.
Citat:
Ursprungligen postat av
ekbo251
Jahaja, och hans forecast från 2024 tror du blint på än?
Menar du att det finns något som pekar på att AGI kommer att komma 2045 eller vad? AGI kommer innan 2035, antagligen innan 2030.
Citat:
Ursprungligen postat av
ekbo251
Tråden skall väl inte degradera till vad jag tror. Om du har ett svar får du väl hala fram det.
Om det är blind tro du lutar dig mot så är det väl bara att skriva det då. Då vet vi.
Men sluta tramsa nu.
Citat:
Ursprungligen postat av
ekbo251
Förhoppningsvis anar du själv att detta helt saknar logik och kausalitet.
Återigen, sluta tramsa. Får vi AGI som inte vill folkmörda oss, så blir det exakt så där: alla jobb försvinner, alla blir rika och vi får en superteknologisk värld. Men återigen, förutsatt att AGI inte är ute efter att utrota oss utan tvärtom blir god och välgörande.
Citat:
Ursprungligen postat av
ekbo251
Därför att om du tränat ett NN på kvadratrötter är det just det som det nödtorftigt klarar. Om det levererar något annat har ju träningen gått helt fel.
Det är som jag skrev. Förstår man tekniken så vet man detta.
Du kanske inte har använt AI på senare tid, men AI idag är inte som när ChatGPT var nytt, att de inte kunde söka på nätet och bara var tränad på data fram till ett visst år eller så. Idag kan AI googla fram färsk information och analysera och komma fram till nya slutsatser. AI har också blivit mycket bättre på matte, programmering och allt annat idag också. När ChatGPT var nytt kunde det knappt programmera ihop Snake (spelet som fanns på gamla Nokiatelefoner), idag kan ChatGPT programmera typ vad du vill.
Citat:
Ursprungligen postat av
ekbo251
Ja dom svarar på vad de är tränade på.
Finns det någon som tror någon annat.
Med tanke på att deras AGI förmågor har blivit betydligt bättre nu så handlar det inte längre om bara träning. Dagens AI kan anpassa sig utefter nya frågeställningar som de inte har särskilt bra träning för, och ge bra svar på tal. ARC-AGI-3 testet fick ChatGPT 6 Astra mellan 62 till 99 procent på som sagt, det är mycket bra resultat. Det är bara en tidsfråga innan det blir AGI och då är det inte bara vad de är tränade för som det handlar om.
Citat:
Ursprungligen postat av
ekbo251
Roboten blir stor eller har en enorm ryggsäck. Där skall den nämligen få plats med ett rack H100 kort plus kylning. Och så blir roboten din väldigt väldigt TUNG. den skall nämligen bära på mycket batterier. Kanske 200 kg så att den kan vara igång några minuter innan det är dags att ladda upp batterierna. H100 racket plus kylning drar en del.
Det verkar som du inte riktigt förstått en del omständigheter.
Det är snarare du som inte har förstått omständigheterna här. Ett H100 kort ligger mellan 2000 till 4000 TOPS. Det är rejält overkill för
en robot, och framförallt så handlar det också om RAM minne (H100 ligger mellan 80-94 GB VRAM, sedan en jävla massa vanligt RAM också). Idag kan man köpa laptops som har 50 TOPS NPU och totalt runt 130 TOPS med GPU och CPU, med 128GB RAM. Detta innebär att man kan köra lokala LLMs (t.ex. DeepSeek via Ollama), och med den mängden RAM så kommer man inte upp på samma nivå av prestanda som ChatGPT 6 Astra i Ultra läge, men det beror mer på hur mycket RAM som finns i burken också. Idag säljs ju t.ex. Mac Studio med över 500 GB unified RAM, och nästa år lär det bli 1 TB RAM på Mac och Windows datorer. Har du sett storleken på en Mac Studio? Menar du att en hel AGI robot inte har så mycket plats för CPU/GPU/NPU/RAM? Ett H100 kort är lika stort som ett vanligt grafikkort, finns absolut plats för ett sådant grafikkort i en AGI robot, och batterier? Snälla, snart får vi solid state batterier, och om något så lär AI snabba på utvecklingen av SSB, så det är inga problem. Plus också som sagt, grafen och photonics kommer att kräva betydligt lägre strömförbrukning för mycket fetare prestanda, så även om vi är kvar på litiumjonbatterier så kommer det att räcka gott och väl för grafen/photonics.
Du får det att låta som om en AGI robot bryter mot fysikens lagar eller liknande lol.
Citat:
Ursprungligen postat av
ekbo251
I datacentret har man plats för en stationär placering av H100 racket. Plus att man har fast elnätsanslutning.
En del skulle tvärtom säga att det är praktiskt.
Hur många användare och frågor/svar tror du ett H100 kort klarar av?
Citat:
Ursprungligen postat av
ekbo251
Jag tror du missade lustighetern.
Jo jag förstod ironin alldeles utmärkt, men jag beslutade mig för att ge ett seriöst svar. Galliumarsenid har såklart en del betydelsefulla fördelar, bland annat mycket högre klockfrekvens. Men den bästa teknologin vinner inte alltid:
“It looks like Plan 9 failed simply because it fell short of being a compelling enough improvement on Unix to displace its ancestor. Compared to Plan 9, Unix creaks and clanks and has obvious rust spots, but it gets the job done well enough to hold its position. There is a lesson here for ambitious system architects: the most dangerous enemy of a better solution is an existing codebase that is just good enough.”
— Eric S. Raymond
Samma gäller förstås för hårdvara: bättre teknologi vinner inte alltid. Ett bra exempel är på ren instruktionsset nivå: PowerPC vs x86. IBM utvecklade en mycket bättre, RISC-baserad ISA i PowerPC, men eftersom Steve Jobs mördade PowerPC 1997 och eftereffekterna av detta kallblodiga mord kom 2005 när Apple pga låga volymer Macburkar, med så låga volymer PowerPC chip, så blev det problem med miniatyriseringen och Jobban bytte då till Intel. Detta var silikon vs silikon och RISC vs CISC, och PowerPC tack vare RISC (kvalitet före kvantitet) var totalt överlägset i strömförbrukning/prestanda, men det spelade ingen roll när det blev för lite pengar/intäkter för R&D och fortsatt miniatyrisering av PowerPC chip.
Och kisel kommer absolut inte att vara tillräckligt bra för AGI; tror du att AGI/ASI kommer att nöja sig med kisel eller?
Citat:
Ursprungligen postat av
ekbo251
GaAs har varit framtiden hela tiden. Bara det att den där framtiden inträffade aldrig. De privatkapitalistiska profitjägarna investerade i tekniken med kisel så att kisel var hela tiden att föredra.
GaAs trots att det hade vissa fördelar kom aldrig ifatt.
Men det var då. Tror du att vi kommer köra kisel för all framtid eller? De utmaningar som finns idag och har funnits tidigare med att ersätta silikon, är liksom ingen naturlag som inte går att bryta, och när AGI kommer (vilket antagligen kommer att ske på kisel), så är det bara en tidsfråga innan AGI byter från silikon till något bättre, och då lär det bli grafen, inte galliumarsenid. Efter grafen lär det bli photonics processorer. Och det kanske blir direkt till photonics, så AGI kanske hoppar över grafen helt. Detta kommer att hända på ganska kort tid också, finns liksom ingen anledning för AI/AGI att vänta 50 år för att byta till grafen och senare photonics. Inom 10 år efter AGI lär vi köra grafen eller photonics, och då blir det antagligen OpenPOWER eller RISC-V eller någon ny RISC-baserad ISA eller RISC-liknande ISA (x86 och annan CISC kommer att hamna på historiens soptipp och emuleras vid behov med Prism/Rosetta osv). Effektivare/strömsnålare ISA och halvledarmaterial innebär mindre strömförbrukning och mer AGI prestanda, så det är inte så att AGI robotar kommer att behöva laddas var femte minut. Plus att solid state batterier laddas fortare och klarar av mer kapacitet. Natrium/svavel/aluminium batterier kommer snart också och dessa är jävligt feta!
https://newatlas.com/energy/aluminum-sulfur-salt-battery-fast-safe-low-cost/