• 1
  • 2
2024-12-02, 22:31
  #1
Medlem
Tidsmaskinistens avatar
Bakgrund:
Den 21-årige Elias Almqvist har siktet inställt på att utmana teknikjätten Nvidia genom att utveckla ett mer energisnålt chip anpassat för artificiell intelligens. Almqvists företag, Exa Laboratories, planerar att ha en första prototyp av produkten färdig i början av nästa år.
"De chip vi utvecklar behövs nu, helst redan i går," säger Almqvist.
Exa Laboratories, grundat av Elias Almqvist och hans kompanjon Prithvi Raj, har tagit fram en design för AI-chip som påstås vara upp till 27,6 gånger mer effektiva och kraftfulla än Nvidias H100-GPU:er, en av Nvidias flaggskeppsprodukter. Företaget hävdar att deras chip skulle kunna spara miljardtals kronor årligen i sänkta energikostnader.
"Vi går mot en energikris. 2–3 procent av all elförbrukning i världen kommer från datacenter i dag, men det lär stiga till 20–30 procent på bara några år. Det är något som vi faktiskt måste jobba på," förklarar Almqvist.
De första prototyperna av Exa Laboratories chip ska tas fram nästa år. När chippen eventuellt skulle kunna börja massproduceras och säljas finns det än så länge inga uppgifter om.

Diskussion:
1 - Är det troligt att en svensk 21-åring kan klå ett av världens fem största företag med tusentals anställda?
2 - Är detta en positiv eller negativ utveckling, och varför?
3 - Kan detta komma att gynna Sverige?

Källor:
https://www.di.se/digital/svensk-ska...ma-marginaler/
https://feber.se/samhalle/svenskkopp...nvidia/474528/
Citera
2024-12-02, 22:39
  #2
Medlem
GrillTeknikers avatar
Citat:
Ursprungligen postat av Tidsmaskinisten
Bakgrund:
Den 21-årige Elias Almqvist har siktet inställt på att utmana teknikjätten Nvidia genom att utveckla ett mer energisnålt chip anpassat för artificiell intelligens. Almqvists företag, Exa Laboratories, planerar att ha en första prototyp av produkten färdig i början av nästa år.
"De chip vi utvecklar behövs nu, helst redan i går," säger Almqvist.
Exa Laboratories, grundat av Elias Almqvist och hans kompanjon Prithvi Raj, har tagit fram en design för AI-chip som påstås vara upp till 27,6 gånger mer effektiva och kraftfulla än Nvidias H100-GPU:er, en av Nvidias flaggskeppsprodukter. Företaget hävdar att deras chip skulle kunna spara miljardtals kronor årligen i sänkta energikostnader.
"Vi går mot en energikris. 2–3 procent av all elförbrukning i världen kommer från datacenter i dag, men det lär stiga till 20–30 procent på bara några år. Det är något som vi faktiskt måste jobba på," förklarar Almqvist.
De första prototyperna av Exa Laboratories chip ska tas fram nästa år. När chippen eventuellt skulle kunna börja massproduceras och säljas finns det än så länge inga uppgifter om.

Diskussion:
1 - Är det troligt att en svensk 21-åring kan klå ett av världens fem största företag med tusentals anställda?
2 - Är detta en positiv eller negativ utveckling, och varför?
3 - Kan detta komma att gynna Sverige?

Källor:
https://www.di.se/digital/svensk-ska...ma-marginaler/
https://feber.se/samhalle/svenskkopp...nvidia/474528/

Låter som nåt slags pump and dump scheme.

Vilket är mest sannolikt - Elias har kommit på nåt som inte alla hundratals/tusentals ingenjörer på NVidia har tänkt på, eller att det är nåt slags fuffens?

Eller så är rapporteringen undermålig - kanske de fokuserar just på energisnålhet snarare än snabbhet? Isåfall kanske det kan vara något. NVidia kanske inte orkar bry sig om det segmentet...
__________________
Senast redigerad av GrillTekniker 2024-12-02 kl. 22:43.
Citera
2024-12-02, 22:42
  #3
Medlem
Mullrets avatar
Finns två lägen, antingen succé eller Switchcore 2.0.
Citera
2024-12-02, 22:48
  #4
Medlem
Nvidia la bara runt 30 miljarder på utvecklingen av deras nuvarande storsäljare. Klart snorungen klår det enkelt.
Citera
2024-12-03, 00:02
  #5
Medlem
Har aldrig hört talas om Polymorphic Computer System förut. Det är detta som är deras "unique-selling-point".
Detta dyker upp på första googling.
https://patents.google.com/patent/US9501666B2/en
US government utvecklade tekniken 2013. Kan inte hitta någon info om att andra tillverkare använder sig av tekniken.

Spännande om det är outforskad mark, bara för att man inte har behövt titta på det som alternativ tidigare.
Men om det skulle vara så att Exa har hittat ett försprång så är nog de större valarna ikapp inom en generation.
Citera
2024-12-03, 00:26
  #6
Avstängd
bithaxs avatar
Om de designar ett chip så ska det senare tillverkas i exakt samma fabrik i Thaiwan som Nvidias med samma tekniker. Så hur exakt tänker de att de ska kunna slå Nvidia med de förutsättningarna?

Har svårt att se det. Det hade varit trovärdigt om det var forskare i materialdesign, mikroelektronik eller teknisk fysik som gick ihop och gjorde något.

Sverige har en prototypfabrik för kisel chip i Kista. Är nått projekt mellan KTH och Ericsson. Har inte varit någon stor hit vad jag förstår det.
Citera
2024-12-03, 09:24
  #7
Medlem
SchrodingersPizzas avatar
Nvidia H100 är kanske bäst på AI just nu, men det är inte optimalt för det. H100 klarar så mycket mer än vad som behövs för AI likt ChatGPT och liknande, så det kommer helt klart chip fokuserade på AI som kommer att vara både snabbare och strömsnålare. Möjligtvis även FPGA, men sannolikt ASIC varianter.

Men det är betydligt troligare att NVidia, Intel och AMD kommer med lösningar här, än en random 21 åring från Sverige. Ta tex NPUn i dom nya AMD AI laptop chippen (AMD AI 9 HX 370), dom presterar lika bra som ett Geforce 2070 Desktop när det gäller LLMer, och är inbyggda i den vanliga CPUn och väldigt strömsnåla.
Citera
2024-12-03, 18:42
  #8
Avstängd
bithaxs avatar
Citat:
Ursprungligen postat av SchrodingersPizza
Nvidia H100 är kanske bäst på AI just nu, men det är inte optimalt för det. H100 klarar så mycket mer än vad som behövs för AI likt ChatGPT och liknande, så det kommer helt klart chip fokuserade på AI som kommer att vara både snabbare och strömsnålare. Möjligtvis även FPGA, men sannolikt ASIC varianter.

Men det är betydligt troligare att NVidia, Intel och AMD kommer med lösningar här, än en random 21 åring från Sverige. Ta tex NPUn i dom nya AMD AI laptop chippen (AMD AI 9 HX 370), dom presterar lika bra som ett Geforce 2070 Desktop när det gäller LLMer, och är inbyggda i den vanliga CPUn och väldigt strömsnåla.

Tro inte FPGA är nåt vidare på flyttalsberäkningar. FPGA använd ofta när man vill snabba upp någon mjukvarualgoritm som kan dra nytta av dedikerad hårdvara. Här har vi i stället massor av dedikerad hårdvara. Amd och Intel kan inte slå CUDA för de äger marknaden och är så långt före.

Cuda är lite som DirectX. Ta en applikation som PyTorch. Som jag förstår det så är den specifikt integrerad mot just Cuda APIet. Ska man använda något annat, då måste massor av mjukvara skrivas om.

Så det är inte bara själva hårdvaran som de behöver utveckla, utan de behöver utveckla ett konkurrerande API och få folk att porta sin mjukvara till det.

Det kan vara algoritmer som behöver designas om för att kunna funka med en annan hårdvara.

OpenCL kommer väl mer och mer, men kommer säkert alltid vara lite sämre. Så folk väljer ändå Cuda för man vill ha det bästa. Det är lite som med spel på Linux. Klart att det går, men alla som vill tjäna pengar kör Windows.
Citera
2024-12-03, 18:55
  #9
Medlem
Så en ung person på 21 år sitter hemma i sitt pojkrum o designar chip som klår Nvidias 3-nanometer chip?
Sitter han med lödkolv o mikroskop eller har han baxat in industrimaskiner i lägenheter för tillverkning av chip?

Det låter otroligt om han skulle kunna slå Nvidia. Tydligen ligger utvecklingskostnaden på 100 miljarder kronor för deras snabbaste AI-krets.
Bara tidsmässigt så kan Nvidia lägga långt fler arbetstimmar per dygn än vad dessa två herrar klarar av.
De kan maximalt lägga 48 timmar per dygn i forskning medans Nvidia har tusentals som forskar. Hur skall de komma ikapp o till o med köra om?

Upp till bevis vad deras chip kan göra säger jag.
Citera
2024-12-04, 12:22
  #10
Medlem
SchrodingersPizzas avatar
Citat:
Ursprungligen postat av bithax
Cuda är lite som DirectX. Ta en applikation som PyTorch. Som jag förstår det så är den specifikt integrerad mot just Cuda APIet. Ska man använda något annat, då måste massor av mjukvara skrivas om.

...

OpenCL kommer väl mer och mer, men kommer säkert alltid vara lite sämre. Så folk väljer ändå Cuda för man vill ha det bästa. Det är lite som med spel på Linux. Klart att det går, men alla som vill tjäna pengar kör Windows.

Cuda har mer gemensamt med 3dfx Glide än med DirectX, och det kommer garanterat något som ersätter Cuda, oavsett om det är OpenCL eller något annat. Precis som DirectX ersatte Glide och lite annat.
Citera
2024-12-08, 09:46
  #11
Medlem
IRMEs avatar
Citat:
Ursprungligen postat av 45Lokar
Så en ung person på 21 år sitter hemma i sitt pojkrum o designar chip som klår Nvidias 3-nanometer chip?
Sitter han med lödkolv o mikroskop eller har han baxat in industrimaskiner i lägenheter för tillverkning av chip?

Det låter otroligt om han skulle kunna slå Nvidia. Tydligen ligger utvecklingskostnaden på 100 miljarder kronor för deras snabbaste AI-krets.
Bara tidsmässigt så kan Nvidia lägga långt fler arbetstimmar per dygn än vad dessa två herrar klarar av.
De kan maximalt lägga 48 timmar per dygn i forskning medans Nvidia har tusentals som forskar. Hur skall de komma ikapp o till o med köra om?

Upp till bevis vad deras chip kan göra säger jag.

Såhär tänker jag också. De finns tusentals på nvidia som jobbat och forskat länge inom datorarkitektur, både inom traditionella typer av kretsar och mer obskyr forskning. Är man 21 har man knappt en aning om hur enkla kretsar funkar.

Hur som helst, även om de skulle kunna bygga något chip så har de ingenstans att tillverka det. Att ens bara få sitt chip tryckt under enklare former kostar många miljoner. Att gör 3nm chip är inte möjligt, väldigt få företag sitter på tekniken och patenten för at möjliggöra detta. De kommer inte dela med sig.
Citera
2024-12-08, 11:42
  #12
Medlem
OceanDeeps avatar
Citat:
Ursprungligen postat av GrillTekniker
Låter som nåt slags pump and dump scheme.

Vilket är mest sannolikt - Elias har kommit på nåt som inte alla hundratals/tusentals ingenjörer på NVidia har tänkt på, eller att det är nåt slags fuffens?

Eller så är rapporteringen undermålig - kanske de fokuserar just på energisnålhet snarare än snabbhet? Isåfall kanske det kan vara något. NVidia kanske inte orkar bry sig om det segmentet...
Jag tror på detta också som du skriver. Dock kan han ju teoretisk ha rätt men det är lika svårt på den fronten. Det måste ju komprimeras om han inte vill bygga ett chip 27x större än nvidias som rymms på ett köksbord.

Upplägget liknar bluff och endast snack.
Citera
  • 1
  • 2

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in