Citat:
Ursprungligen postat av
NegroidMongoloid
Varför finns dom inte att köpa? Hade iofs inte tänkt köpa exakt nu ändå, men kanske i april-maj.
32gb kommer vara grymt för AI. Har 3090 nu.
Nvidia har väl inte producerat och inte heller haft så många färdig producerade som efterfrågan varit på dessa.
Och för att lägga till på det så har det precis blivit bekräftat att det är tillverkningsfel på en del av korten så det blir väl återkallande osv på detta också.
https://www.theverge.com/news/617901...acturing-issue
Tror inte det är många som köper 5090 för AI, amatörer som vill köra språkmodeller köper hellre 3090s, de går för runt 8-10000 begagnat och har trots allt 24GB VRAM, du kan köpa minst 3 för samma pris som ett 5090 (och då alltså få 72GB VRAM).
För träning (om man nu som hobbyist eller möjligtvis väldigt experimentellt i någon verksamhet skulle syssla med det) är 4090 ett bättre alternativ, både billigare och kan med lätthet moddas till 48GB VRAM.
Seriösa professionella användare skulle aldrig köpa ett konsument kort för vare sig inferens eller träning, de är inte konstruerade för detta och felkällorna är för många, samt att seriös träning (som inte är enklare finetuning) tar veckor om inte längre och ingen med sina sinnesfullabruk drar i gång ett sådant projekt på ett kort som saknar ECC minne... utöver det så är det fråga om hållbarhet osv AI är mycket mer "slitsamt" för hela kortet än vad vad etherium eller bitcoin-mining var/är (och dessa brukade i regel undervolta/underklocka korten för att de dels skulle hålla längre men för att energieffektiviteten skulle bli högre och det var hela anledningen att konsumentkort var populära för mining, de gick få ganska energieffektiva i drift om de klockades ner, de var hyfsat billiga i inköp och hashning som kryptojobbet var är inte speciellt minnesintensivt och även om det vid något tillfälle skulle bli något minnesfel så är det värsta som händer att den beräknade hashen blir felaktig, händer något sådant vid AI träning så kan hela träningen vara bortkastad/förstörd och än värre utan ECC så vet du inte ens om det skett annat än att modellen troligtvis inte fungerar som den ska när träningen är över).
Det är därför företag köper A40 osv för sådant.
För spel och annat dyl så är konsumentkorten bra, men spel bryr sig inte om det läser fel någon gång då och då... värsta som kan hända är i stortsett att det blir någon tillfällig glitch i renderingen.