Citat:
Det innebär att man i USA kan ha effektivare lösningar för kraft och speciellt kylning.
Det pågår ju en kamp mellan USA och Kina om AI, som blir intressant att följa?
USA-bolagen bygger jättestora hallar med en typist yta på 3-10 ha, vilka vanligtvis kostar minst ett 10-tal miljarder kronor per styck.
Kinesernas däremot bygger sina centraler i en 20 eller 40-fot container, vilka bara kostar någon miljon per styck.
USA-bolagen bygger jättestora hallar med en typist yta på 3-10 ha, vilka vanligtvis kostar minst ett 10-tal miljarder kronor per styck.
Kinesernas däremot bygger sina centraler i en 20 eller 40-fot container, vilka bara kostar någon miljon per styck.
Hur löser dom kylningen för containrarna?
Vidare ser jag att man tänker bygga ett enormt datacenter en bit utanför Peking. Låter mer som att man insett att USA-lösningen är effektivare.
Citat:
I största allmänhet ser jag decentraliserade lösningar som fördelaktiga. Men i det här fallet är jag tveksam. Man tappar stordriftsfördelar på ett betydande sätt.
Citat:
Just datacentren är väl en icke-fråga. Datacenter i Kina levererar till kunder i Kina. Datacenter i USA levererar till kunder i USA.
Så det blir intressant vem som vinner?
1. USAs jättelika centraliserade dyra system, som säkert har högre prestanda? Detta kan mycket väl vara en bubbla, då den amerikanska aktiemarknaden värderar ökningen för databolagens AI, ca 6 gånger mer än de hittillsvarande investeringarna.
2. Kinesernas små billiga decentraliserade enheter, vilka har sämre prestanda, men nog tillräckligt för de flesta behov? Men andra länder kan kanske konkurrera med kineserna?
1. USAs jättelika centraliserade dyra system, som säkert har högre prestanda? Detta kan mycket väl vara en bubbla, då den amerikanska aktiemarknaden värderar ökningen för databolagens AI, ca 6 gånger mer än de hittillsvarande investeringarna.
2. Kinesernas små billiga decentraliserade enheter, vilka har sämre prestanda, men nog tillräckligt för de flesta behov? Men andra länder kan kanske konkurrera med kineserna?
Dom konkurrerar inte med varandra.
Citat:
Nu har du bytt ämne väldigt drastiskt.Det kan nog vara så att frontier-modellerna kostar mer än de smakar. För de flesta iaf. Man ligger ca 4 månader efter med open weight modeller. Bör vara en penalty man kan leva med.
När frontier-labben höjde priserna på tokens för en tid sedan, så gick en hel del kunder över till open weight modeller. Vilket blir billigare då. Anthropic sägs gå runt vad gäller själva rörelsen. Men det säger ungefär inget eftersom det stora är kapitalkostnaden.
På något sätt måste frontier-labben dels få in mer kunder, dels höja priset för kunderna. Båda är svåra att genomföra.
Det är än mer angeläget i Kina eftersom labben knappt har intäkter alls. Utvecklingen i Kina är mer på nivån välgörenhet.
Google är den som har störst chans att vinna. Lite paradoxalt eftersom de framstod som den störste potentielle förloraren från början. (Dvs förlora alla annonsintäkter från sökmotorn. När folk gick över till LLM'er istället). Med Gemini som gratistjänst så behåller dom Google-sökkunderna och upprätthåller annonseringen (någorlunda). Gemini har också överlägsen access till Googles sök-databas. Och så har dom egenutvecklade chip (TPU'er) som är mycket billigare än Nvidias gpu'er. Och så säljer dom datacenterkapacitet (i konkurrens med Amazon och Microsoft).
Hur kinesiska lab skall överleva kan man fråga sig. Kapitalkostnaden är inte lägre. Men deras kunder har mycket sämre betalförmåga.
Det är svårt rent allmänt att se hur modell-utvecklarna skall gå plus total någon gång. Tyvärr är det nog pengar i sopnedkastet.