Citat:
Ursprungligen postat av
jutensomforsvann
Det roligaste av allt är affärsmodellen bakom. De tar 3 000 spänn om året för ett abonnemang. Vad kostar driften? Kanske en tusenlapp i el för servern och några tior i hårdvaruslitage per aktiv användare.
Nja, det är snarare så att dom behöver ta ut mer betalt. Du underskattar kostnaden för inferens med dessa stora modeller som behvöer ett rack med dyr HW för att kunna exekvera.
Ovanpå det kommer sanslösa kostnader för att träna modellerna. Och de ska ju ägarna få tillbaka genom vinster i senare skede.
För att detta skall fungera så måste många vara med och betala. Språkmodellerna är bara möjliga så länge många är med och betalar. Alltså över hela världen.
Kan bli så att det blir 2 leverantörer i Kina och 2 i USA. Och det är ändå en för mycket för hela världens användare. Men av politiska skäl kommer de hållas på den lägsta nivån.
Vi i EU kommer stå med två val. Antingen köra med UA-bolag och pynta för det. Eller köra på egna datacenter med Open Weight modeller (från Kina). Det senare kommer inte bli direkt billigare.
Citat:
Ursprungligen postat av
jutensomforsvann
För att få den IQ som utlovades krävs idag abonnemang på minst 1000 kr per månad.
De som är utlovat har vi väl inte fått. Men det som levereras kommer nog ligga på klart mer framöver. Och företag har inga problem att betala det så länge modellerna levererar värde. Man får tänka så här: om ett företag kan byta ut en människa som kostar 100k/månaden mot en modell som kostar 30k/månaden så är det en bra affär så länge modellen levererar tillräckligt bra.
Dock så har inte detta hänt. Och det tar lång tid att få in modeller i processerna. Och så är ju bivillkoret att den ska leverera värde också.
De som är experter på att bedöma påverkan på BNP talar om ganska liten påverkan från AI de närmaste åren. Så det här kommer ta tid.
Citat:
Ursprungligen postat av
ladicius
Dessutom lär serverhallarna snart stängas ner ändå, då mänskligheten har mer brinnande problem framför sig.
De kommer vara fullt utnyttjade. Folk underskattar megatrenden.
Citat:
Ursprungligen postat av
Stiber
Jag använder ChatGPT (betalversion, Extra High/Pro) dagligen i mitt jobb, och det är utan tvekan värt mer än 1 500 kronor i månaden bara i den tid jag sparar. Jag upplever inte alls de problem du beskriver, men jag antar att det beror på många faktorer.
Ja, för vissa saker så ger de helt klart produktivitetsökning.
Den största produktivitetsökningen lär komma för nybörjare.
Dvs de företag som kommer få mest bang for the bucks kommer vara de som anställer gröngölingar och får upp produktiviteten för dessa med LLM'er.
Och det är också vad data indikerar än så länge.
Citat:
Ursprungligen postat av
Stiber
Jag räknar med att de bättre modellerna på sikt (när de blir ännu mer självgående) kommer att kosta >10k/mån, och många företag kommer gladeligen betala för det. Det är inte omöjligt att tillräckligt avancerade AI-modeller, med möjlighet att arbeta autonomt med avancerade uppgifter, kan kosta >50k/mån och även då vara värt pengarna.
Ja, det är troligt att det blir så. Och det skulle då inträffa för mer specialiserade modeller som är speciellt kompetenta på mycket dedicerade saker. T ex skattelagstiftning runt om i världen. Blir billigare att fråga en sådan än mänskliga experter som tar längre tid på sig och dessutom svarar fel.
Sedan kan det mycket väl bli så att det är experterna som använder sådan LLM'er. Dom kommer då ha högre prompting skill för dessa dedikerade verktyg. Det är den minsta processpåverkan. Då kan man ha mindre kunniga och billigare "experter" anställda.