AI - Har det peakat?

Pröva att använda de små grå där uppe

Du tror du vet, det gör du inte. En chef är normalt mest intresserad av vad som kommer i lönekuvertet. Få chefer har teknisk kompetens men vill inte visa det, att göra fel för en chef kan innebära att lönen minskar drastiskt så därför gör de inget alls, bara följer mer.

Annat som borde få dig att tänka. Vem som helst kan på en normal hemdator idag köra system som sköter 100 000 samtliga användare. En liten skitdator alltså. Ändå lägger de många miljoner på molnlösningar, varför? Jo för att de måste

Slå upp lobbying så fattar du bättre

Har du någon "logisk" förklaring till varför man skall betala kanske 10 gånger mer och tappa kontrollen över sin data och mjukvara?

Återigen har inget med USA, Amazon eller Microsoft att göra.
Tvärtom GDPR är regler som EU hittat på för att just kunna kräva skadestånd från de stora rika företagen.

Den här diskussionen har ingenting med AI att göra så varför för du den här? Eller skjuter du bara vilt från höften för att ha något att skriva?

Det var väl en del som frågade om varför alla serverhallar byggs så jag förklarar, för det är så lätt att ha sin egen lokala AI. Många företag väljer att ha lokala installationer för det är mer eller mindre vansinne att använda molnet eftersom AI där tar all information den får.

Det fungerar liksom inte på något plan

Fast så är det väl inte riktigt? Ja det går köra AI modeller lokalt men det är få företag och än mindre privatpersoner som har utrustning att driva de största modellerna på marknaden, det är hundratusentals kronor i bara hårdvara sen en löpande driftkostnad med allt vad det innebär.

De allra flesta köper inferens det är helt enkelt enda realistiska vägen att drifta någon produkt eller labba runt med AI på egen hand.

Men du har rätt att integritet osv är en faktor som många ignorerar helt och medan jag inte tror det görs någon större insamling på just API endpoints (för varför ska man? Det är inte direkt kvalitetsdata vare sig in eller ut) men däremot alla som betalar för ChatGPT, Claude, Gemini osv kan ju känna sig rätt blåsta för här har du riktig strukturerad konversationsunderlag att träna på och är användaren dessutom extra dum så har den också tryckt "tumme upp" eller "tumme ner" på svaren så det direkt går sila ut mänskligt bedömd "kvalitetsdata".

Edit:

Kanske borde gjort det tydligt också att beräkningskapacitet som behövs för modeller ökar linjärt med modellens storlek och storleken gör det snabbt väldigt kostsamt också. Används dense modeller så behövs det beräknas på varenda vikt i modellen så det blir en enorm minnestrafik och enda sättet att överhuvudtaget få någon hastighet i detta är att alla vikter ligger i grafikkortetsminne.
Titta vad RTX 5090 osv kostar och de har ändå bara 32GB minne, vilket i bästa fall räcker till en relativt liten 27b modell eller något med kanske 256k kontext fönster som i sig behöver massvis med minne.

För väldigt specifika produkter kan det kanske gå träna/finetuna mindre modeller men det i sig, alltså finetuning/träning kräver än värre hårdvara, där ökar det kvadratiskt med modellstorleken.

Company Blew $500M On Claude AI In One Month Due To No Usage Limit On Licenses For Employees


Det är nog en del som håller på att tänka om

Ja vi får väl se...

https://www.anthropic.com/institute/recursive-self-improvement

Nu börjas det igen, för några år sedan var det OpenAI som höll på så här…

Ska vi spekulera om anledning? Eller rakt av köpa den här claude-reklam-posten?

Det har inte peakat förrän ai'n blir kåt..

Förmodligen bara Zuckerbergs synthetic data-team som glömde bort att slå av strömmen. Ingen stor grej. Inte för honom i alla fall.

Rätt kul när man frågar Gemini, ChatGPT osv om AI-företag går med vinst eller förlust, och de själva svarar att alla större företag går med katastrofala multi-miljard (dollars...) förluster årligen.

Och det är inte jag läser mellan raderna att förlusterna är "katastrofala" - det är AI själv som använder de termerna för att beskriva situationen.

Vad är det som är kul med det? De har levt på investeringspengar i flera år, det har varit känt länge att man subventionerat API access för att locka in användare, för att sedan höja avgiften så som man gjorde nu under våren.

Surt för bolag som sparkat en massa personal till förmån för sin billiga AI... Det säger lite om vilka begåvade stolpskott som sitter i ledningen på många företag.

Det är inte troligt den höjning som kommit hittills är tillräcklig för att få det gå ihop långsiktigt men man kan ju inte skruva åt kranen helt... då försvinner ju kunderna man har, så man stryper den lite successivt så att man kan kryp höja tills man är på en ekonomiskt gångbar nivå.