Elingenjör avfärdar AI-explosion mht. flaskhalsar i infrastruktur

1. Total intetsägande information när vi inte vet vad budgeten var. Det är inte alls konstigt om några naiva bolag satte en för snäv budget tidigt. De kanske trodde att det räckte med en standard-"Seat" på Github Enterprise för $20, när den löpande kostnaden vid normal användning blir betydligt högre. Tjänsten är utan vidare värd minst $500/dev/mo när produktiviteten går upp med 10x. Alla som inte förstår det eller som tycker att allt på Internet ska vara gratis begriper inte grundläggande matematik eller ekonomi och har inte i branschen att göra.

2. Det finns många bra tricks för att hålla nere token count som man bör använda.
Det senaste jag har sett är ganska roligt:


I ditt fall gäller det motsatta.
Mouth still big. Brain small.

"de kanske trodde" jävla idiot, det här är Salesforce, du tror inte att de har riktiga upphandlingar med Anthropic? Jävla dumhuvud. Näejh, de gissar sig fram bara.... hjott jhot jhot
Du påstår dig arbeta med AI men förstår inte ens hur upphandlingar fungerar eller hur företag ens faktureras för AI
En hint, din dumma jävel, de har användningsbaserad API-fakturering.

Sorry, jag misstog mig nog. Jag drar undan näsan från denna.

Och det har aldrig hänt att slutnotan blev högre än det som upphandlades... ?

I ett sånt här case är det otroligt vanligt att en budget inte håller.

1. Vi gissar att utvecklarna kommer att konsumera x tokens

2. De använde sedan betydligt mer

3. Det kostar mer

Är det otänkbart i din värld?

Det här betyder ju inte att det inte var värt det, bara att det var svårt att budgetera pricksäkert.

Hillbillys i Utah går bananas:

Planerna på att bygga ett jättelikt datacenter i Utah i USA har utlöst raseri bland lokalbefolkningen, rapporterar The Guardian.

Datacentret Stratos kommer att använda mer ström än resten av delstaten gör totalt och använda enorma mängder vatten i ett område som redan nu är hårt drabbat av torka. Enligt en beräkning från Utahs universitet riskerar det att på egen hand höja medeltemperaturen i området med runt en grad.

Projektet har godkänts av myndigheterna trots att över 4 000 officiella protester lämnats in.

– Att godkänna ett projekt som kommer att kräva energi och vatten på den här skalan är oansvarigt och farligt, säger Franque Bains på gräsrotsorganisationen Sierra Club till tidningen.

Men det är nog som vanligt att hillbillys inte tänker.
Vill datacenter köpa el får det väl göra det. Då stiger priset och så blir det god lönsamhet för någon att producera el. Varvid elpriset faller.
Datacentret vill inte heller betala för mycket för elen så det har ju goda skäl att vara behjälplig till nya elproducenter.

Ang vatten så får väl datacentret då köpa vatten någon annanstans och köra i tankbilar. Eller låta bygga en pipeline. Det som händer är att det kommer ut mer luftfuktighet där. Vilket tvärtom är positivt. (iom att det är lite torrt där).

+ Det finns ju också ett nyhetens behag i detta. I början produceras mer kod i ett rasande tempo. Men det håller inte i längden. Det blir kognitiv overload för oss människor att hantera för många tasks och features på en vecka även om AI:n kodar 85%. Vi måste ändå speca, fundera, granska, justera, testa. Det kan bli väldigt intensivt och efter ett tag sänks tempot till en mer hållbar nivå (som ändå är t.ex. 3-6x snabbare än innan men inte 20x). I takt med att modeller och verktyg förbättras kommer andelen manuellt arbete minska ytterligare.

Ett annat sätt att se på det är att IQ-tester är humbug. Att datorer gör bra ifrån sig på IQ-tester är inte mer imponerande än att de lätt slår världsmästaren i schack.


Du har en poäng men jag har alltid tyckt att IQ-tester är humbug. Jag skulle bli mer imponerad om någon AI lyckades lösa olösta mordfall t.ex.

Är mänsklighetens utsikter bättre om vi inte kan mäta en AI:s intelligens?

AI är kraftigt subventionerat idag. Så småning om vill investerararna ha tillbaks sina pengar plus 20% avkastning. En investering på 100 miljoner så vill dom ha tillbaks 120 i framtiden. Priserna på att använda AI kommer höjas rejält framöver. Och gratis AI kommer bli ett minne blott.

Sen är produktion och transport av elektricitet en begränsning. Finns bara produktion och stamnäts-ledningar för en viss mängd datacenter. När det är slut så kan inga fler datacenter byggas åtminståne i närtid 5 år. Krävs nya kärnkraftverk och ledningar.

Att du pratar om humbug och inte är imponerad berättar väl snarare att du inte förstår något.

Med IQ-tester mäter man någon egenskap X. Och kallar man den egenskapen IQ så är man hemma.

Och har man uppnått AGI när en språkmodell klarar 100 på IQ-tester, ja då lär man redan ha uppnått AGI. AGI är inte bättre än det vi nu har i form av AI.

Ja, egenskapen som IQ-test mäter är förmågan att göra bra ifrån sig på IQ-test! Det är absolut inte vedertaget att resultat från IQ-test skulle gå att generalisera till andra områden. Att dagens textgeneratorer uppnår 120-130 poäng på sådana tester bevisar ju det. Eller tror du att textgeneratorer är intelligentare än de flesta människor?

Om man definierar intelligens som IQ som mäts med IQ-test är det ju så. Det är ju bara strikt logik och konsekvens.

Och menar vi med AGI en genomsnittlig intelligens så är vi redan där. Det är ju bara strikt logik och konsekvens.

Sedan kan du och en del andra inte förstått det. Utan fantiserat om att AGI var något fantastiskt.
Men det är bara lite bättre än Jonny och Benny som inte kan räkna och knappt kan tänka några logiska tankar.