Citat:
Det tycker jag också, varför jag kanske missförstod i så fall var att de stora betalmodellerna i molnet är så mycket bättre. För den här typen av hjälp fungerar nästan lika bra med lokala modeller. Det skiljer så lite att det så det spelar mindre roll. Gör absolut inget att det inte blir perfekt när AI bara är en extra hjälp men utvecklaren skriver koden själv.
Som jag sa jag har experimenterat massvis med lokala modeller och medan de blivit väldigt mycket bättre senaste halv året, jag skulle påstå att Qwen 3.5 var den första lokala modell som jag använt som fick mig att bli optimistisk om användbar lokal AI.
Så går det inte bortse från att molnmodellerna som är hundratals gånger större är bättre, som jag skrev tidigare jag har skrivit egna AI system och sett på hur idiotiskt det resonerar, man försöker modifiera prompter, programmatiskt skicka in automatiska meddelanden som agerar som användaren osv för att styra dom rätt, men realiteten är att modellerna fattar inget alls, och att få något att se funktionellt ut går ut på att bygga så mycket guardrails som bara går.
Men oavsett hur kritisk man är (och jag är enormt kritiskt mot språkmodeller om det inte framgått, inte för att det är en framgång rent tekniskt, utan för att det säljs in för något det inte är... och många i den här världen är tyvärr idioter och tror på reklam, det är liksom ingen slump att reklam är överallt) så är gör språkmodeller något som vi aldrig tidigare kunnat, att förstå vanlig text, problemet är att de faktiskt inte förstår vanlig text...
Jag blir missförstådd hela tiden när jag skriver med AI, för jag skriver troligtvis inte som majoriten gör. Men där med faller illusionen för mig. Jag skriver heller inte kod som de flesta andra, men det är något jag jobbat på... och där hjälper AI mig mycket, som jag skrev tidigare också jag kan många algoritmer vid namn och när och hur de ska användas, det kan inte AI däremot kan det implementationen av algoritmen, men det skulle aldrig föreslå den självmant. Det skulle aldrig föreslå en specifik arkitektur jag föreslagit.
Och det mest irriterande med AI är att det alltid är så medgörligt, du kan skriva vad som helst i princip och det kommer säga "Det där var det smartaste jag sett", det går inte prompta bort heller... skriver du "Sluta vara så medgörlig" så svarar det med "Ja det ska jag sluta vara!"
