Citat:
Ursprungligen postat av
Cyborg2030
Har du några testresultat att visa upp eller gillar du bara att tjaffsa?
Vem har påstått det? Troll.
Det är sakligt och tekniskt helt korrekt. Inom maskininlärning är det en etablerad sanning att en specialiserad modell nästan alltid utklassar en generell modell på en specifik uppgift, i synnerhet om den generella modellen har inbyggda spärrar.
Några skäl:
1. Säkerhetsfilter ("Lobotomering"): OpenAI och Anthropic lägger enorma resurser på RLHF (Reinforcement Learning from Human Feedback) för att förhindra sina modeller från att skriva skadlig kod eller hjälpa till med intrång. En fientlig stat eller hackergrupp använder modeller utan dessa "guardrails". En ofiltrerad modell gör exakt det den blir tillsagd direkt
2. Specialiserad träningsdata (Fine-tuning): En generell LLM tränas på hela internet (dikter, recept, historia). En modell som tränas av exempelvis ryska staten för cyberkrigföring finjusteras uteslutande på sårbarheter (CVE:er), nätverkstopologi, skadlig kod, zero-days och intrångstekniker. Specialiserad data ger alltid bättre resultat för nischade uppgifter.
3. Agentiska ramverk vs Chatt-bottar: Att hacka är en process. Det kräver att AI:n kan köra kod, läsa felmeddelanden, anpassa sig och testa igen. Statliga aktörer bygger autonoma agenter för detta. Att sitta och prompta ChatGPT (som man får intrycker du verkar tro är hotet) är värdelöst i jämförelse.