OpenRouter för AI-utveckling – Bästa gatewayen eller bara en onödig mellanhand?

Tjena,

Håller på att sätta upp en utvecklingsmiljö med AI-agenter (kör Cline i VS Code) för att bygga lite .NET-projekt. Insåg snabbt att det blir ett jävla meck att sitta och jonglera API-nycklar och pre-paid-saldon hos fem olika leverantörer.

Man vill ju åt de tunga resonerande modellerna som DeepSeek för arkitektur och Qwen för snabb kodgenerering. Men att sitta och regga konton hos Alibaba Cloud eller försöka få in pengar på kinesiska plattformar känns helt orimligt som privatperson.

Har kikat på OpenRouter som en gateway. Smidigt att bara ladda en tia i dollar via Revolut och få tillgång till allt via ett och samma API. De tar ju någon liten procent i avgift vid insättning, men det känns som att man tjänar in det på att slippa valutapåslag och spridda saldon.

Någon annan som kör OpenRouter för kodning eller hobbyprojekt?

Hur upplever ni latensen jämfört med att köra direkt mot leverantörerna?

Finns det någon hake jag missat (typ shady ToS kring datalagring)?

Finns det bättre alternativ om man vill rotera mellan Claude, DeepSeek och lokala open-source-modeller utan att binda upp kapital överallt?

Diskutera.

Du ska fråga, vem äger routern.

Helt sant, och det är precis det jag suttit och grävt i nu. Bolaget är amerikanskt och all trafik passerar i praktiken deras servrar i USA, oavsett vilka modeller man väljer under huven. Det finns ingen tvättäkta "EU-routing" som håller datan inom EES.

För mig som bara sitter och bygger hobbyprojekt i .NET (håller på att snickra ihop en app för hushållssysslor just nu) spelar det ingen jätteroll eftersom det inte är någon känslig GDPR-data eller några produktionshemligheter inblandade. Jag kör med deras "Zero Data Retention" (ZDR) påslaget och förlitar mig på att leverantörerna inte sparar loggarna.

Men det tål helt klart att tänkas på om man skulle bygga något seriöst som faktiskt hanterar personuppgifter. Hur ser din setup ut? Kör du lokala modeller istället för att slippa mellanhanden?

Man kan inte vara helt oberoende i dag, det viktigaste är att redan som grund bygga kompatibelt för framtida förändringar.

Oj, många frågor.
Nej, jag byggde en egen event-router/orchestrator/taskboard/registry i Go+TypeScript istället. Det här med att kommunicera med flera AI-agenter samtidigt genom olika API-nycklar är trivialt. Det svåra är att få dem att samordna och följa instruktionerna utan att hitta på egna grejer. Är du säker på att du verkligen behöver en event-router? Du kanske borde fixa en stadig utvecklingsmiljö från EN leverantör först. Och sedan kanske bygga på med en lokal AI för att försöka få dem två att samordna innan du tittar på en event-router.

Du menar tiden det tar för providern att ta emot din fråga? Eller för att få tillbaka ett svar också?
Du kommer inte märka någon större skillnad.


Här har du ToS: https://openrouter.ai/terms
Här har du integritetspolicy: https://openrouter.ai/privacy
Ifall du missade.


Hade jag varit dig hade jag nog kört droid factory istället https://docs.factory.ai/welcome
Eller kanske OpenCode: https://opencode.ai/
Eller kanske https://docs.augmentcode.com/cli/overview


Börja med dem, och om du verkligen VERKLIGEN har så mycket requests att du behöver en router för att hantera arbetsbördan, så kan du faktiskt be någon av dessa skriva en till dig + en MCP för anslutning.


Här har du lite FOSS-projekt som du kan referera till när du försöker bygga en egen:



I övrigt:
Hoppas du får upp din miljö tillräckligt fort innan du tröttnar. Jag höll också på och kollade runt på en massa färdiga byggen, halvfärdiga DIY med SaaS-låsning som du gör nu. Tills jag insåg att jag vill bara koda. Så byggde hellre det från scratch genom att prompta.

Jag har bokstavligen bara kört den här: https://github.com/Mr-RedHat-fb/project-design-skill
Mycket mer tillfredsställande än att lära sig någon annans ekosystem.
Det enda ekosystemet som faktiskt är värt att lära sig är Cloudflares.
https://developers.cloudflare.com/ai-gateway
Antingen det eller så kan du lära dig temporal.
https://temporal.io/

Men hade jag varit dig hade jag nog tittat lite mer på cloudflare och sedan köpt en rejäl prenumeration på valfri AI (typ Claude) för minst en tusenlapp i månaden. Så att du kommer igång, tänker jag.

Tack för länkarna, men jag tror vi pratar om lite olika saker här.

OpenRouter är ingen event-router eller orchestrator för att få agenter att prata med varandra. Det är en ren API-gateway/proxy. Själva orchestreringen och agent-logiken sköter jag redan via Cline direkt i VS Code.

För mig handlar det primärt om friheten att helt friktionsfritt kunna byta mellan olika modeller. Jag vill kunna använda exempelvis Claude för tunga arkitekturfrågor och sedan smidigt switcha över till DeepSeek eller Qwen för snabb, billig kodgenerering – allt genom att bara ändra en sträng i min config.

Cloudflare AI Gateway som du nämner är en grym tjänst, men där måste jag fortfarande sitta och jonglera separata API-nycklar och konton hos Anthropic, OpenAI, Alibaba och DeepSeek för att få den friheten. Med OpenRouter får jag access till alla frontier-modeller via en (1) enda endpoint. Att betala en tusenlapp i månaden för en specifik prenumeration, som du föreslår, låser mig ju bara till en leverantör. Det är exakt det jag vill undvika.

För att ge lite kontext kring varför pay-as-you-go är överlägset för det här flödet: Jag sitter just nu och bygger en plattform i Blazor PWA och .NET 10. Jag har kört min setup med Cline och roterat modeller via OpenRouter i en vecka nu. Visst, jag knackar en hel del kod själv också, men totalt har jag förbrukat cirka 1 USD på API-anrop under hela veckan. Att i det läget binda upp kapital på dyra prenumerationer eller sprida ut pengar hos fem olika leverantörer är bara onödigt.

Ett eget bygge i Go/TS är säkert ett kul projekt i sig, men jag lägger hellre min tid på att bygga själva plattformen än på att bygga verktygen runt omkring den.

Fair, och vid genomgång av deras villkor får du mig att ändra mig. Routningen och failover ger de bort gratis, och credits-läget lägger inget påslag på modellpriset där du betalar leverantörens listpris plus en växlingsavgift på påfyllningen. Vid en dollar i veckan finns det ingen kostnadsfälla som slår till senare, och inget att vinna på att bygga själv. Det enda jag skulle hålla ögonen på är data-retention: en aggregerande proxy ser varje prompt och svar, inklusive din plattformskod. Kolla att deras default matchar vad du vill dela, det går att stänga av per anrop.
I övrigt: kör på, och bygg din grej.

Jag kör själv med en GPT subscription, men också brukar lägga in lite pengar och använda Deepseeks API. Skulle rekommendera ett liknande upplägg, då GPT (eller claude) är bättre på svåra saker, medan Deepseek är så otroligt billig och ändå klarar det mesta (även deras Pro modell). Skulle dock kanske inte vilja stoppa in en massa känslig data i den, men funkar annars för allt annat för min del.

Vet inte om andra open source modeller är så värt, upplever att priset och prestandan på Deepseek är överlägset för dessa typer av modeller. Har man en stabil maskin kan man också köra rätt bra modeller lokalt, för känsligare saker eller helt enkelt som en extra modell.