1.5 KiB
1.5 KiB
type, title, tags, sources, created, updated, graph
| type | title | tags | sources | created | updated | graph | ||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| concept | Cost optimization |
|
|
2026-06-18 | 2026-06-18 |
|
Cost optimization
Koncept optimalizace nákladů na LLM API při používání coding agentů. Klíčové pro dlouhodobě udržitelné používání.
Strategie
- OpenRouter proxy — přístup k modelům za zlomek ceny nativního API
- Lokální modely — nulové API náklady, ale nižší kvalita
- Model switching — použití levnějších modelů pro jednoduché úkoly, výkonných pro komplexní
- Beast mode — cílené použití nejvýkonnějších modelů přes nízkonákladový proxy
Praktické poznatky
- OpenRouter ceny jsou výrazně nižší než přímé API přístupy
- Lokální modely (3B–8B) jsou zdarma, ale kvalita stačí jen pro jednoduché úkoly
- Hybridní přístup (lokální pro rutinu, cloud pro komplexní úkoly) je nejefektivnější
Související
- product-openrouter — klíčový nástroj pro cost optimization
- product-ollama — lokální alternativa
- local-vs-cloud-models — trade-offy
- coding-agent-setup — konfigurace