48 lines
1.8 KiB
Markdown
48 lines
1.8 KiB
Markdown
---
|
||
type: concept
|
||
title: "Local vs. cloud models"
|
||
tags: [llm, local-models, cloud-models, cost, privacy]
|
||
sources: [claude-code-local-cloud-models, claude-code-ollama-workflow, claude-code-openrouter-beast-mode]
|
||
created: 2026-06-18
|
||
updated: 2026-06-18
|
||
graph:
|
||
node_id: concept:local-vs-cloud-models
|
||
canonical: true
|
||
relationships:
|
||
- predicate: depends_on
|
||
object: concept:coding-agent
|
||
source: claude-code-local-cloud-models
|
||
evidence: "Lokální vs. cloud modely jsou relevantní primárně v kontextu coding agentů"
|
||
confidence: medium
|
||
status: current
|
||
---
|
||
|
||
# Local vs. cloud models
|
||
|
||
Koncept volby mezi lokální inference (Ollama, llama.cpp) a cloud API (OpenRouter, nativní API) pro běh LLM modelů, zejména v kontextu coding agentů.
|
||
|
||
## Trade-offy
|
||
|
||
| Aspekt | Lokální (Ollama) | Cloud (OpenRouter) |
|
||
|--------|-------------------|-------------------|
|
||
| Náklady | Nulové (vlastní HW) | Pay-per-token |
|
||
| Soukromí | Plné | Omezené |
|
||
| Kvalita | Nižší (menší modely) | Vyšší (nejlepší modely) |
|
||
| Latence | Nízká (lokální) | Vyšší (síť) |
|
||
| Dostupnost | Závislá na HW | Vždy dostupné |
|
||
| Flexibilita | Omezená na lokální modely | Široký výběr |
|
||
|
||
## Praktické poznatky
|
||
|
||
- Pro jednoduché úkoly stačí lokální modely (3B–8B parametrů)
|
||
- Pro komplexní úkoly je cloud s výkonnými modely nezbytný
|
||
- OpenRouter umožňuje hybridní přístup — snadné přepínání mezi lokálními a cloud modely
|
||
- Beast mode = cloud s nejvýkonnějšími modely za nízkonákladový proxy
|
||
|
||
## Související
|
||
|
||
- [[product-ollama]] — lokální inference server
|
||
- [[product-openrouter]] — cloud proxy
|
||
- [[product-claude-code]] — coding agent podporující oba přístupy
|
||
- [[coding-agent-setup]] — koncept nastavení coding agentů
|
||
- [[cost-optimization]] — optimalizace nákladů |