Files
nanobot-runtime/cml/wiki/concepts/local-vs-cloud-models.md
2026-06-24 08:11:12 +02:00

1.8 KiB
Raw Blame History

type, title, tags, sources, created, updated, graph
type title tags sources created updated graph
concept Local vs. cloud models
llm
local-models
cloud-models
cost
privacy
claude-code-local-cloud-models
claude-code-ollama-workflow
claude-code-openrouter-beast-mode
2026-06-18 2026-06-18
node_id canonical relationships
concept:local-vs-cloud-models true
predicate object source evidence confidence status
depends_on concept:coding-agent claude-code-local-cloud-models Lokální vs. cloud modely jsou relevantní primárně v kontextu coding agentů medium current

Local vs. cloud models

Koncept volby mezi lokální inference (Ollama, llama.cpp) a cloud API (OpenRouter, nativní API) pro běh LLM modelů, zejména v kontextu coding agentů.

Trade-offy

Aspekt Lokální (Ollama) Cloud (OpenRouter)
Náklady Nulové (vlastní HW) Pay-per-token
Soukromí Plné Omezené
Kvalita Nižší (menší modely) Vyšší (nejlepší modely)
Latence Nízká (lokální) Vyšší (síť)
Dostupnost Závislá na HW Vždy dostupné
Flexibilita Omezená na lokální modely Široký výběr

Praktické poznatky

  • Pro jednoduché úkoly stačí lokální modely (3B8B parametrů)
  • Pro komplexní úkoly je cloud s výkonnými modely nezbytný
  • OpenRouter umožňuje hybridní přístup — snadné přepínání mezi lokálními a cloud modely
  • Beast mode = cloud s nejvýkonnějšími modely za nízkonákladový proxy

Související