provozni zaloha
This commit is contained in:
48
cml/wiki/concepts/local-vs-cloud-models.md
Normal file
48
cml/wiki/concepts/local-vs-cloud-models.md
Normal file
@@ -0,0 +1,48 @@
|
||||
---
|
||||
type: concept
|
||||
title: "Local vs. cloud models"
|
||||
tags: [llm, local-models, cloud-models, cost, privacy]
|
||||
sources: [claude-code-local-cloud-models, claude-code-ollama-workflow, claude-code-openrouter-beast-mode]
|
||||
created: 2026-06-18
|
||||
updated: 2026-06-18
|
||||
graph:
|
||||
node_id: concept:local-vs-cloud-models
|
||||
canonical: true
|
||||
relationships:
|
||||
- predicate: depends_on
|
||||
object: concept:coding-agent
|
||||
source: claude-code-local-cloud-models
|
||||
evidence: "Lokální vs. cloud modely jsou relevantní primárně v kontextu coding agentů"
|
||||
confidence: medium
|
||||
status: current
|
||||
---
|
||||
|
||||
# Local vs. cloud models
|
||||
|
||||
Koncept volby mezi lokální inference (Ollama, llama.cpp) a cloud API (OpenRouter, nativní API) pro běh LLM modelů, zejména v kontextu coding agentů.
|
||||
|
||||
## Trade-offy
|
||||
|
||||
| Aspekt | Lokální (Ollama) | Cloud (OpenRouter) |
|
||||
|--------|-------------------|-------------------|
|
||||
| Náklady | Nulové (vlastní HW) | Pay-per-token |
|
||||
| Soukromí | Plné | Omezené |
|
||||
| Kvalita | Nižší (menší modely) | Vyšší (nejlepší modely) |
|
||||
| Latence | Nízká (lokální) | Vyšší (síť) |
|
||||
| Dostupnost | Závislá na HW | Vždy dostupné |
|
||||
| Flexibilita | Omezená na lokální modely | Široký výběr |
|
||||
|
||||
## Praktické poznatky
|
||||
|
||||
- Pro jednoduché úkoly stačí lokální modely (3B–8B parametrů)
|
||||
- Pro komplexní úkoly je cloud s výkonnými modely nezbytný
|
||||
- OpenRouter umožňuje hybridní přístup — snadné přepínání mezi lokálními a cloud modely
|
||||
- Beast mode = cloud s nejvýkonnějšími modely za nízkonákladový proxy
|
||||
|
||||
## Související
|
||||
|
||||
- [[product-ollama]] — lokální inference server
|
||||
- [[product-openrouter]] — cloud proxy
|
||||
- [[product-claude-code]] — coding agent podporující oba přístupy
|
||||
- [[coding-agent-setup]] — koncept nastavení coding agentů
|
||||
- [[cost-optimization]] — optimalizace nákladů
|
||||
Reference in New Issue
Block a user