nanobot: 2026-09-11 15:55:26
This commit is contained in:
85
projects/devops/artifacts/librechat-podman/README.md
Normal file
85
projects/devops/artifacts/librechat-podman/README.md
Normal file
@@ -0,0 +1,85 @@
|
||||
# LibreChat — Podman (rootless) + systemd Quadlet
|
||||
|
||||
Náhrada OpenWebUI. Minimal stack: **api + mongodb** (bez RAG/vectordb/admin-panel,
|
||||
kvůli RAM). Volitelně meilisearch pro fulltext search (`SEARCH=true`).
|
||||
|
||||
Zdroje:
|
||||
- https://www.librechat.ai/docs/local/docker
|
||||
- https://www.librechat.ai/docs/remote/docker_linux
|
||||
- https://www.librechat.ai/docs/configuration/dotenv
|
||||
- Quadlet: https://docs.podman.io/en/latest/markdown/podman-systemd.unit.5.html
|
||||
|
||||
## Instalace (rootless, user services)
|
||||
|
||||
1. Předpoklady: `podman` ≥ 4.4 (ideálně 5.x), uživatelský účet na serveru.
|
||||
|
||||
2. Linger, aby user services běžely bez loginu:
|
||||
|
||||
loginctl enable-linger <user>
|
||||
|
||||
3. Adresář s konfigem:
|
||||
|
||||
mkdir -p ~/librechat
|
||||
# .env ze šablony z repa LibreChat (.env.example)
|
||||
cp .env.example ~/librechat/.env
|
||||
|
||||
V `~/librechat/.env` nastavit:
|
||||
- `MONGO_URI=mongodb://librechat-mongodb:27017/LibreChat`
|
||||
(DNS jméno kontejneru v quadlet síti; default v šabloně je 127.0.0.1)
|
||||
- `MEILI_HOST=http://librechat-meilisearch:7700`
|
||||
- Trvalé secrets — vygenerovat (např. `openssl rand -hex 32`):
|
||||
`CREDS_KEY` (64 hex znaků), `CREDS_IV` (32 hex), `JWT_SECRET`, `JWT_REFRESH_SECRET`
|
||||
(jinak se vygenerují do `/app/data/.env.temp` — funguje, ale po ztrátě volume
|
||||
jsou session/šifrované záznamy nenávratně pryč)
|
||||
- `SEARCH=true` jen při provozu meilisearch + `MEILI_MASTER_KEY`
|
||||
|
||||
4. Quadlet unity nakopírovat do `~/.config/containers/systemd/user/`:
|
||||
|
||||
cp librechat.network librechat-mongodb.container librechat.container \
|
||||
~/.config/containers/systemd/user/
|
||||
# volitelně: cp librechat-meilisearch.container ~/.config/containers/systemd/user/
|
||||
|
||||
Cestu k `.env` v unitách případně upravit (výchozí `%h/librechat/.env`
|
||||
= `~/.config/...` patřičně).
|
||||
|
||||
5. Start:
|
||||
|
||||
systemctl --user daemon-reload
|
||||
systemctl --user enable --now librechat-mongodb.service
|
||||
systemctl --user enable --now librechat.service
|
||||
# volitelně: systemctl --user enable --now librechat-meilisearch.service
|
||||
|
||||
6. UI na `http://<host>:3080`. První registrace = admin účet single-tenant
|
||||
deploymentu. **Po vytvoření účtu** v `.env` doplnit `ALLOW_REGISTRATION=false`
|
||||
a restart (`systemctl --user restart librechat.service`).
|
||||
|
||||
## Volitelné doplňky
|
||||
|
||||
- `librechat.yaml` (custom endpointy — Ollama/litellm proxy na nvidia.hell,
|
||||
preset modelů atd.): soubor do `~/librechat/librechat.yaml` +
|
||||
v `librechat.container` odkomentovat Volume řádek. Validace YAML fail-fast.
|
||||
- RAG (vectordb + rag_api): až když bude potřeba, ~1 GB RAM navíc.
|
||||
- Aktualizace: `podman auto-update` (quadlet unity mají default label),
|
||||
nebo ručně `podman pull registry.librechat.ai/danny-avila/librechat-dev:latest`
|
||||
+ `systemctl --user restart librechat.service`.
|
||||
|
||||
## Provoz / debugging
|
||||
|
||||
- Logy: `journalctl --user -u librechat.service` (nebo `-u librechat-mongodb`)
|
||||
- Stav kontejnerů: `podman ps`
|
||||
- Port konflikt: `PublishPort` v `librechat.container` (default 3080:3080)
|
||||
|
||||
## Designová rozhodnutí
|
||||
|
||||
- **Quadlet** místo `podman generate systemd` (deprecated) a místo
|
||||
systemd-oneshot nad `podman compose` (systemd neví o kontejnerech,
|
||||
špatný restart/watchdog).
|
||||
- **Společná quadlet síť** (`librechat.network`) — DNS mezi api a mongo
|
||||
přes ContainerName, žádné porty mimo host kromě 3080.
|
||||
- **Rootless + linger** — žádný root daemon na hostu; port 3080 > 1024,
|
||||
žádný konflikt s privileged porty.
|
||||
- **Bind-mount `.env` do /app/.env** — stejně jako upstream compose
|
||||
(aplikace čte /app/.env za běhu, env_file samotný nestačí).
|
||||
- Data v pojmenovaných volumech: `librechat-data` (/app/data — session,
|
||||
temp credentials), `librechat-mongodb-data` (/data/db). Záloha:
|
||||
`podman volume export`.
|
||||
@@ -0,0 +1,16 @@
|
||||
[Unit]
|
||||
Description=LibreChat Meilisearch (fulltext)
|
||||
|
||||
[Container]
|
||||
Image=docker.io/getmeili/meilisearch:v1.35.1
|
||||
ContainerName=librechat-meilisearch
|
||||
Network=librechat.network
|
||||
Environment=MEILI_NO_ANALYTICS=true
|
||||
EnvironmentFile=%h/librechat/.env
|
||||
Volume=librechat-meilisearch-data:/meili_data
|
||||
|
||||
[Service]
|
||||
Restart=on-failure
|
||||
|
||||
[Install]
|
||||
WantedBy=default.target
|
||||
@@ -0,0 +1,16 @@
|
||||
[Unit]
|
||||
Description=LibreChat MongoDB
|
||||
|
||||
[Service]
|
||||
# startup ordering: restart until api comes up
|
||||
Restart=on-failure
|
||||
|
||||
[Container]
|
||||
Image=docker.io/mongo:8.0.20
|
||||
ContainerName=librechat-mongodb
|
||||
Network=librechat.network
|
||||
Volume=librechat-mongodb-data:/data/db
|
||||
Exec=mongod --noauth
|
||||
|
||||
[Install]
|
||||
WantedBy=default.target
|
||||
@@ -0,0 +1,24 @@
|
||||
[Unit]
|
||||
Description=LibreChat
|
||||
Requires=librechat-mongodb.service
|
||||
After=librechat-mongodb.service
|
||||
|
||||
[Container]
|
||||
Image=registry.librechat.ai/danny-avila/librechat-dev:latest
|
||||
ContainerName=librechat
|
||||
Network=librechat.network
|
||||
PublishPort=3080:3080
|
||||
Environment=HOST=0.0.0.0
|
||||
Environment=MONGO_URI=mongodb://librechat-mongodb:27017/LibreChat
|
||||
EnvironmentFile=%h/librechat/.env
|
||||
Volume=%h/librechat/.env:/app/.env:Z
|
||||
Volume=librechat-data:/app/data
|
||||
Volume=%h/librechat/uploads:/app/uploads:Z
|
||||
# custom endpoints (Ollama/litellm): odkomentovat a vytvorit soubor
|
||||
#Volume=%h/librechat/librechat.yaml:/app/librechat.yaml:Z
|
||||
|
||||
[Service]
|
||||
Restart=on-failure
|
||||
|
||||
[Install]
|
||||
WantedBy=default.target
|
||||
@@ -0,0 +1,2 @@
|
||||
[Network]
|
||||
NetworkName=librechat
|
||||
Reference in New Issue
Block a user