Jeden endpoint, free-first, 3 vrstvy failoveru (nikdy nespadne).
curl https://llm.czechai.io/v1/chat/completions \
-H "Authorization: Bearer sk-czechai-gw-2026" \
-d '{"model":"code","messages":[{"role":"user","content":"..."}]}'
Auth klíč: sk-czechai-gw-2026 · bez něj → 401 · Health: /health
| model | co dělá |
|---|---|
code | kód, free-first + fallback |
chat | chat, free-first + fallback |
auto | univerzální free-first |
gemini/gemini-2.5-flash | konkrétní model napřímo |
Řetěz: FREE Gemini2.5 / Groq / OpenRouter:free → GPU 96GB Ollama (zdarma,privátní) → Fireworks/DeepSeek/GPT-4o-mini → Claude Sonnet 4.6
🔴 Citlivá klientská data → vždy GPU větev (privátní), ne free cloud.
| komponenta | adresa |
|---|---|
| nginx edge SSL+auth | llm.czechai.io:443 |
| nginx failover | 127.0.0.1:8300 |
| LiteLLM (primary) | 127.0.0.1:8210 · UI /ui |
| Bifrost (backup) | 127.0.0.1:8200 · UI / |
/opt/llm-gateway/litellm/config.yaml · /opt/llm-gateway/bifrost/config.json
✅ Ověřeno: kill primary → Bifrost převzal · veřejně chat → VEREJNE_OK · bez auth → 401
1) Remote-SSH (vývoj na serveru, DOPORUČENO):
Cursor → Ctrl+Shift+P → „Remote-SSH: Connect to Host" → cursor.czechai.io (=117) nebo 46.224.121.179 (=179). Config už v ~/.ssh/config. PC drží jen okno, vše těžké na serveru.
2) Web desktop: https://cursor.czechai.io — login plochy cursor / Eliska123 (pak ještě login do Cursor účtu).
3) cursor-agent CLI (headless, bez PC): kontejner cursor-box na 117, přihlášený.
docker exec cursor-box bash -c '… cursor-agent -p --force --model auto "PROMPT"'
Kodéři = „skořápky", mozek si vybíráš. Všechny umí Claude / free cloud / tvé GPU → napoj je na https://llm.czechai.io.
| nástroj | kde | stav |
|---|---|---|
| claude (Claude Code) | 179 | ✅ |
| aider | 117 | ✅ |
| cursor-agent | 117 cursor-box | ✅ |
| OpenCode / Goose / Cline | – | ⬜ doinstalovat |
Klientské agenty 24/7 (PC vypnuté) = serverové služby (swarmy/API), ne Cursor.