obsidian-vault/entities/Ollama.md
2026-09-20 20:40:46 +03:00

14 KiB
Raw Blame History

id pageType updatedAt sourceIds claims
entity-Ollama entity 2026-08-27 05:22:12.152000+00:00
sources/memory.md
sources/embedding-trading.md
sources/user.md
id text status evidence updatedAt
ollama-agents-models-2026-08-26 Модели по агентам (MEMORY.md, actualized 2026-08-26): main → наследует default (`qwen3.8-27b-q5xl`); coder-agent → `ollama-local/qwen3.8-27b-q5xl` (2026-08-26, было -coder тег); evaluator-agent → `ollama-local/qwen3.8-27b-q5xl` (2026-08-26, было `qwen3.6-35b-192k`); humanizer-agent → `ollama-local/qwen3.6-35b-192k` (on-demand, не менять); setup-agent → `ollama-local/qwen3.8-27b-q5xl` (с 2026-08-22) supported
kind sourceId path lines note
source-file source.memory sources/memory.md MEMORY.md (workspace), секция '### AI Models (Actualized 2026-08-26)', строки 45-58 final state: 27b-q5xl резидентный primary; on-demand 35b-192k/vl:32b mutually exclusive; hot-reload без рестарта 21:31:49; backup: projects/openclaw-tooling/backups/openclaw.json.model-assign-pre-2026-08-26 (provenance: CHANGELOG.md 2026-08-26 21:35 MSK)
2026-08-27 08:04:00+03:00
id text status evidence updatedAt
ollama-vram-arch-2026-08-26 VRAM-архитектура (RTX 5090 32GB, 2026-08-26): qwen3.8-27b-q5xl (Q5_K_XL, ~28GB VRAM) + num_ctx 131072 + keep_alive 12h = resident primary model; qwen3.6-35b-192k и qwen3-vl:32b = mutually exclusive on-demand (не загружаются одновременно с resident 27b). Это ограничение VRAM/архитектуры, а не ошибка OpenClaw. supported
kind sourceId path lines note
source-file source.memory sources/memory.md MEMORY.md (workspace), секция '### AI Models (Actualized 2026-08-26)', строки 45-58 final state: 27b-q5xl резидентный primary; on-demand 35b-192k/vl:32b mutually exclusive; hot-reload без рестарта 21:31:49; backup: projects/openclaw-tooling/backups/openclaw.json.model-assign-pre-2026-08-26 (provenance: CHANGELOG.md 2026-08-26 21:35 MSK)
2026-08-27 08:04:00+03:00
id text status evidence updatedAt
ollama-agents-models-2026-08-22 Модели по агентам (MEMORY.md, actualized 2026-08-22): main → наследует default (`qwen3.8-27b-q5xl`); coder-agent → `ollama-local/qwen3.8-27b-q5xl-coder` (config.patch 2026-08-21 19:31 MSK, hot-reload; ранее `qwen3.6:27b`); setup-agent → `ollama-local/qwen3.8-27b-q5xl` (с 2026-08-22, решение пользователя; config.patch baseHash 67dd5c64; ранее `qwen3.6-35b-192k`); evaluator-agent, humanizer-agent → `ollama-local/qwen3.6-35b-192k` superseded
kind sourceId path lines note
source-file source.memory sources/memory.md MEMORY.md (workspace), секция '### AI Models (Actualized 2026-08-26)', строки 45-58 заменено claim ollama-agents-models-2026-08-26 (2026-08-26 model assignment)
2026-08-27 08:04:00+03:00
text status evidence updatedAt
Model Keep-Alive Policy (2026-08-26): qwen3.8-27b-q5xl → openclaw.json params.keep_alive=12h (per-model, Ollama body pass-through, dist stream-DwcvMYU5.js:261-263,331); bge-m3/qwen3.6-35b-192k/qwen3-vl:32b — default/on-demand (5m); Ollama env НЕ менялся; backup: projects/openclaw-tooling/backups/openclaw.json.keepalive-12h-pre-2026-08-26. Подтверждено live 2026-08-26 16:29 MSK: /api/ps expiry 27b = +12h ровно после OpenClaw model call (per-request семантика Ollama: запрос без keep_alive сбивает expiry в 5m default); Ollama 0.32.13 уважает per-request keep_alive supported
kind sourceId path lines note updatedAt
source-file source.memory sources/memory.md MEMORY.md (workspace), секция '## Configuration Management -> ### Model Keep-Alive Policy (2026-08-26)', строки 119-121 final state: keep_alive=12h per-model, live-подтверждено 2026-08-26 16:29 MSK (+12h expiry); backup-путь 2026-08-26 16:40:00+03:00
2026-08-26 16:40:00+03:00
text status confidence evidence updatedAt
Сервер: Dell Precision 5560 (i7-11850H, 64GB, eGPU RTX 5090 32GB) → http://192.168.1.200:11434 supported 0.95
kind sourceId path updatedAt
source-file source.user sources/user.md 2026-08-19 02:06:57.501000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Primary model: `ollama-local/qwen3.8-27b-q5xl` — agents.defaults.model.primary, занимает ~30 ГБ VRAM supported 0.95
kind sourceId path updatedAt
source-file source.memory sources/memory.md 2026-08-22 09:11:48.958000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Native dreaming (memory-core.dreaming) DISABLED 2026-08-22 (user decision; was `ollama-local/qwen3.6-35b-192k`): enabled=false, cron 'Memory Dreaming Promotion' auto-removed; единственный pipeline = cron dreaming-sweep (03:00 MSK) на main model supported 0.95
kind sourceId path updatedAt
source-file source.memory sources/memory.md 2026-08-22 09:11:48.958000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Image model: `ollama-local/qwen3-vl:32b` (config); qwen2.5vl:32b (19.7 ГБ) доступна, но каждый image-запрос = выгрузка primary → загрузка VL ≈ 30-60 сек; после генерации primary НЕ восстанавливается автоматически supported 0.8
kind sourceId path updatedAt
source-file source.memory sources/memory.md 2026-08-22 09:11:48.958000+00:00
kind sourceId path updatedAt
source-file source.embedding-trading sources/embedding-trading.md 2026-08-21 17:04:21.004000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Embedding model: bge-m3, 1024 dims, http://192.168.1.200:11434; при загруженной primary ~30-60 сек, при idle primary ~5-10 сек supported 0.9
kind sourceId path updatedAt
source-file source.memory sources/memory.md 2026-08-22 09:11:48.958000+00:00
kind sourceId path updatedAt
source-file source.embedding-trading sources/embedding-trading.md 2026-08-21 17:04:21.004000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
КРИТИЧНО: никогда не использовать `num_gpu: 0` — 32GB модель на CPU повесит Dell (ноутбук, не сервер); всегда GPU; при проблеме: `systemctl --user restart ollama` на Dell supported 0.9
kind sourceId path updatedAt
source-file source.embedding-trading sources/embedding-trading.md 2026-08-21 17:04:21.004000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Варианты решения VRAM-конфликта: embed-as-code (рекомендован первым к проверке), embedding только при idle, отдельный процесс sentence-transformers, более компактная квантованная primary supported 0.75
kind sourceId path updatedAt
source-file source.embedding-trading sources/embedding-trading.md 2026-08-21 17:04:21.004000+00:00
2026-08-22 11:51:00+03:00
text status confidence evidence updatedAt
Memory search storage (actualized 2026-08-17): ~/.openclaw/agents/{agent-id}/agent/openclaw-agent.sqlite per agent (main, coder-agent, evaluator-agent, humanizer-agent, setup-agent); legacy ~/.openclaw/memory/*.sqlite.migrated (5 × ~5MB) удалены при cleanup 2026-08-17; embedding API на http://192.168.1.200:11434 supported 0.95
kind sourceId path updatedAt
source-file source.memory sources/memory.md 2026-08-22 09:11:48.958000+00:00
2026-08-22 11:51:00+03:00
text status evidence updatedAt
LLM Concurrency Caps — ЭКСПЕРИМЕНТ (2026-08-26): в openclaw.json выставлены agents.defaults.maxConcurrent=1, agents.defaults.subagents.maxConcurrent=1, cron.maxConcurrentRuns=1 — цель: исключить concurrent prefill на Ollama (192.168.1.200:11434); backup конфига: projects/openclaw-tooling/backups/openclaw.json.concurrency-111-pre-2026-08-26 supported
kind sourceId path lines note updatedAt
source-file source.memory sources/memory.md MEMORY.md (workspace), секция '## Configuration Management → ### LLM Concurrency Caps (2026-08-26)', строки 116-117 final state: три cap'а = 1, эксперимент, backup-путь 2026-08-26 12:50:00+03:00
2026-08-26 12:50:00+03:00

Entity: Ollama

Summary

Локальный сервер AI-моделей, запущенный на Dell Precision 5560. Обеспечивает inference для OpenClaw и других сервисов. Ключевое ограничение: Ollama не поддерживает параллельную работу моделей — при каждом запросе к embedding/image-модели основная модель выгружается из VRAM (EMBEDDING-TRADING.md).

Claims

  • Сервер: Dell Precision 5560 (i7-11850H, 64GB, eGPU RTX 5090 32GB) → http://192.168.1.200:11434
  • Primary model: ollama-local/qwen3.8-27b-q5xl — agents.defaults.model.primary, занимает ~30 ГБ VRAM
  • Модели по агентам (MEMORY.md, actualized 2026-08-26): main → наследует default (qwen3.8-27b-q5xl); coder-agent → ollama-local/qwen3.8-27b-q5xl (2026-08-26, было -coder тег); evaluator-agent → ollama-local/qwen3.8-27b-q5xl (2026-08-26, было qwen3.6-35b-192k); humanizer-agent → ollama-local/qwen3.6-35b-192k (on-demand, не менять); setup-agent → ollama-local/qwen3.8-27b-q5xl (с 2026-08-22)
  • VRAM-архитектура (RTX 5090 32GB, 2026-08-26): qwen3.8-27b-q5xl (Q5_K_XL, ~28GB VRAM) + num_ctx 131072 + keep_alive 12h = resident primary model; qwen3.6-35b-192k и qwen3-vl:32b = mutually exclusive on-demand (не загружаются одновременно с resident 27b). Это ограничение VRAM/архитектуры, а не ошибка OpenClaw
  • Native dreaming (memory-core.dreaming) DISABLED 2026-08-22 (user decision; was ollama-local/qwen3.6-35b-192k): enabled=false, cron 'Memory Dreaming Promotion' auto-removed; единственный pipeline = cron dreaming-sweep (03:00 MSK) на main model
  • Image model: ollama-local/qwen3-vl:32b (config); qwen2.5vl:32b (19.7 ГБ) доступна, но каждый image-запрос = выгрузка primary → загрузка VL ≈ 30-60 сек; после генерации primary НЕ восстанавливается автоматически
  • Embedding model: bge-m3, 1024 dims, http://192.168.1.200:11434; при загруженной primary ~30-60 сек, при idle primary ~5-10 сек
  • КРИТИЧНО: никогда не использовать num_gpu: 0 — 32GB модель на CPU повесит Dell (ноутбук, не сервер); всегда GPU; при проблеме: systemctl --user restart ollama на Dell
  • Варианты решения VRAM-конфликта: embed-as-code (рекомендован первым к проверке), embedding только при idle, отдельный процесс sentence-transformers, более компактная квантованная primary
  • Memory search storage (actualized 2026-08-17): ~/.openclaw/agents/{agent-id}/agent/openclaw-agent.sqlite per agent (main, coder-agent, evaluator-agent, humanizer-agent, setup-agent); legacy ~/.openclaw/memory/*.sqlite.migrated (5 × ~5MB) удалены при cleanup 2026-08-17; embedding API на http://192.168.1.200:11434
  • LLM Concurrency Caps — ЭКСПЕРИМЕНТ (2026-08-26): в openclaw.json выставлены agents.defaults.maxConcurrent=1, agents.defaults.subagents.maxConcurrent=1, cron.maxConcurrentRuns=1 — цель: исключить concurrent prefill на Ollama (192.168.1.200:11434); backup конфига: projects/openclaw-tooling/backups/openclaw.json.concurrency-111-pre-2026-08-26
  • Model Keep-Alive Policy (2026-08-26): qwen3.8-27b-q5xl → openclaw.json params.keep_alive=12h (per-model, Ollama body pass-through, dist stream-DwcvMYU5.js:261-263,331); bge-m3/qwen3.6-35b-192k/qwen3-vl:32b — default/on-demand (5m); Ollama env НЕ менялся; backup: projects/openclaw-tooling/backups/openclaw.json.keepalive-12h-pre-2026-08-26. Подтверждено live 2026-08-26 16:29 MSK: /api/ps expiry 27b = +12h ровно после OpenClaw model call (per-request семантика Ollama: запрос без keep_alive сбивает expiry в 5m default); Ollama 0.32.13 уважает per-request keep_alive

Tags

  • ai
  • model-server
  • ollama
  • gpu
  • vram

Sources