Files
wikipedia/Hermes/hermes_hindsight_lxc_guide.md

6.5 KiB

#hermes #hermes_hindsight_lxc_guide #guide

Настройка памяти Hindsight для ИИ-агента Hermes в LXC

Это руководство содержит инструкции по установке, конфигурированию и запуску долгосрочной памяти Hindsight (от Vectorize.io) для ИИ-агента Hermes Agent (от Nous Research) внутри изолированного контейнера LXC с использованием API-провайдера Polza AI.


1. Ресурсная сетка для LXC (Polza AI Оптимизация)

Так как инференс LLM и вычисление эмбеддингов полностью делегированы на сервера Polza AI, локальные требования к контейнеру минимальны:

  • Процессор (CPU): 2 ядра (vCPU) — достаточно для работы PostgreSQL и маршрутизации запросов.
  • Оперативная память (RAM): 2 ГБ — около 1 ГБ займет ОС и Hermes, еще 1 ГБ зарезервирует PostgreSQL для кэширования векторных индексов.
  • Дисковая подсистема (Storage): 10–15 ГБ (желательно на NVMe/SSD для быстрого I/O при поиске по индексам pgvector).
  • Сеть: Обязателен исходящий доступ в интернет для выполнения API-запросов к эндпоинтам Polza AI.

2. Пошаговая установка в контейнере

Зайдите в консоль вашего LXC-контейнера и выполните следующие шаги:

# 1. Обновление системы и установка зависимостей
apt update && apt upgrade -y
apt install -y python3 python3-pip postgresql postgresql-contrib git curl

# 2. Установка расширения pgvector для PostgreSQL
# (Необходимо для хранения долгосрочной векторной памяти)
apt install -y postgresql-15-pgvector || apt install -y postgresql-16-pgvector

# 3. Настройка базы данных
su - postgres -c "psql -c "CREATE USER hindsight_user WITH PASSWORD 'secure_password_here';""
su - postgres -c "psql -c "CREATE DATABASE hindsight_memory OWNER hindsight_user;""
su - postgres -c "psql -d hindsight_memory -c "CREATE EXTENSION IF NOT EXISTS vector;""

# 4. Установка Hermes Agent и плагина Hindsight
pip3 install hermes-agent-cli
hermes plugins install hindsight

3. Конфигурация (~/.hermes/hindsight/config.json)

Создайте или отредактируйте конфигурационный файл плагина. Замените sk-polza-ВАШ_КЛЮЧ_ИЗ_КОНСОЛИ на ваш реальный токен из личного кабинета Polza AI.

{
  "memory_enabled": false,
  "hindsight": {
    "mode": "local_embedded",
    "database": {
      "host": "127.0.0.1",
      "port": 5432,
      "user": "hindsight_user",
      "password": "secure_password_here",
      "dbname": "hindsight_memory"
    },
    "llm_provider": {
      "type": "openai_compatible",
      "base_url": "https://polza.ai/api/v1",
      "api_key": "sk-polza-ВАШ_КЛЮЧ_ИЗ_КОНСОЛИ",
      "model": "nousresearch/hermes-3-llama-3.1-70b"
    },
    "embedding_provider": {
      "type": "openai_compatible",
      "base_url": "https://polza.ai/api/v1",
      "api_key": "sk-polza-ВАШ_КЛЮЧ_ИЗ_КОНСОЛИ",
      "model": "openai/text-embedding-3-small"
    },
    "auto_recall": true,
    "auto_retain": true
  }
}

Отключение стандартной памяти: Команда hermes tools disable memory предотвратит дублирование контекста и сэкономит входящие токены.


4. Настройка автозапуска через systemd

Чтобы демон памяти автоматически поднимался при перезапуске LXC-контейнера, создайте системную службу.

Создайте файл /etc/systemd/system/hindsight-daemon.service:

[Unit]
Description=Hindsight Memory Daemon for Hermes Agent
After=postgresql.service

[Service]
Type=simple
User=root
ExecStart=/usr/local/bin/hermes memory daemon start
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user-target

Активируйте и запустите службу:

systemctl daemon-reload
systemctl enable hindsight-daemon.service
systemctl start hindsight-daemon.service

5. Использование и команды ИИ-агента

При включенных параметрах auto_recall и auto_retain Hermes работает полностью автономно. Но вы можете управлять памятью и вручную в окне чата:

  • Ручное сохранение факта:

    "Запомни, что тестовый сервер развернут на порту 8080 с конфигурацией дебага." (Hermes вызовет инструмент hindsight_retain)

  • Извлечение контекста:

    "На каком порту мы тестировали сервер?" (Hermes выполнит поиск через hindsight_recall)

  • Синтез знаний (Рефлексия): Периодически запускайте процесс консолидации памяти, чтобы объединить разрозненные факты и очистить базу от устаревшего "шума":

    hermes memory reflect --force
    

6. Логи и Диагностика в LXC

Если агент теряет контекст, проверьте следующие точки отказа внутри контейнера:

  • Статус демона памяти: systemctl status hindsight-daemon.service
  • Просмотр логов Hindsight: tail -f ~/.hermes/logs/hindsight-embed.log
  • Проверка подключения к PostgreSQL: psql -U hindsight_user -d hindsight_memory -h 127.0.0.1
  • Проверка доступности шлюза Polza AI: curl -I https://polza.ai/api/v1/models