Аудит RAG на pgvector: почему тормозит и врёт
Собрали «чат по документам», а он отвечает медленно и неточно? Проверим индекс, память и версию pgvector — и скажем, где предел текущей схемы.
- Замер recall и параметров HNSW (m, ef_construction)
- Память: сколько реально нужно на 1 млн векторов
- Версия pgvector и закрытые уязвимости (CVE-2026-3172)
- План масштабирования: pgvectorscale или отдельный движок после 10 млн
Типичные причины slowdown
Слишком большой ef_search, мало RAM под HNSW, индекс строится параллельно и падает, версия расширения старая, эмбеддинги пересчитываются на каждый запрос.
Что проверяем
Конфигурацию индекса, план запросов, потребление памяти, качество выдачи на контрольных вопросах, версию расширения на всех нодах.
Что получаете
Отчёт с узкими местами и конкретными настройками, оценку предела текущей схемы и план перехода, если объём превышает ~10 млн векторов.
Частые вопросы
Нужно ли отдавать данные?
Нет. Достаточно схемы, конфигурации и обезличенных примеров запросов.
Это аудит качества ответов?
Частично: мы измеряем recall выдачи, но не оцениваем корректность формулировок модели.
Что если векторов больше 10 млн?
Тогда считаем варианты: pgvectorscale, выделенный движок или гибридную схему.