САТ Analytics
Главная / Услуги / Аудит RAG на pgvector: почему тормозит и врёт

Аудит RAG на pgvector: почему тормозит и врёт

Собрали «чат по документам», а он отвечает медленно и неточно? Проверим индекс, память и версию pgvector — и скажем, где предел текущей схемы.

Типичные причины slowdown

Слишком большой ef_search, мало RAM под HNSW, индекс строится параллельно и падает, версия расширения старая, эмбеддинги пересчитываются на каждый запрос.

Что проверяем

Конфигурацию индекса, план запросов, потребление памяти, качество выдачи на контрольных вопросах, версию расширения на всех нодах.

Что получаете

Отчёт с узкими местами и конкретными настройками, оценку предела текущей схемы и план перехода, если объём превышает ~10 млн векторов.

Обсудить аудит RAG Читать блог

Частые вопросы

Нужно ли отдавать данные?

Нет. Достаточно схемы, конфигурации и обезличенных примеров запросов.

Это аудит качества ответов?

Частично: мы измеряем recall выдачи, но не оцениваем корректность формулировок модели.

Что если векторов больше 10 млн?

Тогда считаем варианты: pgvectorscale, выделенный движок или гибридную схему.