Переранжирование в Staqflow: точные ответы по базе знаний

Поиск по базе знаний может найти нужный документ, но поставить его ниже похожего фрагмента. Если языковая модель получает неподходящий контекст, ответ пользователю оказывается неверным. В Staqflow появился узел «Переранжирование»: он оценивает уже найденные материалы относительно вопроса и меняет порядок выдачи. Это помогает точнее выбирать контекст для автоматизированных ответов.

Переранжирование дополняет поиск по смыслу

Векторный поиск сравнивает представления запроса и документа, рассчитанные отдельно. Он быстро отбирает материалы по смысловой близости. Переранжировщик анализирует запрос и каждый кандидат вместе, поэтому лучше различает похожие темы: например, срок возврата товара и срок перечисления денег.

Узел работает после поиска. Сначала система получает 20–30 кандидатов, затем ранжирует их и передаёт языковой модели 3–5 наиболее подходящих фрагментов. Обрабатывать таким способом всю базу нецелесообразно: каждую пару «вопрос — документ» нужно оценивать отдельно.

Настройка сохраняет исходные данные документов

Через OpenRouter доступны семь моделей переранжирования от Cohere, Voyage, Qwen и NVIDIA, включая бесплатную модель. Можно подключить собственный сервер с TEI или Infinity. В узле выбирают модель, задают один запрос для всей пачки и указывают поле с текстом документа.

По умолчанию используется поле text. Вложенные данные можно указать через точку, например payload.text: это позволяет передать результат векторного поиска без дополнительной перекладки полей. По умолчанию узел оставляет пять лучших элементов. Также настраиваются поле для оценки и таймаут.

На выходе сохраняются исходные поля кандидатов, включая идентификатор документа и ссылку на источник. Меняются порядок и состав отобранной выдачи, добавляется оценка релевантности. Если даже лучший результат получил низкую оценку, процесс можно направить к сотруднику вместо автоматической подготовки ответа.

Результат проверяют на реальных вопросах

Для проверки соберите набор вопросов с известными правильными фрагментами. Выполните поиск без переранжирования и запишите позиции нужных материалов. Затем повторите те же запросы с новым узлом. Если правильные фрагменты чаще попадают в первые три результата, дополнительный шаг приносит измеримую пользу.

Если порядок почти не меняется, усложнять процесс необязательно. Переранжирование особенно полезно для длинных и похожих инструкций, регламентов и договоров, когда поиск возвращает много кандидатов, а в контекст модели помещается лишь небольшая часть.

Применение в поддержке и обработке обращений

• Ответы по базе знаний: вопрос клиента → поиск фрагментов → переранжирование → ответ по выбранным источникам.
• Поиск по договорам: отбор пунктов, отвечающих на конкретный вопрос о сроках, поставках или неустойке.
• Подбор похожих заявок: поиск в архиве обращений и выбор случаев с подходящим решением.
• Каталог товаров: уточнение выдачи с учётом требований пользователя, выраженных обычными словами.

Для поиска по артикулу, номеру заказа или точной дате обычно достаточно структурированного запроса. В небольшой базе с двумя-тремя кандидатами отдельное переранжирование тоже может не потребоваться.

Стоимость зависит от числа кандидатов

Провайдер оценивает каждую пару «запрос — документ», поэтому расходы растут с размером переданной выборки. Размер всей базы на этот вызов не влияет. Для проверки можно начать с бесплатной модели; для рабочего процесса подобрать число кандидатов по результатам теста. Работа workflow оплачивается отдельно по модели потребления Staqflow.

Частые вопросы

Можно ли заменить поиск переранжированием?

Нет. Узел получает готовый список, а не ищет документы самостоятельно. Его место — между поиском и подготовкой ответа.

Почему запрос общий для всей пачки?

Документы сравниваются относительно одного вопроса. Если каждому элементу задать свой запрос, общий порядок перестанет отражать релевантность выдачи.

Сколько фрагментов передавать модели?

Обычно оставляют 3–5 фрагментов из 20–30 найденных. Окончательное число зависит от объёма контекста и качества ответов на ваших данных.

Связанные материалы

• Эмбеддинги в Staqflow: поиск по смыслу и векторные базы
• Распознавание документов в Staqflow: PDF и сканы в поля
• STAQ.WorkflowAI: визуальный конструктор и ИИ для процессов

Подробнее о возможностях автоматизации — на сайте Staqflow.