DF-ИИ-024 · ИИ в работе команды
RAG 2.0: когда простого поиска по базе знаний мало и нужен агентный цикл
- Чем простой поиск по базе знаний отличается от агентного цикла
- Почему большое контекстное окно не заменяет отбор материалов
- Чек-лист: по какому типу вопроса выбирать архитектуру
- Какие ограничения контекста учитывать в длинном диалоге
Вопрос клиента попал в поиск по базе знаний, нашёлся похожий фрагмент, помощник выдал ответ. А через день тот же помощник на соседнем вопросе выдал уверенную, но неполную справку: нужные сведения лежали в двух разных документах, и один проход поиска их не собрал. Значит ли это, что простой поиск плох? Нет. Значит, для части вопросов его просто недостаточно.
Разница между простым поиском и агентным циклом — не в модности инструмента, а в типе вопроса. Если ответ целиком лежит в одном фрагменте базы, лишний цикл только добавит задержку и цену. Если ответ нужно собрать из нескольких источников, уточнить запрос по первому результату или дождаться ответа внешнего инструмента — одного прохода не хватит.
Ниже — как различить эти случаи и по каким признакам решать до запуска. Это редакционный чек-лист Deskforge, а не отчёт об испытании продукта и не клиентский кейс: шаги нужно адаптировать к вашей базе и вашим вопросам. Смежная тема — поиск по базе знаний с ИИ: какие материалы подготовить, а варианты работ с ИИ собраны на странице автоматизации процессов.
Что считать простым поиском, а что — агентным циклом
Простой поиск — это один проход: вопрос превращается в запрос, из базы достаётся несколько фрагментов, модель составляет ответ по ним. Никаких промежуточных решений, никаких дополнительных вызовов. Такой контур предсказуем: понятно, сколько запросов уйдёт, сколько это займёт времени и что попадёт в ответ.
Агентный цикл устроен иначе. В документации LangChain агент описан как модель плюс обвязка (harness), а обвязкой считается всё вокруг цикла модели: промпт, инструменты и промежуточное ПО, задающее поведение. То есть модель не просто отвечает — она решает, какой инструмент вызвать, и может вернуться к поиску ещё раз.
Это описание относится к фреймворку LangChain, а не к общему определению агента для любых реализаций. Но оно хорошо показывает суть: цикл появляется там, где между вопросом и ответом есть шаги, которые модель выбирает сама.
Для задач, где нужно сочетать детерминированные и агентные рабочие процессы, в той же документации предлагается низкоуровневый оркестратор LangGraph. Это указание на область применения фреймворка, а не сравнение качества архитектур на замерах: выбор между простым поиском и циклом делается по типу вопросов, а не по чужому рейтингу.
Почему длина контекста не заменяет отбор материалов
Первое искушение — не строить цикл, а просто положить в контекст больше документов. Модель ведь справится. В документации Anthropic контекстное окно описано как рабочая память модели, и там же отмечено: рост числа токенов сопровождается снижением точности и полноты — явлением context rot. Конкретные величины деградации не приводятся, но направление важно: больше контекста не значит лучше ответ.
Второй момент — что именно занимает окно. По документации Anthropic в контекст входят системный промпт, все сообщения (включая результаты инструментов, изображения и документы), определения инструментов и сгенерированный ответ. Перечень относится к API Anthropic; в других API состав учитываемых элементов может отличаться, но принцип тот же: каждый шаг цикла добавляет в окно свой вклад.
Отдельно про кэширование. В документации Anthropic отмечено, что кэшированные префиксы промпта продолжают занимать контекстное окно: кэширование меняет оплату токенов, но не их учёт в окне. Значит, экономия на цене не отменяет необходимости следить за объёмом.
Вывод для архитектуры простой: если ответ требует многих документов, отбирать их нужно точнее, а не складывать всё подряд. Иначе цикл будет добавлять шаги, а качество ответа — падать.
Когда одного прохода по базе знаний достаточно
В документации LangChain рекомендуется начинать с минимальной обвязки create_agent и добавлять возможности по мере необходимости, собирая только то, что нужно сценарию. Рекомендация относится к инструментам LangChain и не доказывает, что минимальная обвязка достаточна для любого типа вопросов. Но как принцип она полезна: не стройте цикл, пока не убедились, что одного прохода мало.
Проверить это можно на своих вопросах. Возьмите реальные обращения к базе и для каждого ответьте на один вопрос: содержится ли ответ целиком в одном фрагменте? Если да — простой поиск справится, и цикл ему не нужен.
Условный пример. Вопрос «какой срок гарантии на переданное решение» упирается в один раздел регламента. Поиск находит этот раздел, модель пересказывает его — второй запрос ничего не добавит. Здесь цикл только увеличит задержку и расход токенов.
Другой признак достаточности одного прохода — вопрос не требует уточнения. Если формулировка однозначна и не зависит от предыдущего ответа базы, повторный запрос не нужен. Проверяется это так: попробуйте сформулировать второй запрос по результату первого — если он не отличается от первого, цикл лишний.
Когда нужен повторный поиск и несколько шагов
Цикл оправдан, когда между вопросом и ответом появляются шаги, которых в простом поиске нет. Первый случай — ответ собирается из нескольких документов. Условный пример: вопрос о том, какие документы нужны для приёмки, требует и раздела о критериях, и раздела о сроках. Один запрос может найти оба фрагмента, но если они лежат в разных местах базы, нужен либо более точный отбор, либо второй проход.
Второй случай — уточнение запроса по ответу базы. Первый поиск находит общий раздел, из него становится ясно, какой документ нужен дальше. Здесь второй запрос формулируется по результату первого — это и есть агентный шаг.
Третий случай — ответ зависит от вызова внешнего инструмента. Например, нужно свериться с актуальным статусом заявки, а не только с регламентом. После результата инструмента может понадобиться повторный поиск, чтобы объяснить ответ.
И четвёртый — длинный диалог. В документации Anthropic для длительных разговоров и агентных сценариев основной стратегией управления контекстом названа серверная компакция. Стратегия описана для моделей Anthropic и доступна в бета-режиме для части моделей; это не универсальное требование, но повод заранее продумать сжатие истории: в многошаговом сценарии её нужно сокращать до приближения к лимиту окна.
Чек-лист выбора архитектуры по типу вопроса
Ниже — порядок решений, который можно пройти на своих вопросах до выбора архитектуры. Он опирается на те же принципы: минимальная обвязка, контроль контекста, сжатие истории.
- Ответ лежит в одном фрагменте базы? Найдите фрагмент поиском и убедитесь, что ответ содержится в нём целиком. Если да — простой поиск.
- Нужно объединить сведения из нескольких документов? Проверьте, находится ли каждый нужный фрагмент отдельным запросом и хватает ли одного прохода. Если нет — цикл.
- Нужно уточнить запрос по ответу базы? Проверьте, требуется ли второй запрос, сформулированный по результату первого. Если да — цикл.
- Ответ зависит от вызова внешнего инструмента? Проверьте, есть ли шаг с инструментом и нужен ли повторный поиск после его результата. Если да — цикл.
- Диалог длится много шагов и контекст растёт? Оцените число токенов запроса и предусмотрите сжатие истории до приближения к лимиту окна.
Структура и полнота шагов проверены локально. Это редакционная помощь читателю, не отчёт об испытании продукта и не клиентский кейс. Фактические утверждения проверяются отдельно по первоисточникам.
Практический вывод: начинайте с простого поиска и минимальной обвязки, а цикл добавляйте тогда, когда чек-лист показал хотя бы один пункт, требующий второго шага. Так вы не платите за сложность там, где она не нужна, и не теряете полноту ответа там, где она важна.