Из чего состоит ИИ-агент: выбор архитектуры и контроля

Система получает письмо, извлекает реквизиты и заносит их в учётную программу. Это уже ИИ-агент или обычная автоматизация с моделью внутри? Ответ зависит не от названия технологии, а от того, кто выбирает следующий шаг.

Если маршрут заранее известен, его можно закрепить в коде. Если состав действий меняется от входа к входу, модели может понадобиться право выбирать инструменты и порядок работы. Память добавляют лишь тогда, когда текущему запуску действительно нужны сведения из предыдущих.

Поэтому начинать стоит не с перечня компонентов, а с разбора процесса. Ниже — четыре уровня архитектуры, назначение инструментов и памяти, а также ограничения, без которых самостоятельность системы становится трудно контролировать.

Сначала определить архитектуру: фиксированный маршрут или решения модели

Anthropic разделяет два подхода. В рабочем процессе LLM и инструменты проходят по путям, заранее заданным кодом. В агенте модель сама направляет выполнение и решает, как использовать доступные инструменты. Это архитектурная терминология конкретного поставщика: в других документах названия могут отличаться.

Проверьте три типовых входа. Если для каждого можно заранее записать одинаковую последовательность — например, извлечь поля, проверить формат и подготовить черновик записи, — динамический выбор маршрута не нужен. Модель может выполнять отдельный смысловой шаг внутри обычного сценария.

Если один вход требует запросить справочник, другой — сопоставить несколько документов, а третий — вернуть задачу человеку, состав действий уже зависит от ситуации. Тогда можно рассматривать оркестрацию моделью, но только после описания доступных операций и правил остановки.

Лестница сложности: один вызов LLM, сценарий, оркестратор, автономный агент

Начальный уровень — один вызов LLM. По данным Anthropic, для многих приложений его достаточно, если добавить поиск нужных сведений и примеры в контекст. Достаточность проверяют на конкретном процессе: источник не задаёт универсального перечня таких задач.

Следующий уровень — фиксированная цепочка. Каждый вызов обрабатывает результат предыдущего, а между этапами можно поставить программную проверку. Такой вариант подходит, когда подзадачи и их порядок известны заранее.

Оркестратор нужен, если подзадачи нельзя полностью перечислить до получения входа. Центральная LLM определяет их по ситуации, передаёт исполнителям и собирает ответы. Само наличие сложного задания ещё не доказывает, что эта схема полезнее простой цепочки.

Автономный агент предназначен для открытых задач с непредсказуемым числом шагов и маршрутом, который нельзя жёстко записать. Это требует допустимого уровня доверия к решениям модели. Anthropic также отмечает обмен: усложнение способно улучшить выполнение задачи, но увеличивает задержку и стоимость без универсальных порогов для такого выбора.

Инструменты и память: что добавлять к LLM и зачем

Расширенный LLM может получать поиск, инструменты и память, но этот список не означает, что каждый компонент обязателен. Инструмент нужен для конкретного действия: прочитать разрешённый источник, выполнить расчёт, создать черновик или изменить запись во внешней системе.

Отдельно решают, где проходит оркестрация и кто хранит состояние между задачами. Руководство OpenAI предлагает выбирать среду выполнения именно по этим вопросам. Это описание вариантов OpenAI, а не исчерпывающая классификация всех реализаций.

Не следует смешивать историю разговора, сессию агента и песочницу выполнения. В документации OpenAI это разные ресурсы, поэтому для каждого задают срок хранения и очистку. Как редакционное архитектурное соображение, постоянную память стоит добавлять только после проверки, что сведения из предыдущих запусков действительно нужны новому запуску.

Когда фиксированный сценарий надёжнее самостоятельного агента

В этом разделе надёжность — редакционный критерий выбора, который нужно проверять на конкретном процессе, а не универсально доказанное преимущество. Фиксированный сценарий стоит рассмотреть там, где шаги можно перечислить, а промежуточный результат — проверить программно. Например, документ проходит извлечение полей, проверку обязательных реквизитов и передачу сомнительных мест оператору.

Выбор следующего этапа здесь определяется правилами, а не рассуждением модели.

Агентный маршрут оправдан не разнообразием формулировок, а невозможностью заранее задать состав действий. Даже тогда часть процесса можно оставить фиксированной: модель выбирает способ поиска, но запись во внешней системе выполняется только после отдельной проверки.

Практический разбор процесса можно начать по материалу о внедрении ИИ в компанию. Варианты интеграции моделей, данных и внешних систем описаны на странице автоматизации бизнес-процессов.

Ограничения автономности: подтверждение человека, факты из среды, лимиты и песочница

Во время выполнения агенту нужны фактические ответы среды: результат вызова инструмента, выполнения кода или чтения разрешённого источника. По ним система оценивает продвижение, вместо того чтобы полагаться только на собственный текст.

В контрольной точке агент может остановиться и запросить решение человека. Отдельно задают условия завершения: достижение проверяемого результата, блокирующую ошибку или максимальное число итераций. Конкретные точки и пределы выбирают по риску процесса — первоисточник не устанавливает единых значений.

Anthropic предупреждает, что автономность повышает стоимость и создаёт риск накопления ошибок. Рекомендованы испытания в изолированной среде и защитные ограничения. Для действий с внешними данными дополнительно полезно разделить чтение, подготовку черновика и необратимое изменение.

Чек-лист выбора архитектуры для конкретного рабочего процесса

Ниже — редакционная рекомендация Deskforge, которую нужно адаптировать к своим данным и рискам. Это не обязательный стандарт, не результат внешнего испытания и не клиентский кейс.

1. Запишите маршрут для трёх типовых входов. Если шаги повторяются, начните с одного вызова LLM или фиксированного сценария.
2. Перечислите операции во внешних системах. Отметьте, какие из них разрешены автоматически, а какие требуют подтверждения человека.
3. Укажите, нужны ли сведения из прошлых запусков, где они хранятся, когда очищаются и чем отличаются от временной среды выполнения.
4. Для каждого шага задайте проверяемый ответ среды и правило продолжения.
5. Определите песочницу, предел шагов, допустимые расходы и условие немедленной остановки.

Условный пример: помощник разбирает обращение и готовит проект задачи. Поиск регламента и составление черновика можно поручить модели, создание записи — инструменту с ограниченными полями, а назначение ответственного оставить человеку. Это демонстрация применения чек-листа, а не описание внедрённой системы или полученного эффекта.

Источники

• Building effective AI agents — Anthropic
• Agents — OpenAI API