Skip to content

ИИ и машинное обучение·5 мин чтения

Как работают ИИ-агенты: архитектура продакшн-агента

Агент — это модель, обёрнутая в восприятие, память, инструменты, оркестрацию и мониторинг. Практический разбор шести слоёв: что ломается в каждом и что мы с этим делаем.

Анатолий НовогродскийОснователь и CEO, GlanitОпубликовано 20 августа 2026 · Обновлено 27 августа 2026

Что такое ИИ-агент и чем он отличается от чат-бота?

ИИ-агент — это языковая модель, обёрнутая ещё в пять слоёв — восприятие, память, инструменты, оркестрацию и мониторинг, — чтобы она могла действовать ради цели, а не только отвечать на вопрос. Чат-бот отвечает. Агент читает тикет, находит заказ, оформляет возврат в рамках политики и сообщает клиенту — или передаёт дело человеку, если не уверен. Разница не в размере модели и не в длине промпта; разница в архитектуре, которая делает действия безопасными, обоснованными и наблюдаемыми. Внедрение широкое, но неглубокое: по данным McKinsey, 78% организаций использовали ИИ хотя бы в одной бизнес-функции в 2024 году, но лишь небольшое меньшинство масштабировало агентов (McKinsey, 2025).

Такую структуру мы используем в агентах для клиентов и в собственных продуктах. Названия в разных фреймворках отличаются; обязанности — нет.

Чат-бот или агент: что нужно вашему процессу?

Выбирайте чат-бота, когда результат — ответ, по которому будет действовать человек; выбирайте агента, когда результат — выполненная задача внутри ваших систем. Агент дороже в разработке и защите, потому что держит инструменты и права, так что окупается он только там, где реальны и объём задач, и ручные усилия на каждую. Таблица ставит их рядом.

Чат-бот и ИИ-агент
КритерийЧат-ботИИ-агент
РезультатОтветВыполненная задача плюс ответ
Доступ к системамЗнания только для чтения, если естьТипизированные инструменты: CRM, ERP, почта, код, другие агенты
Поток управленияОдин промпт — один ответПлан, действие, наблюдение, перепланирование в рамках бюджета
ПамятьТекущий разговорРазговор плюс факты о пользователе и прошлые исходы
Главный рискНеверный или неловкий ответНеверное или необратимое действие
Нужное управлениеОграничители вывода, оценкиИнструменты с минимальными правами, одобрения, трассировка, набор атак
Чат-бот и ИИ-агент — «Копилот», который предлагает действия на подтверждение человеку, находится между колонками и часто является верным первым шагом.

1. Как агент воспринимает ввод?

Всё, с чем агент работает, входит через один слой, который разбирает, проверяет и маршрутизирует: сообщения чата, письма, PDF, изображения, события вебхуков, строки из базы. Восприятие извлекает текст из документов, классифицирует намерение, подставляет личность пользователя и его права и отклоняет то, с чем не может справиться. Держите его тонким, строгим и типизированным на границе, с путём «не могу обработать», ведущим к человеку, а не к догадкам модели.

Что ломается: агенты на сыром входе галлюцинируют на краевых случаях — скан счёта с двумя валютами, сообщение на языке, которого никто не ждал. Ввод — ещё и главная поверхность атаки: OWASP ставит prompt injection, включая косвенную инъекцию через документы и веб-страницы, которые читает агент, на первое место среди рисков LLM-приложений (OWASP, 2025).

2. Как агент рассуждает и планирует?

LLM — когнитивный движок: она интерпретирует цель, раскладывает её на шаги, выбирает следующий инструмент и решает, когда работа закончена. Продакшн-агенты планируют явно (видимый список шагов), перепланируют при сбое и работают в бюджете — максимум итераций, стоимости, времени. Сильная модель без бюджета — это цикл, который ждёт своего часа.

Что ломается: бесконечные циклы, планы, уплывающие от цели, новая версия модели, тихо меняющая поведение. Что мы делаем: набор реальных случаев для оценки прогоняется при каждом изменении промпта или модели; жёсткие лимиты на итерации и траты; предпочтение нескольким маленьким специализированным агентам вместо одного универсального. Без этой дисциплины бизнес-кейс хрупок: Gartner прогнозирует, что более 40% проектов агентного ИИ будут отменены к концу 2027 года из-за неясной ценности и недостаточного контроля рисков (Gartner, 2025).

3. Как память и знания делают ответы обоснованными?

Краткосрочная память хранит текущий разговор и промежуточные результаты; долгосрочная — факты о пользователе, предпочтения и прошлые исходы; знания — ваши документы, CRM, базы — достигаются через поиск: векторный индекс для текста, SQL или API для структурированных данных. Именно это делает ответ обоснованным: у него есть источник. Подход восходит к оригинальной работе о retrieval-augmented generation, показавшей, что связка поискового модуля с генератором повышает фактическую точность по сравнению с одной моделью (Lewis et al., 2020).

Что ломается: устаревшие индексы, нарезка, режущая таблицы пополам, поиск, возвращающий десять почти одинаковых фрагментов. Что мы делаем: гибридный поиск (ключевые слова плюс векторы), фильтры по метаданным, переранжирование и отдельная метрика качества поиска, независимая от финального ответа — см. наш чек-лист запуска RAG.

4. Как агент действует через инструменты?

Инструменты — то, чем агент меняет мир: искать, читать и записывать данные, отправить письмо, создать счёт, выполнить код, вызвать другого агента. Каждый инструмент — типизированный контракт: входы, выходы, ошибки — с областью доступа и журналом аудита. Маленькие понятные инструменты, возвращающие выжимки, работают лучше одного широкого, возвращающего стену JSON, а для каждого необратимого действия нужен человек в контуре.

Что ломается: инструмент, чей вывод модель читает неверно; необратимое действие, совершённое по недоразумению. Что мы делаем: идемпотентные операции, ограниченные учётные данные и одобрение человеком платежей, удалений и исходящих сообщений клиентам. OWASP называет этот тип отказа «избыточные полномочия» — больше инструментов, прав и автономии, чем нужно задаче (OWASP, 2025).

5. Что делают оркестрация и ограничители?

Управляющий цикл запускает агента: выстраивает шаги, обрабатывает повторы и таймауты, применяет лимиты и координирует нескольких агентов, когда одного мало (маршрутизатор, исследователь, писатель, проверяющий). Ограничители проверяют вход и выход: фильтрация персональных данных, проверка политик, пороги уверенности, останавливающие цикл и эскалирующие задачу. Это самый негламурный слой — и именно он решает, переживёт ли агент встречу с продакшеном. Сильная модель в плохом цикле ошибается постоянно; скромная модель в хорошем цикле надёжна.

Профиль NIST по генеративному ИИ описывает те же обязанности как функции управления рисками — govern, map, measure, manage — и называет человеческий надзор и происхождение контента среди рекомендуемых действий для развёрнутых систем (NIST, 2024).

6. Как оценивать и мониторить агента?

Перед ответом агент сверяет результат с целью и правилами — дешёвый второй проход, который ловит неожиданно большую долю ошибок. После ответа каждый запуск трассируется: промпты, вызовы инструментов, токены, задержка, исход. Продакшн-метрики — доля успешных задач, эскалации, исправления людьми — пополняют набор для оценки, а набор для оценки открывает дорогу следующему релизу. Агент без этой петли дрейфует, и никто не замечает, пока не заметит клиент.

Что ломается: никто не смотрит. Что мы делаем: дашборды, которые читает бизнес (выполненные задачи, стоимость задачи, доля исправлений), алерты на дрейф и еженедельный разбор неудачных запусков с владельцами процесса.

С чего начать?

Выберите один процесс с понятной цифрой — потраченные часы, доля ошибок, время ответа — и постройте шесть слоёв только для этого участка, с набором для оценки из реальных случаев. Измерьте до и после, потом расширяйте. Узкий старт — то, что отличает организации, получающие ценность, от остальных: по данным McKinsey, наибольший эффект на EBIT от генеративного ИИ видят компании, перепроектировавшие конкретные процессы, а не развернувшие универсального ассистента (McKinsey, 2025). Наши кейсы показывают, как это выглядит в ритейле, финансах и наших собственных продуктах; если хотите обсудить свой процесс — запишитесь на discovery-звонок.

Ещё статьи

ИИ и машинное обучение ·

Лучшие заявки приходят в девять вечера: ИИ-агент приёма обращений отвечает, квалифицирует и передаёт их менеджеру до утра

Заявку, пришедшую вечером или в общий ящик, получает тот, кто ответил первым. Агент приёма читает её в любом канале, сверяется с CRM, уточняет недостающее, оценивает по вашим правилам и передаёт нужному человеку готовую сводку. Всё, что обязывает компанию, ждёт решения человека.

8 мин чтения

ИИ и машинное обучение ·

Из общей почты в CRM за минуты: ИИ-агент разбирает запросы КП и обращения в поддержку и ждёт вашего одобрения

В общую почту приходит письмо в две строки, к нему 14 страниц чертежей в PDF и таблица Excel. Пока кто-то не прочитает всё это, расчёт не начнётся. Агент-сортировщик на базе ИИ читает вложения, заполняет CRM и готовит черновик КП или тикета, а затем ждёт, пока назначенный сотрудник утвердит цену, сроки и условия.

8 мин чтения

ИИ и машинное обучение ·

Workflow или агент? Как мы решаем, ещё не написав ни строчки кода

Если каждый шаг процесса можно записать до запуска, стройте workflow и вызывайте LLM только там, где что-то нужно прочитать и истолковать. Агент нужен, когда следующий шаг зависит от находки предыдущего, и закрывайте его жёсткими лимитами.

7 мин чтения