Что такое ИИ-агент? Это система, в которой модель выбирает шаги и инструменты в заданных границах, наблюдает результат и продолжает работу до условия выхода или передачи управления человеку. Это больше одного ответа чат-бота, но слово «агент» не означает безграничную автономию, надёжное суждение или доступ ко всем системам.

Для базового процесса «запросить и проверить» сначала прочитайте руководство по полезной работе с ИИ. Здесь мы разбираем, что меняется, когда модель влияет на путь выполнения.

Ключевые выводы

Чат-бот отвечает, фиксированный процесс идёт по заранее запрограммированным путям, а агент выбирает среди разрешённых следующих шагов.

Агенту нужны модель, инструкции, инструменты, состояние, цикл и условия выхода.

Реальное воздействие определяют права инструментов, а не название.

Аутентификация, одобрения, песочница, бюджеты и журналы должны существовать вне обещаний модели.

Если задача и путь решения уже известны, детерминированный процесс часто лучше.

Что такое ИИ-агент на практике?

ИИ-агент — это программа, которая использует модель для управления частью многошагового процесса. OpenAI описывает агентов как системы, которые самостоятельно выполняют задачи от имени пользователя, и называет модели, инструменты и инструкции основными элементами их устройства.［1］ Anthropic использует более широкий термин «агентные системы», но проводит полезное различие: рабочие процессы (workflows) следуют заранее заданным путям в коде, а агенты сами динамически направляют свой процесс и выбор инструментов.［2］

На границах определения расходятся, поэтому изучайте саму систему, а не её маркетинговое название. Выясните, кто выбирает следующее действие, какие инструменты доступны, какое состояние сохраняется между шагами и что останавливает выполнение.

Небольшой пример

Допустим, цель — «выяснить, почему падает этот модульный тест, и подготовить патч для проверки». Чат-бот может объяснить вставленную ошибку. Фиксированный процесс может всегда запускать линтер, затем тесты, затем выдавать отчёт. Агент может прочитать правила репозитория, найти тест, выбрать нужный файл, выполнить точечную команду, уточнить гипотезу и остановиться перед правкой, потому что требуется одобрение.

Агент — это не один вызов модели. Это модель плюс окружающее программное обеспечение, которое передаёт контекст, открывает доступ к инструментам, применяет ограничения, записывает результаты и решает, как вывод модели превращается в действия.

Чем ИИ-агент отличается от чат-бота и фиксированного процесса?

Разница — в контроле над путём выполнения, а не в том, насколько «разговорным» выглядит интерфейс.

Система	Кто выбирает шаг	Сильная сторона	Риск
Чат-бот	Пользователь, отправляя новый промпт	Объяснения и черновики	Гладкий ответ могут принять за проверенную работу
Фиксированный процесс	Заранее написанный код приложения	Предсказуемость и повторяемость	Жёсткий путь может не справиться с необычным вводом
ИИ-агент	Модель, выбирая среди разрешённых действий внутри цикла	Адаптация к неполным или меняющимся задачам	Ошибки могут накапливаться от действия к действию

Чат-бот может вызвать инструмент поиска и всё равно работать как одиночный «запрос — ответ». Процесс может содержать вызовы модели, не отдавая ей контроль над всем путём. Агент тоже может быть жёстко ограничен: динамический выбор не требует неограниченного доступа к файловой системе, сети или аккаунтам.

«Агентность» — это спектр

Системы различаются тем, сколько выбора они делегируют модели. Один агент может лишь выбирать из трёх инструментов поиска только для чтения. Другой может редактировать файлы, запускать тесты и открывать запрос на ревью. У второго шире набор возможных действий, но оба могут использовать цикл, которым управляет модель.

Не сравнивайте агентов только по числу доступных действий. Сравнивайте границы задачи, права инструментов, правила выхода, поведение при восстановлении и доказательства, доступные проверяющему.

Из каких компонентов состоит ИИ-агент?

Большинству практических агентов нужны семь компонентов:

Цель: ограниченный результат и критерии приёмки.
Модель: предлагает решения или действия на основе текущего контекста.
Инструкции: политики, процедуры, ограничения и правила вывода.
Инструменты: типизированные интерфейсы для получения информации или выполнения действий.
Состояние: наблюдения, промежуточные результаты, бюджеты и уже выполненные действия.
Цикл управления: возвращает результаты инструментов модели и выбирает следующий ход.
Выход и передача управления: условия успеха, сбоя, исчерпания бюджета, одобрения или эскалации к человеку.

Это детерминированная схема общего цикла, а не интерфейс продукта и не утверждение о единой архитектуре всех агентов.

Инструменты превращают текст в воздействие

Ответ модели — это текст или структурированный вывод. Инструменты дают этому выводу путь к действию: изучить репозиторий, выполнить запрос к базе данных, вызвать API, записать файл или отправить сообщение. Поэтому устройство инструментов определяет практические последствия ошибки.

Предпочитайте узкие инструменты с явными параметрами и понятными ошибками. read_issue(number) проще разрешить и проверить, чем «выполнить любую команду оболочки с токеном». Разделяйте операции чтения и записи, проверяйте входные данные, а для необратимых действий требуйте более высокого уровня одобрения.

Состояние помогает — и может ввести в заблуждение

Состояние позволяет агенту помнить, что он уже пробовал, но устаревшее или недоверенное состояние может направить последующие решения не туда. Помечайте наблюдения источником, временем и областью действия. Не позволяйте старому результату инструмента незаметно перекрыть более новое значение из системы учёта.

В работе с кодом текущее дерево файлов, правила репозитория, вывод тестов и явный запрос пользователя должны оставаться различимыми. Процесс программирования с ИИ показывает, как превратить эти входные данные в ограниченную задачу, а не в бессрочную миссию.

Что ИИ-агент действительно может делать?

Агент может разбить цель на части, получить контекст, выбрать разрешённый инструмент, отреагировать на результат и повторить цикл. В зависимости от инструментов он может упорядочить документы, расследовать падение теста, подготовить черновик, классифицировать запросы или собрать пакет материалов для проверки.

Он не может получить полномочия, которых не даёт окружающая система. Он не может сделать неопределённую информацию истинной, гарантировать успех внешнего действия или заменить владельца юридического, медицинского, финансового, кадрового решения, решения по безопасности или по рабочей среде.

Возможность всегда зависит от условий

У каждого утверждения о возможностях должны быть условия. «Агент может обновить тикет» на деле означает: инструмент настроен, у учётной записи есть права, тикет входит в рамки задачи, API доступен, входные данные проходят проверку, а политика одобрения разрешает запись.

Если какого-то условия нет, хорошо спроектированный агент должен остановиться или передать управление. Корректный отказ — это работающая мера контроля, а не провалившаяся демонстрация.

Когда нужен агент, а когда автоматизация?

Используйте детерминированный скрипт или процесс, когда входные данные структурированы, путь известен, правила стабильны и каждую ветку можно протестировать. Агент нужен, когда задача требует толковать неструктурированную информацию, выбирать среди нескольких разумных путей и корректировать действия по промежуточным наблюдениям.

Anthropic советует начинать с самого простого решения и добавлять агентную сложность только тогда, когда она даёт измеримую пользу; для чётко определённых задач процессы предсказуемее.［2］

Задайте четыре вопроса:

Действительно ли задаче нужен выбор, который делает модель?
Можно ли оценить успех и неудачу?
Можно ли ограничить инструменты минимально необходимыми воздействиями?
Стоит ли польза дополнительной задержки, затрат, проверки и обработки сбоев?

Если ответ на первый или второй вопрос — «нет», агент, скорее всего, лишь сделает систему менее понятной.

Какие меры ограничивают агента?

Используйте многоуровневый контроль: ни один промпт не способен обеспечить соблюдение всех границ.

Мера контроля	Назначение
Аутентификация и авторизация	Ограничить, какая учётная запись может использовать какой инструмент и ресурс
Проверка входных данных	Отклонять некорректные, слишком большие или запрещённые запросы до того, как их увидят инструменты
Песочница и сетевая политика	Ограничить файлы, процессы, адресатов и протоколы
Контрольные точки одобрения	Останавливаться перед чувствительными, внешними, дорогими или необратимыми действиями
Бюджеты и условия выхода	Ограничить число ходов, время, стоимость, повторные попытки и повторяющиеся сбои
Проверка вывода и эффекта	Проверять структурированный вывод и подтверждать нужное внешнее состояние
Журнал аудита	Записывать инструкции, вызовы инструментов, результаты, одобрения и ошибки

В описании работы агентов программирования OpenAI отдельно рассматривает границы песочницы, политику одобрения, управляемый доступ к сети, учётные данные и телеметрию.［3］ Это разделение важно: журнал не предотвращает опасное действие, а окно одобрения не компенсирует избыточные права учётной записи.

Для сгенерированного кода используйте чек-лист проверки до запуска. Агент, создавший патч, не должен единолично решать, что его безопасно выполнять.

Считайте внешнее содержимое недоверенным

Веб-страницы, тексты задач (issues), документы, комментарии в коде и вывод инструментов могут содержать инструкции, противоречащие цели пользователя. Система должна отличать данные от доверенных инструкций, ограничивать параметры инструментов и требовать одобрения, если новый источник пытается расширить рамки задачи.

Минимизируйте персональные и конфиденциальные данные до того, как они попадут в контекст агента. Руководство о приватности ИИ разбирает вопросы хранения, раскрытия и управления данными, которые остаются актуальными даже при хорошо изолированном агенте.

Как агент должен передать незавершённую задачу?

Полезный агент останавливается со структурированной передачей: цель, выполненные действия, найденные доказательства, изменённые файлы или системы, выполненные проверки, нерешённые вопросы и то, какое одобрение или экспертиза нужны дальше. Он не должен прятать частичный результат за отшлифованным резюме.

Условиями выхода могут быть проверенный результат, максимальное число ходов, повторяющийся сбой без новых доказательств, отсутствие разрешения, неоднозначные требования или действие с высоким риском. Руководство OpenAI по агентам прямо включает распознавание завершения, остановку при сбое и передачу управления обратно пользователю.［1］

Практику работы с конкретным агентом для программирования показывает руководство по Claude Code: в нём есть этапы чтения, плана, разрешений, правки, тестирования и передачи, но интерфейс одного поставщика не становится определением агента.

Итоги

ИИ-агент использует модель, чтобы выбирать шаги и инструменты внутри ограниченного цикла.
Чат-боты отвечают, процессы следуют заранее заданным путям, а агенты динамически выбирают среди разрешённых путей.
Модель, инструкции, инструменты, состояние, цикл управления и условия выхода образуют практическую систему.
Воздействие определяют права инструментов; слово «агент» полномочий не даёт.
Если путь известен, а гибкость почти ничего не добавляет, предпочтите детерминированную автоматизацию.
При неопределённости или высоком риске требуйте многоуровневого контроля и структурированной передачи человеку.

Часто задаваемые вопросы (FAQ)

Агент — это чат-бот с инструментами?

Не обязательно. Чат-бот может вызвать инструмент ради одного ответа, а агент делает выбор, управляемый моделью, на протяжении нескольких шагов. Смотрите, кто контролирует путь и что останавливает выполнение.

Может ли агент работать без человека?

Он может выполнять ограниченные низкорисковые шаги без одобрения каждого из них человеком, но для чувствительных, необратимых, неоднозначных или значимых действий нужны явные правила одобрения и передачи управления.

Нужна ли агенту память?

Ему нужно достаточно состояния, чтобы отслеживать текущее выполнение. Долговременная память необязательна и порождает дополнительные вопросы приватности, актуальности и прав доступа.

Все ли ИИ-агенты автономны?

Нет. Степень автономии зависит от выданных инструментов, учётной записи, данных, доступа к сети, бюджета и правил одобрения.

Когда фиксированный процесс лучше агента?

Когда входные данные и ветки известны, важна повторяемость, а задачу можно выразить детерминированными правилами. Такой процесс обычно проще тестировать и проверять.

Может ли агент сам проверить работу?

Он может запускать проверки и сообщать результаты, но всё равно нужны независимые тесты, валидаторы, проверка человеком и доказательства из целевой среды. Самоотчёт об успехе — не внешнее доказательство.

Чем опасно давать агенту больше инструментов?

Последствия ошибочного или навязанного извне решения растут вместе с привилегиями инструментов. Делайте инструменты узкими, разделяйте чтение и запись и требуйте одобрения для внешних или необратимых действий.

Отказ от ответственности: статья содержит общую техническую информацию. Меры контроля агентов нужно проектировать с учётом реальных данных, учётных записей, систем и последствий в вашей среде.

Источники:

OpenAI — A practical guide to building agents — https://openai.com/business/guides-and-resources/a-practical-guide-to-building-ai-agents/
Anthropic — Building effective agents — https://www.anthropic.com/engineering/building-effective-agents
OpenAI — Running Codex safely at OpenAI — https://openai.com/index/running-codex-safely/

Sources checked 24 августа 2026 г.

Рекомендуемые статьи:

Что такое ИИ-агент и что он действительно умеет?