Как контролировать ИИ-агента: цикл действий, проверки и остановки
Практическая схема agentic loop: состояние, действие, проверка, лимит попыток и передача человеку. Пример на генерации рабочего дайджеста.
Контролируемый ИИ-агент должен не только выбирать действие, но и проверять его результат, ограничивать повторы и уметь остановиться. Начни с короткого цикла: получить данные, подготовить черновик, проверить критерии, передать результат человеку.
Термин loop engineering здесь означает проектирование этого цикла. Это удобное рабочее название, а не отдельный общепринятый стандарт. Разберём учебный пример агента, который составляет дайджест публикаций для продуктовой команды.
Шаг 1. Определи состояние задачи
Состояние — это не только история сообщений с моделью. Сохраняй ID задачи, список обработанных публикаций, текущий черновик, результаты проверок и количество попыток. Иначе после перезапуска агент может повторить уже выполненное действие.
{
"task_id": "digest-demo-01",
"status": "draft",
"attempt": 0,
"source_ids": ["channel:101", "channel:102"],
"checks": {"links_valid": false, "facts_reviewed": false},
"delivery_status": "not_sent"
}Разделяй «черновик готов», «проверка пройдена» и «доставлено». Эти состояния не взаимозаменяемы. Успешная генерация текста не доказывает, что адресат получил сообщение.
Шаг 2. Сформулируй проверку до запуска
Для дайджеста можно автоматически проверить, что каждый пункт ссылается на ID из входного набора и что нет повторов. Фактическую точность пересказа сначала оценивай вручную по источнику. Стиль и полезность требуют отдельной рубрики.
Выдели критические ошибки. Например, ссылка на несуществующую публикацию блокирует отправку. Менее удачная формулировка заголовка может быть допустима для внутреннего черновика. Не объединяй всё в один непрозрачный балл.
Шаг 3. Ограничь цикл
Вот псевдокод — схема для реализации, а не готовая библиотека:
для попытки от 1 до 3:
получить или восстановить состояние
создать черновик по исходным публикациям
выполнить проверки
если критических ошибок нет:
сохранить черновик для человека
остановиться
если повторяется та же ошибка:
сохранить причину и передать человеку
остановиться
передать генератору конкретные замечания
после исчерпания попыток:
завершить задачу со статусом needs_reviewКроме числа попыток задай общий таймаут и бюджет. Проверяющий инструмент может зависнуть независимо от качества модели. Остановка должна сохранять диагностический результат, а не только сообщение «не получилось».
Шаг 4. Передавай конкретную обратную связь
Вместо «сделай лучше» укажи нарушение: «второй пункт содержит источник 103, которого нет во входных данных». Дай исходный текст и попроси исправить только проблему, сохранив остальные проверенные факты.
Если и генератор, и проверяющий — модели, их согласие не гарантирует правильность. Сверяй судью с человеческой разметкой и сохраняй спорные случаи. Для регулярного сравнения нужен набор eval, который не меняется вместе с каждым промптом.
Шаг 5. Проверь побочные эффекты
Пусть доставка сообщения завершилась, но процесс упал до записи статуса. При повторном запуске агент не должен отправить дайджест второй раз. Для этого операция доставки нуждается в защите от дублей, а не только в просьбе модели быть внимательной.
Первый пилот лучше завершать сохранением локального черновика. Автоматическую публикацию добавляй после проверки полномочий, журнала действий и повторного запуска. Для браузерных действий проверяй состояние страницы после каждого существенного шага.
Скачать чеклист agentic loop. В материале Anthropic об агентах описан подход evaluator–optimizer: итерации полезны, когда есть понятные критерии и проверяемое улучшение. Для нашего дайджеста это означает сначала определить качество, затем увеличивать автономность.
Идея материала — из поста Михаила Карпова в todo2go. Практические примеры в руководстве учебные, если не указано иное.
Собери своего ИИ-агента и проверь результат
«AI Agents: от vibe coding к AI-команде»: desktop agents, MCP, skills, evals и harness. Отдельные воркшопы — от подключения инструментов до контроля качества.
7 практических воркшопов · записи · вопросы автору в чате
Посмотреть программу курса ↗