Фреймворк проектирования агента
Когда у агентов уже есть доступ к данным компании, база знаний и бот в мессенджере, это сразу закрывает кучу вопросов. Но дальше каждый новый инструмент или доступ даёт всё меньше пользы, а рутина руководителя никуда не девается - вопросы от других команд, регулярные отчёты, ведение бэклога.
Следующий шаг - делать агентов под конкретные повторяющиеся процессы. Их легко и быстро создавать, поэтому большая часть может оказаться никому не нужна. По сути агент меняет процессы в команде, и внедрять его надо как любое другое изменение процесса.
Как выглядит провал
Типичная идея: «Пусть агент раз в неделю делает сводку важного по всем каналам мессенджера». Через день у вас есть красивая сводка, а через пару недель её уже никто не открывает.
Ещё пример из нашей практики - напоминалки руководителю. Агент сканировал треды и искал, где от руководителя нужно решение или внимание. Не взлетело: если вопрос действительно важный, его и так эскалируют, а остальное чаще всего не стоило внимания. Агенту трудно понять, где человек реально нужен, даже если у него есть контекст компании.
В обоих случаях никто не собирался ничего делать с результатом работы агента. Поэтому первый вопрос, который мы задаём себе перед созданием агента - кто и что будет делать с результатом.
Карточка кейса
За основу удобно взять PDR (Process Decision Record) из статьи Виталия Шароватова - карточку решения об изменении процесса. В ней уже есть вопросы про проблему, стоимость, риски и момент пересмотра. Для агентов мы добавили ещё несколько.
Зачем строим:
- Проблема - какую проблему вообще решаем
- Целевое действие - кто и что сделает с результатом: человек, система или другой агент. Ответы «буду в курсе» и «чтобы было видно» не считаются
- Цена - сколько стоит каждый прогон и эксплуатация в целом, включая время людей на чтение и поддержку
Как строим:
- Архитектура - как агент устроен внутри (про это ниже)
- Офлайн-проверка - как до запуска проверить качество на реальных случаях (подробнее в оценке скиллов и агентов)
Как внедряем:
- Внедрение - чью работу меняем, сразу или поэтапно, как обучаем людей
- Владелец - кто чинит и улучшает агента
- Мониторинг и фидбек - где агент ошибается и когда решаем, оставить его или выключить
Если на вопрос про целевое действие или владельца нет ответа, агента лучше не делать. Ещё в карточку полезно добавить:
- Вариант проще - скрипт, дашборд, напоминание в календаре - и чем он хуже. Если честного ответа нет, берите вариант проще
- Как умрёт - самый вероятный сценарий, при котором агентом перестанут пользоваться через месяц
- Минимальный старт - самая маленькая версия, которую можно запустить на этой неделе
- Пересмотр - дата и признак, по которому агента выключаем. Например, если меньше одного сигнала из пяти привело к разговору
- Чего агент не заметит - например, тему, которую он пропустил, не увидит никто
И когда заполняете карточку, отделяйте то, что точно известно, от предположений, и не заполняйте поля догадками.
Архитектура агента
Вопросы, которые стоит обдумать до первого промпта.
На входе:
- Триггер - когда запускается: явный вызов, расписание, событие
- Факты - какие данные собирает код и как проверить, что их хватает
В работе:
- Контекст и память - что агенту нужно знать и что помнить между запусками
- Процедура - какие шаги фиксированы, какие выбирает модель и когда остановиться
На выходе:
- Формат результата - в каком виде агент отдаёт результат и что код проверяет перед публикацией
- Human-in-the-loop - где нужно решение или экспертиза человека
Защита:
- Границы и риски - что агенту нельзя делать ни при каких обстоятельствах
- Сбои - что будет, если данных нет, прогон упал или запустился дважды
Главное правило, к которому мы пришли - агент не должен каждый раз заново выдумывать то, что можно зафиксировать. Факты и повторяемые вычисления делает код, процедуру и знания описывает скилл, а агенту остаётся интерпретация и решения.
Например, у нас есть еженедельный отчёт о работе сервиса у клиентов. Код собирает данные SQL-запросами, агент разбирает их, при необходимости дозапрашивает недостающее и пишет выводы в JSON заданной структуры, а код собирает из этого отчёт и публикует в канал. Если каких-то данных нет, прогон падает ещё до агента, чтобы модель ничего не додумывала. Пороги и логика анализа лежат в скилле, так что если хочется поменять поведение отчёта, правим скилл, а не скрипты.
Чем меньше у агента возможностей, тем надёжнее он работает. Например, агент нашей доски идей (про неё ниже) умеет только читать файлы, без MCP и без записи, а на выходе отдаёт один JSON - всё остальное делает код вокруг него.
Ещё несколько правил:
- Разница между воркфлоу и агентом в том, кто управляет ходом выполнения, а не в количестве вызовов модели
- Записывать в рабочие системы агент может только через конечный список операций, а дорогие и необратимые действия подтверждает человек
- Если агент читает чужие сообщения и при этом что-то делает наружу, нужно отдельно подумать про промпт-инъекции (см. Rule of Two)
- Результат другого LLM-бота на входе - это гипотеза, его надо перепроверять
- Если агент упал или упёрся в лимит ходов, результат не публикуем. И лучше упростить задачу агента, чем поднимать лимит
Код тоже может ошибаться. Однажды наш еженедельный отчёт написал, что проблемных случаев стало почти в 50 раз меньше, чем на прошлой неделе. На самом деле их не было и раньше - колонка в готовой таблице неправильно считала время, а модель просто пересказала неверную цифру. Так что тестировать нужно не только модельную часть агента - если цифру неправильно посчитал код, модель её уже не исправит.
Память между запусками
Агентам, которые запускаются по расписанию, часто нужна память о прошлых прогонах. У нас хорошо работает, когда такой памятью служит что-то внешнее со структурой - доска, таблица, база.
Например, у нас идеи и темы разбросаны по личкам, тредам и трекеру, и если тред затих, через месяц никто не помнит ни тему, ни контекст. Поэтому раз в сутки код собирает новые события, модель получает текущие карточки доски и эти события и возвращает JSON, а код обновляет доску. На планировании мы решаем, какие карточки берём в работу, какие откладываем, а какие закрываем.
Что мы для этого сделали:
- В карточке есть маркер: выше пишут люди, ниже бот. Если бот ошибся, человек оставляет поправку сверху, и бот её учитывает при следующем запуске
- В закрытой карточке остаётся причина закрытия, чтобы бот не предлагал одно и то же снова
- Слабые сигналы копятся в скрытых карточках и попадают на доску только после нескольких упоминаний
- В промпт кладём текущий статус карточки и просим его обновить. Иначе модель сочиняла статус только по событиям за последние сутки
- Вместо длинных идентификаторов карточек модель получает короткие номера - длинные она периодически выдумывала
- Стадии карточек двигает только человек. Хронику ведёт агент, а решения принимают люди
Такую доску видят и люди, и другие агенты, так что результат одного агента может стать входом для другого.
Внедрение
Вопросы, которые чаще всего забывают:
- Чью работу меняем или заменяем?
- Как изменятся задачи людей?
- Как оповещаем и обучаем?
- Внедряем сразу или поэтапно?
Как бывает, если их пропустить: коллега каждый месяц собирала дашборд из таблиц, которые присылал главный заказчик. Мы автоматизировали этот сбор через агента и не сказали ей, а она узнала об этом случайно из треда. Неприятная ситуация, которой легко было избежать.
Пример: ИИ-дежурный
Первая наивная версия дежурного «агент следит за алертами и сам перезапускает поды» - это антипаттерн. Рестарт без понимания причины просто прячет проблему.
Сейчас у нас алерт-менеджер группирует алерты в инциденты, а на каждый новый инцидент запускается отдельный агент только на чтение, который проводит расследование и отвечает в тред. В ответе он пишет вердикт по критичности, одно рекомендуемое действие с пометкой, безопасно ли оно, улики, уверенность и что он не проверил. А в скилле прописано:
- Перед вердиктом подумать, что ещё могло дать такую картину, и исключить причину на нашей стороне
- Если не уверен, писать «не подтверждено», а не «всё нормально»
- Не предлагать рестарт, пока причина не найдена
- Не тегать людей и не эскалировать самому. Сводку для эскалации агент готовит как черновик для человека
- «Не удалось измерить» - это не ноль
Пример: досье для перф-ревью
Разберём по карточке запрос «хочу агента, который ходит по мессенджеру, трекеру и коду и собирает материал для перф-ревью».
Сначала выясняем, кто будет пользоваться результатом. Это может быть лид, который пишет ревью, сотрудник с селф-ревью или руководство. У нас это руководство - для решений по повышениям, фидбека в моменте и ревью на лидов.
Дальше уточняющие вопросы:
- Сколько времени уходит на сбор сейчас? Если не собираем вообще, то выигрыш не во времени, а в качестве решений
- Из каких источников? Мы оставили только публичные
- Как проверим до запуска? У нас в чатах часто матерятся в шутку, поэтому нужны ссылки на каждый факт, а модели надо явно объяснить, что мат - это не конфликт
- Знает ли команда о сборе?
В итоге получился не агент, а воркфлоу. Код раз в неделю выгружает посты, MR, задачи и инциденты по человеку, модель пишет тезисы со ссылками и помечает срочное, код кладёт досье в приватное место, а решения принимает человек. Писать бот может только двум людям, и этот список зашит в код. Вариант проще - скрипт, который считает MR и сообщения, но он меряет громкость, а не вклад.
Какие нашлись риски:
- Кто много пишет, выглядит сильным, а кто тихо экспериментирует - слабым
- Если скрытый сбор всплывёт, все разговоры уйдут в лички. Кроме того, тексты уходят внешней модели, а кадровые решения нельзя принимать только по автоматике - это стоит обсудить с юристом
- С доступом к вики агент сам подтянул итоги прошлого ревью
- Модель принимает молчание за неучастие, а шутку за конфликт
Как выбрать способ автоматизации
Не каждую рутину стоит отдавать агенту:
- Если нет целевого действия или руками дешевле, чем собрать и потом проверять, - не автоматизируем
- Если всё описывается правилами и данные чистые - пишем скрипт
- Если ход процесса задаёт код, а модель решает отдельные смысловые задачи - делаем воркфлоу с моделью
- Если модель сама выбирает следующий шаг по результатам предыдущего - делаем агента, а права и лимиты задаёт код
Чем дальше по списку, тем дороже проверка и больше рисков, так что начинать стоит с самого простого варианта.
С чего начать
- Одна задача с понятным целевым действием
- Голый агент и минимум источников, только на чтение
- Ручной запуск, результат проверяет человек
- Сохраняйте прогоны, и удачные, и неудачные - потом из них получатся кейсы для эвала
- Проверку усложняйте постепенно: сначала глазами, потом набор сохранённых случаев, потом эвал на каждую правку скилла
Совет: Сам фреймворк можно упаковать в скилл, который проводит человека по карточке: задаёт уточняющие вопросы, предлагает варианты ответа из базы знаний компании и в конце говорит, что лучше сделать - скрипт, воркфлоу, агента или ничего. На нашем эвале модель со скиллом во всех прогонах сначала уточняла контекст, искала целевое действие и спрашивала про людей, чью работу меняет агент. Без скилла она не сделала этого ни разу.
Следующая: Типы ИИ-инструментов
Предыдущая: Какие задачи делегировать