Дата публикации:
Автор: Евгения Грунис
Что будет, когда ИИ-агентов в компании станет много
Евгения Грунис, генеральный директор Adventum, — о следующем этапе внедрения ИИ-агентов: кто будет ими управлять, как изменятся процессы и почему бизнес в итоге начнет убирать часть агентов.
Сейчас компании активно внедряют ИИ-агентов. Пока чаще речь идет о первых сценариях: найти задачу, собрать решение, проверить, работает ли.
Но создание агентов будет ускоряться.
Крупные компании часть решений будут делать сами, централизованно под ключевые процессы. Кто-то будет привлекать внешние команды. В Adventum мы как раз выступаем такой командой: помогаем компаниям проектировать и создавать ИИ-агентов под конкретные бизнес-задачи. А простых агентов сотрудники уже начинают собирать самостоятельно под свои задачи.
И дальше появляется новая задача: управлять уже самими агентами.
Пока агент один, все относительно понятно: есть конкретная задача, доступы, владелец процесса, результат.
А когда их десятки или сотни?
Придется разбираться:
— к каким данным имеет доступ каждый агент
— что он может делать самостоятельно
— где агенты дублируют друг друга
— как они взаимодействуют между собой
— кто отвечает, если что-то пошло не так
— что он может делать самостоятельно
— где агенты дублируют друг друга
— как они взаимодействуют между собой
— кто отвечает, если что-то пошло не так
Следом появятся связки агентов.
Один собирает информацию. Второй обрабатывает. Третий выполняет действие. Четвертый проверяет результат.
То есть компаниям придется проектировать уже не только работу людей, но и совместную работу людей и цифровых исполнителей.
Фактически появится еще один слой корпоративной архитектуры.
Чем самостоятельнее становится агент, тем важнее заранее понимать границы его действий.
Если обычный ИИ-помощник дал неверный ответ, человек может его заметить и не использовать.
Если ошибся агент, он уже способен сам отправить письмо, изменить данные в системе, запустить следующий этап процесса или выполнить другое действие.
Есть и менее очевидные риски.
Представим, что агент обрабатывает входящие документы. В одном из них может быть спрятана инструкция, рассчитанная именно на ИИ и заставляющая его действовать не так, как было задумано.
Поэтому письмо, документ или сообщение, которое получает агент, нельзя автоматически считать безопасным только потому, что для человека это обычный текст.
Отсюда вполне практичные вопросы еще до запуска:
— какие данные агенту действительно нужны
— какие действия можно разрешить ему без подтверждения человека
— где цена ошибки слишком высока
— кто проверяет результат
— что произойдет, если агент поведет себя не так, как ожидалось
— какие действия можно разрешить ему без подтверждения человека
— где цена ошибки слишком высока
— кто проверяет результат
— что произойдет, если агент поведет себя не так, как ожидалось
Но иногда уязвимость вообще находится не в агенте.
Если сам процесс плохо устроен, данные «грязные», а права доступа выданы слишком широко, агент это не исправит.
Он просто быстрее воспроизведет существующую проблему.
Например, сотрудник сегодня вручную переносит данные между пятью системами. Самое очевидное решение — поставить агента и научить его бегать по тем же пяти системам вместо человека.
Но это еще не значит, что решение правильное.
Возможно, сначала надо пересобрать сам процесс и убрать часть действий вообще.
Поэтому перед разработкой агента я бы сначала смотрела на саму задачу: действительно ли здесь нужен агент или мы просто пытаемся новым инструментом поддержать старую конструкцию.
Сейчас логика рынка понятна: пробовать, запускать, экспериментировать.
Потом начнут считать.
И выяснится, что агент нужен далеко не везде.
Где-то обычная автоматизация окажется дешевле и надежнее.
Где-то человек будет проверять результат агента дольше, чем сделал бы работу сам.
Где-то затраты на доступы, интеграции, контроль и сопровождение съедят весь эффект.
А где-то агент появился только потому, что его технически можно было сделать.
Поэтому часть решений после первых экспериментов начнут отключать. Часть — переделывать. Для части задач вернут более простую автоматизацию.
Это не откат от ИИ. Скорее нормальный переход от экспериментов к промышленному использованию.
Сейчас компании чаще задают вопрос: где нам внедрить ИИ-агента?
Дальше, думаю, придется отвечать уже точнее:
Здесь агент действительно нужен.
Здесь агент нужен, но сначала надо пересобрать процесс.
А здесь на агента вообще не стоит тратить время и деньги.
Именно способность быстро различать эти три ситуации, на мой взгляд, станет одним из признаков зрелой работы бизнеса с ИИ.
Приносите задачу в Adventum — мы сначала разбираемся, нужен ли здесь вообще агент: смотрим на сам процесс, данные, ограничения и экономику. И только потом решаем, что имеет смысл проектировать и разрабатывать.
Подпишитесь на полезные материалы, которые помогут вам
Оформляя подписку, вы разрешаете обработку персональных данных и соглашаетесь с политикой конфиденциальности