Искусственный интеллект перейдёт от подсказок к действиям: агенты будут сами устранять типовые сбои и реагировать на угрозы, в ряде компаний возьмут на себя ночные смены целиком, а наблюдаемость станет главным способом контролировать код, который написал ИИ.

Год назад я описывал три слоя ИИ в наблюдаемости: динамическую норму и прогноз, корреляцию событий и диалог с моделью. Все три слоя сегодня есть в зрелых платформах, в том числе российских. Следующим шагом станет четвёртый — действие: ИИ перестанет быть «справочным окном» и начинает непосредственно выполнять работу.

Уже сейчас агент умеет по инструкции на обычном русском языке провести проверку, сравнить результат с нормой и объяснить дежурному, что произошло. Через три года стандартом станет, что тот же агент ещё и устраняет проблему. Инструкции дежурной смены из внутренней базы знаний, которые никто не читает, особенно в три часа ночи, превратятся в исполняемые регламенты.

Типовые инциденты — переполненный диск, зависший сервис, исчерпанный пул соединений, неудачный выпуск новой версии — будут закрываться без участия человека. Большая часть ночных вызовов — это повторяющиеся ситуации с давно известным решением: надо просто что-то перезапустить, расширить, «откатить» или переключить нагрузку. Держать ради этого инженера на телефоне дорого и бессмысленно, ведь система, которая видит сбой, понимает причину и знает регламент, должна всё исправить сама, а человеку прислать отчёт, который тот прочитает утром.

Важная деталь в том, что такие системы учатся. Разбор каждого инцидента превращается в урок, и в следующий раз агент действует быстрее. Опыт перестаёт уходить вместе с людьми, и это, пожалуй, главная ценность для компаний, где дежурные смены постоянно обновляются.

Уверен, что к 2029 году ИИ-агенты будут работать в дежурных сменах наравне с людьми: со своими полномочиями, зоной ответственности и журналом действий, причем где-то вообще полностью возьмут на себя ночные смены и выходные, а люди будут подключаться только по эскалации.

Изменится и роль инженеров: из «пожарных» они станут теми, кто пишет регламенты, определяет границы полномочий агентов и разбирает нетиповые случаи. Агенту, как и новому сотруднику, доверие выдаётся ступенями: сначала он советует, потом действует с подтверждением, потом — сам в согласованных границах. И вопрос только в том, как быстро компании выстроят эти ступени.

На уровне телеметрии деградация сервиса и атака часто выглядят одинаково: всплеск запросов, необычная нагрузка, странное поведение процесса. Разводить эти задачи по разным командам и системам становится всё дороже, а агенты начнут реагировать на опережение и в рамках выданных полномочий: смогут изолировать подозрительный узел, ограничить аномальный трафик, приостановить учётную запись, а дальше передать данные специалистам по инфобезопасности.

Этот тренд самый недооценённый. Раньше хотя бы разработчик понимал, что происходит в его коде, а сегодня часть, которую пишут агенты, становится всё больше, и по-настоящему код не знает никто. При этом он всё равно попадёт в промышленную эксплуатацию после проверок, тестов и согласований, по итогам которых все будут уверены, что всё в порядке.

Теперь единственный способ узнать, как такой код ведёт себя на самом деле, — наблюдать за ним в работе. Наблюдаемость из инструмента эксплуатации превращается в главный механизм контроля качества. Метрики, логи и трассировки становятся по сути документацией: они рассказывают, что делает код, лучше, чем любой человек в команде. Телеметрия будет закладываться в код уже при генерации.

Есть три условия, без которых этот сценарий не сработает. Первое — качественные данные: агент, который не видит метрик, логов и трассировок, действует вслепую, как и человек, который смотрит на чужой код. Поэтому открытые стандарты вроде OpenTelemetry, о которых мы говорили год назад, из тренда превратились в фундамент.

Второе — управляемость: каждое действие агента должно фиксироваться в журнале, а права — выдаваться и отзываться по регламенту, как у сотрудника. Регулятор движется в ту же сторону: в проекте изменений ФСТЭК России к требованиям по защите информации в государственных инфосистемах уже предусмотрен контроль прав доступа ИИ-агентов, в том числе автономных.

Третье условие — суверенность. Для банков, промышленности и госсектора агент, который отправляет данные во внешнее облако, неприемлем. Всё должно работать внутри контура заказчика на российских или локальных моделях.