Microsoft представила новые инструменты безопасности для контроля ИИ-агентов в корпоративной среде. Они позволят компаниям отслеживать используемые сотрудниками ИИ-инструменты, ограничивать их доступ к данным и требовать подтверждения человека во время потенциально рискованных действий.

В набор мер вошли Guardian Agents — система контроля за поведением ИИ-агентов. Кроме того, Microsoft Defender сможет обнаруживать до 60 типов ИИ-инструментов, включая Claude Code, Codex и OpenClaw. Новый подход расширяет защиту не только от внешних кибератак, но и от рисков, которые могут возникать из-за работы самих ИИ-агентов с корпоративными данными и системами.

В Microsoft объясняют необходимость новых мер непредсказуемостью передовых моделей: они обучены выполнять задачи, но не всегда способны учитывать внутренние правила компании и возможные последствия своих действий.

Глава Microsoft Сатья Наделла ранее призвал бизнес не полагаться исключительно на гарантии разработчиков ИИ. По его мнению, ответственность за действия таких систем должна оставаться у компаний, которые их внедряют.