Microsoft: ИИ-агенты в компаниях могут обернуться против своих владельцев

Согласно результатам исследования Microsoft Cyber Pulse, свыше 80% корпораций из списка Fortune 500 уже делегируют операционные задачи — от коммерческих операций до кадрового администрирования — интеллектуальным агентам. Однако серьезное опасение вызывает тот факт, что 29% таких решений внедряются в обход ИТ-департаментов, а специализированные инструменты контроля используют менее половины организаций (47%).

В Microsoft ввели термин «двойные агенты» для обозначения нового типа угроз: ИИ-системы, созданные для оптимизации бизнеса, могут быть скомпрометированы через манипуляции с моделями или скрытые уязвимости, после чего начинают действовать во вред компании. Внутренние испытания подтвердили, что подобные агенты способны несанкционированно извлекать конфиденциальные данные и инициировать выполнение опасного кода.

«Бурное развитие инноваций сопровождается возникновением серьезных рисков. Если раньше мы фокусировались на угрозах со стороны сотрудников-инсайдеров, то сегодня наша цель — предотвратить появление подобных угроз в среде цифровых агентов», — подчеркнула Васу Джаккал, вице-президент Microsoft Security.

Изображение: Sora

В качестве защитной меры Microsoft представила Agent 365 — специализированную платформу для централизованного мониторинга и управления ИИ-агентами, функционирующую на принципах «нулевого доверия». Решение позволяет регистрировать всех активных агентов, присваивать им уникальные идентификаторы, оперативно обнаруживать аномалии в их поведении и блокировать потенциальные угрозы в режиме реального времени.

Agent 365 тесно интегрирована с экосистемой Microsoft Defender, Entra и Purview, что позволяет распространить привычные стандарты кибербезопасности на категорию «виртуальных сотрудников». Все действия ИИ-помощников протоколируются для последующего аудита, а доступ к корпоративным ресурсам строго регламентируется политиками минимально необходимых привилегий.

Новая редакция подписки Microsoft 365 Enterprise 7 (E7) объединяет возможности Agent 365, Copilot и расширенный стек средств защиты по цене $99 за пользователя в месяц. По мнению разработчиков, такой комплексный подход позволит бизнесу ускорить цифровую трансформацию, минимизируя при этом операционные риски.

Источник: iXBT