Copilot получил несанкционированный доступ к конфиденциальной почте пользователей вопреки ограничениям

Интеллектуальный ассистент Copilot в составе Windows 11 получил возможность просматривать даже защищенную электронную корреспонденцию пользователей.

Техногигант Microsoft официально подтвердил, что алгоритмы Copilot некорректно взаимодействуют с почтовыми сервисами. ИИ сканировал сообщения, которые имели специальные пометки, запрещающие автоматизированную обработку данных.

Данный инцидент затронул функционал корпоративного чата Copilot, предназначенного для анализа содержимого писем с целью повышения продуктивности и упрощения повседневных задач.

Электронные сообщения с грифом «конфиденциально» обрабатывались Microsoft 365 Copilot с нарушениями протоколов безопасности.

Вкладка «Работа» формировала краткие сводки на основе писем, игнорируя установленные метки конфиденциальности и активные политики защиты от утечек информации (DLP).

Представители Microsoft пояснили, что причиной инцидента послужила ошибка в программном коде. В компании заявили об устранении уязвимости: соответствующий патч уже начал распространяться среди пользователей.

Источник: iXBT