Интеллектуальный ассистент Copilot в составе Windows 11 получил возможность просматривать даже защищенную электронную корреспонденцию пользователей.
Техногигант Microsoft официально подтвердил, что алгоритмы Copilot некорректно взаимодействуют с почтовыми сервисами. ИИ сканировал сообщения, которые имели специальные пометки, запрещающие автоматизированную обработку данных.
Данный инцидент затронул функционал корпоративного чата Copilot, предназначенного для анализа содержимого писем с целью повышения продуктивности и упрощения повседневных задач.
Электронные сообщения с грифом «конфиденциально» обрабатывались Microsoft 365 Copilot с нарушениями протоколов безопасности.
Вкладка «Работа» формировала краткие сводки на основе писем, игнорируя установленные метки конфиденциальности и активные политики защиты от утечек информации (DLP).
Представители Microsoft пояснили, что причиной инцидента послужила ошибка в программном коде. В компании заявили об устранении уязвимости: соответствующий патч уже начал распространяться среди пользователей.
Источник: iXBT
