Испанский регулятор получил первое уведомление об утечке после атаки с ИИ-агентом

Испанское агентство по защите данных AEPD сообщило о первом поступившем ему уведомлении об инциденте, в котором атакующий предположительно использовал ИИ-агента на базе языковой модели. Сообщение регулятора опубликовано 14 сентября.

По описанию пострадавшей организации, агент искал уязвимости, получил доступ к системе и продолжил исследовать приложение. В результате атакующий смог изменять персональные данные и просматривать счета-фактуры.

Что пока не установлено

AEPD подчёркивает, что сведения из уведомления ещё предстоит проанализировать. Публикация не подтверждает взлом самой языковой модели или инфраструктуры её разработчика. Один случай также не позволяет делать выводы о статистической тенденции или массовом характере таких утечек.

В комментарии для прессы директор по науке и ИИ «Группы Астра» Владимир Нелюб назвал ключевым риском ускорение привычных этапов атаки. По его оценке, ручной разбор событий может не успевать за автоматизированными действиями злоумышленника.

Эксперт предлагает ограничивать права агентов, требовать согласования критических операций человеком и пересматривать процессы мониторинга и реагирования. Это его рекомендации, а не выводы завершённого расследования испанского инцидента.

Источник фактов об уведомлении: AEPD. Комментарий и архивная иллюстрация предоставлены «Группой Астра». Фотография не относится к месту инцидента.