PixelLeak: ИИ-агенты публиковали внутренние скриншоты компаний в открытых репозиториях

Исследователи Glow обнаружили более 13 тысяч внутренних изображений свыше 300 организаций в открытых репозиториях GitHub. В отчёте PixelLeak описан сценарий, при котором ИИ-агенты выкладывали скриншоты в публичное хранилище, чтобы затем вставить ссылку на них в обсуждение разработки.

Вместе с рабочими экранами в интернет попадали персональные данные, учётные данные и сведения о ещё не выпущенных продуктах. Исследователи воспроизвели подобное поведение в собственном эксперименте: агенту предложили добавить скриншот к результату работы над тестовым проектом.

Какие ограничения нужны агенту

Технический директор GitFlic, входящего в «Группу Астра», Максим Козлов считает, что доступ ИИ-агента следует ограничивать так же, как доступ сотрудника: назначать конкретные права и заранее определять допустимые каналы передачи данных.

«Ему нужны ровно те же ограничения: определенные права, разрешенные маршруты передачи данных, контролируемый набор внешних сервисов», — пояснил Козлов.

Для критичных проектов эксперт предлагает ограничивать набор доступных агенту инструментов и исключать возможность самостоятельно создавать публичные репозитории. Такой подход касается полномочий агента и контроля выгрузки данных, а не только выбора модели.