В «Группе Астра» предложили усилить контроль корпоративных данных при работе с ИИ

Владимир Нелюб, директор по науке и ИИ «Группы Астра» и управляющий партнёр «Астра ИИ Код», прокомментировал риски передачи рабочих данных публичным ИИ-сервисам. Поводом стал сентябрьский отчёт Anthropic о предполагаемом использовании Claude другими разработчиками моделей.

В отчёте Anthropic утверждается, что Moonshot AI перенаправляла запросы части клиентов в Claude и показывала полученные ответы как результат работы Kimi. Компания описала эпизод почти с 300 тысячами запросов за десять дней через сеть из 5380 аккаунтов. Схожие действия Anthropic приписывает DeepSeek. Это выводы расследования самой Anthropic.

По её данным, среди перенаправленных обращений встречалась чувствительная информация. Вопрос для корпоративных пользователей заключается в том, знают ли они фактический маршрут обработки запроса и условия доступа к переданным материалам.

Что предлагает эксперт

Нелюб считает, что одних запретов на публичные чат-боты недостаточно: сотрудники могут продолжить пользоваться ими вне наблюдения ИТ-службы. Вместо этого он предлагает создавать удобную внутреннюю среду, в которой использование моделей можно контролировать и журналировать.

В предложенную им архитектуру входят собственное оборудование или доверенное облако, слой управления моделями, изолированная среда исполнения агентов и прикладные инструменты для сотрудников. Эксперт связывает такую организацию с возможностью отслеживать, куда уходят переписка и внутренние документы.

Рекомендации отражают позицию представителя «Группы Астра». Иллюстрация — архивное фото мероприятия компании из материалов SE7EN.ws.