Илон Маск пообещал стереть все пользовательские данные после утечки кода через Grok Build CLI

Компания xAI оперативно обновила алгоритмы работы утилиты Grok Build CLI. Решение было принято после публикации разоблачительного исследования: выяснилось, что инструмент скрыто отправлял на серверы разработчика не только данные для обработки запросов, но и полные Git-репозитории, включая историю всех правок. Илон Маск заверил общественность, что все прежде загруженные сведения будут безвозвратно удалены.

Уязвимость была выявлена специалистом по кибербезопасности под ником Cereblab. Изучив сетевую активность версии Grok Build 0.2.93, эксперт обнаружил, что CLI формировал Git-архивы и пересылал их в облачное хранилище Google Cloud под заголовком grok-code-session-traces. При этом объем трафика многократно превышал разумные пределы: в одном из экспериментов с 12-гигабайтным репозиторием запрос к нейросети занимал всего 192 КБ, тогда как на сервер «улетало» свыше 5 ГБ данных.

Исследователь подтвердил, что в облако попадали не только исходники, но и история Git. В тестовом файле .env он специально оставил приватный ключ, который впоследствии был обнаружен в «слитом» архиве без какой-либо защиты. В другом сценарии Grok Build передал весь репозиторий, даже когда от него требовалось лишь ответить на простую текстовую команду.

После обнародования этих фактов другие пользователи подтвердили наличие проблемы: инструмент без спроса копировал содержимое домашних директорий, включая SSH-ключи и базы данных менеджеров паролей.

Особое возмущение вызвал тот факт, что деактивация опции «Improve the model» никак не препятствовала отправке данных. Как пояснил Cereblab, этот переключатель лишь фиксировал согласие пользователя на дообучение модели, но не останавливал фоновую передачу кода. Подобное поведение не было отражено в документации, хотя инструмент позиционировался как решение с преимущественно локальной обработкой информации.

Спустя несколько часов после отчета Cereblab провел повторный тест и зафиксировал изменение: сервер начал транслировать клиенту команды disable_codebase_upload: true и trace_upload_enabled: false. Таким образом, механизм был деактивирован централизованно, без необходимости обновления самого приложения.

Тем не менее, компания xAI не представила официальных разъяснений, не раскрыла истинную цель сбора данных и не отчиталась о том, что стало с уже отправленной информацией.

Позднее представители xAI заявили, что корпоративные клиенты с режимом Zero Data Retention (ZDR) были защищены от утечек изначально. Всем остальным пользователям рекомендовали применять команду /privacy для удаления синхронизированных данных. Однако эксперт заметил, что данная команда была неэффективна — проблему решила лишь скрытая настройка на стороне сервера, а не действия пользователя.

Илон Маск прокомментировал ситуацию, пообещав полностью удалить все ранее собранные пользовательские данные в качестве меры предосторожности. Одновременно с этим он призвал сообщество продолжать делиться данными для отладки ИИ, аргументируя это необходимостью совершенствования продукта.

Тем не менее, экспертное сообщество считает инцидент тревожным сигналом. Главная претензия к xAI заключается не в злонамеренном использовании кода — прямых улик этому нет, — а в скрытном характере сбора избыточных данных без явного уведомления пользователей.

Поскольку xAI до сих пор не предоставила детального технического отчета, масштабы утечки и механизмы контроля за удалением собранной информации остаются под вопросом.

Источник: iXBT