Хакеры взломали Hugging Face: ИИ-агент использован для проникновения в системы платформы

Популярный хаб для размещения моделей машинного обучения Hugging Face официально признал факт кибератаки. Злоумышленники сумели получить доступ к закрытым наборам данных и административным учетным записям, однако вопрос о возможной компрометации информации клиентов и корпоративных партнеров все еще остается открытым.

Согласно заявлению представителей площадки, вектор атаки был реализован посредством внедрения зараженного датасета. Этот файл содержал вредоносный код, выполнение которого на серверах компании позволило преступникам расширить свои полномочия и проникнуть глубоко в инфраструктуру сервиса.

На данный момент уязвимость оперативно устранена, а все скомпрометированные ключи доступа были отозваны и перевыпущены. В качестве превентивной меры Hugging Face настоятельно советует пользователям обновить секретные ключи, хранившиеся на платформе, и внимательно отследить любую нетипичную активность в своих профилях.

По версии компании, за инцидентом стоит некий внешний ИИ-агент, совершивший тысячи последовательных операций через изолированные «песочницы» с использованием публичных сервисов для управления инфраструктурой. На текущий момент прямых доказательств, подтверждающих эту гипотезу, компания не представила.

Обнаружить подозрительные процессы удалось благодаря внутренней системе мониторинга. Примечательно, что для первичного анализа серверных логов команда сначала пыталась привлечь стороннюю модель, но столкнулась с ограничениями безопасности, после чего перешла на использование собственной локальной LLM, что обеспечило конфиденциальность данных при расследовании.

В настоящий момент компания активно сотрудничает с правоохранительными органами и экспертами по киберкриминалистике. Проводится комплексная проверка всех систем для установления полного объема пострадавших данных и оценки долгосрочных последствий взлома.

Источник: iXBT