Утечка данных Anthropic: доступ к системе Mythos попал к посторонним

По информации агентства Bloomberg, группа хакеров сумела получить несанкционированный доступ к новейшей разработке Anthropic — платформе Mythos. Этот инструмент был создан для обеспечения корпоративной кибербезопасности, однако его функционал теоретически позволяет использовать его и в наступательных целях.

Согласно предварительным данным, брешь в защите возникла на стороне внешнего контрагента компании. Представители Anthropic подтвердили факт проведения внутреннего расследования: «Мы детально изучаем информацию о возможном нарушении безопасности в Claude Mythos Preview, которое могло произойти в цифровой среде одного из наших поставщиков». Разработчик ИИ подчеркивает, что инцидент не затронул внутреннюю инфраструктуру самой компании.

Группа, совершившая вторжение, базируется в закрытом сообществе энтузиастов, специализирующихся на поиске информации о неанонсированных ИИ-разработках. Злоумышленники воспользовались скомпрометированными учетными данными сотрудника подрядчика, обладающего легитимным доступом к системе.

Оказавшись внутри, пользователи начали активно тестировать функционал Mythos, предоставив журналистам скриншоты и видеозаписи работы модели. По их утверждению, целью было лишь любопытство и исследование возможностей ИИ, а не проведение реальных кибератак.

Как выяснилось, взломщикам удалось вычислить сетевое расположение системы благодаря глубоким знаниям архитектуры развертывания продуктов Anthropic. Это позволило им получить доступ к среде практически сразу после того, как появились первые сведения о проекте.

Напомним, что Mythos является ключевым элементом инициативы Project Glasswing. Доступ к нему был строго ограничен и предоставлялся лишь узкому кругу доверенных технологических партнеров. В Anthropic неоднократно предупреждали, что из-за своей мощности подобные инструменты в руках злоумышленников могут стать опасным оружием для взлома корпоративных сетей.

Данная ситуация высветила критическую уязвимость в модели распространения передовых технологий. Меры безопасности, предусматривающие ограниченный доступ через партнеров, на деле превращаются в потенциальные векторы для атак.

Хотя в Anthropic продолжают настаивать на отсутствии критического ущерба, сам прецедент ставит под сомнение надежность существующих протоколов защиты. Для компании это чувствительный удар по репутации: Mythos позиционируется как решение для укрепления безопасности, поэтому любые сомнения в его защищенности могут отпугнуть корпоративный сектор.

Этот инцидент наглядно иллюстрирует глобальную тенденцию: по мере совершенствования ИИ-решений их применимость как для отражения угроз, так и для их реализации растет, а граница между этими двумя полюсами становится всё более призрачной.

Источник: iXBT