Подразделение Unit 42 из Palo Alto Networks выявило принципиально новый тип угроз, базирующийся на склонности больших языковых моделей (LLM) к «галлюцинациям». ИИ уверенно генерирует правдоподобные, но несуществующие доменные имена, имитирующие ресурсы известных брендов. Киберпреступники взяли эту особенность на вооружение, регистрируя такие адреса до того, как они понадобятся пользователям, чтобы перехватывать целевой трафик.
Эта стратегия получила название «призрачный киберсквоттинг» (phantom squatting). В её основе лежит способность модели выстраивать логичные доменные имена для несуществующих API или сервисов. Злоумышленнику остаётся лишь занять «свободную нишу», создав домен, который ИИ считает доверенным, а на деле — является инструментом атаки.
В рамках исследования эксперты прогнали через две LLM более 685 тысяч запросов, касающихся 913 международных компаний. Из полученных 2,1 млн URL свыше 800 тысяч вели на неактивные адреса, а после очистки данных специалисты выделили около 250 тысяч уникальных «фантомных» доменов, часть из которых уже была скомпрометирована злоумышленниками.
Опасность заключается в системном характере галлюцинаций: модели склонны создавать одни и те же паттерны доменных имён для конкретных брендов. Это формирует предсказуемую «поверхность атак», позволяя преступникам заранее составлять списки перспективных доменов для регистрации.
Специалисты зафиксировали реальные примеры: злоумышленники использовали ИИ для генерации фишинговых инструментов, размещая их на доменах, которые аналитики вычислили за 23 дня до их покупки преступниками. В другом случае задержка составила 51 день — от момента генерации «фантома» моделью до его фактического использования в схеме распространения вредоносного мобильного приложения.
Масштабы проблемы внушительны: среди проанализированных ссылок 0,61% уже задействованы в злонамеренных операциях (фишинг, ботнеты, загрузка вредоносного ПО). Около трети всех сгенерированных моделью адресов не существуют, что оставляет огромное пространство для будущих атак.
Данная угроза подрывает привычные механизмы безопасности. Традиционные системы защиты опираются на «историю» домена и его репутацию. Фантомные домены, будучи продуктом генерации ИИ, изначально выглядят «чистыми» и не имеют истории инцидентов, что позволяет им обходить фильтры.
Особую тревогу вызывает интеграция ИИ в процессы разработки ПО. Если LLM-помощник внедрит вымышленный URL в API-интеграцию или CI/CD-пайплайн, это может привести к автоматической утечке данных или выполнению вредоносного кода. В случае с автономными агентными системами риск возрастает многократно: ИИ может самостоятельно обратиться к опасному домену, даже не дожидаясь действий со стороны человека.
Для защиты эксперты рекомендуют превентивный мониторинг «поверхности галлюцинаций». ИТ-команды должны отслеживать доменные имена, которые регулярно предлагают LLM, и проверять их статус. Это даёт защитникам «окно возможностей» — временной интервал от 18 до 51 дня между предсказанием домена моделью и его регистрацией атакующим, который позволяет занять домен или внести его в чёрные списки заранее.
Авторы отчёта предупреждают: этот период, который они называют «окном эксплуатации» (adversarial exploitation window), не является константой и может сокращаться по мере того, как хакеры будут оптимизировать свои инструменты автоматизации.
Источник: iXBT
