Специалисты по кибербезопасности раскрыли изощренный метод цифрового мошенничества, в котором злоумышленники эксплуатируют доверие к ответам ChatGPT. Согласно отчету сервиса Ask Silver, чат-бот начал направлять пользователей на фальшивые сайты, созданные для хищения платежных реквизитов.
Суть стратегии заключается в эксплуатации брендов, которые недавно прекратили независимое существование или были поглощены крупными корпорациями. Хотя такие компании исчезают из публичного поля, их репутация и узнаваемость остаются высокими, чем и пользуются киберпреступники, занимая освободившуюся цифровую нишу своими подделками.
Ярким примером стал британский обувной бренд Russell & Bromley, который в начале 2026 года вошел в структуру корпорации Next, закрыв собственный сайт. Мошенники оперативно создали высококачественный клон ресурса, добившись того, чтобы ИИ-ассистент начал предлагать его пользователям в качестве официального источника.
По данным Ask Silver, чат-бот активно рекомендовал мошеннический ресурс при запросах о продукции данной марки. Визуальное сходство с оригиналом было настолько убедительным, что у посетителей не возникало подозрений при вводе данных своих банковских карт.
Аналитики полагают, что преступники применяют тактику «отравления данных», наполняя сеть контентом, который искусственно завышает авторитет фишинговых страниц в глазах алгоритмов. В результате нейросеть начинает идентифицировать вредоносные ресурсы как достоверные источники.
После огласки OpenAI оперативно изменила алгоритмы обработки запросов, связанных с Russell & Bromley. Теперь система выводит предупреждение о рисках, связанных с подозрительными площадками, предлагающими товары бренда по заниженным ценам.
Данная угроза носит системный характер. Исследования неоднократно подтверждали, что языковые модели не всегда гарантируют точность при выборе товаров. Однако, если обычные ошибки в ответах ведут лишь к неудачному шопингу, то перенаправление на фишинговые сайты влечет за собой реальный риск опустошения банковских счетов.
Эксперты предупреждают, что с внедрением автономных ИИ-агентов, способных самостоятельно совершать транзакции, опасность возрастет многократно. В такой архитектуре стимулы для манипуляции обучающими данными станут для киберпреступников еще сильнее.
По мнению специалистов, мошенники демонстрируют исключительную адаптивность к технологическим новшествам. Ситуация с поддельными магазинами наглядно показывает, что генеративный ИИ превращается не только в инструмент поиска, но и в новую арену для противостояния разработчиков систем безопасности и цифровых злоумышленников.
Источник: iXBT
