OpenAI сообщила, что она выявила и остановила иранскую кампанию, использовавшую ChatGPT для создания фальшивых новостей и постов в социальных сетях. Кампания под названием «Шторм-2035» была частью серии влияний, связанных с правительством Ирана.
По данным OpenAI, эта кампания создавала контент для пяти сайтов на английском и испанском языках, маскирующихся под новостные агентства. Целью было распространение «поляризующего контента» на темы, такие как президентская кампания в США, ЛГБТК+ права и конфликт в Газе.
Кроме того, кампания включала несколько аккаунтов на X и один на Instagram, участвующие в операции. Однако, как отметила OpenAI, кампания не привлекла значимой поддержки. Большинство постов в социальных сетях почти не получали лайков, репостов или комментариев.
OpenAI оценила уровень угрозы этой кампании по шкале Breakout Scale Института Брукингса на 2 балла (из 6). Это означает, что активность была зафиксирована на нескольких платформах, но нет доказательств обширного распространения контента реальными пользователями.
Кампания производила контент как для фейковых консервативных, так и для прогрессистских новостных агентств, адресованный противоположным аудиториям. Например, утверждалось, что Дональд Трамп «подвергается цензуре в социальных сетях и готов провозгласить себя королём США». В другом случае выбор Камалы Харрис Тима Уолза в вице-президенты назывался «просчитанным шагом для единства».
Также освещались темы участия Израиля в Олимпиаде, политика Венесуэлы, права латиноамериканских сообществ и независимость Шотландии. Включались комментарии о моде и красоте, возможно, чтобы казаться более аутентичными или привлекать подписчиков.
«Операция пыталась играть на обеих сторонах, но, похоже, не получила поддержку ни от одной из них», — заявил агентству Bloomberg следователь OpenAI Intelligence and Investigations Бен Ниммо.
Разоблачение фиктивной операции последовало за сообщениями о том, что иранские хакеры атаковали кампании Харрис и Трампа. ФБР сообщило, что неофициальный советник Трампа Роджер Стоун стал жертвой фишинга. Затем иранскими хакерами был захвачен его аккаунт и использован для рассылки фишинговых ссылок. В случае с кампанией Харрис ФБР не нашло доказательств успешных атак.
Источник: iXBT
