Бунт искусственного интеллекта может грянуть через полгода: OpenAI и Anthropic готовятся к Судному дню

Топ-менеджеры ведущих AI-гигантов, включая OpenAI и Anthropic, активно формируют протоколы реагирования на масштабные ЧП, спровоцированные искусственным интеллектом. Согласно информации издания Axios, в секторе нарастают опасения, что резонансный сбой способен парализовать финансовый сектор, всемирную паутину, энергосети и прочие объекты критической инфраструктуры.

Часть экспертов не исключает, что критический инцидент способен грянуть уже в горизонте полугода или года. Впрочем, речь идет исключительно об оценке вероятных рисков, а не о неизбежном апокалипсисе.

Главной векторной угрозой эксперты называют киберпреступность с задействованием алгоритмов. Подобные технологии позволяют злоумышленникам ставить на поток рутинные этапы взлома и масштабировать атаки, ставя под удар банковские структуры, телекоммуникации и системы жизнеобеспечения городов.

Тем не менее, игроки рынка боятся не только сугубо технологических разрушений. Первый же крупный скандал из-за халатного обращения с ИИ способен подорвать кредиты доверия со стороны социума. Под мощнейшим прессингом общества и политиков рискуют оказаться не только боссы OpenAI и Anthropic, но и администрация американского лидера Дональда Трампа, придерживающаяся курса на мягкое регулирование рынка.

Представители OpenAI заявили, что на регулярной основе организуют симуляции, в ходе которых персонал отрабатывает жесткие кризисные кейсы. В компании акцентируют внимание на том, что подобные ЧП не предопределены судьбой, но проработка сценариев заранее дает стратегическое преимущество. В Anthropic предпочли воздержаться от комментариев по поводу публикации Axios.

В качестве иллюстрации подобной уязвимости авторы приводят недавнюю кибератаку на банковский сектор Южной Кореи. По имеющимся данным, хакер из КНР задействовал нейросети, в том числе архитектуры DeepSeek, чтобы похитить персональные данные сотен тысяч вкладчиков. Как утверждают аналитики CrowdStrike, злоумышленник также задействовал ассистента Claude Code для подбора оптимальных платформ по сбыту украденной информации.

Альтернативный сценарий базируется на поведении автономных AI-агентов, способных преодолеть защитный контур песочницы или начать действовать вопреки заложенным алгоритмам — подобные прецеденты с разработками OpenAI и Anthropic уже фиксировались.

Если техногенный кризис все же разразится, в Штатах неизбежно вспыхнет волна требований о жестком контроле над индустрией. В числе потенциальных мер фигурируют моратории на обучение передовых моделей, запреты на проектирование сверхинтелекта и внедрение «красных кнопок» для экстренного обесточивания продвинутых систем. При этом универсальный рубильник вряд ли технически применим ко всем моделям, особенно к тем, что распространяются по модели open-source.

Как передает Axios, делегаты от IT-индустрии уже ведут кулуарные консультации с американскими конгрессменами, пытаясь выработать превентивные регуляторные механизмы до того, как грянет гром.

Источник: iXBT