Уязвимости в ИИ-агентах: разработчики игнорируют критические ошибки, называя их нормой

Стремительное внедрение искусственного интеллекта в корпоративный сектор породило тревожный парадокс: инструменты, призванные обеспечивать кибербезопасность, сами превращаются в векторы атак. При этом разработчики всё чаще интерпретируют критические изъяны не как технические ошибки, а как «заложенную логику работы».

Эта тенденция становится пугающей нормой. Компании активно внедряют ИИ для автоматизации защиты и мониторинга инфраструктуры, но при обнаружении дыр в безопасности вендоры зачастую ограничиваются лишь формальными правками в документации, избегая полноценного устранения проблем.

Ярким примером служит недавнее исследование, вскрывшее уязвимости в популярных ИИ-агентах для GitHub Actions, таких как Claude Code Security Review (Anthropic), Gemini CLI Action (Google) и GitHub Copilot (Microsoft). Эти пробелы позволяли злоумышленникам беспрепятственно извлекать API-ключи и конфиденциальные токены.

Хотя технологические гиганты признали наличие проблемы и выплатили исследователям вознаграждения, их реакция оказалась номинальной: Anthropic выплатила $100, дополнив «инструкцию по безопасности», Google — $1 337, а GitHub лишь после долгих разбирательств выделила $500. Примечательно, что ни одна из компаний не присвоила этим уязвимостям официальный идентификатор CVE и не выпустила экстренных предупреждений для своих клиентов.

Еще более серьезные опасения вызывает архитектура протокола Model Context Protocol (MCP) от Anthropic. Эксперты предупреждают, что базовые принципы его работы подвергают риску порядка 200 тысяч серверов. Несмотря на шквал обращений, разработчик отказался менять ядро системы, аргументируя это тем, что протокол функционирует «согласно задумке».

Ситуация осложняется тем, что уязвимость носит системный характер. Несмотря на выпуск ряда CVE с критическим уровнем опасности для отдельных инструментов, корневая проблема остается нетронутой. По оценкам специалистов, ее исправление позволило бы обезопасить программное обеспечение с суммарным количеством установок, превышающим 150 млн.

Де-факто, бремя обеспечения безопасности ложится на плечи конечных пользователей и интеграторов, использующих SDK MCP или внедряющих ИИ в свои продукты.

Все это происходит в условиях правового вакуума. В США до сих пор не сформирована федеральная система контроля за безопасностью ИИ-решений, несмотря на то, что сами вендоры признают колоссальные риски своих технологий. Так, компания Anthropic ранее открыто заявляла, что ее модель обладает настолько высокой способностью выявлять уязвимости, что ее опасно выпускать в открытый доступ.

Эксперты сходятся во мнении: индустрия уперлась в фундаментальный барьер сложности и недетерминированности ИИ-систем. Однако текущая стратегия замалчивания рисков подрывает доверие к прогрессивным технологиям.

По мере роста зависимости бизнеса от алгоритмов, вопрос ответственности становится критически важным. Если позиция «это не баг, а фича» останется доминирующей, масштабы последствий могут выйти далеко за рамки отдельных инцидентов, превратившись в глобальную угрозу цифровой инфраструктуре.

Источник: iXBT