Почти 50% кода, созданного ИИ, содержит уязвимости — по данным Veracode

Как показало новое исследование компании Veracode, почти 45% кода, создаваемого искусственным интеллектом, содержат уязвимости, несмотря на их внешнюю «готовность к внедрению».

Аналитики рассмотрели свыше 100 крупных языковых моделей, опробовав их на 80 различных задачах по программированию. Ни масштаб моделей, ни новизна технологий не привели к заметному росту защищённости создаваемого кода. «Мы видим положительную динамику в плане синтаксиса, но уровень безопасности по-прежнему остаётся низким», — отметил технический директор Veracode Йенс Вёсслинг.

Больше всего проблем обнаружено при разработке на Java — уязвимости были выявлены в более чем 70% случаев. Также значительный процент небезопасных фрагментов найден в Python, C# и JavaScript — от 38% до 45%.

Наиболее сложными для ИИ остаются задачи предотвращения XSS-атак (86% уязвимостей) и инъекций в логи (88%). Тем временем, по данным Veracode, всё больше разработчиков доверяют ИИ не только вспомогательные функции, но и генерацию полноценного кода.

Йенс Вёсслинг отмечает, что ситуация усугубляется внедрением новой тенденции — так называемого «вайб-кодинга», что, по его словам, радикально меняет подходы к созданию программного обеспечения.

В Veracode рекомендуют внедрять автоматизированные инструменты для проверки безопасности, использовать ИИ для обнаружения и устранения уязвимостей, а также обучать программистов работе с ИИ, учитывая потенциальные риски. «Будущее — за ассистентами и автоматизированными пайплайнами, однако вопросы безопасности должны решаться незамедлительно. В противном случае рост числа уязвимостей будет неостановим», — предупреждают эксперты компании.

Источник: iXBT