Специалисты обнаружили серьёзные уязвимости в новой модели Grok 3 компании Илона Маска

Учёные выявили значительные уязвимости в новой языковой модели Grok 3, созданной компанией Илона Маска. Профессионалы из Adversa AI провели тщательное тестирование и установили, что защитные меры системы можно обойти, используя базовые методы взлома, что может предоставить доступ к конфиденциальной информации.

По мнению генерального директора и соучредителя Adversa AI Алекса Полякова, модель не только уязвима к простым методам обхода, но и содержит критическую уязвимость, позволяющую проникнуть в системные настройки. Это предоставляет злоумышленникам возможность понять внутренние механизмы модели и делать её ещё более подверженной будущим угрозам.

Особую тревогу вызывает тот факт, что Grok 3 не справилась с тремя из четырёх методов проверки на безопасность, тогда как похожие модели от OpenAI и Anthropic успешно прошли все испытания. По мнению экспертов, уровень защиты Grok 3 сравним с китайскими моделями, но значительно ниже западных стандартов безопасности.

Данная ситуация вызывает ещё большее беспокойство в условиях развития ИИ-агентов, способных выполнять задачи от имени пользователей. Поляков приводит пример: если вредоносный код будет добавлен в текст email-рассылки, уязвимый ИИ-агент может автоматически распространить его всем контактам.

Хотя Grok 3 демонстрирует высокую производительность на уровне лучших моделей OpenAI, её слабые стороны в защите могут свести все успехи на нет. Исследователи подчёркивают, что в стремлении к повышенной скорости и эффективности разработчики новых моделей часто игнорируют важность безопасности.

Эксперты предупреждают: по мере того, как языковые модели всё активнее участвуют в принятии решений в реальном мире, каждая уязвимость становится потенциальной угрозой. Это особенно актуально в свете недавнего запуска функции Operator от OpenAI, которая позволяет ИИ выполнять действия от имени пользователя через интернет.

Источник: iXBT