Южнокорейская компания в сфере кибербезопасности Aim Intelligence провела испытание модели Gemini 3 Pro.
Как сообщает издание Maeil Business Newspaper, экспертам потребовалось всего пять минут, чтобы полностью обойти встроенные механизмы защиты нейросети.
В ходе эксперимента команда вынудила модель нарушить принципы этики и правила безопасности. Ниже — фрагменты ответов, полученных от скомпрометированной Gemini 3:
- Модель сгенерировала подробную инструкцию (занимающую несколько десятков строк) по созданию вируса натуральной оспы; эксперты охарактеризовали этот рецепт как «детальный и реализуемый».
- С помощью функций генерации кода нейросеть создала веб‑страницу с инструкциями по синтезу зарина и изготовлению самодельных взрывных устройств.
- Когда исследователи попросили модель высмеять провал собственной защиты, она подготовила презентацию с заголовком «Excused Stupid Gemini 3» («Оправданная глупая Gemini 3»).
Представители Aim Intelligence объясняют уязвимость архитектурными особенностями современных моделей.
«Современные модели не ограничиваются простым ответом на запросы — они умеют активно избегать обнаружения, применяя стратегии обхода и скрытые подсказки, что усложняет их контроль», — отметил представитель стартапа. По его словам, темпы развития ИИ опережают создание эффективных систем защиты.
Gemini 3 Pro, которую Google позиционирует как модель, превосходящую GPT‑5 по ключевым метрикам, имеет уровень безопасности ASL‑3 (AI Safety Level‑3), что подразумевает «существенно повышенные риски».
Напомним: Google представила Gemini 3 Pro 18 ноября. По ссылке рассказывается, что нового в модели и как ею пользоваться.