Решение американского Министерства торговли наложить экспортные запреты на модель Fable 5 от компании Anthropic спровоцировало серьезные дискуссии в среде кибербезопасности. Значительная группа профильных специалистов настаивает на том, что возможности данной модели ничем не примечательны и не дают оснований для столь жестких ограничительных мер.
Поводом для санкций со стороны властей США послужили доклады о попытках взлома защитных алгоритмов нейросети вскоре после её официального релиза. Регуляторы выразили опасение, что если внутренним исследователям удалось преодолеть встроенные барьеры безопасности, то подобные приемы могут быть эффективно использованы иностранными субъектами или киберпреступниками.
В ответ на эти претензии Anthropic временно приостановила доступ к модели для части аудитории, параллельно инициировав процесс обжалования правительственного решения.
Тем не менее, независимые аналитики и эксперты по кибербезопасности указывают на то, что представленные результаты тестов укладываются в рамки привычных сценариев работы с мощными языковыми моделями. По их мнению, речь не идет о критической бреши в защите, а лишь о применении сложных многоступенчатых промптов, которые обычно используются для оценки стрессоустойчивости систем.
Как отметила Кэти Муссурис, видный специалист в области кибербезопасности, в ходе тестирования модели (включая Fable 5, Mythos и Claude Opus) исследователи использовали их для проверки уязвимостей в открытом ПО. Она подчеркнула, что, несмотря на первоначальные отказы Fable 5 следовать инструкциям, с помощью многошаговой цепочки запросов удалось получить скрипты для тестирования патчей.
Муссурис подчеркивает: подобные манипуляции являются неотъемлемой частью работы по обеспечению безопасности, где ИИ выступает инструментом для поиска багов и анализа исправлений. Это не является несанкционированным обходом защиты, а служит важным функционалом для создания более надежного софта.
Многие эксперты, подписавшие коллективное обращение к властям США, подтверждают, что схожие результаты показывают и модели других разработчиков, включая системы от OpenAI. Они убеждены, что уровень «джейлбрейка» Fable 5 не выходит за рамки среднеотраслевых показателей.
Более того, специалисты критикуют методологию регулирования. По их словам, экспортные ограничения были введены без прозрачной системы оценки рисков и без должного сравнения с другими коммерческими продуктами, обладающими аналогичным функционалом для анализа уязвимостей.
Сенатор Марк Уорнер выступил с требованием создать формализованную и понятную систему оценки рисков, вместо того чтобы опираться на разрозненные частные исследования. Он призвал Конгресс к выработке единого нормативного поля, что позволило бы исключить политизацию решений и обеспечить прозрачность для технологического сектора.
Согласно отчету Anthropic, модель Fable 5 прошла интенсивные испытания длительностью около 1000 часов, в ходе которых не было обнаружено универсальных методов взлома защитных протоколов.
Поддерживающие эту позицию эксперты напоминают, что идентичные сценарии уязвимостей характерны для множества систем, в том числе и зарубежных разработок, что ставит под большое сомнение тезис об «исключительной опасности» именно Fable 5.
На фоне растущего общественного запроса на контроль над искусственным интеллектом подобные вопросы все чаще переходят в плоскость большой политики. Ситуация вокруг Fable 5 высветила ключевую проблему индустрии: отсутствие четких критериев, позволяющих объективно отличить рядовые тесты на устойчивость от реальных угроз национальной безопасности.
Источник: iXBT
