Решение властей США наложить вето на использование наиболее мощных систем искусственного интеллекта от компании Anthropic зарубежными пользователями было принято на фоне тревожных сигналов со стороны Amazon. Как сообщает The Wall Street Journal, опираясь на собственные источники, ключевую роль в этом сыграла позиция руководства корпорации.
Согласно полученным данным, глава Amazon Энди Джесси в личной беседе с министром финансов США Скоттом Бессентом и другими высокопоставленными чиновниками доложил, что инженерам его компании удалось скомпрометировать модель Fable 5. Эксперты смогли получить от нейросети данные, которые потенциально применимы для организации кибератак и должны были быть надежно скрыты от пользователей.
После этих заявлений в Белом доме состоялось экстренное совещание. Полученные сведения прошли проверку профильными специалистами по кибербезопасности. Итогом стал ультиматум: Anthropic обязали либо оперативно устранить уязвимости, либо приостановить работу модели. Правительство сочло, что кратчайший путь к минимизации рисков — это блокировка доступа для иностранных государств, компаний и частных лиц. Несмотря на опасения, что такая жесткая регуляция замедлит темпы индустриального прогресса, Дональд Трамп санкционировал эти меры.
Изображение сгенерировано: Nano Banana
Ситуация осложнилась после консультаций с Дарио Амодеи, генеральным директором Anthropic. По отзывам участников встречи, руководство стартапа продемонстрировало недостаточную готовность к плотному взаимодействию с государственными органами по вопросам безопасности.
В ответ на санкции Anthropic приняла решение полностью деактивировать модели Mythos и Fable для всего пула пользователей, аргументируя это необходимостью соответствовать новым предписаниям. В компании подчеркнули, что это неизбежно затруднит деятельность организаций, применяющих данные нейросети для аудита безопасности кода. Кроме того, из-за того, что значительная часть штата Anthropic — иностранные граждане, ограничения коснулись и самих разработчиков, лишив их прямого доступа к собственным инновационным продуктам.
Ирония ситуации заключается в том, что Amazon является стратегическим инвестором Anthropic, предоставляя стартапу не только внушительное финансирование, но и критически важную вычислительную инфраструктуру. Примечательно, что сама Amazon также активно использует передовые ИИ-решения для поиска уязвимостей в программном обеспечении.
В самой Anthropic настаивают, что найденные «бреши» не представляют собой критической угрозы. По версии разработчиков, Amazon выявила лишь базовые сценарии, которые не являются реальным взломом защитных барьеров, а подобные результаты можно получить и при работе с другими современными ИИ-системами.
Ряд независимых экспертов разделяет скепсис компании. Несмотря на отчет, согласно которому Fable удалось обнаружить уязвимости в четырех программных пакетах после серии специфических запросов, основатель GreyNoise Intelligence Эндрю Моррис указывает, что это далеко от уровня, угрожающего безопасности систем. Основная функциональность модели по написанию кода для эксплуатации ошибок остается под строгим контролем, и исследователям Amazon не удалось обойти эти встроенные ограничения.
Этот инцидент стал очередным витком затянувшегося противостояния между Anthropic и администрацией Трампа. Белый дом систематически критикует компанию за слабую политику безопасности, а также за её контакты с представителями предыдущей власти. Дополнительным фактором напряжения стало взаимодействие Anthropic с военным сектором США, которое уже перешло в плоскость судебных разбирательств.
Аналитики сходятся во мнении: кейс с Fable и Mythos — наглядный маркер усиления контроля государства над сектором ИИ. Этот случай демонстрирует, что любые данные о новых возможностях нейросетей моментально трансформируются в рычаги давления, меняя правила игры даже для крупнейших технологических гигантов.
Источник: iXBT
