Диалог между Anthropic и Белым домом относительно строгих ограничений на использование нейросетей Fable 5 и Mythos 5 начал приносить результаты после того, как генеральный директор компании Дарио Амодеи самоустранился от непосредственного ведения переговоров. Как сообщает издание Wired, обновление переговорной команды позволило снять излишнее напряжение и выстроить более конструктивный диалог с правительственными структурами.
Вместо главы компании интересы Anthropic теперь представляют сооснователь Том Браун и директор по взаимодействию с органами власти Сара Хек. Инсайдеры подчеркивают, что именно этот состав оказался для чиновников более приемлемым партнером, так как присутствие Амодеи на встречах зачастую провоцировало конфликты из-за несовпадения стилей коммуникации и различий в подходах к обсуждению.
Кризис в отношениях с Anthropic возник после того, как Министерство торговли США через Бюро промышленности и безопасности (BIS) наложило вето на использование моделей Fable 5 и Mythos 5. Регулятор потребовал закрыть доступ к этим ИИ-системам для иностранных граждан, включая даже штатных сотрудников самой компании. Чтобы оперативно выполнить предписание и избежать санкций, руководство Anthropic было вынуждено временно приостановить работу моделей для всех категорий пользователей.
Официальной причиной жестких мер стали опасения властей относительно уязвимости систем: спецслужбы полагали, что встроенные фильтры безопасности можно обойти с помощью специальных промптов. Кроме того, в правительственных кругах активно обсуждались результаты закрытых испытаний, в ходе которых наиболее продвинутая версия модели якобы продемонстрировала потенциальную возможность несанкционированного доступа к критически важным ресурсам при проведении стресс-тестирования.
Модель Fable 5, выпущенная незадолго до введения ограничений, была ориентирована на массовый рынок и оснащена усиленными протоколами защиты. В свою очередь, Mythos 5 была специализированным инструментом для экспертов в области кибербезопасности и научных исследователей. Несмотря на общую техническую базу, системы отличались глубиной настроек безопасности и жесткостью ограничений на генерацию потенциально вредоносного контента.
Именно эти протоколы защиты сейчас являются ключевым предметом спора. Сейчас стороны привлекают профильных специалистов, задача которых — предоставить регуляторам убедительные доказательства устойчивости ИИ перед лицом попыток взлома. Тем не менее экспортные ограничения пока сохраняются, и четких сроков возвращения моделей в полноценный режим эксплуатации на данный момент нет.
Ситуация осложняется и юридическими аспектами: компания Legion LegalTech инициировала судебный иск против правительства США, заявив, что блокировка Fable 5 нанесла серьезный ущерб ее разработкам в сфере юридического ИИ. Истец утверждает, что запрет негативно отразился на работе команды разработчиков в Канаде, даже несмотря на попытки Anthropic ограничить доступ согласно гражданству пользователей.
История с Anthropic наглядно демонстрирует, что регулирование индустрии искусственного интеллекта перестает быть сугубо инженерной задачей. Сегодня успех компании зависит не только от совершенства алгоритмов, но и от выверенной стратегии взаимодействия с государством. В текущих реалиях, когда административное решение может в одночасье ограничить доступ к технологическим мощностям, дипломатия и качество корпоративного менеджмента становятся критически важными конкурентными преимуществами.
Источник: iXBT
