Anthropic массово банит платящих пользователей за попытки дообучать нейросети

Цзяхо Шао, аспирант Гонконгского университета науки и технологии, столкнулся с жесткими санкциями со стороны Anthropic после того, как автоматизировал генерацию датасетов для сторонней нейросети с помощью Claude. По словам ученого, служба безопасности приняла его рабочие процессы за разработку конкурирующего продукта. Шао поделился ситуацией в соцсети X, где его пост быстро преодолел отметку в 277 тысяч просмотров.

Исследователь пояснил, что задействовал мощную опенсорсную модель для создания тренировочных примеров, а Claude отвел роль диспетчера, управляющего постановкой задач и верификацией итогов. В подобных архитектурах языковой модель необязательно сама выступает источником обучающих данных — она способна оркестровать сторонний софт и оценивать качество. Тем не менее, именно эта автоматизированная связка, по мнению Шао, спровоцировала защитную реакцию Anthropic.

Потерпевший пожаловался на принудительный даунгрейд с Opus 5.5 до Opus 5, внезапные разрывы соединений и блокировки при попытках задействовать процессы, завязанные на ключевые методы адаптации моделей. Речь идет о supervised fine-tuning (SFT), опирающемся на размеченные экспертные датасеты, и reinforcement fine-tuning (RFT), применяющем систему наград для оптимизации ответов. Оба метода считаются стандартом при калибровке ИИ под узкоспециализированные задачи.

Шао открыто обратился к генеральному директору Anthropic Дарио Амодеи, обвинив корпорацию в применении двойных стандартов. Он акцентировал внимание на очевидном дисбалансе: пока ведущие ИИ-лаборатории беспрепятственно поглощают гигантские объемы информации для совершенствования собственных систем, платные клиенты сталкиваются с барьерами, когда пытаются использовать те же технологии в научных целях.

Этот инцидент обнажает острую дилемму современной индустрии: где пролегает тонкая грань между легитимным использованием API и деятельностью, которую провайдер квалифицирует как плагиат или попытку вырастить конкурента. Рутинные операции вроде автоматизации экспериментов, синтеза данных и бенчмаркинга неотделимы от современной науки, однако они же лежат в основе создания альтернативных моделей. В результате жесткость и непрозрачность платформ напрямую ограничивают потенциал независимых исследователей.

На момент публикации материала официальных комментариев от представителей Anthropic не поступало. Без позиции компании сложно судить, какие именно триггеры привели к санкциям и действительно ли алгоритмы усмотрели угрозу создания конкурирующего ИИ. Инцидент базируется исключительно на версии разработчика, однако поднятая им проблематика затронула куда более глубокий вопрос: какова должна быть степень прозрачности защитных механизмов ИИ-гигантов по отношению к исследователям, создающим собственные инфраструктурные решения.

Источник: iXBT