Антропик подтвердила утечку информации о новой ИИ-модели Claude 4 Opus через публикацию в Time

Компания Anthropic, создатель языковой модели Claude, на запланированной трансляции не представила официальных сведений о новой версии своей системы. Однако слухи о запуске Claude 4 Opus под кодовым названием «Нептун» получили подтверждение благодаря утечке информации. Журнал Time случайно разместил статью, где были раскрыты данные о возможностях и рисках модели, а затем удалил её.

До начала трансляции специалисты из ИИ-сообщества на платформе X предполагали выход обновления, анализируя доступные фрагменты кода и документы Anthropic. Главный акцент ставился на увеличении числа параметров по сравнению с предыдущей версией Claude 3.7 Sonnet, что свидетельствовало о значительном росте производительности, включая улучшение обработки естественного языка и анализа данных.

Статья в Time, которая была доступна несколько часов, упоминала, что Claude 4 Opus может помочь неопытным пользователям в создании биологического оружия. Издание подчеркивало меры безопасности, внедрённые Anthropic для снижения таких рисков, но не привело конкретных примеров их реализации. Позже копия этой публикации временно появилась в агрегаторе Newsbreak, что усилило обсуждение в профессиональных кругах.

Технические характеристики модели, включая точное количество параметров, стоимость обучения и лицензирования, а также результаты тестов на стандартных бенчмарках, остаются неизвестными. В Anthropic воздержались от комментариев, сославшись на планы по их раскрытию «в ближайшее время».

Утечка вызвала критику со стороны экспертов по ИИ-безопасности. Они указывают на то, что даже с защитными механизмами модели уровня Claude 4 Opus требуют строгого регулирования из-за возможности генерации опасного контента. Аналогичные проблемы возникли и с GPT-4 от OpenAI, что привело к ужесточению политик распространения.

Ожидается, что официальный анонс Anthropic расставит акценты на балансе между инновациями и контролем. В это время сообщество разработчиков обсуждает, станет ли «Нептун» прорывом в области ИИ или будет очередным примером рисков, связанных с ускоренным развитием технологий.

Источник: iXBT