Корпорация Anthropic вынуждена была приостановить функционирование своих наиболее производительных ИИ-моделей Fable 5 и Mythos 5. Это произошло вскоре после их публичного запуска из-за вмешательства властей США, выразивших серьезные опасения относительно аспектов безопасности.
«Вследствие полученного предписания мы вынуждены деактивировать Fable 5 и Mythos 5 для всех пользователей, чтобы гарантировать полное соблюдение установленных норм», — пояснили представители компании, подчеркнув, что официальное уведомление не содержало конкретных данных о причинах угрозы национальной безопасности.
«Насколько мы понимаем, правительственные структуры полагают, что существует алгоритм обхода или взлома системы Fable 5, — отметили в Anthropic. — Проанализировав представленную методику, мы убедились, что она выявляет лишь ограниченный перечень известных второстепенных уязвимостей. Они представляются довольно типичными, и, как показала практика, другие доступные на рынке нейросети справляются с их поиском аналогичным образом без каких-либо манипуляций с защитными механизмами».
На этапе подготовки к выходу Claude Fable 5 разработчики делали особый упор на внедренные защитные протоколы, призванные купировать потенциальные киберугрозы. В Anthropic сообщали, что открыли ограниченный ранний доступ к технологии лишь узкому кругу организаций, аргументируя это колоссальным интеллектуальным потенциалом модели, который мог быть использован для несанкционированного взлома вычислительных систем.
Утверждения компании о «чрезмерной мощности» алгоритмов, прозвучавшие еще до официального релиза, в свое время были восприняты рядом скептиков как искусственно созданный ажиотаж и грамотный маркетинговый ход.
«Функционал Fable значительно превосходит все предыдущие наработки, представленные нами ранее», — подчеркивали в компании.
Anthropic — ведущий американский разработчик в области искусственного интеллекта, получивший широкую известность благодаря семейству нейросетей Claude. Организация была основана в 2021 году бывшими руководителями OpenAI — Дарио и Даниэлой Амодеи.
Источник: iXBT
