Тревожные новости в OpenAI: Хоакин Киньонеро Кандела, руководитель отдела безопасности, ушёл с должности

Хоакин Киньонеро Кандела, ранее возглавлявший команду по предотвращению катастрофических рисков ИИ в OpenAI, недавно оставил свою должность и сейчас работает стажёром в подразделении, которое занимается внедрением ИИ в сферу здравоохранения. На своей странице в LinkedIn он отметил: «Я теперь стажёр! Вернулся к разработке спустя 11 лет после написания последнего кода». В OpenAI подтвердили, что Кандела помогал готовить преемника и, предположительно, продолжит участие в вопросах безопасности, однако в настоящее время уделяет внимание другим проектам. Организационная структура безопасности компании была обновлена: функции были объединены в подразделение Safety Advisory Group (SAG) с ежегодной сменой лидеров, а задачи Preparedness перераспределены между командами, занимающимися оценками рисков и мерами защиты.

Это уже второй значительный кадровый переход в команде Preparedness за год. В июле 2023 года Александра Мадру, занимавшую тогда должность руководителя группы, без каких-либо публичных объявлений перевели на работу в области логики ИИ, передав её полномочия Кандела. На фоне этих перестановок OpenAI продолжает утрачивать ключевых специалистов по безопасности: сооснователь Джон Шульман перешёл в Anthropic, Лилия Вэнг примкнула к стартапу Thinking Machines Labs, а руководители команды Superalignment Илья Суцкевер и Ян Лейке покинули компанию. Лейке в открытую заявил, что приоритеты безопасности уступили место разработке продуктов. Майлз Брундаж, один из последних участников оригинальной команды по безопасности, покинул OpenAI в октябре, указав, что ни данная компания, ни другие лаборатории не готовы к созданию общего искусственного интеллекта (AGI), а ограничения на публикацию отчётов по безопасности стали причиной его ухода.

Команда Preparedness была образована в декабре 2023 года для снижения рисков, связанных с передовыми ИИ-технологиями, такими как кибератаки, автономные системы и оружие массового уничтожения. Она действует в рамках постоянно обновляемой методологии. Вторая версия этого документа была опубликована сразу после запроса от СМИ, что вызвало вопросы относительно прозрачности компании. Ранее сообщалось, что OpenAI сократила время тестирования моделей с нескольких месяцев до нескольких дней, а выпуск GPT-4.1 произошёл без издания отчёта по безопасности. При этом компания утверждает, что модель «не является передовой», хотя её инструмент DeepResearch был ранее обозначен именно так. Эксперты, включая бывшего сотрудника Стивена Адлера, подчеркивают «незаметное отступление от обязательств» в сфере безопасности, особенно когда речь идёт о биоинженерии.

Положение дел осложняется отсутствием регулирования: в США компании придерживаются добровольных стандартов, которые можно легко обойти. OpenAI и Google выступали против калифорнийского законопроекта SB 1047, стремящегося закрепить нормы безопасности. Google также не обнародовала отчёт по Gemini 2.5 Pro.

Источник: iXBT