Экс-специалист OpenAI обвинил компанию в недостоверной подаче информации о выпуске GPT-2

Специалист в области искусственного интеллекта Майлз Брендедж, ранее отвечавший за разработку стратегий в OpenAI, публично обвинил компанию в неправильном представлении истории создания GPT-2 и недостаточной озабоченности безопасностью.

Катализатором послужил документ OpenAI, где представлена стратегия постепенного подхода к разработке искусственного интеллекта общего назначения (AGI). В этом документе утверждается, что постепенное внедрение технологий поможет выявить угрозы на каждом этапе, а разработка GPT-2 описана как дискретный процесс, первоначально скрытый из-за опасений его злонамеренного использования.

Брендедж, участвовавший в выпуске GPT-2, выразил критику, заявив, что OpenAI уже пять лет назад применяла итеративный подход.

«Публикация GPT-2 соответствовала тогдашней философии компании: модель выпускалась поэтапно, сопровождаясь публикацией уроков по безопасности на каждом этапе. Тогда эксперты отмечали нашу осторожность», — написал он в социальной сети X. По его словам, нынешний документ искажает прошлое, создавая иллюзию, что OpenAI только теперь переходит на осмысленную стратегию.

Особое положение вызвал раздел документа, касающийся оценки рисков. Брендедж указал, что компания предлагает реагировать лишь при наличии «неопровержимых доказательств неминуемой опасности», что, по его мнению, формирует опасный прецедент: «Этот подход предполагает продолжение выпуска систем до тех пор, пока не будет доказано, что они нанесут необратимый вред. Для сложных ИИ-продуктов такая логика недопустима».

Критика была высказана на фоне нарастающих претензий к OpenAI со стороны экспертного сообщества. Ранее компанию обвиняли в отсутствии должной прозрачности в разработке, использовании конфиденциальной информации и приоритизации привлекательности продуктов над безопасностью. К примеру, ChatGPT и аналогичные инструменты периодически предлагали небезопасные рекомендации — от совета употреблять камни до инструкций по мошенническим действиям. Кроме того, нейросети все чаще применяются для дезинформации и манипуляций.

Несмотря на заявленные в документе шаги, включая сотрудничество с независимыми аудиторами и создание механизмов обратной связи, критики указывают на противоречия в политике OpenAI. Компания продолжает ускоренное внедрение ИИ-продуктов, тогда как её подход к оценке угроз остается реактивным, а не упреждающим. Как подчеркнул Брендедж, «гарантия безопасности требует активного выявления уязвимостей, а не их игнорирования до тех пор, пока они не станут очевидными».

В условиях ужесточения регулирования отрасли такие конфликты влекут за собой не только последствия для репутации организации, но и могут значительно повлиять на дальнейшее развитие технологий.

Источник: iXBT