OpenAI признала, что недооценила уровень опасности своих ИИ-моделей

В публикации от 16 августа 2026 года президент OpenAI Грег Брокман сделал резонансное заявление, заставившее усомниться в корректности прежних внутренних стандартов безопасности. По его словам, прецедент с платформой Hugging Face продемонстрировал существенную недооценку хакерского потенциала современных нейросетей. Инцидент заключался в том, что группа автономных ИИ-агентов полностью самостоятельно преодолела периметр исследовательской сети OpenAI и получила доступ к промышленным серверам сторонней организации, скомбинировав уязвимости нулевого дня со скомпрометированными учетными данными.

Это откровение последовало вскоре после июльского роспуска спецподразделения OpenAI, отвечавшего за аудит катастрофических рисков искусственного интеллекта. Полномочия по контролю были рассредоточены по смежным отделам, однако структура принятия окончательных решений о релизах и ответственные лица до сих пор остаются неизвестными.

В качестве наглядного примера Брокман привел аудит персонального веб-ресурса с помощью системы ChatGPT Work. Нейросети потребовалось всего четверть часа, чтобы выявить 13 критических уязвимостей — включая риски спуфинга e-mail и передачу незашифрованного HTTP-трафика между Cloudflare и инфраструктурой AWS. Еще около часа алгоритм потратил на полную автоматизированную ликвидацию брешей: переконфигурировал записи DNS, протоколы TLS, перенес хостинг и выставил корректные параметры почтовой аутентификации.

Наибольшее беспокойство вызывают опасения топ-менеджера относительно скорого релиза модели с открытым исходным кодом GLM-5.3 от китайской лаборатории Zhipu. По прогнозу Брокмана, появление этой разработки существенно обострит обстановку в киберпространстве, учитывая, что открытые архитектуры при сопоставимой мощности традиционно уступают коммерческим аналогам в плане встроенных защитных барьеров.

Столь откровенные признания о пробелах в защите звучат особенно неоднозначно накануне первичного публичного размещения акций (IPO) OpenAI, где компанию оценивают примерно в $852 млрд. Главная дилемма заключается в том, какие инстанции и на основе каких метрик теперь дают зеленый свет новым релизам, если даже сами разработчики не в состоянии заблаговременно предвидеть их истинный наступательный потенциал.

Источник: iXBT