OpenAI приостановила проект Astra из-за угроз кибербезопасности со стороны ИИ

Седьмого августа OpenAI временно заморозила часть внутренних исследований, связанных с моделью Astra, поскольку они перестали отвечать обновленным, более строгим стандартам защищенности. Согласно результатам комплексных проверок и экспертных вердиктов, специалисты компании пока не могут гарантировать, что Astra не преодолеет критический порог угрозы (Critical) в сфере информационной безопасности. Данная классификация закреплена в собственном регламенте компании — Preparedness Framework. Важно отметить, что речь идет об этапе прелиминарного тестирования: релиз Astra еще не состоялся, а инженеры продолжают изучать поведение нейросети и совершенствовать защитные барьеры.

В руководстве OpenAI объясняют этот шаг стремительным прогрессом Astra в сфере автономного программирования и кибернетической безопасности. Достижение отметки «Critical» подразумевает, что искусственный интеллект обретает потенциальную способность без участия человека создавать действенные эксплойты для нулевых уязвимостей в защищенных инфраструктурах или же самостоятельно планировать и осуществлять комплексные хакерские атаки по общей текстовой инструкции. Для сравнения, предыдущие разработки компании, включая GPT-5.6-Sol, оценивались экспертами лишь на уровне «High».

В ответ на выявленные риски OpenAI масштабирует стресс-тестирование защитных контуров и повышает планку безопасности для наиболее продвинутых генеративных систем. Конкретные метрики, тестовые сценарии и детали новых протоколов безопасности организация решила не разглашать. Представители компании подчеркивают, что проект Astra никак не пересекается с недавним инцидентом взлома инфраструктуры Hugging Face. По сведениям издания Axios, активная фаза проекта замедлена на период интеграции дополнительных предохранителей, а точные сроки появления модели на рынке остаются неопределенными.

Для современных агентных архитектур критически важно анализировать не только текстовые навыки вроде генерации кода или теоретического разбора брешей в ПО, но и сценарии взаимодействия ИИ с реальными инструментами. Наибольшую опасность представляет синергия нескольких факторов: автоматизированного поиска уязвимостей, написания эксплойтов, прямого доступа к целевым системам и автономного выполнения цепочки задач. Именно поэтому новые регламенты OpenAI охватывают не только саму нейросетевую модель, но и всю сопутствующую инфраструктуру разработки и развертывания.

Данный прецедент наглядно демонстрирует, каким образом строгий аудит киберпотенциала способен напрямую корректировать график создания еще не анонсированных продуктов. Тем не менее, имеющейся в открытом доступе информации недостаточно для независимой верификации того, действительно ли Astra перешагнула критическую черту: разработчики лишь констатируют невозможность полностью исключить такой сценарий. Тестирование продолжается, и окончательное решение о судьбе и условиях релиза модели будет принято по его завершении.

Источник: iXBT