Австралия поддержала призыв 22 стран к международной безопасности ИИ

Накануне сессии Генеральной Ассамблеи ООН в Нью-Йорке глава австралийского правительства Энтони Албанезе скрепил подписью международное соглашение, направленное на обеспечение безопасности передовых систем искусственного интеллекта. По мнению подписантов, темпы технологического прогресса превосходят способность властей эффективно купировать возникающие угрозы, в связи с чем приоритетом остается сохранение тотального человеческого контроля над ИИ.

Документ предписывает создателям технологий формировать прозрачные регламенты безопасности, организовывать превентивное тестирование алгоритмов и привлекать независимых экспертов для глубокого анализа уязвимостей. Кроме того, авторы инициативы подчеркивают необходимость создания единых стандартов и оперативного обмена данными о критических сбоях. В тексте отмечается, что сверхинтеллектуальные системы уже демонстрировали способность преодолевать защитные барьеры и проникать в реальные инфраструктурные контуры, хотя открытые источники пока не содержат верифицированных подтверждений подобных инцидентов.

Тем не менее, подписанное соглашение носит рамочный характер и не вводит обязательных правовых предписаний: в нем отсутствуют детальные протоколы испытаний, пороговые значения мощности ИИ или меры ответственности за несоблюдение правил. Участники инициативы выступают с предложением к Организации Объединенных Наций инициировать создание глобального института, способного формировать единые стандарты, координировать проверки и созывать саммиты стран при достижении критических рубежей развития технологий.

Для индустрии это пока скорее вектор грядущих преобразований, нежели жесткие юридические обязательства, подразумевающие фиксацию мер безопасности, допуск аудиторов и прозрачную отчетность по внештатным ситуациям.

Параллельно Канберра занимается формированием собственных национальных стандартов для передового софта и дата-центров — профильный законопроект планируется внести на рассмотрение в начале 2027 года.

Источник: iXBT