США призвали КНР к экстренному обмену данными об опасных инцидентах с ИИ

Соединенные Штаты вышли на контакт с Пекином с инициативой сформировать систему оповещения об инцидентах в сфере искусственного интеллекта, способных подорвать национальную безопасность. С этим предложением выступил министр финансов США Скотт Бессент в ходе вашингтонско-пекинских переговоров с вице-премьером Госсовета КНР Хэ Лифэном, прошедших в Нью-Йорке 20 сентября. Речь идет об организации защищенного канала коммуникации и взаимном обмене профильными данными.

По словам американского министра, стороны стремятся сформировать исчерпывающий перечень потенциально опасных прецедентов и составить алгоритмы реагирования. В фокусе внимания оказались такие угрозы, как автономные ИИ-агенты, вышедшие из-под контроля, эксплуатация нейросетей негосударственными акторами и масштабные кибернетические атаки. По итогам саммита было объявлено о намерении продолжить межгосударственный диалог по проблематике ИИ-безопасности: следующая встреча запланирована через два месяца в Шэньчжэне, однако ее конкретная дата и формат пока не утверждены.

Тем временем китайская сторона воздерживается от однозначного ответа на американскую инициативу. В официальном релизе агентства «Синьхуа» прошедшая встреча охарактеризована как откровенная и конструктивная; тема искусственного интеллекта упоминалась в контексте торгово-экономической повестки, однако концепция специального механизма уведомлений в публикации не детализирована. Вашингтон дополнительно подчеркнул, что ограничения на поставки чипов для ИИ и оборудования для выпуска полупроводников в этот раз не затрагивались.

Данная инициатива обусловлена растущими опасениями, что нештатная ситуация с участием автономных систем может потребовать от сверхдержав молниеносного взаимодействия, в особенности при угрозах критической инфраструктуре или кибербезопасности. На текущий момент у Вашингтона и Пекина отсутствуют регламентированные протоколы для урегулирования подобных кризисов. Обсуждаемая «горячая линия» пока пребывает в статусе переговорного проекта, а не реально действующего инструмента межгосударственного сотрудничества.

Источник: iXBT