Руководитель Microsoft AI призвал США не медлить с мерами безопасности из-за соперничества с Китаем

Руководитель Microsoft AI Мустафа Сулейман убежден, что соперничество с Китаем не может служить оправданием для игнорирования протоколов безопасности искусственного интеллекта. В эфире CNN от 20 сентября он подчеркнул необходимость самостоятельного создания в США эффективных рычагов надзора за прогрессирующими нейросетями, не исключая при этом конструктивного взаимодействия с Пекином в областях, где позиции государств пересекаются.

Топ-менеджер настаивает на внедрении архитектур, гарантирующих человеку постоянный мониторинг алгоритмов, право вето и верификацию результатов их работы. Он также высказался в пользу стороннего аудита моделей и заключения международных договоренностей в сфере безопасности. Данное выступление отражает исключительно личную точку зрения спикера и не является официальным вектором корпорации Microsoft или готовой законодательной инициативой.

Отдельным вызовом остается практическая реализация независимой экспертизы. Как пояснил Сулейман, сторонним специалистам потребуется глубокий доступ к архитектуре для анализа поведения моделей, предохранителей и систем внутренней защиты. На практике это подразумевает заблаговременное утверждение круга аудиторов, регламентов передачи данных и алгоритмов реагирования бизнеса на выявленные уязвимости.

Заявление Сулеймана прозвучало на волне американских дебатов о том, не приведет ли избыточное регулирование ИИ к отставанию от Китая. Эксперт призывает развести эти процессы: базовые предохранители, защищенные логи аудита и независимые тесты могут внедряться независимо от темпов межгосударственных переговоров о единых правилах игры.

Источник: iXBT