Подавляющее большинство экспертов по нацбезопасности настаивают на контроле ИИ до запуска моделей

Американский Институт безопасности и технологий (IST) представил результаты масштабного опроса, в котором приняли участие 111 экспертов в области национальной безопасности: от бывших и действующих госслужащих до военных, а также представителей академической среды и IT-индустрии. Исследование проводилось с конца апреля по середину июля и охватывало 70 разноплановых вопросов. Все данные обнародованы в обобщенном виде с соблюдением принципов конфиденциальности.

Итоги показательны: 85% опрошенных настаивают на жестком надзоре за ИИ-моделями еще до того, как они преодолеют рубеж сверхвысоких возможностей, а 93% в той или иной степени разделяют необходимость государственного регулирования.

Тем не менее, уверенность респондентов в способности государственных и общественных институтов реализовать эти задачи на практике оказалась минимальной.

Профильное издание Cybersecurity Dive акцентировало внимание на проблеме верификации: эксперты указали на хроническое недофинансирование экспертных оценок, отсутствие независимых аудиторских процедур, дефицит валидных бенчмарков для тестирования передовых систем, а также на препятствия при проверке заявлений разработчиков. По информации IST, эффективные и надежные инструменты независимой проверки ИИ на сегодняшний день попросту отсутствуют.

Источник: iXBT