Генеральный директор Google DeepMind Демис Хассабис выразил убежденность в необходимости формирования независимой международной структуры, наделенной полномочиями проводить аудит передовых моделей искусственного интеллекта и, в случае выявления рисков, принудительно ограничивать их релиз.
Хассабис подчеркнул, что формирование глобальной нормативной базы для наиболее совершенных нейросетей стало критически важной задачей. В своей недавней публикации он выступил с инициативой учреждения «международного ведомства по надзору за передовыми технологиями ИИ», которое выполняло бы функции беспристрастного арбитра.
По мнению главы DeepMind, инициативу должны возглавить Соединенные Штаты, учитывая их доминирующее положение в секторе высоких технологий. В состав этого органа предлагается включить экспертов по безопасности, представителей академической среды и разработчиков open-source решений. Предполагается, что в задачи регулятора войдет тщательное тестирование наиболее мощных моделей до их выхода на рынок и право накладывать вето на распространение технологий, признанных потенциально небезопасными.
Свои идеи Хассабис изложил в материале «A Framework for Frontier AI and the Dawning of a New Age». Он отметил, что отрасль стремительно приближается к созданию систем с общим уровнем интеллекта (AGI), способных решать задачи любой сложности наравне с человеком. По его словам, наступившая эпоха несет в себе тектонические сдвиги для социума и экономики, поэтому правовые механизмы должны быть внедрены на упреждающей основе.
Как сообщает портал Axios, Хассабис на протяжении нескольких месяцев ведет консультации с администрацией США, лидерами других ИИ-лабораторий и чиновниками из ЕС. Несмотря на оптимизм автора относительно запуска инициативы до конца текущего года, на данный момент не выработаны ни формат международного сотрудничества, ни единая законодательная стратегия внутри самих Соединенных Штатов.
Предложение руководителя DeepMind — лишь часть масштабной дискуссии о границах дозволенного в развитии сверхразумного ИИ. Ранее Хассабис в составе группы топ-менеджеров технологических гигантов уже призывал к усилению мер безопасности, чтобы исключить использование нейросетей для разработки биологического оружия. Одновременно экспертное сообщество бьет тревогу по поводу грядущих потрясений на рынке труда и необходимости адаптации мировой экономики к новой технологической реальности.
Тем не менее, реализация идеи наднационального надзорного органа сопряжена с серьезными трудностями: государства имеют диаметрально противоположные взгляды на риски ИИ, а крупные корпорации зачастую совмещают призывы к регулированию с агрессивной гонкой вооружений в области создания нейросетей. Предложение Хассабиса по сути ставит ребром вопрос о том, кто именно получит право определять границы допустимого прогресса в сфере высокотехнологичных систем искусственного интеллекта.
Источник: iXBT
