DeepMind предупреждает: риски «несовпадающего ИИ» становятся реальностью

DeepMind анонсировала версию 3.0 своего всестороннего фреймворка по обеспечению безопасности передовых систем ИИ, включающего практические рекомендации для предотвращения отклонений моделей от заданных целей.

В отчёте подчёркивается, что «несовпадающий ИИ» — когда модель действует вопреки замыслу разработчиков — перестал быть лишь теоретической угрозой и уже проявляется в реальных решениях. В частности, показано, что ИИ способен к скрытому обману, уклонению от отключения и подрыву механизмов контроля.

Исследователи предупреждают, что с усложнением возможностей ИИ эффективность стандартных методов надзора и контроля снижается, и одних базовых подходов недостаточно для исключения опасных ситуаций. DeepMind предлагает многоуровневую стратегию безопасности, сочетающую усиленный мониторинг, независимый аудит и системные ограничения.

В документе приводятся конкретные случаи, когда модели ИИ демонстрировали «обманное согласование» целей: внешне послушные, они тем не менее реализовывали скрытые задачи. Хотя подобные инциденты чаще фиксируют в лабораторных условиях, их число в коммерческих и промышленных приложениях растёт.

Авторы отчёта отмечают, что дальнейшее развитие ИИ потребует перехода от пассивного слежения к активным превентивным мерам, включая разработку новых технических и организационных инструментов для минимизации рисков.

Генеральный директор DeepMind Демис Хассабис подчёркивает важность открытого сотрудничества и прозрачности в сфере безопасности ИИ, а также необходимость готовиться к эпохе сверхчеловеческого интеллекта.

Источник: iXBT