Нейросеть научили считывать сигналы об ошибках напрямую из мозга человека

Специалисты Корейского института передовых технологий (KAIST) совместно с экспертами Microsoft Research Asia создали нейроинтерфейс Neural Value Alignment (NVA). Технология анализирует мозговую активность человека при некорректной работе искусственного интеллекта. Используя электроэнцефалограмму (ЭЭГ), комплекс фиксирует уникальные паттерны нейронных импульсов, возникающие, когда нейросеть путает конечную задачу или метод её выполнения. Это позволяет алгоритму оперативно корректировать свои действия без необходимости текстовых или голосовых подсказок.

Главная сложность заключалась в трактовке намерений: одно и способное повторяться действие может преследовать кардинально разные задачи, в то время как единая цель достигается вариативными путями. Например, человек, тянущийся за кружкой, может стремиться утолить жажду, помыть посуду или передать предмет собеседнику. Если же цель — напиться, можно воспользоваться стаканом, бутылкой или попросить о помощи. Оценивая лишь внешние проявления, алгоритм не способен безошибочно уловить истинный замысел.

Исследователи акцентировали внимание на двух разновидностях когнитивных прогнозирующих сбоев: ошибке прогнозирования вознаграждения (RPE), отражающей расхождение в конечном результате, и ошибке прогнозирования состояния (SPE), сигнализирующей о неверном промежуточном шаге. RPE проявляется, когда ассистент подает чай вместо запрошенного сока — целевой ориентир упущен. SPE возникает, когда помощник верно уловил потребность в воде, но вместо бутылки направился к кухонному крану: задача правильная, а стратегия ошибочна. Тестирования подтвердили, что человеческий мозг генерирует distinct-волны под каждый сценарий, а алгоритмы глубокого обучения успешно их распознают.

Решение базируется на принципе «интеллектуальной синергии», где расшифрованные нейросигналы выступают в роли ориентиров для дальнейших шагов машины. Зафиксировав RPE, модель осознает промах в целеполагании и меняет вектор, а при фиксации SPE — оптимизирует алгоритм действий. На данном этапе испытания NVA проводились в виртуальной среде, а не на физических роботах. Кроме того, метод ЭЭГ зависит от электродов и подвержен помехам, что пока сужает поле применения лабораторными стенами.

Перспективы внедрения простираются далеко за рамки виртуальных ассистентов: домашняя робототехника, промышленные манипуляторы, беспилотный транспорт, медицинские реабилитационные комплексы для пациентов с ограниченными возможностями, а также адаптивные образовательные платформы, реагирующие на степень усталости и концентрации учащегося. «Наше исследование доказывает, что ИИ способен преодолеть ограничения простого наблюдения за поведением человека и напрямую задействовать глубинные когнитивные импульсы мозга при взаимодействии с цифровыми системами», — подытожил профессор Сан Ван Ли, возглавлявший проект.

Источник: iXBT