Команда учёных KAIST и Microsoft Research Asia представила нейроинтерфейс Neural Value Alignment (NVA), который регистрирует реакцию мозга на неверные действия искусственного интеллекта через ЭЭГ и на её основе помогает системе корректировать поведение без устной или текстовой обратной связи.

Исследование подчёркивает, что намерения часто не однозначны: одно действие может отражать разные цели, а одна цель — достигаться разными путями. Приводится пример: взять чашку может означать попить, помыть её или передать другу; утоление жажды может приводить к выбору разных ёмкостей — чашки, бутылки или просьбы о напитке.

Новая система фокусируется на двух типах мозговых ошибок: reward prediction error (RPE) — несоответствие цели или результата, и state prediction error (SPE) — несоответствие метода или промежуточного шага. RPE фиксирует ситуацию, когда ИИ приносит кофе вместо запрошенной воды; SPE — когда цель верна, но способ её достижения не подходит, например робот идёт к крана, а не к бутылке.

Система реализована через алгоритм «ИИ-синергии», который обрабатывает расшифрованные нейросигналы как обратную связь для корректировки решений. При обнаружении RPE модель пересматривает цель, при обнаружении SPE — метод её достижения. В настоящее время NVA демонстрировалась только в симуляциях и не работала на свободно перемещающемся роботе; отмечается, что ЭЭГ требует электродов и подвержена шумам, что ограничивает применение за пределами лаборатории.

В перспективе результаты могут применяться в бытовых и промышленных робототехнических системах, автономном транспорте, медицинских и реабилитационных устройствах для людей с ограничениями речи или движения, образовательных системах. По словам профессора Сан Ван Ли, работа демонстрирует, что ИИ может учитывать когнитивные сигналы, возникающие в мозге помимо видимого поведения, расширяя понимание взаимодействия человека и машины.