В сентябре 2021 на форуме Neuroergonomics в Мюнхене ученые из Бранденбургского технологического университета представили доклад «Этика пассивного BCI: можем ли мы обнаружить информацию, которую человек хотел скрыть?». Иными словами, исследователи пытались выяснить, можно ли использовать интерфейсы мозг-компьютер в пассивном режиме как усовершенствованный полиграф, который будет считывать и анализировать электрические волны головного мозга. Также они попытались ответить на вопрос, почему это может противоречить принципам этики.
Технология интерфейсов мозг-компьютер (ВСI) активно применяется не только в группах парализованных людей для улучшения качества их жизни, но и в больших популяциях «здоровых добровольцев». Поэтому закономерно то, что этические вопросы или вопросы интеллектуальной собственности по отношению к собственным «нейроданным» становятся порой важнее новых открытий в этой области, о чем мы уже писали на нашем портале. И вот новый повод для беспокойства от сотрудников Бранденбургского технологического университета Дианы-Элизы Герман (Diana-Eliza Gherman ) и Торстена Цандера (Thorsten O. Zander) – пассивный режим BCI достоверно отличает правду от лжи, причем, незаметно для испытуемого.
Все методы ВCI делятся на три группы. При активных пользователь сам решает, что и когда ему сделать, а внешняя система реагирует на его меняющуюся мозговую активность во время действия, например, кликает виртуальной мышкой по ссылке, как в этом эксперименте. При реактивных BCI пользователь инициирует команду в ответ на воздействие системы (например, человек своим вниманием перемещает мышку к движущейся по экрану мишени).
Однако существует третья группа нейроинтерфейсов, которые управляют своими выходными данными за счет спонтанной мозговой активности человека, не заставляя того выполнять определенные умственные задачи или получать стимулы. Эти системы BCI, которые обычно отслеживают более длительные периоды активности мозга для обнаружения изменения когнитивного состояния или эмоционального возбуждения, называются пассивными BCI.
Примером этого может стать система, которая отслеживает нейронную динамику водителя в режиме реального времени и не только предупреждает его в случае сонливости, но и включает громче музыку, увеличивает яркость света в салоне. Другой пример – с помощью пассивного BCI можно убедиться в том, что пользователь действительно сосредоточен на задаче активного BCI, например, передвижения собственного инвалидного кресла.
Работа, представленная на нейрофоруме в сентябре 2021 в Мюнхене, отлично иллюстрирует возможности этого метода. Ученые исследовали активность мозга по электроэнцефалограммам (ЭЭГ) 12 испытуемых, которые попарно играли в виртуальные кости “Mäxchen” . Не вдаваясь в подробности, скажем, что эта игра поощряет блеф и напоминает игру в мафию, то есть побеждает тот, кто лучше обманул своего соперника по поводу количества выпавших очков в каждом из раундов. Сравнивались данные ЭЭГ, когда человек достоверно врал про количество очков своему сопернику и говорил честно правильное число (еще можно было пропустить ход и промолчать).
Исследователи выяснили, что когда человек лжет, то на ЭЭГ условная негативная волна (Contingent negative variation) достоверно показывает более сильный отрицательный пик, чем при правдивых ответах. Этот CNV обычно появляется в двигательных областях до двигательной реакции и в дорсальной передней поясной коре головного мозга.
Логично предположить, что сам пользователь BCI не может в таком случае достоверно знать, обрабатывается его сигнал мозга или нет, ведь он не получает молниеносной обратной связи от интерфейса, а может вообще ее никогда не получить. Отсутствие согласия на получение когнитивного состояния может представлять собой проблему при дальнейшем использовании BCI в коммерческих целях. Авторы этой работы делают необычный вывод:
«Наши результаты показывают, что pBCI может отличать блеф от истины достаточно точно, даже если игроки пытались скрыть это обычным поведенческим подавлением. Этот потенциальный неявный и односторонний обмен между человеком и машиной порождает этические проблемы, поскольку не влечет за собой осведомленности или согласия пользователя и может быть использован в злонамеренных целях. Тем не менее, прежде чем работать над этическими рамками, необходимо провести дополнительные исследования, чтобы увидеть, могут ли пользователи использовать особые стратегии, позволяющие скрыть свои обманчивые намерения от системы BCI, аналогично другим видам технологии обнаружения обмана».
Текст: Марина Калинкина
An ethical perspective on Passive BCI: Can we detect information from the human mind that is intended to be hidden?Diana-Eliza Gherman , Thorsten O. Zander, Brandenburg University of Technology, Cottbus – Senftenberg, Germany
