Ученые из Института когнитивных нейронаук НИУ ВШЭ провели исследование, посвященное реакции мозга на аудиодипфейки – правдоподобные имитации речи, сгенерированные искусственным интеллектом. Результаты показали, что люди зачастую доверяют высказываниям признанных экспертов, даже если они противоречат их предыдущим заявлениям или не совпадают с личными убеждениями слушателя. О результатах исследования сообщается в журнале NeuroImage.
Дипфейки становятся все более реалистичными, что затрудняет их распознавание, и все чаще применяются для распространения недостоверных сведений. В области здравоохранения последствия такой дезинформации представляют особую опасность, поскольку они могут негативно повлиять на здоровье людей.
Ученые из Института когнитивных нейронаук НИУ ВШЭ осуществили исследование, целью которого было определить, каким образом люди реагируют на аудиодипфейки, созданные с использованием голосов известных личностей, высказывающихся в поддержку или против вакцинации от COVID-19.
В исследовании приняли участие 61 человек. Ровно половина из них поддерживала вакцинацию, а другая половина выступала против. Участники прослушивали аудиозаписи, созданные искусственным интеллектом, с участием известных лидеров мнений – врача, являющегося сторонником вакцинации, и популярной актрисы, известной своей антипрививочной позицией. Активность мозга испытуемых фиксировалась с помощью электроэнцефалографии (ЭЭГ) во время прослушивания. В определённый момент спикеры произносили фразы, которые противоречили их фактической, публичной позиции: врач неожиданно заявлял об отсутствии необходимости вакцинации против коронавируса, а актриса, наоборот, акцентировала внимание на важности вакцинации. В этих случаях ЭЭГ фиксировала потенциал N400 – мозговую реакцию на смысловое несоответствие, которая возникает приблизительно через 400 мс после восприятия неожиданного стимула. Интенсивность сигнала напрямую зависела от степени противоречия.
Согласно результатам анализа данных, участники исследования, независимо от их личных убеждений, оценивали высказывания медицинского работника более позитивно по всем параметрам: они находили их более убедительными, воспринимали как более авторитетные и вызывающие доверие, а также выражали желание поделиться ими со своим окружением. Электроэнцефалография (ЭЭГ) фиксировала потенциал N400 во время высказываний врача, критикующих вакцинацию от коронавируса, однако этот показатель был заметно ниже или не регистрировался, когда аналогичные противоречивые заявления делала актриса, не являющаяся экспертом в области медицины.
«Мы изначально исходили из того, что личные взгляды участников окажут влияние на то, как они воспримут аудиозапись. Поэтому мы предварительно узнали об их отношении к вакцинации – поддерживают они её или выступают против – и распределили их по двум группам. Помимо этого, мы провели ряд тестов для оценки уровня их аналитического мышления, мотивации к обучению и подверженности влиянию окружающих. Однако анализ дипфейков показал, что все эти показатели практически не имеют значения. Ключевым фактором оказалось доверие к авторитету в сфере медицины», – пояснила первый автор статьи, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ Элиана Монахова.
Результаты исследования имеют большое значение для изучения того, как распространяется ложная информация. Они демонстрируют, что сообщения, которые кажутся исходящими от надёжных источников, способны оказывать значительное влияние на восприятие аудитории, даже если в них содержатся внутренние несоответствия и противоречат официальным заявлениям.
«По словам Элианы Монаховой, это первое исследование, посвященное изучению нейрокогнитивных процессов, лежащих в основе обработки семантических противоречий в дипфейках, с учетом того, как они влияют на нашу уверенность в достоверности информации. Выявление этих процессов открывает возможности для создания более действенных методов борьбы с цифровым обманом и воздействием на общественное мнение.
Работа была проведена при поддержке Российского научного фонда по гранту № 24-18-00432 «Нейрофизиологические основы того, как мозг обрабатывает информацию, направленную на манипулирование: определяющие факторы и способы повышения устойчивости».
Информация предоставлена пресс-службой НИУ ВШЭ