Ученые обеспокоены результатами использования ChatGPT в противодействии антивакцинаторству.

Новости МирТесен

В ходе тестирования нейросеть ChatGPT продемонстрировала способность давать корректные ответы на вопросы, касающиеся вакцинации от коронавирусной инфекции. Несмотря на то, что сгенерированные искусственным интеллектом тексты развеивали распространенные заблуждения и опровергали ложные сведения о прививках, у специалистов сохраняются определенные тревоги.

Еще в 2019 году Всемирная организация здравоохранения включила неприятие вакцин в список десяти наиболее значимых угроз для общественного здоровья. В заявлении организации подчеркивалось, что отказ от вакцинации способен свести на нет достижения, сделанные в области профилактики заболеваний посредством иммунизации. Пандемия Covid-19 усугубила ситуацию из-за распространения недостоверной информации о вакцинах и других методах защиты от вируса. отметили, отказ от вакцинации способен свести на нет достигнутый ранее прогресс в борьбе с болезнями, предотвращаемыми с помощью вакцин. Дезинформация, распространяемая в социальных сетях во время пандемии Covid-19, негативно повлияла на отношение людей к вакцинации и другим мерам по борьбе с коронавирусом.

Испанские исследователи провели эксперимент, чтобы оценить эффективность использования популярных форматов для противодействия дезинформации о вакцинации чат-бот ChatGPT. Чтобы это выяснить, специалисты предоставили нейронной сети список из пятидесяти наиболее часто задаваемых вопросов о вакцинации от коронавируса, которые поступали в Всемирную организацию здравоохранения. Среди них были вопросы, связанные с распространенными неверными представлениями и дезинформацией. В частности, поднимался вопрос о том, способна ли технология мРНК интегрироваться в человеческий геном или спровоцировать развитие «длительного» Covid-19. Также рассматривались случаи ложных и реальных медицинских противопоказаний, а также рекомендации по вакцинации.

Специалисты проверили правдивость и корректность полученных ответов, сопоставив их с научными публикациями, рекомендациями ВОЗ и другими авторитетными международными организациями. Подавляющее большинство реакций ChatGPT получили оценку в девять баллов из десяти возможных; 85,5% оказались абсолютно верными, а оставшиеся 14,5% были признаны «правдивыми, но содержащими неполную информацию», что указывало на необходимость дополнения.

По мнению исследователей, поскольку ответы чат-бота соответствуют научным знаниям и опровергают дезинформацию, распространяемую в социальных сетях, ChatGPT может оказать положительное влияние на уровень вакцинации населения.

«Полученные данные свидетельствуют о том, что, несмотря на некоторые неточности в ответах по умолчанию в действующей версии ChatGPT, они в целом приемлемы. Хотя данная технология искусственного интеллекта не способна заменить квалифицированного специалиста или оригинальные научные источники информации, многие ученые выражают сомнение относительно классификации ChatGPT как полноценного ИИ, предпочитая относить его к более простому типу программ. китайскую комнату“. — Согласно исследованию, такие инструменты способны направлять пользователей к информации, соответствующей научным данным, опубликованной в журнале Human Vaccines and Immunotherapeutics.

Авторы исследования также отметили ограничения ChatGPT. Антонио Салас, ведущий автор работы) указал, констатировал, что ответы чат-бота могут отличаться при повторении запроса с промежутком времени в несколько секунд.

Профессор Салас предупредил, что текущую версию ИИ можно переобучить, что позволит ему генерировать ответы, противоречащие научным данным. В этом случае чат-бот может распространять ошибочные представления вроде гипотез о плоской Земле или отрицании эволюции. Впрочем, исследователи обнадежили: по умолчанию нейросеть к такому поведению не склонна.