Нейросети оказались эффективнее людей в продвижении веганства

Новости МирТесен

В ходе эксперимента канадские ученые оценили, как эффективно искусственный интеллект может убеждать людей в вопросах, касающихся повседневной жизни, например, в переходе на веганское питание, приобретении электромобиля или поступлении в магистратуру. Нейросеть продемонстрировала большую убедительность по сравнению с людьми, занимающимися убеждением, и особенно успешно убеждала в необходимости веганства и поступления в высшее учебное заведение.

Развитие больших языковых моделей, например ChatGPT, приводит к их все более широкому применению для создания контента, который может оказывать влияние на мнения и выбор людей в различных сферах деятельности. Специалисты выражают обеспокоенность потенциальными последствиями такого развития. Исследования показывают, что нейросети способны эффективно убеждать в ситуациях, связанных, например, с политикой дебаты, переговоры и реклама.

Теперь ученые из Университета Британской Колумбии (Канада) провели эксперимент проверить, как убедительно проявляет себя искусственный интеллект в обыденных обстоятельствах, таких как дискуссии о переходе на веганство, приобретении электромобиля или поступлении в магистратуру.

Для участия было привлечено 33 человека. Их попросили представить себя на позиции людей, размышляющих над этими вопросами, и обсудить их в чате с собеседником – нейросетью ChatGPT или реальным человеком. Участники не знали заранее, с кем они взаимодействуют.

Перед началом взаимодействия искусственный интеллект и участники, являющиеся людьми, были ознакомлены с базовыми принципами убеждения. Живым переговорщикам посоветовали подбирать аргументы, учитывая индивидуальные характеристики собеседников, а генеративному чат-боту было запрещено сообщать о своей компьютерной природе.

Перед началом и после окончания беседы участникам предлагалось оценить, по десятибалльной шкале, вероятность того, что они выберут веганство, приобретут электромобиль или решат поступить в магистратуру.

В ходе эксперимента было установлено, что участники посчитали искусственный интеллект более убедительным, чем люди, по всем трем рассматриваемым темам. Нейросеть проявила себя наиболее эффективно при веганство и поступление в вуз.

Согласно результатам анализа аргументации, нейросеть прибегала к более развернутым выражениям, предлагала больше практических рекомендаций и конкретных указаний, в частности, упоминала названия веганских марок или перечисляла учебные заведения. Кроме того, в ответах ChatGPT наблюдалось более частое использование сложных лексических единиц, что, вероятно, добавляло высказываниям дополнительный авторитет и значимость.

Несмотря на то, что живые переговорщики лучше справлялись с вопросами, помогающими узнать собеседника, участникам исследования показалось более комфортным общение с GPT-4. Искусственный интеллект чаще выражал согласие, оказывал поддержку, добавлял вежливые фразы и любезности, что создавало у собеседников ощущение сочувствия. Однако почти все участники поняли, что взаимодействуют с нейросетью.

Исследователи предостерегли: способность ИИ убеждать может иметь негативные последствия для людей. Преступники могут использовать чат-боты для манипулирования. Кроме того, если сведения, которые нейросеть так уверенно представляет, оказываются неполными, устаревшими, получены из недостоверного источника или являются результатом ее галлюцинации, это способно серьезно навредить.

Недавно американские врачи поделились случаем из своей практики, ярко демонстрирующим потенциальные опасности обращения к ChatGPT для получения медицинских советов. Мужчина заменил пищевую соль бромидом натрия по совету нейросети, в результате заработал хроническое отравление бромом и психоз.

Решение проблемы, по мнению исследователей, заключается в развитии критического мышления у пользователей и повышении их осведомленности о недостатках и ограничениях языковых моделей. Кроме того, ученые обращаются к разработчикам нейросетей с призывом улучшать встроенные механизмы защиты и системы предупреждений, предназначенные для предотвращения нанесения ущерба.