Искусственный интеллект определил признаки токсичного общения в сети

Оценка, основанная на интуиции, оказалась на семь процентов точнее прогноза, сделанного компьютером.

Специалисты из Корнеллского университета, расположенного в США, разработали алгоритм, предназначенный для различения вежливых сообщений и оскорбительных высказываний. Об этом сообщается на сайте университета. Создатели надеются, что их инструмент поможет модерировать чаты и форумы в интернете.

Для обучения алгоритма исследователи применили базу данных Wikipedia — Talk pages. Эта платформа создана для редакторов статей, которые обсуждают вопросы проверки достоверности информации. Эксперты выбрали 1270 диалогов, которые начинаются с вежливых выражений. На основе этих данных была обучена компьютерная система, способная различать уважительное общение и оскорбления. Например, фразы вроде «спасибо за помощь» ( thanks for your help) » ( please find sources for your edit ) воспринимались как проявление учтивости, в то время как высказывания вроде «ваши источники не имеют значения» ( your sources don’t matter) воспринимались как менее формальные и могли причисляться к грубым. Специалисты также обратили внимание на то, что диалоги, в которых в начале часто использовалось местоимение «ты» ( you), чаще всего завершались колкими замечаниями.

Один из специалистов, задействованных в проекте, — Кристиан Данеску-Никулеску-Мизил ( Cristian Danescu-Niculescu-Mizil) объяснил ее значение:

«Ежедневно в сети происходят споры между огромным количеством людей, и отследить их в режиме реального времени не представляется возможным. Наша система позволит модераторам более эффективно направлять ход дискуссий. У пользователей есть внутреннее понимание того, когда общение выходит из-под контроля, однако мы не всегда можем точно определить это. Нас интересует, удастся ли нам разработать систему, которая позволит обойти наше собственное восприятие».

В рамках исследования ученые провели эксперимент, чтобы выяснить, кто точнее выявляет токсичность – человек или алгоритм. Человеческие участники справились с этой задачей с точностью в 72 процента. Показатель алгоритма не достиг 65 процентов. В дальнейшем авторы планируют повысить его.

В июне искусственный интеллект DeepMind научили воссоздавать трехмерную сцену по фотографии.