Сотрудники факультета вычислительной математики и кибернетики Московского государственного университета им. М.В. Ломоносова создали технологию, предназначенную для обнаружения неточностей в текстах с аннотациями, применяемых при обучении языковых моделей.

Эти тексты являются специализированными наборами данных, где грамматическая организация каждого предложения определена заранее. Они необходимы при разработке программных средств автоматического анализа речи, поэтому корректность их разметки играет важнейшую роль.

В рамках исследования был разработан метод, с помощью которого из корпуса создается модель, имитирующая его структуру. Если система предлагает несколько интерпретаций для одного предложения, это может свидетельствовать о наличии ошибок или неоднозначности в первоначальной аннотации.

«Мы разработали способ автоматического выявления возможных расхождений в разметке данных и тем самым помогаем специалистам ускорить процесс их обнаружения. Разработанный метод был проверен на корпусе «СинТагРус». В выборке, состоящей из 8199 предложений, система определила 1148 ситуаций с несколькими вариантами анализа. Преимущественно – в 1078 предложениях – расхождения были связаны с пунктуацией», — пояснил доцент кафедры алгоритмических языков факультета ВМК МГУ. Игорь Головин.

Предложенное решение не отменяет необходимости участия специалиста, однако оно значительно ускоряет процесс изучения данных и помогает сконцентрироваться на наиболее сложных участках.

Аналогичные технологии применимы для подготовки текстовых материалов к обучению систем машинного обучения, поскольку аккуратность аннотаций оказывает прямое воздействие на эффективность алгоритмов.

Итоги исследования были доложены на научной встрече « Ломоносовские чтения».

Информация предоставлена пресс-службой МГУ