Сотрудники «Яндекса» разработали методику для преодоления трудности, связанной с потерей ранее усвоенных знаний при обновлении ключевых слов в системах управления голосом. Благодаря этому устройства смогут запоминать новые голосовые запросы, не забывая уже известные. Описание разработанного подхода будет представлено на международном форуме Interspeech 2026, который состоится с 27 сентября по 1 октября в Сиднее.

Компании, выпускающие интеллектуальные колонки, автомобильных ассистентов и другие голосовые интерфейсы, постоянно увеличивают перечень команд, которые устройства способны распознавать автономно. Для этого обычно проводится дополнительное обучение модели. Однако после обновления устройство может хуже реагировать на ранее понятные ему команды – явление, которое специалисты в области машинного обучения называют «катастрофическим забыванием». Чтобы справиться с этой ситуацией, применяются техники постоянного совершенствования (continual learning), например, метод сохранения весов посредством эластичности (elastic weight consolidation, EWC). Эти методы снижают выраженность проблемы, но не устраняют ее полностью.

Специалисты «Яндекса» предложили альтернативный способ борьбы с «катастрофическим забыванием», основанный на модульном расширении модели. Этот подход также требует меньше вычислительных мощностей по сравнению с другими методами, такими как низкоранговая адаптация (low-rank adaptation, LoRA) и использование адаптеров.

Предложенная компанией «Яндекс» технология предполагает не полную замену существующей нейронной сети, а интеграцию небольшого нового компонента – дополнительной обучаемой секции, предназначенной для идентификации новых инструкций.

Новый модуль использует информацию, полученную основной моделью, а для распознавания новых команд имеет собственный классификатор. Параметры базовой модели остаются неизменными, включая параметры нормализации и главный классификатор. Устройство продолжает точно интерпретировать старые команды, как это было до обновления. Добавление новых команд осуществляется путем обучения только дополнительного модуля, без необходимости перестройки всей системы. Разработанный метод незначительно увеличивает размер нейронной сети – менее чем на 10%.

Эффективность разработанного решения была протестирована на общедоступном наборе данных Google Speech Commands. В ходе экспериментов модель тренировалась распознавать новые команды, при этом сохраняя способность корректно идентифицировать уже известные слова. Использование нового подхода позволило уменьшить процент нераспознанных новых команд (false reject rate) с 6,46% до 4,37%, что лучше результатов, полученных отдельной моделью схожего размера. Разработанный метод оказался более эффективным по сравнению с техниками адаптеров и LoRA. При традиционном полном переобучении всей модели новые команды усваивались успешно, однако качество распознавания старых команд значительно ухудшалось: доля забытых ранее известных инструкций увеличилась с 2,71% до 69,08%.

Разработчики полагают, что данная технология может быть применена в умных колонках, бытовой электронике, автомобильных голосовых помощниках и других устройствах, обладающих ограниченными вычислительными возможностями.