Американские и британские ученые установили, что сверточные нейронные сети не подвержены проблеме «бесплодного плато» и подлежат обучению. Данная архитектура может быть применена для анализа данных с использованием квантовых компьютеров.
Квантовые нейронные сети привлекают значительное внимание благодаря потенциалу эффективной обработки квантовых данных. Однако энтузиазм сдерживается проблемой, известной как «бесплодное плато», которая часто встречается во многих архитектурах нейронных сетей. В ходе обучения нейронная сеть перемещается по определенной области функции потерь, стремясь достичь минимального значения, она попадает на участок, где отсутствует ощутимая разница в высоте. Это не позволяет ей определить дальнейший маршрут, и, как следствие, обучение нейронной сети оказывается невозможным.
В ходе исследования ученые намеревались установить, затронет ли феномен «бесплодного плато сверточные нейронные сети. При разработке этих сетей учитывалось строение зрительной коры головного мозга. Сверточные нейронные сети включают в себя последовательность слоев, в которых размерность данных постепенно уменьшается, что позволяет сохранять наиболее важные характеристики набора данных. Подобная архитектура нейронных сетей применяется для решения широкого спектра задач, включая анализ изображений и распознавание речи.
Исследование продемонстрировало, что квантовые сверточные нейронные сети не подвержены проблеме «бесплодного плато», в отличие от многих других архитектур нейронных сетей. Это свойство особенно важно при работе с данными высокой размерности. Исследователи полагают, что масштабируемые и поддающиеся обучению квантовые нейронные сети могут быть полезны для анализа и моделирования материалов с высокотемпературной сверхпроводимостью, на характеристики которых оказывают комплексное воздействие различные факторы, включая температуру, давление, наличие примесей и фазовые переходы. Проведение подобных вычислений недоступно классическим компьютерам.
Авторы исследования также предлагают новую методику, использующую графы для анализа восприимчивости нейронной сети к «бесплодному плато». Они считают, что данный подход может найти применение и в других областях.
Статья, содержащая детальное описание архитектуры нейронной сети и подтверждающую ее способность к обучению опубликована в журнале Physical Review X.