Новое исследование ученых Центра искусственного интеллекта МГУ показало, что экран смартфона может использоваться для нарушения процедуры верификации личности в коммерческой системе распознавания лиц. В эксперименте на реальной камере успешность физической dodging-атаки (метода обхода или уклонения от систем защиты) достигала 56% — результат, ранее не достигавшийся для закрытых систем с неизвестными моделями распознавания лиц (black-box атака). Работа посвящена анализу устойчивости систем распознавания лиц, предоставляющих доступ в помещения. Результаты были представлены на конференции PerCom (A*) в Италии.
Авторы представили гибридный сценарий атаки, в котором цифровой патч, предназначенный для устранения уязвимостей, отображается непосредственно на дисплее физического мобильного устройства. В отличие от ранее описанных физических атак, использующих печатные носители, новый подход позволяет применять патчи без необходимости печати и доступа к настройкам целевой системы.
При создании патчей применялся комплекс современных алгоритмов распознавания лиц, что позволило адаптировать атаку к коммерческим камерам. Кроме того, был реализован метод медианной фильтрации, который позволяет формировать патчи с высоким разрешением даже при ограниченном размере входных данных моделей.
Оценка эффективности проводилась с использованием двух онлайн-сервисов распознавания лиц и одной коммерческой камеры. Несмотря на то, что система продолжала успешно обнаруживать лицо пользователя, процесс подтверждения его личности, обладающей необходимыми правами доступа, не завершался.
Данная работа была осуществлена при финансовой поддержке Министерства экономического развития Российской Федерации и с применением вычислительных ресурсов суперкомпьютера «МГУ-270».
Информация предоставлена пресс-службой МГУ