Сотрудники факультета ВМК МГУ имени М.В. Ломоносова предложили новые методы повышения надежности систем машинного обучения, используемых для противодействия банковскому мошенничеству. Разработанные решения направлены на укрепление устойчивости моделей к «состязательным атакам» – ситуациям, когда мошенники манипулируют данными транзакций с целью обхода автоматизированных систем обнаружения.
В отчете Центробанка указано, что в 2023 году объем несанкционированных операций увеличился на 11,5%, превысив отметку в 136 триллионов рублей. В связи с этим, традиционные подходы к выявлению мошенничества оказываются неэффективными, поскольку мошеннические схемы становятся все изощреннее, а их появление — более стремительным.
«Машинное обучение предоставляет эффективный способ противодействия мошенничеству, однако многие модели демонстрируют уязвимость при преднамеренном изменении исходных данных. Наша работа была направлена на повышение устойчивости подобных моделей в условиях активной борьбы со стороны злоумышленников», — объясняет Евгений Ильюшин, ассистент кафедры информационной безопасности ВМК МГУ.
В процессе исследования были протестированы различные распространенные алгоритмы машинного обучения, начиная с логистической регрессии и заканчивая градиентным бустингом, используя общедоступные наборы данных, содержащие реальные транзакции. Полученные на начальном этапе результаты продемонстрировали высокую точность (до 0.99 ROC-AUC), однако эффективность моделей значительно упала (до 0.67 ROC-AUC) при проведении атак, например, HopSkipJump, ZOO и Boundary).
Для решения данной проблемы исследователи использовали подходы, направленные на увеличение робастности – способности системы противостоять внешним воздействиям. В ходе тестирования были рассмотрены фильтр Калмана, экспоненциальное сглаживание, метод главных компонент (PCA) и состязательное обучение. Это позволило значительно улучшить надежность системы: показатели качества при атаке достигли 0.86 ROC-AUC и 0.81 Average Precision.
«По словам Вероники Ломоносовой, соавтора исследования, повышение устойчивости является основой надежной защиты в области финансовой безопасности. Важно, чтобы модели не только выявляли мошеннические действия в настоящий момент, но и сохраняли свою эффективность в будущем, с учетом появления новых методов обхода систем.
Исследование было представлено на научной конференции «Ломоносов–2025» это вызвало интерес у экспертов, работающих в сфере кибербезопасности, финансовых технологий и анализа больших данных. Данная разработка потенциально может стать основой для создания более надежных систем защиты от мошенничества в банковском секторе и платежных сервисах.