Студенты МГУ совместно с преподавателями в рамках Всероссийской конференции «Ломоносовские чтения-2024» представили результаты экспериментов в области формальной верификации искусственных нейронных сетей (ИНС), целью которых было снижение размеренности проверяемых архитектур и уменьшение времени работы алгоритмов.
Формальная верификация — это метод проверки корректности ИНС, который может быть использован для обеспечения их безопасности и надежности в критически важных областях применения, таких как автономное вождение и медицинская диагностика. Однако традиционные методы формальной верификации очень ресурсоемкие.
Были проведены эксперименты, включающие методы понижения размерности для уменьшения количества узлов в ИНС, что сокращает время и ресурсы, необходимые для проведения формальной верификации. Исследователи провели сравнительный анализ различных конфигураций ИНС простых архитектур с разным процентом удаленных узлов и показали, что при правильном выборе параметров алгоритм сокращает затраты на верификацию без значительного ущерба для точности модели.
Возможные области применения:
- автономные транспортные средства;
- медицинская диагностика и лечение;
- системы кибербезопасности.
«Исследования кафедры информационной безопасности направлены на то, чтобы сделать формальную верификацию ИНС более практичной и доступной, — отметила ассистент кафедры информационной безопасности ВМК МГУ Екатерина Строева. — Это поможет обеспечить безопасность и надежность ИНС, используемых в решении реальных задач, где ошибки модели могут привести к критическим последствиям».
Источник информации: ВМК МГУ имени М.В. Ломоносова
Источник фото: ru.123rf.com