Результаты экспериментов по верификации искусственных нейронных сетей представили на Ломоносовских чтениях-2024

Источник фото - ru.123rf.com

Студенты МГУ совместно с преподавателями в рамках Всероссийской конференции «Ломоносовские чтения-2024» представили результаты экспериментов в области формальной верификации искусственных нейронных сетей (ИНС), целью которых было снижение размеренности проверяемых архитектур и уменьшение времени работы алгоритмов.

Формальная верификация — это метод проверки корректности ИНС, который может быть использован для обеспечения их безопасности и надежности в критически важных областях применения, таких как автономное вождение и медицинская диагностика. Однако традиционные методы формальной верификации очень ресурсоемкие.

Были проведены эксперименты, включающие методы понижения размерности для уменьшения количества узлов в ИНС, что сокращает время и ресурсы, необходимые для проведения формальной верификации. Исследователи провели сравнительный анализ различных конфигураций ИНС простых архитектур с разным процентом удаленных узлов и показали, что при правильном выборе параметров алгоритм сокращает затраты на верификацию без значительного ущерба для точности модели.

Возможные области применения:

  1. автономные транспортные средства;
  2. медицинская диагностика и лечение;
  3. системы кибербезопасности.

«Исследования кафедры информационной безопасности направлены на то, чтобы сделать формальную верификацию ИНС более практичной и доступной, — отметила ассистент кафедры информационной безопасности ВМК МГУ Екатерина Строева. — Это поможет обеспечить безопасность и надежность ИНС, используемых в решении реальных задач, где ошибки модели могут привести к критическим последствиям».

 

Источник информации: ВМК МГУ имени М.В. Ломоносова

Источник фото: ru.123rf.com


Источник