Россия
Россия
Россия
Современные системы компьютерного зрения на основе глубоких нейронных сетей демонстрируют высочайшую точность в задачах классификации и распознавания объектов. Однако они оказались уязвимы к специально сконструированным возмущениям — adversarial-атакам, которые остаются незаметными для человеческого восприятия, но способны кардинально изменить предсказание модели. Данное исследование посвящено систематическому анализу угроз безопасности нейросетевых моделей компьютерного зрения. В работе представлена классификация атак по уровню доступной информации о модели, детально рассмотрены механизмы создания adversarial-примеров с использованием градиентных методов, а также проанализированы современные подходы к защите, включая adversarial training и детекцию аномальных входных данных. Особое внимание уделено практическим аспектам: приведены результаты тестирования устойчивости популярных архитектур и количественные показатели эффективности различных методов защиты. Исследование подтверждает, что проблема adversarial-атак остается критически важной для развертывания надежных систем компьютерного зрения в реальных условиях.
противоборствующие атаки, adversarial examples, компьютерное зрение, безопасность ИИ, устойчивость моделей, градиентные методы, adversarial training, белый ящик, черный ящик
1. Тумоян, Е. П. Разработка метода моделирования сетевых атак на основе нейронных сетей и вероятностных графов / Е. П. Тумоян // Известия ЮФУ. Технические науки. – 2009. – № 1(90). – С. 148-153. – EDN MBXFKD.
2. Дойникова, Е. В. Методика выбора защитных мер для реагирования на инциденты без-опасности в компьютерных сетях на основе показателей защищенности / Е. В. Дойникова, И. В. Котенко // Информационные технологии в управлении (ИТУ-2016) : Материалы 9-й конференции по проблемам управления, Санкт-Петербург, 04–06 октября 2016 года / Председатель президиума мультиконференции В. Г. Пешехонов. – Санкт-Петербург: Концерн "Центральный научно-исследовательский институт "Электроприбор", 2016. – С. 700-705. – EDN XFCHWP.
3. Шабуров, А. С. Модель обнаружения компьютерных атак на объекты критической информационной инфраструктуры / А. С. Шабуров, А. С. Никитин // Вестник Пермского национального исследовательского политехнического университета. Электротехника, информационные технологии, системы управления. – 2019. – № 29. – С. 104-117. – EDN ZBKJTN. DOI: https://doi.org/10.15593/2224-9397/2019.1.07
