EISSN 2310-6018
Язык: ru

Статья: ПРОБЛЕМА КОМПРОМЕТАЦИИ СИСТЕМЫ РАСПОЗНАВАНИЯ ИЗОБРАЖЕНИЙ ПУТЕМ ЦЕЛЕНАПРАВЛЕННОЙ ФАЛЬСИФИКАЦИИ ОБУЧАЮЩЕГО МНОЖЕСТВА (2024)

Читать онлайн

Работа посвящена проблеме безопасности систем распознавания изображений, основанных на использовании нейронных сетей. Подобные системы применяются в различных областях и крайне важно обеспечить их безопасность от атак, направленных на методы искусственного интеллекта. Рассмотрены сверточная нейронная сеть ResNet18, проверочное множество ImageNet для распознавания объектов на изображении и отнесения его к классу и состязательные атаки, которые направлены на изменение изображения, обрабатываемые данной нейронной сетью. Сверточные нейронные сети детектируют и сегментируют объекты, которые находятся на изображениях. Атака совершалась на этапе детектирования для того, чтобы не распознавалось присутствие объектов на изображении, а также на этапе сегментации, измененное изображение относило распознанный объект к другому классу. Реализована серия экспериментов, которая показала, как состязательная атака изменяет разные изображения. Для этого взяты изображения с животными и на них совершена состязательная атака, анализ результатов позволил определить количество итераций, необходимых для совершения успешной атаки. Также проведено сравнение исходных изображений с их модифицированными в ходе атаки версиями.

Ключевые фразы: нейронные сети, АТАКИ НА НЕЙРОННЫЕ СЕТИ, состязательные атаки, RESNET18, МАТРИЦА ПРЕВРАЩЕНИЙ
Автор (ы): Ажмухамедов Искандар Маратович, Хмелёва А. А., Демина Раиса Юрьевна
Журнал: МОДЕЛИРОВАНИЕ, ОПТИМИЗАЦИЯ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ

Идентификаторы и классификаторы

УДК
004.83. Рассуждение
eLIBRARY ID
67919934
Для цитирования:
АЖМУХАМЕДОВ И. М., ХМЕЛЁВА А. А., ДЕМИНА Р. Ю. ПРОБЛЕМА КОМПРОМЕТАЦИИ СИСТЕМЫ РАСПОЗНАВАНИЯ ИЗОБРАЖЕНИЙ ПУТЕМ ЦЕЛЕНАПРАВЛЕННОЙ ФАЛЬСИФИКАЦИИ ОБУЧАЮЩЕГО МНОЖЕСТВА // МОДЕЛИРОВАНИЕ, ОПТИМИЗАЦИЯ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ. 2024. Т. 12 № 2
Текстовый фрагмент статьи