Realistic adversarial attacks on object detectors using generative models

Важным ограничением существующих состязательных атак на детекторы реальных объектов является их модель угроз: состязательные методы, основанные на исправлениях, часто создают подозрительные изображения, в то время как подходы с порождением изображений не ограничивают возможности злоумышленника по изменению исходной сцены. Мы разрабатываем модель угроз, в которой злоумышленник изменяет отдельные сегменты изображения и должен создавать реалистичные изображения. Мы также разрабатываем и оцениваем атаку в модели белого ящика (white box), которая использует порождающие состязательные сети и диффузионные модели в качестве генератора вредоносных изображений. Наша атака способна создавать изображения высокой точности, измеренные с помощью расстояния Фреше (FID), и уменьшает mAP модели Faster R-CNN на > 0.2 в наборах данных Cityscapes и COCO-Stuff. Реализация нашей атаки на PyTorch доступна по адресу https://github.com/DariaShel/gan-attack. Библ. – 32 назв.