Информационные технологии и вычислительные системы
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Архив
Правила для авторов

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS


ИТиВС:
Год:
Том:
Выпуск:
Страница:
Найти




Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация

Информационные технологии и вычислительные системы, 2023, выпуск 4, страницы 49–58
DOI: https://doi.org/10.14357/20718632230405 (Mi itvs834) 		 
ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ И ТЕХНОЛОГИИ

Анализ уязвимостей нейросетевых технологий распознавания образов

А. В. Трусовab, Е. Е. Лимоноваab, В. В. Арлазаровab, А. А. Зацаринныйa

a Федеральный исследовательский центр «Информатика и управление» Российской академии наук, Москва, Россия
b ООО "Смарт Энджинс Сервис", Москва, Россия
PDF полного текста (898 kB) Первая страница
DOI: https://doi.org/10.14357/20718632230405
Аннотация: В статье рассмотрена актуальная проблема уязвимости технологий искусственного интеллекта на основе нейронных сетей в задаче распознавания образов. Показано, что применение нейронных сетей порождает множество уязвимостей. Приведены конкретные примеры таких уязвимостей: некорректная классификация изображений, содержащих вредоносный шум или заплатки, отказ распознающих систем при наличии на изображении особых узоров, в том числе нанесенных на объекты реального мира, отравление обучающей выборки и др. На основе проведенного анализа показана необходимость улучшения безопасности технологий искусственного интеллекта и даны предложения, способствующие этому улучшению.
Ключевые слова: нейронные сети, атаки на нейронные сети, вредоносные изображения, нейросетевая безопасность.
Реферативные базы данных:
Тип публикации: Статья
Образец цитирования: А. В. Трусов, Е. Е. Лимонова, В. В. Арлазаров, А. А. Зацаринный, “Анализ уязвимостей нейросетевых технологий распознавания образов”, ИТиВС, 2023, № 4, 49–58
Цитирование в формате AMSBIB
\RBibitem{TruLimArl23}
\by А.~В.~Трусов, Е.~Е.~Лимонова, В.~В.~Арлазаров, А.~А.~Зацаринный
\paper Анализ уязвимостей нейросетевых технологий распознавания образов
\jour ИТиВС
\yr 2023
\issue 4
\pages 49--58
\mathnet{http://mi.mathnet.ru/itvs834}
\crossref{https://doi.org/10.14357/20718632230405}
\elib{https://elibrary.ru/item.asp?id=56573799}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/itvs834
  • https://www.mathnet.ru/rus/itvs/y2023/i4/p49
    • Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    		Информационные технологии и вычислительные системы
    Статистика просмотров:
    Страница аннотации:32
    Список литературы:2
    Первая страница:10
     
      Обратная связь:
    		  Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024