Аннотация:
Современные архитектуры свёрточных нейронных сетей являются весьма ресурсозатратными, что ограничивает возможности их широкого практического применения. В статье предложена архитектура свёрточной нейронной сети, разделённой на аппаратную и программную части для увеличения производительности вычислений. Для реализации свёрточного слоя нейронной сети в аппаратной части использована модулярная арифметика с целью сокращения ресурсозатрат. Предложен численный метод квантования коэффициентов фильтров свёрточного слоя сети для минимизации влияния шума квантования на результат вычислений в системе остаточных классов и определения разрядности коэффициентов. Данный метод основан на масштабировании коэффициентов на фиксированное количество бит и округлении к большему и к меньшему. Используемые операции позволяют уменьшить ресурсы при аппаратной реализации за счёт простоты их выполнения. Все вычисления в свёрточном слое сети выполняются над числами в формате с фиксированной точкой. Программное моделирование с использованием Matlab 2017b показало, что свёрточная нейронная сеть с минимальным количеством слоёв может быть быстро и успешно обучена. Аппаратное моделирование с использованием field-programmable gate array Kintex7 xc7k70tfbg484-2 показало, что использование системы остаточных классов в свёрточном слое нейронной сети позволяет снизить аппаратные затраты на 32,6 % по сравнению с традиционным подходом, основанным на двоичной системе счисления. Результаты исследования могут быть применены при создании эффективных систем видеонаблюдения, для распознавания рукописного текста, лиц, объектов и местности.
Работа выполнена при финансовой поддержке базовой части государственного задания (№2.6035.2017/БЧ), Российского фонда фундаментальных исследований (проекты №18-07-00109 А, №19-07-00130 А и №18-37-20059 мол-а-вед), Совета по грантам Президента Российской Федерации (проект СП-2245.2018.5).
Поступила в редакцию: 02.03.2019 Принята в печать: 19.04.2019
Тип публикации:
Статья
Образец цитирования:
Н. И. Червяков, П. А. Ляхов, Н. Н. Нагорнов, М. В. Валуева, Г. В. Валуев, “Аппаратная реализация свёрточной нейронной сети с использованием вычислений в системе остаточных классов”, Компьютерная оптика, 43:5 (2019), 857–868
\RBibitem{CheLyaNag19}
\by Н.~И.~Червяков, П.~А.~Ляхов, Н.~Н.~Нагорнов, М.~В.~Валуева, Г.~В.~Валуев
\paper Аппаратная реализация свёрточной нейронной сети с использованием вычислений в системе остаточных классов
\jour Компьютерная оптика
\yr 2019
\vol 43
\issue 5
\pages 857--868
\mathnet{http://mi.mathnet.ru/co712}
\crossref{https://doi.org/10.18287/2412-6179-2019-43-5-857-868}
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/co712
https://www.mathnet.ru/rus/co/v43/i5/p857
Эта публикация цитируется в следующих 6 статьяx:
Maria Gaponova, Vitalii Dementev, Marat Suetin, Aleksandr Tashlinskii, Smart Innovation, Systems and Technologies, 309, Intelligent Decision Technologies, 2022, 193
Maria Gaponova, Vitalii Dementev, Marat Suetin, Aleksandr Tashlinskii, “Using Machine Learning Methods to Solve Problems of Monitoring the State of Steel Structure Elements”, J. Phys.: Conf. Ser., 2337:1 (2022), 012015
N.A. Andriyanov, V.E. Dementiev, A.G. Tashlinskiy, “Detection of objects in the images: from likelihood relationships towards scalable and efficient neural networks”, Computer Optics, 46:1 (2022)
Aleksandra Danilenko, 2020 International Conference on Information Technology and Nanotechnology (ITNT), 2020, 1
Lyudmila Bratchenko, Ekaterina Abrosimova, Sergey Stafeev, Elena Tupikova, Ekaterina Borisova, Ivan Bratchenko, 2020 International Conference on Information Technology and Nanotechnology (ITNT), 2020, 1
Peter Boyvalenkov, Nikolay I. Chervyakov, Pavel Lyakhov, Nataliya Semyonova, Anton Nazarov, Maria Valueva, Georgi Boyvalenkov, Danil Bogaevskiy, Dmitrii Kaplun, “Classification of Moduli Sets for Residue Number System With Special Diagonal Functions”, IEEE Access, 8 (2020), 156104