Аннотация:
В обучении искусственной нейронной сети одной из центральных проблем является начальная инициализация и настройка весовых коэффициентов, связанная с псевдослучайной инициализацией весовых коэффициентов. В статье описан базовый генетический алгоритм, а также метод определения весовых коэффициентов с использованием данного алгоритма. Также представлен комбинированный метод определения весовых коэффициентов, предусматривающий на первом этапе начальную инициализацию с помощью генетического алгоритма и использование стохастического градиентного спуска на втором этапе обучения Предлагаемые методы проверены на ряде искусственных нейронных сетей прямого распространения для различных задач по бинарной классификации реальных и синтетических данных, а также для однозначной многоклассовой классификации рукописных цифр на изображениях из базы данных MNIST. Искусственные нейронные сети сконструированы на основании теоремы Колмогорова-Арнольда. В данной статье проведен сравнительный анализ двух методов определения весовых коэффициентов – с использованием генетического алгоритма и градиентного спуска. По результатам сравнительного анализа сделан вывод о возможности применения генетического алгоритма для определения весовых коэффициентов как в качестве алгоритма начальной инициализации искусственной нейронной сети, так и в качестве алгоритма настройки весовых коэффициентов
Название программы финансирования: Публикация выполнена в рамках государственного задания ФГУ ФНЦ НИИСИ РАН (Выполнение фундаментальных научных исследований ГП 47) по теме № 0580-2021-0007 «Развитие методов математического моделирования распределенных систем и соответствующих методов вычисления»..
Организация, предоставившая финансирование: Министерство науки и высшего образования РФ.
Образец цитирования:
А. Д. Смородинов, Т. В. Гавриленко, В. А. Галкин, “Применимость генетических алгоритмов для определения весовых коэффициентов искусственной нейронной сети с одним скрытым слоем”, Вестник КРАУНЦ. Физ.-мат. науки, 43:2 (2023), 69–86
\RBibitem{SmoGavGal23}
\by А.~Д.~Смородинов, Т.~В.~Гавриленко, В.~А.~Галкин
\paper Применимость генетических алгоритмов для определения весовых коэффициентов искусственной нейронной сети с одним скрытым слоем
\jour Вестник КРАУНЦ. Физ.-мат. науки
\yr 2023
\vol 43
\issue 2
\pages 69--86
\mathnet{http://mi.mathnet.ru/vkam602}
\crossref{https://doi.org/10.26117/2079-6641-2023-43-2-69-86}
Цитирование в формате AMSBIB
Обратная связь: