Динамика рекуррентных нейронных сетей в задачах контролируемого обучения

Математическое моделирование активности нейронных популяций мозга как предмет изучения вычислительной нейронауки интенсивно развивается на протяжении последних десятилетий. Выбор уровня построения модели зависит от природы и масштаба явления, которое требуется описать. В области исследования динамических механизмов выполнения когнитивных задач в настоящее время наблюдается формирование парадигмы функциональных искусственных нейронных сетей, построенных с применением машинного обучения. Моделируемая задача формализуется в терминах целевой функции, преобразующей входные стимулы в требуемые выходные отклики. Затем задается искусственная нейронная сеть, состоящая из простых элементов, после чего происходит контролируемое обучение, т.е. настройка параметров этой сети выполнять целевое преобразование входов в выходы на основе методов глубокого обучения. Полученная сеть представляет собой многомерную динамическую систему в виде связанных простых нелинейных элементов – искусственных нейронов. Результирующую систему можно исследовать методами нелинейной динамики и теории сложных сетей.
В докладе описанный подход иллюстрируется на примере двух задач. Первая – автономная и индуцированная внешними стимулами генерация последовательных откликов в виде пространственно-временных паттернов различной конфигурации. Данная задача моделирует свойство моторных отделов мозга активировать и в зависимости от внешних условий перестраивать последовательность генерирующих электрические импульсы нейронов. Во втором примере моделируется выполнение когнитивной задачи сравнения двух вибротактильных стимулов, которая задействует соматосенсорную рабочую память. В обоих случаях полученные после контролируемого обучения системы изучены методами нелинейной динамики. Установлены объекты фазового пространства и изучены возникающие в ходе обучения свойства индивидуальной активности, определяющие особенности выполнения целевых задач.
Работа выполнена в рамках Программы развития регионального научно-образовательного математического центра «Математика технологий будущего», проект №075-02-2020-1483/1.