Глубокие нейронные сети и их связь с динамическими системами и аппроксимацией многомерных функций

Методы глубокого обучения (deep learning) привлекают огромное внимание. Основная причина состоит в том, что с их помощью удалось получить принципиально новое качество во многих задачах распознавания образов, перевода текстов, обработки звука и видео. При этом, полноценную теорию глубокого обучения еще только предстоит развивать: существующие результаты не объясняют исключительную эффективность существующих подходов. Целью доклада является обзор текущих результатов и описание основных существующих проблем и нерешенных вопросов.
В докладе будут обсуждать следующие вопросы:
1. Основные понятия глубокого обучения: архитектура нейронной сети, методы обучения, обучение с учителем и без учителя.
2. Нейросети с остаточными связями (residual connections) и их связь с нейронными обыкновенными дифференциальными уравнениями. Потенциальное применение теории динамических систем для поиска новых архитектур нейросетей.
3. Применение нейросетей для аппроксимации гладких функций: теория и алгоритмы.