|
СПЕЦИАЛЬНЫЙ ВЫПУСК: ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И МАШИННОГО ОБУЧЕНИЯ
Оптимальный анализ метода с батчированием для стохастических вариационных неравенств вида конечной суммы
А. Пичугинa, М. Печинa, А. Безносиковa, А. Савченкоb, А. Гасниковa a Московский физико-технический институт, Долгопрудный, Россия
b Лаборатория искусственного интеллекта, ПАО "Сбербанк", Москва, Россия
Аннотация:
Вариационные неравенства являются унифицированной оптимизационной постановкой, которая интересна не только сама по себе, но и потому что включает в себя задачи минимизации и поиска седловой точки. Между тем современные приложения побуждают рассматривать стохастические формулировки оптимизационных задач. В данной работе представлен анализ метода, имеющего оптимальные оценки сходимости для монотонных стохастических вариационных неравенств вида конечной суммы. В отличие от предыдущих работ, наш метод поддерживает батчирование и не теряет оптимальности оракульной сложности для любых размеров батча. Эффективность алгоритма, особенно в случае малых, но не единичных батчей, подтверждается численными экспериментами.
Ключевые слова:
стохастическая оптимизация, вариационные неравенства, задачи вида конечной суммы, батчирование.
Образец цитирования:
А. Пичугин, М. Печин, А. Безносиков, А. Савченко, А. Гасников, “Оптимальный анализ метода с батчированием для стохастических вариационных неравенств вида конечной суммы”, Докл. РАН. Матем., информ., проц. упр., 514:2 (2023), 212–224; Dokl. Math., 108:suppl. 2 (2023), S348–S359
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/danma466 https://www.mathnet.ru/rus/danma/v514/i2/p212
|
Статистика просмотров: |
Страница аннотации: | 99 | Список литературы: | 21 |
|