Современные методы численного решения стохастических седловых задач

В последние годы в комьюнити, связанном с анализом данных, резко возрос интерес к решению седловых задач (по-видимому, это связано с широким распространением генеративных состязательных сетей). Особенно задач, в которых вместо градиента доступен только стохастический градиент. Достижений за последние 5 лет накопилось довольно много. В докладе мы постараемся пояснить в чем состоит особенность седловых задач (по сравнению с обычными задачами оптимизации) и опишем достижения, связанные с выпукло-вогнутыми седловыми задачами. В этом случае, как правило, удается построить достаточно точную теорию.