Возможность больших уклонений в алгоритмах оптимизации

Простейшие методы безусловной минимизации - такие как градиентный - сходятся монотонно и по функции, и по расстоянию до точки минимума. Однако более быстрые алгоритмы - ускоренный метод Нестерова, метод тяжелого шарика и некоторые другие - оказывается, не обладают этим свойством. В них возможны эффекты типа больших уклонений траекторий от оптимума на начальных итерациях. В докладе будет исследовано это явление и показана его связь с явлением «всплеска» для устойчивых систем дифференциальных уравнений при ненулевых начальных условиях.