Аннотация:
В работе рассматриваются два рандомизированных способа поиска вектора PageRank, т.е. решения системы $\mathbf{p}^{\mathrm{T}}=\mathbf{p}^{\mathrm{T}}P$, со стохастической матрицей $P$ размера $n\times n$ (решение ищется в классе распределений вероятностей), где $n\sim 10^7$–$10^9$, с точностью $\varepsilon: \varepsilon\gg n^{-1}$, таким образом исключается возможность “честного” умножения матрицы $P$ на столбец, если рассматривать не разреженные объекты. Первый способ базируется на идее Markov chain Monte Carlo. Этот подход эффективен в случае “быстрого” выхода итерационного процесса $\mathbf{p}_{t+1}^{\mathrm{T}}=\mathbf{p}_t^{\mathrm{T}}P$ на стационар, и учитывает также другую специфику матрицы $P$ — равенство отличных от нуля вне диагональных элементов матрицы $P$ по строчкам (это используется при организации случайного блуждания по графу с матрицей $P$). На основе современных неравенств концентрации меры в работе приводятся новые оценки времени работы такого метода, учитывающие специфику матрицы $P$. В основе второго способа лежит идея сведения поиска ранжирующего вектора к поиску равновесия в антагонистической матричной игре:
$$
\min_{\mathbf{p}\in S_n(1)}\max_{\mathbf{u}\in S_n(1)}\langle \mathbf{u}, (P^{\mathrm{T}}-I)\mathbf{p}\rangle,
$$
где $S_n(1)$ — единичный симплекс в $\mathbb{R}^n$, а $I$ — единичная матрица. Возникшая задача решается с помощью небольшой модификации алгоритма Григориадиса–Хачияна (1995). Этот метод, также как метод Назина–Поляка (2009), является рандомизированным вариантом метода зеркального спуска А. С. Немировского. Отличие заключается в том, что у Григориадиса–Хачияна рандомизация осуществляется на этапе проектирования на симплекс, а не на этапе вычисления стохастического градиента. Для разреженных матриц $P$ предложенный нами метод показывает заметно лучшие результаты. Библ. 67.
Ключевые слова:
метод зеркального спуска, Markov chain Monte Carlo, стохастическая оптимизация, рандомизация, PageRank.
A. V. Proskurnikov, I. S. Zabarianska, “Alternating Projection Method for Intersection of Convex Sets, Multi-Agent Consensus Algorithms, and Averaging Inequalities”, Comput. Math. and Math. Phys., 64:4 (2024), 848
A. V. Proskurnikov, I. S. Zabaryanskaya, “Alternating Projection Method for Intersection of Convex Sets, Multi-Agent Consensus Algorithms and Averaging Inequalities”, Žurnal vyčislitelʹnoj matematiki i matematičeskoj fiziki, 64:4 (2024), 671
D. A. Skachkov, S. I. Gladyshev, A. M. Raigorodskii, “Experimental comparison of PageRank vector calculation algorithms”, Компьютерные исследования и моделирование, 15:2 (2023), 369–379
A. Anikin, A. Gasnikov, A. Gornov, D. Kamzolov, Yu. Maximov, Yu. Nesterov, “Efficient numerical methods to solve sparse linear equations with application to pagerank”, Optim. Method Softw., 2020
А. В. Гасников, Е. В. Гасникова, П. Е. Двуреченский, А. А. М. Мохаммед, Е. О. Черноусова, “Вокруг степенного закона распределения компонент вектора PageRank. Часть 1. Численные методы поиска вектора PageRank”, Сиб. журн. вычисл. матем., 20:4 (2017), 359–378; A. Gasnikov, E. Gasnikova, P. Dvurechensky, A. Mohammed, E. Chernousova, “About the power law of the PageRank vector distribution. Part 1. Numerical methods for finding the PageRank vector”, Num. Anal. Appl., 10:4 (2017), 299–312
А. С. Аникин, А. В. Гасников, П. Е. Двуреченский, А. И. Тюрин, А. В. Чернов, “Двойственные подходы к задачам минимизации сильно выпуклых функционалов простой структуры при аффинных ограничениях”, Ж. вычисл. матем. и матем. физ., 57:8 (2017), 1270–1284; A. S. Anikin, A. V. Gasnikov, P. E. Dvurechensky, A. I. Tyurin, A. V. Chernov, “Dual approaches to the minimization of strongly convex functionals with a simple structure under affine constraints”, Comput. Math. Math. Phys., 57:8 (2017), 1262–1276
А. В. Гасников, Е. В. Гасникова, М. А. Мендель, К. В. Чепурченко, “Эволюционные выводы энтропийной модели расчета матрицы корреспонденций”, Матем. моделирование, 28:4 (2016), 111–124
E. Vorontsova, “Extended separating plane algorithm and nso-solutions of pagerank problem”, Discrete Optimization and Operations Research, Lecture Notes in Computer Science, 9869, eds. Y. Kochetov, M. Khachay, V. Beresnev, E. Nurminski, P. Pardalos, Springer Int Publishing Ag, 2016, 547–560
А. В. Гасников, Ю. Е. Нестеров, В. Г. Спокойный, “Об эффективности одного метода рандомизации зеркального спуска в задачах онлайн оптимизации”, Ж. вычисл. матем. и матем. физ., 55:4 (2015), 582–598; A. V. Gasnikov, Yu. E. Nesterov, V. G. Spokoiny, “On the efficiency of a randomized mirror descent algorithm in online optimization problems”, Comput. Math. Math. Phys., 55:4 (2015), 580–596