Применение методов универсального кодирования для непараметрического оценивания вероятностей, плотностей и проверки статистических гипотез о случайных процессах с дискретным временем

Первые универсальные коды были предложены в работах А. Н. Колмогорова и Б. М. Фитингофа в середине 60-х годов прошлого века, однако некоторые близкие задачи рассматривались еще Лапласом. (По определению, универсальные коды «сжимают» последовательности, порождаемые стационарным и эргодическим источником с неизвестной статистикой, асимптотически до энтропии Шеннона на букву.) В докладе дается описание одного универсального кода, фактически описанного Лапласом, и показано, как такие коды могут применяться для решения следующих задач для стационарных и эргодических процессов с дискретным временем:
1. Построение состоятельных оценок стационарных вероятностей и плотностей,
2. Прогнозирование и классификация,
3. Проверка гипотезы о законе распределения процесса,
4. Проверка гипотезы о величине «памяти» (или «порядка») Марковского процесса.
Часть описываемых результатов опубликована в следующих работах:
B. Ya. Ryabko, V. A. Monarev. Using information theory approach to randomness testing. Journal of Statistical Planning and Inference, 2005, v. 133, No. 1, pp. 95–110.
Boris Ryabko, Jaakko Astola and Alex Gammerman. Application of Kolmogorov complexity and universal codes to identity testing and nonparametric testing of serial independence for time series. Theoretical Computer Science, v. 359, pp. 440–448, 2006.
Б. Я. Рябко. Применение методов сжатия данных для непараметрического оценивания характеристик случайных процессов с дискретным временем. Проблемы передачи информации, т. 43, No. 4, 2007.