Байесовская оценка параметров регрессионной модели на основе гауссовских процессов

Регрессия на основе гауссовских процессов широко используется для построения нелинейных регрессионных моделей в инженерной практике. В частности, регрессия на основе гауссовских процессов позволяет строить регрессионные модели в случае, если выборка содержит разноточные данные. Для оценки параметров модели в регрессии на основе гауссовских процессов используют алгоритм максимума правдоподобия или байесовский подход.
Мы изучаем свойства апостериорного распределения параметров ковариационной функции для регрессии на основе гауссовских процессов (априорное распределение параметров предполагается неинформативным): мы получаем свойства оценки максимума правдоподобия и байесовской оценки параметров и описываем взаимосвязь этих оценок теоремой Бернштейна-фон Мизеса. Мы показываем, что предположения, при условии которых имеет место теорема, выполнены для широко используемого на практике класса ковариационных функций.
Классическая версия теоремы Бернштейна-фон Мизеса получена для стандартных параметрических предположений: размер выборки стремится к бесконечности и выполняется априорное параметрическое предположение о модели (истинная модель лежит во введённом параметрическом семействе). В свою очередь доказанная нами версия теоремы Бернштейна-фон Мизеса работает в случае конечных выборок и возможной неправильной спецификации параметрической модели.