Информационный подход к отбору значимых признаков

В настоящее время необходимость применения методов анализа данных и отбора значимых признаков возникает в самых различных областях: от медицины и биологии до финансов и маркетинга. Для удаления из данных избыточных и шумовых признаков может быть использован информационный подход, который основан на применении совместной информации и энтропии для оценивания степени зависимости между случайными величинами.
Доклад будет посвящен основным свойствам совместной информации и её оценкам в смешанной модели (модели зависимости дискретной случайной величины от абсолютно непрерывного вектора), в том числе оценке, предложенной в работе A.Bulinski and A.Kozhevin (2019). Для каждой из них приводятся условия асимптотической несмещённости и $L_2$-состоятельности, а также результаты численных экспериментов, позволяющих сравнить оценки между собой.