О некоторых методах решения задачи регрессии

В первой части доклада будет рассказано о методе L1 пенализации в задаче линейной регрессии. Акцент будет сделан на решении задачи оптимизации, возникающей в рамках этого подхода. Будет представлены: метод LARS (least angle regression), позволяющий найти коэффициенты регрессии сразу для всех значений параметра регуляризации; метод покоординатного спуска, решающий задачу существенно быстрее общих методов выпуклой оптимизации, и "сильные правила" (Strong rules), дополнительно уменьшающие время вычисления за счет отбрасывания некоторых признаков.
Вторая часть доклада будет посвящена нескольким нелинейным методам, которые предназначены для выборок большого объема как со случайным планом эксперимента, так и с факторным планом.