Обучение распознаванию образов по методу опорных векторов: исходная идея, вероятностная интерпретация, алгоритмы

Обучение распознаванию образов является простейшей задачей восстановления зависимости по эмпирическим данным, когда требуется научить компьютер оценивать класс (тип) объектов, «случайно» появляющихся из некоторого реально существующего множества, по значениям некоторой их характеристики, доступной для наблюдения. Предполагается, что наблюдатель располагает ограниченной обучающей совокупностью, т.е. конечным подмножеством объектов, для каждого их которых известны как значение наблюдаемой характеристики, так и принадлежность к одному из классов, скрытая в обычном режиме наблюдения. В данной лекции мы ограничимся предположением, что различению подлежат два класса объектов, и рассмотрим метод опорных векторов (SupportVectorMachine­ — SVM), получивший огромную популярность в силу поразительного сочетания вычислительной простоты, удобства практического применения, и надежности в условиях небольшого размера обучающей совокупности. Сначала мы предположим, что всякий объект воспринимается компьютером в виде конечной совокупности числовых признаков, а затем обобщим способ обучения на типичную для практики ситуацию, когда объекты могут быть восприняты только путем их попарного сравнения.