Предлагается оптимизационный метод построения алгоритмических композиций, основанный на алгебраическом подходе академика Ю. И. Журавлева [15]. На каждом шаге метода в композицию добавляется один алгоритм, который настраивается по обучающей выборке совместно с корректирующей операцией. Подробно рассматривается случай монотонных корректирующих операций, для него доказывается сходимость метода. Вводится функционал качества алгоритма, равный числу дефектных пар обучающих объектов на заданной выборке. Описываются алгоритмы монотонизации выборки, необходимые для построения монотонной корректирующей операции.

Рассматривается оптимизационный метод построения алгоритмических композиций, основанный на алгебраическом подходе к проблеме распознавания. На каждом шаге метода в композицию добавляется один алгоритм, который настраивается по обучающей выборке совместно с корректирующей операцией. Предлагаются формулы пересчета весов и ответов на обучающих объектах, с помощью которых данная оптимизационная задача сводится к стандартной. Настройка алгоритма преследует две цели одновременно: аппроксимировать обучающую выборку и компенсировать совокупный дефект предыдущих алгоритмов. Вводится специальный параметр, позволяющий на каждом шаге перераспределять приоритет между этими двумя целями. Рассматриваются модификации метода, предназначенные для решения задач классификации и восстановления регрессии с использованием линейных и монотонных корректирующих операций.

Рассматриваются функционалы скользящего контроля, характеризующие качество обучения алгоритмов по прецедентным эмпирическим данным. Приводятся верхние оценки этих функционалов, полученные без предположения случайности и независимости исходных данных. Описывается эффект локализации семейства алгоритмов и вводится понятие локальной функции роста. Рассматриваются основные причины завышенности известных вероятностных оценок качества. Развивается подход к оцениванию качества обучения, основанный на явном использовании априорной информации и не опирающийся на сложностные характеристики алгоритмов. Для задач классификации с универсальными ограничениями монотонности получены новые оценки качества, существенно более точные на малых выборках.

В учебном пособии изложены общие принципы, лежащие в основе дискретного подхода к задачам распознавания, центральной проблемой которого является поиск информативных фрагментов признаковых описаний объектов. При поиске информативных фрагментов используется аппарат логических функций, в частности методы преобразования нормальных форм булевых функций, а также теория покрытий булевых и целочисленных матриц. Рассматриваются основные модели дискретных (логических) процедур распознавания и изучаются вопросы, связанные со сложностью их реализации.

Основополагающая работа по алгебраическому подходу к проблеме распознавания. Проводится анализ существующих моделей алгоритмов. Предлагается универсальная схема построения алгоритмов распознавания в виде суперпозиций алгоритмических операторов, корректирующих операций и решающих правил. Построение корректных алгоритмов указанного вида предлагается вести алгебраическими методами — путём синтеза базиса в алгебраическом замыкании модели алгоритмов и поиска алгоритма в виде разложения по базису. Такой подход позволяет отказаться от использования трудоёмких оптимизационных процедур и обеспечить корректность алгоритма «по построению». Вводятся понятия разрешимости и регулярности задач распознавания и полноты моделей алгоритмов. Доказывается полнота некоторых алгебраических замыканий.

Предлагается оптимизационный метод построения алгоритмических композиций, основанный на алгебраическом подходе к проблеме распознавания. Для построения композиции решается последовательность оптимизационных задач. На каждом шаге метода в композицию добавляется один алгоритм и перенастраивается корректирующая операция. Подробно рассматривается случай монотонных корректирующих операций. Описываются эффективные алгоритмы построения нелинейных монотонных корректирующих операций для задач распознавания и восстановления регрессии. Более подробное изложение и доказательства см. в [5, 6].

Английский перевод [15].

Английский перевод [13].