Алгоритм НСКО (алгоритм Хо-Кашьяпа)

в 13:14, , рубрики: Алгоритмы, линейно решающие функции, НСКО, Хо-Кашьяп, метки: , ,

Зачастую, во время работы с нейронными сетями, перед нами встает задача в построении линейных решающих функций (ЛРФ) для разделения классов, содержащих наши образы.

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 1

Рисунок 1. двумерный случай

Один из методов, позволяющих решить нашу проблему, это алгоритм наименьшей среднеквадратичной ошибки (НСКО алгоритм).

Интерес данный алгоритм представляет не только в том, что он помогает построить необходимые нам ЛРФ, а в том, что при возникновении ситуации, когда классы линейно неразделимы, мы можем построить ЛРФ, где ошибка неправильной классификации стремится к минимуму.

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 2

Рисунок 2. линейно неразделимые классы

Далее перечислим исходные данные:

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 3 — обозначение класса (i — номер класса)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 4 — обучающая выборка

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 5 — метки( номер класса к которому относится образ Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 6 )

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 7 — скорость обучения (произвольная величина)

Этой информации нам более чем достаточно для построения ЛРФ.
Перейдем непосредственно к самому алгоритму.

Алгоритм

1 шаг

а) переводим Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 8 в систему Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 9, где Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 10 равен Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 11, у которого в конце приписан класс образа

Например:

Пусть задан образ Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 12.

Тогда

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 13, если Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 14 из 1 класса

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 15, если Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 16 из 2 класса

б) строим матрицу Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 17 размерностью Nx3 которая состоит из наших векторов Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 18

в) строим Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 19

г) считаем Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 20 где Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 21 произвольный вектор(по умолчанию единичный)

д) Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 22 (номер итерации)

2 шаг

Проверяем условие останова:

Если Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 23 то «СТОП»

иначе — переходим к шагу 3

3 шаг

а) Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 24 (где + это функция Хэвисайда)

Например(функция Хэвисайда):

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 25
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 26 (если Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 27)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 28 (если Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 29 или Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 30)

После подсчетов меняем номер итерации:

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 31

б) переходим на шаг 2

Пример работы алгоритма НСКО

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 32
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 33
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 34
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 35

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 36 принадлежат 1 классу Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 37
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 38 принадлежат 2 классу Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 39

а)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 40
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 41
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 42
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 43

б)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 44
в)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 45
г)

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 46
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 47

д) Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 48

Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 49, т.к. все элементы Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 50 Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 51 «СТОП»

Завершили работу алгоритма, и теперь можно подсчитать нашу ЛРФ.
Алгоритм НСКО (алгоритм Хо-Кашьяпа) - 52

Спасибо parpalak за онлайн редактор.

Спасибо за внимание.

Автор: nairnbru007

Источник

Поделиться новостью

* - обязательные к заполнению поля