Раздел 2. Нечеткие нейронные сети для классификации объектов
2.1. Введение
Задача классификации данных в настоящее время является одной из наиболее
актуальных сфер приложения систем искусственного интеллекта. Для ее решения
было предложено различных подходов и направлений, среди которых наибольшую
популярность приобрели решения, сочетающие нейронные сети и нечеткие системы
логического вывода. Одним из таких решений является система NEFCLASS
(NEuro-Fuzzy CLASSifier) [106, 107, 108], основанная на обобщенной архитектуре
нечеткого перцептрона. Данная система обладает рядом несоменных достоинств,
выделяющих ее среди остальных. Среди наиважнейших следует упомянуть простоту
реализации, высокую скорость работы алгоритмов обучения, а также, что является
наиболее важным, высокую точность классификации данных – на уровне лучших
систем в данной области. Вместе с тем базовая система NEFCLASS имеет ряд
недостатков: используемые формулы для обучения параметров носят эмпирический
характер, кроме того, неясно, как выбирать в алгоритме обучения параметр
скорости обучения у. Целью настоящей главы является модификация базовой модели
нечеткой нейронной системы, её экспериментальные исследования и сравнительный
анализ с базовой моделью NEFCLASS.
2.2. Базовая модель NEFCLASS
Как оригинальная, так и модифицированная модель NEFCLASS являются производными
от общей модели нечеткого перцептрона[1]. Цель модели – вывод нечетких правил
из набора данных, которые можно разделить на некоторое количество (четких)
непересекающихся классов. Нечеткость возникает в силу несовершенных или
неполных измерений свойств объектов, подлежащих классификации.
Нечеткие правила, описывающие данные, имеют следующую форму:
если x1 явл. µ1 и x2 явл. µ2 и … и xn явл. µn,,
то образец (x1, x2, …, xn) принадлежит классу i,
где µ1, …, µn – нечеткие множества. Задача NEFCLASS – определить эти правила, а
также вид функций принадлежности для нечетких множеств.
Система NEFCLASS имеет 3-слойную последовательную архитектуру(см. рис.2.1).
Первый слой U2 содержит входные нейроны, в которых представляются входные
образцы. Активация ax нейрона xЄU1 обычно не изменяет входное значение. Скрытый
слой U2 содержит нечеткие правила, и третий слой U3 состоит из выходных
нейронов каждого класса. Активация для нейронов правил RЄU2 и для нейронов
выходного слоя cЄU3 с образцом р вычисляется так:
, (2.1)
, (2.2)
или альтернативно
, (2.3)
где W(x,R) – нечеткий вес соединения входного нейрона х с нейроном правила R, а
W(R,с) – нечеткий вес соединения нейрона правила R с нейроном выходного слоя с.
Вместо применения операций взятия максимума и минимума можно использовать
другие функции t-нормы и t-ко-нормы соответственно.
База правил представляет собой аппроксимацию неизвестной функции и описывает
классификационную задачу, где такая, что ci =1, cj =0 (jЄ{1,…,m},j/=i) и x
принадлежит классу Ci.
Рис. 2.1. Система NEFCLASS с двумя входами, пятью правилами
Каждое нечеткое множество маркируется лингвистическим термином, таким как
«большой», «маленький», «средний» и т.д. Нечеткие множества соединений, ведущих
к одному правилу R, называются также антецедентами R.
Нечеткие множества и лингвистические правила представляют аппроксимацию и
определяют результат системы NEFCLASS. Они получаются из множества выборок
путем обучения. Обязательно должно выполняться правило, что для каждого
лингвистического значения (например, «x1 позитивное и большое») может
существовать только одно представление нечеткого множества.
2.3. Обучение в системе NEFCLASS
2.3.1 Обучение базы правил
Система NEFCLASS может быть построена по частичным знаниям об образцах.
Пользователь должен определить количество начальных нечетких множеств для
каждого из свойств объекта и задать значение kmax – максимальное число узлов
правил, которые могут быть созданы в скрытом слое. Для обучения используются
треугольные функции принадлежности. Рассмотрим непосредственно алгоритм
обучения базы правил [104, 105].
Рассмотрим систему NEFCLASS с n входными нейронами x1,….,xn, k<=kmax нейронами
правил и m выходными нейронами c1,…,cm. Также задано обучающее множество
образцов L={(p1, t1),…,(ps, ts)}, каждый из которых состоит из входного образца
pЄRn и желаемого образца tЄ{0,1}m. Обучающий алгоритм состоит из двух этапов.
Этап 1. Генерация базы правил.
Первый этап, цель которого создать k нейронов правил системы NEFCLASS, состоит
из следующих шагов [32, 104]:
Выбираем следующий образец (p,t) из L.
Для каждого входного нейрона xi ЄU1 находим такую функцию принадлежности , что
, (2.4)
где xi=pi.
Если по-прежнему число узлов правил k меньше kmax и не существует узла правила
R, такого, что
то создаем такой узел и соединяем его с выходным узлом ci, если t1.=1
Если еще остались необработанные образцы в L и k<=kmax ,то едем на шаг (i), а
иначе стоп.
Определяем базу правил по одной из трех следующих процедур [32, 104]:
а) “Простое” обучение правил: оставляем только первые k правил (останавливаем
создание правил, если было создано k=kmax правил).
б) “Лучшее” обучение правил: обрабатываем образцы в L и накапливаем активации
каждого нейрона правил для каждого класса образцов, которые были
распространены. Если нейрон правила R показывает большее накопление активации
для класса Cj, чем для класса CR, который был специфицирован для следствия
правила, тогда изменяем следствие R на Cj, то есть соединяем R с нейроном
выхода cj. Продолжаем обработку образцов в L дальше и вычисляем для каждого
нейрона правил функцию:
, (2.5)
Оставляем k нейронов правил с наивысшими значениями VR и удаляем другие нейроны
правил из системы NEFCLASS
в) “
- Київ+380960830922