Ви є тут

Аналіз інваріантних множин в динамічних об'єктах нейромережного типу.

Автор: 
Мнацаканян Міранда Робертовна
Тип роботи: 
Дис. канд. наук
Рік: 
2002
Артикул:
0402U000887
129 грн
Додати в кошик

Вміст

РАЗДЕЛ 2
ПОСТАНОВКИ ЗАДАЧ В КЛАССЕ МОДЕЛЕЙ
НЕЙРОСЕТЕВОГО ТИПА
Системы, состоящие из большого числа элементов, имеют широкое распространение
как в естественных системах, так и в технике. При их исследовании с позиции
разных дисциплин: кибернетики, системного анализа, автоматического управления,
биологии, физики и других были выявлены основные черты и закономерности в
поведении рассматриваемых систем.
В работах [62,63,103] показано, что большие системы имеют нейросетевую природу.
Модели сложных систем состоят из большого числа элементов и обладают различным
типом поведения. В них должны быть отражены не только количественные показатели
и характеристики, но и качественное поведение системы; ментальные, культурные,
идеологические, политические, психологические факторы, влияющие на ее эволюцию.
Также не должна быть потеряна основная информация о прошлом. Эти свойства
характерны для ассоциативной памяти в нейронных сетях, т.е. поведения многих
больших управляемых систем похожи на поведение нейронных сетей, для которых
характерно свойство ассоциативной памяти.
Для построения моделей процессов в больших системах используется нейросетевой
подход, простейшим примером которого является нейросетевая модель Хопфилда
[99,100,104,105,112,114].
В данном разделе приведены описание модели Хопфилда, иерархическая модель
ассоциативной памяти и поставлены задачи, которые изучаются в следующих
разделах.
2.1. Нейронная сеть Хопфилда
Для иллюстрации нейронной сети с ассоциативной памятью приведем краткое
описание простейшей модели Хопфилда [99].
Имеем сеть, состоящую из N элементов – нейронов. Наперед задан набор состояний
нейронов , где , , , . Назовем их паттернами. Нейроны связаны между собой и эта
связь описывается с помощью симметричной матрицы связей , . Элементы матрицы
являются весовыми коэффициентами связей и вычисляются по правила Хебба:
, , .
Такая система имеет свойство распознавания образов: при попадании на вход сети
произвольного образа система стремится к наиболее близкому аттрактору.
Каждый -ый нейрон принимает значение или . На него действует вектор поля
Набор нейронов является динамической системой и закон ее эволюции задается
формулой
или ,
(2.1)
где – состояние -ого нейрона в момент времени .
Из этой формулы видно, что нейрон "переворачивается" тогда, когда его знак не
совпадает со знаком действующего на него потенциала.
Сеть имеет тенденцию уменьшать значение функционала (аналога энергии),
выраженного формулой
Когда достигается такая конфигурация нейронов, что все нейроны направлены по
полю, т.е. , тогда сеть оказывается в состоянии с минимумом полной энергии.
Нейроны перестанут поворачиваться и полученное стационарное состояние является
устойчивым.
Описанная модель является простейшей моделью со свойством ассоциативной памяти.
Это свойство пришло первоначально из теории распознавания образов, когда
распознавание происходит путем стремления состояния системы к одному из
состояний, на распознавание которого настроена система. В памяти сети хранятся
картинки – аттракторы, которые имеют свои области притяжения. Сеть
автоматически распознает образы, т.е. новый произвольный образ попадает в одну
из областей притяжения и во время эволюции системы его притягивает наиболее
близкая картина, хранящаяся в памяти, т.е. с помощью аттракторов происходит
восстановление изображения по фрагменту.
Одним из факторов при решения сложности системы является ее иерархическая
структуризация. Позже появились многослойные нейросетевые модели, которые
являются модификациями выше описанной модели. Исследуются разные вопросы,
характерные для иерархически построенной нейронной сети.
2.2. Иерархическая модель ассоциативной памяти
Из теории нейронных сетей известно, что некоторые нейронные сети можно
рассматривать как совокупность групп нейронов. Каждая группа является почти
независимой подсетью, поскольку разные подсети слабо связаны между собой.
Исходя из этого, можно представить каждую подсеть как сеть, которая тоже
состоит из подсетей, т.е. можно говорить о иерархичной структуре нейронных
сетей.
Такая структура удобна для изучения целой сети, поскольку в это время сеть,
которая содержит большое число параметров, описывающих изучаемые объекты,
заменяется много меньшим набором параметров без потери основной информации об
объектах.
Сеть имеет иерархическую структуру особенно тогда, когда она обрабатывает
сложный образ. В это время каждая подсеть использует информацию для анализа
определенных черт и аспектов этого объекта. Но все подсети функционируют
одинаково, например, в Хопфилд-моделях изменяются состояния тех нейронов, знаки
которых не совпадают со знаком действующего на них потенциала.
Функционирование данной сети определяется действиями нейронов, которые входят в
ней. Нейроны, принадлежащие другим подсетям, влияют на нее более слабо.
В этом параграфе приведем для информации о возможной структуре сетей -уровневую
иерархическую модель ассоциативной памяти.
Пусть заданная система состоит из элементов, которые связаны между собой и
создают кластеры I-ого уровня. Каждый кластер I-ого уровня имеет адресованную
память (при этом он становится похожим на модели Хопфилда [99]).
Связи между кластерами осуществляются т.н. "проектированными элементами", т.е.
элементами разных кластеров одного уровня, которые, соединяя их, создают
кластеры следующего уровня. Множество "проектированных элементов" содержит
непересекающих подмножеств (в каждое -ом подмножестве, , входят заданные
элементы, которые устанавливают связи и создают кластеры -ого уровня).
Кластер -ого уровня содержит кластеры -о