Нейронная сеть Хопфилда

Содержание

Введение

Нейронная сеть Хопфилда принято рассматривать как систему из N нейронов. Каждый нейрон системы может принимать одно из двух значений:

x_i = \left\{\begin{matrix} 1, \\ -1\end{matrix}\right.

Благодаря своей биполярной природе нейроны сети Хопфилда иногда называют спинами

Взаимодействие спинов сети описывается выражением:

E= \frac{1}{2}\sum_{i,j=1}^{N}T_{ij}x_ix_j

где T - это матрица межсвязей организованная по правилу обучения Хебба:

T_{ij}=\sum_{m=1}^{M}x_{mi}x_{mj}

в которую записывается М "образов" – N-мерных бинарных векторов: Sm = (sm1,sm2,...,smN)

Таким образом, в сети Хопфилда матрица связей является симметричной Tij = Tji, а диагональные элементы матрицы полагаются равными нулю (Tii = 0), что исключает эффект воздействия нейрона на самого себя. Подобные свойства определяют тесную связь с реальными физическими веществами называемыми спиновыми стеклами.

Динамика

Все нейроны такой системы свободны и их динамика определяется только локальным полем, вдоль которого они устанавливаются.

Различают два вида динамики: асинхронную и синхронную. При асинхронной динамике в дискретные моменты времени t = 1,2,..., случайным образом выбирается какой-либо i-й нейрон, и определяется локальное поле hi действующее на него со стороны всех остальных нейронов сети:

h_{i}=\sum_{j\neq \;i}^{N}T_{ij}s_{j}

Далее рассматривается энергия нейрона в данном поле Ei = − sihi. Если состояние (знак) нейрона совпадает с направлением локального поля (Ei < 0), то его положение энергетически устойчиво и в последующий момент времени состояние нейрона остается неизменным. В противном случае (Ei > 0) положение нейрона неустойчиво и он меняет свой знак, переходя в состояние si(t + 1) = − si(t)с энергией Ei(t + 1) < Ei(t). Далее эта же процедура повторяется на другом случайно выбранном нейроне, причем локальное поле вычисляется с учетом изменений, произошедших на предыдущем такте. При каждом изменении состояния нейрона, энергия системы понижается. Это означает, что система за конечное число шагов перейдет в стабильное состояние. Полученное стабильное состояние сети будет соответствовать одному из образов записанных в матрицу.

При синхронной динамике одновременно определяются локальные поля, действующие на нейроны системы и все нейроны с неустойчивым энергетическим состоянием, меняют свой знак одновременно, а не последовательно как при асинхронной. Разница между этими динамиками невелика. Синхронная динамика более близка к процессам, происходящим в спиновом стекле, в то время как асинхронная адаптирована для реализации в современных последовательных вычислительных машинах.

Распознавание

Если после формирования матрицы межсвязей, установить состояние сети близким к одному из записанных эталонных векторов, то нейронная сеть в ходе своей динамики под действием описанных выше полей перевернет неудовлетворенные спины и перейдет в эталонное состояние.

Рассмотрим пример. Пусть имеется нейронная сеть, размерностью N=100 , в матрицу связей записан набор черно-белых картинок (-1 – черный цвет, +1 – белый), среди которых есть изображение собачки (рис 1б). Если установить, начальное состояние сети близким к этому вектору (рис. 1а), то в ходе динамики, нейронная сеть, восстановит исходное изображение (рис. 1б).

  Рис.1а                                 Рис.1б

К сожалению, у нейронной сети Хопфилда есть существенный недостаток. Она имеет относительно небольшой объем памяти, величину которого можно оценить выражением:

M\approx \;\frac{N}{2\ln N}

Это означает, что в нейросеть можно записать лишь примерно 15% образов от числа нейронов. Попытка записи большего числа образов приводит к тому, что нейронная сеть перестает их распознавать.

Задачи минимизации

Однако распознавание образов не единственная область применения модели Хофпилда. Динамическая процедура, описанная выше, на каждом шаге понижает значение энергии нейронной сети. Это позволяет решать комбинаторные задачи оптимизации, если они могут быть сформулированы как задачи минимизации энергии.

Литература

J. J. Hopfield, «Neural networks and physical systems with emergent collective computational abilities», Proceedings of National Academy of Sciences, vol. 79 no. 8 pp. 2554–2558, April 1982. PNAS Reprint (Abstract) PNAS Reprint (PDF)

R.McEllice, E.Posner et al. «Capacity of the Hopfield associative memory», IEEE Trans.on Inf.Theory. vol.33, pp.461-482 (1987).

B.V.Kryzhanovsky, L.B.Litinskii, A.L.Mikaelian. «Vector-neuron models of associative memory», Proc. of Int. Joint Conference on Neural Networks IJCNN-04, Budapest-2004, pp.909-1004.

B.V.Kryzhanovsky, B.M.Magomedov, A.L.Mikaelian. «A Domain model of neural network», Doklady Mathematics vol.71, pp.310-314 (2005).

 
Начальная страница  » 
А Б В Г Д Е Ж З И Й К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Ы Э Ю Я
A B C D E F G H I J K L M N O P Q R S T U V W X Y Z
0 1 2 3 4 5 6 7 8 9 Home