На правах рукописи

На правах рукописи На правах рукописи

cdn.scipeople.com
from cdn.scipeople.com More from this publisher
19.11.2014 Views

выполняющего одновременно функции входного и выходного слоев, причем между слоями имеются как прямые связи, идущие от распределительного слоя к вычислительному, так и обратные связи, идущие от вычислительного слоя к распределительному (см. Рис. 11). В зависимости от решаемой задачи, сети Хопфилда работают с уровнями сигнала, находящимися в интервале как от 0 до 1, так от -1 до 1. В классическом варианте нейроны вычислительного слоя обладают пороговой активационной функцией (2) при уровнях сигнала от 0 до 1 либо (50) при уровнях сигнала от -1 до 1: ⎧ 1, x ≥ 0 f ( x) = ⎨ . (50) ⎩−1, x < 0 В этом случае нейросеть является бинарной, т.е. множество ее возможных состояний располагается на вершинах n-мерного гиперкуба, где n-число нейронов в вычислительном слое [92]. Имеется также и аналоговый вариант нейросети Хопфилда с сигмоидной активационной функцией (3) для уровней сигнала от 0 до 1 либо с функцией (51) для уровней сигнала от -1 до 1 [93]: x − x e − e f ( x) = th( x) = . (51) x −x e + e Рис. 11. Нейросеть Хопфилда. Пунктирная линия обозначает связь с нулевым весом. Слой 0 является распределительным, а слой 1 – вычислительным. В этом случае множество возможных состояний располагается внутри вышеупомянутого n-мерного гиперкуба, однако абсолютное большинство 52

практически важных приложений связано с использованием именно бинарных нейросетей Хопфилда, которыми и будет ограничено дальнейшее изложение. Условиями стабильности нейросетей Хопфилда являются w ij = w ji и w ii = 0, т.е. матрица весов связей должна быть симметрична и ее диагональные элементы должны быть нулевыми [91]. Анализ функционирования (в том числе и рассмотрение устойчивости) нейросетей Хопфилда обычно проводят при помощи математического аппарата, основанного на применении особой функции, называемой функцией Ляпунова, которая ограничена снизу и не возрастает при изменениях состояний сети. При работе нейросети значение функции Ляпунова будет уменьшаться до достижения ее минимума, пусть даже и локального, после чего изменения энергии прекратятся (такая сеть по определению является устойчивой). Таким образом, наличие функции Ляпунова является достаточным условием устойчивости нейросети с обратными связями. Ввиду стремления системы к постоянному уменьшению значений функции Ляпунова, эту функцию часто, пользуясь аналогиями из области физики, называют функцией энергии нейросети, а сами они называются нейросетями, минимизирующими свою энергию. Функция энергии E нейросети Хопфилда в общем виде может быть записана как: ∑∑ −∑ Iioi + ∑ E = ( −1/ 2) w o o t o , (52) ij i j i j i i i i где: I i – внешний вход в нейрон I; w, o и t – как и прежде, веса связей, выходы и пороги активации нейронов. Внешний вход вычислительного нейрона используется только для начальной установки исходного значения выхода этого нейрона и убирается сразу же после его первого срабатывания, поэтому при рассмотрении работы нейросети значение внешнего входа можно принять равным нулю. Если (как в случае нейросетей без обратных связей) ввести условный псевдонейрон смещения bias с постоянным уровнем выходного сигнала, равным единице, и соединить его со всеми нейронами вычислительного слоя связью с весом, равным их порогам активации, взятым с обратным знаком, то выражение для энергии нейросети существенно упростится: 53

практически важных приложений связано с использованием именно бинарных<br />

нейросетей Хопфилда, которыми и будет ограничено дальнейшее изложение.<br />

Условиями стабильности нейросетей Хопфилда являются w ij = w ji и w ii =<br />

0, т.е. матрица весов связей должна быть симметрична и ее диагональные элементы<br />

должны быть нулевыми [91]. Анализ функционирования (в том числе и<br />

рассмотрение устойчивости) нейросетей Хопфилда обычно проводят при помощи<br />

математического аппарата, основанного на применении особой функции,<br />

называемой функцией Ляпунова, которая ограничена снизу и не возрастает при<br />

изменениях состояний сети. При работе нейросети значение функции Ляпунова<br />

будет уменьшаться до достижения ее минимума, пусть даже и локального, после<br />

чего изменения энергии прекратятся (такая сеть по определению является<br />

устойчивой). Таким образом, наличие функции Ляпунова является достаточным<br />

условием устойчивости нейросети с обратными связями. Ввиду стремления<br />

системы к постоянному уменьшению значений функции Ляпунова, эту функцию<br />

часто, пользуясь аналогиями из области физики, называют функцией энергии<br />

нейросети, а сами они называются нейросетями, минимизирующими свою<br />

энергию.<br />

Функция энергии E нейросети Хопфилда в общем виде может быть записана<br />

как:<br />

∑∑<br />

−∑ Iioi<br />

+ ∑<br />

E = ( −1/<br />

2)<br />

w o o<br />

t o , (52)<br />

ij i j<br />

i j i<br />

i<br />

i<br />

i<br />

где: I i – внешний вход в нейрон I; w, o и t – как и прежде, веса связей, выходы и<br />

пороги активации нейронов. Внешний вход вычислительного нейрона используется<br />

только для начальной установки исходного значения выхода этого нейрона<br />

и убирается сразу же после его первого срабатывания, поэтому при рассмотрении<br />

работы нейросети значение внешнего входа можно принять равным<br />

нулю. Если (как в случае нейросетей без обратных связей) ввести условный<br />

псевдонейрон смещения bias с постоянным уровнем выходного сигнала, равным<br />

единице, и соединить его со всеми нейронами вычислительного слоя связью<br />

с весом, равным их порогам активации, взятым с обратным знаком, то выражение<br />

для энергии нейросети существенно упростится:<br />

53

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!