Ðа пÑÐ°Ð²Ð°Ñ ÑÑкопиÑи
Ðа пÑÐ°Ð²Ð°Ñ ÑÑкопиÑи Ðа пÑÐ°Ð²Ð°Ñ ÑÑкопиÑи
выполняющего одновременно функции входного и выходного слоев, причем между слоями имеются как прямые связи, идущие от распределительного слоя к вычислительному, так и обратные связи, идущие от вычислительного слоя к распределительному (см. Рис. 11). В зависимости от решаемой задачи, сети Хопфилда работают с уровнями сигнала, находящимися в интервале как от 0 до 1, так от -1 до 1. В классическом варианте нейроны вычислительного слоя обладают пороговой активационной функцией (2) при уровнях сигнала от 0 до 1 либо (50) при уровнях сигнала от -1 до 1: ⎧ 1, x ≥ 0 f ( x) = ⎨ . (50) ⎩−1, x < 0 В этом случае нейросеть является бинарной, т.е. множество ее возможных состояний располагается на вершинах n-мерного гиперкуба, где n-число нейронов в вычислительном слое [92]. Имеется также и аналоговый вариант нейросети Хопфилда с сигмоидной активационной функцией (3) для уровней сигнала от 0 до 1 либо с функцией (51) для уровней сигнала от -1 до 1 [93]: x − x e − e f ( x) = th( x) = . (51) x −x e + e Рис. 11. Нейросеть Хопфилда. Пунктирная линия обозначает связь с нулевым весом. Слой 0 является распределительным, а слой 1 – вычислительным. В этом случае множество возможных состояний располагается внутри вышеупомянутого n-мерного гиперкуба, однако абсолютное большинство 52
практически важных приложений связано с использованием именно бинарных нейросетей Хопфилда, которыми и будет ограничено дальнейшее изложение. Условиями стабильности нейросетей Хопфилда являются w ij = w ji и w ii = 0, т.е. матрица весов связей должна быть симметрична и ее диагональные элементы должны быть нулевыми [91]. Анализ функционирования (в том числе и рассмотрение устойчивости) нейросетей Хопфилда обычно проводят при помощи математического аппарата, основанного на применении особой функции, называемой функцией Ляпунова, которая ограничена снизу и не возрастает при изменениях состояний сети. При работе нейросети значение функции Ляпунова будет уменьшаться до достижения ее минимума, пусть даже и локального, после чего изменения энергии прекратятся (такая сеть по определению является устойчивой). Таким образом, наличие функции Ляпунова является достаточным условием устойчивости нейросети с обратными связями. Ввиду стремления системы к постоянному уменьшению значений функции Ляпунова, эту функцию часто, пользуясь аналогиями из области физики, называют функцией энергии нейросети, а сами они называются нейросетями, минимизирующими свою энергию. Функция энергии E нейросети Хопфилда в общем виде может быть записана как: ∑∑ −∑ Iioi + ∑ E = ( −1/ 2) w o o t o , (52) ij i j i j i i i i где: I i – внешний вход в нейрон I; w, o и t – как и прежде, веса связей, выходы и пороги активации нейронов. Внешний вход вычислительного нейрона используется только для начальной установки исходного значения выхода этого нейрона и убирается сразу же после его первого срабатывания, поэтому при рассмотрении работы нейросети значение внешнего входа можно принять равным нулю. Если (как в случае нейросетей без обратных связей) ввести условный псевдонейрон смещения bias с постоянным уровнем выходного сигнала, равным единице, и соединить его со всеми нейронами вычислительного слоя связью с весом, равным их порогам активации, взятым с обратным знаком, то выражение для энергии нейросети существенно упростится: 53
- Page 1 and 2: На правах рукописи
- Page 3 and 4: 2.2.6. Классификация
- Page 5 and 6: 5.4. Псевдофрагментн
- Page 7 and 8: 7.4.3. Примеры разных
- Page 9 and 10: ВВЕДЕНИЕ На соврем
- Page 11 and 12: более точного прог
- Page 13 and 14: ГЛАВА 1. ИСКУССТВЕН
- Page 15 and 16: входными; нейроны,
- Page 17 and 18: Таким образом, урав
- Page 19 and 20: 1.2.4. Нейросети обра
- Page 21 and 22: Значения весов объ
- Page 23 and 24: Таким образом, знач
- Page 25 and 26: жения в статье Руме
- Page 27 and 28: Рис. 5. Введение мом
- Page 29 and 30: адаптивно настраив
- Page 31 and 32: 1.2.4.7. Квазиньютонов
- Page 33 and 34: (химических соедин
- Page 35 and 36: на границах решетк
- Page 37 and 38: ными значениями со
- Page 39 and 40: рующие один и тот ж
- Page 41 and 42: дящихся на 2-ом, 3-м и
- Page 43 and 44: всех RBF-нейронов, а
- Page 45 and 46: чающей выборки, при
- Page 47 and 48: Рис. 10. Архитектура
- Page 49 and 50: 1.2.5.4. Нейросети на о
- Page 51: ми связями, занимае
- Page 55 and 56: ния классического
- Page 57 and 58: ческому мозгу во вр
- Page 59 and 60: лаждения системы и
- Page 61 and 62: чем в качестве прог
- Page 63 and 64: ГЛАВА 2. ФРАГМЕНТНЫ
- Page 65 and 66: му типу биологичес
- Page 67 and 68: тему опубликовано
- Page 69 and 70: В настоящее время п
- Page 71 and 72: ниях QSPR/QSAR/SAR. И дейс
- Page 73 and 74: В качестве характе
- Page 75 and 76: Некоторые типы ЦАФ
- Page 77 and 78: кроме того, они сно
- Page 79 and 80: Следует упомянуть
- Page 81 and 82: зисных графов, пред
- Page 83 and 84: рой равен 1 только в
- Page 85 and 86: множества различны
- Page 87 and 88: при проведении вир
- Page 89 and 90: 21 01 12 12 21 01 Рис. 17. Ре
- Page 91 and 92: ределенных атомных
- Page 93 and 94: элементам, что може
- Page 95 and 96: наличие или отсутс
- Page 97 and 98: использовались в н
- Page 99 and 100: ложенные в 1985 г. ато
- Page 101 and 102: 2.3. Ограничения фра
практически важных приложений связано с использованием именно бинарных<br />
нейросетей Хопфилда, которыми и будет ограничено дальнейшее изложение.<br />
Условиями стабильности нейросетей Хопфилда являются w ij = w ji и w ii =<br />
0, т.е. матрица весов связей должна быть симметрична и ее диагональные элементы<br />
должны быть нулевыми [91]. Анализ функционирования (в том числе и<br />
рассмотрение устойчивости) нейросетей Хопфилда обычно проводят при помощи<br />
математического аппарата, основанного на применении особой функции,<br />
называемой функцией Ляпунова, которая ограничена снизу и не возрастает при<br />
изменениях состояний сети. При работе нейросети значение функции Ляпунова<br />
будет уменьшаться до достижения ее минимума, пусть даже и локального, после<br />
чего изменения энергии прекратятся (такая сеть по определению является<br />
устойчивой). Таким образом, наличие функции Ляпунова является достаточным<br />
условием устойчивости нейросети с обратными связями. Ввиду стремления<br />
системы к постоянному уменьшению значений функции Ляпунова, эту функцию<br />
часто, пользуясь аналогиями из области физики, называют функцией энергии<br />
нейросети, а сами они называются нейросетями, минимизирующими свою<br />
энергию.<br />
Функция энергии E нейросети Хопфилда в общем виде может быть записана<br />
как:<br />
∑∑<br />
−∑ Iioi<br />
+ ∑<br />
E = ( −1/<br />
2)<br />
w o o<br />
t o , (52)<br />
ij i j<br />
i j i<br />
i<br />
i<br />
i<br />
где: I i – внешний вход в нейрон I; w, o и t – как и прежде, веса связей, выходы и<br />
пороги активации нейронов. Внешний вход вычислительного нейрона используется<br />
только для начальной установки исходного значения выхода этого нейрона<br />
и убирается сразу же после его первого срабатывания, поэтому при рассмотрении<br />
работы нейросети значение внешнего входа можно принять равным<br />
нулю. Если (как в случае нейросетей без обратных связей) ввести условный<br />
псевдонейрон смещения bias с постоянным уровнем выходного сигнала, равным<br />
единице, и соединить его со всеми нейронами вычислительного слоя связью<br />
с весом, равным их порогам активации, взятым с обратным знаком, то выражение<br />
для энергии нейросети существенно упростится:<br />
53