формат Adobe PDF, размер 2173 Кб - Информационно ...

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕнейронов сети, величина которого столь мала, что не меняет распределениянейронов по величине синаптического возбуждения от активных нейроновсети, но достаточна, чтобы упорядочить их по величине суммарного возбуждения,если вклады от активных нейронов сети одинаковы. Для того,чтобы обеспечить стабилизацию активности сети, распределение шума χ iпо нейронам полагается фиксированным во все моменты времени. Тогда,как и в случае, когда порог активации фиксирован [13], в нейронной динамикесуществуют только два типа аттракторов — точки или циклы длины2.Для доказательства введем η ′ i (t) = η i(t) + χ i , где η i (t) — синаптическиевозбуждения от активных нейронов сети, а χ i — синаптический шум. Тогдавсе значения η ′ i (t) различны, даже если некоторые значения η i(t) равны.Введем порог T ′ (t) такой что n нейронов с η ′ i (t) > T ′ (t) активны и N − nнейронов с η ′ i < T ′ — неактивны. В этом случае уравнение (2) заменяетсянаX i (t + 1) = Θ(u i (t)) , (4)где u i (t) = η ′ i (t) − T ′ (t).Введем функцию F (t) = X T (t + 1)JX(t) + [ X T (t + 1) + X T (t) ] χ,где χ — вектор с компонентами χ i . Поскольку число активных нейроновфиксировано на каждом временном шаге, X T (t + 2) e = X T (t) e = n, гдеe — вектор из N единиц. Следовательно,∆ = F (t + 1) − F (t) = [ X T (t + 2) − X T (t) ][ JX(t + 1) + χ ] == [ X T (t + 2) − X T (t) ][ JX(t + 1) + χ − T ′ (t + 1) e ] = ∑ iгде δ i = [X i (t + 2) − X i (t)]u i (t + 1). Величины δ i неотрицательны, поскольку,если u i (t + 1) > 0, то, в соответствии с (4), X i (t + 2) = 1 иX i (t + 2) − X i (t) 0 независимо от X i (t). Если u i (t + 1) < 0 , то согласно(4), X i (t+2) = 0 и X i (t+2)−X i (t) 0 независимо от X i (t). Следовательно,в обоих случаях δ i 0 и, следовательно, ∆ 0. Поскольку количествосостояний сети конечно, через конечное число шагов ∆ достигает нулевогозначения, когда все δ i = 0. Так как в используемой процедуре восстановленияu i ≠ 0 для всех i, это возможно только если X i (t + 2) = X i (t) для всехi. Таким образом, в процессе восстановления достигается неподвижнаяточка или цикл длины два. Выходным (финальным) паттерном X f процедурывоспроизведения полагается стабильное состояние сети или первыйпаттерн цикла длины 2.36 УДК 004.032.26 (06) Нейронные сетиδ i ,(5)