формат Adobe PDF, размер 2173 Кб - Информационно ...

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕОдношаговое приближениеПринципиальной особенностью SS-приближения [18] является то, что накаждом временном шаге нейродинамики игнорируется статистическая зависимостьмежду активностью сети и матрицей связей и учитываетсятолько один макропараметр нейродинамики: пересечение текущего паттернас воспроизводимым эталоном m(t). Пренебрежение статистическойзависимостью справедливо только для первого шага нейродинамики, когданачальная активность сети действительно устанавливается независимоот матрицы связей. Именно поэтому данный подход называется одношаговымприближением или приближением первого шага. Другими, болееточными аналитическими методами, а также с помощью компьютерногомоделирования (см. работы [4, 5] и многие другие) было показано, чтоSS-приближение очень неточно в случае плотного кодирования (p = 0.5).Однако, оно оказалось достаточно точным для случая разреженного кодирования[10]. Более того, в разделе «Компьютерное моделирование» будетпоказано, что в этом случае оно дает даже лучшее соответствие с экспериментом,чем SN-приближение.При воспроизведении эталона X l синаптические возбуждения каждогонейрона на первом временном шаге выражаются, в соответствии с уравнениями(1) и (3), в видеη i = (X l i − p)m in + N i ,где m in — пересечение между воспроизводимым эталоном и начальнымпаттерном X in и N i — шум, обусловленный записью в матрицу связей другихэталонов. Для используемой модели [10]гдеM{N i } = −αp/h(p), σ 2 = D{N i } = αr/h(p) , (20)r = p (1 − p) . (21)Для больших N и L распределение N i близко к нормальному. Тогдагдеp 01 = p 00 = p 0 = Φ(θ 0 ), p 11 = p 10 = p 1 = Φ(θ 1 ) , (22)θ 0 = θ + m in p/σ, θ 1 = θ − m in (1 − p)/σ , (23)44 УДК 004.032.26 (06) Нейронные сети