ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕДля оценки качества воспроизведения мы использовали средние значенияфинальных пересечений m f для траекторий, сходящихся к правильныматтракторам из начальных состояний, совпадающих с эталонами (т. е. когдаm in = 1). Результаты показаны на рис. 6. Для каждого значения α значениясредних финальных пересечений были аппроксимированы прямыми линиямив зависимости от 1/ √ N, и их пересечение с осью ординат рассматривалоськак асимптотическая оценка качества воспроизведения для данногозначения α. Полученные значения m f приведены на рис. 7. Они сравниваютсяс оценками качества воспроизведения, полученными с помощьюRM- и SN-приближений, а также с данными, полученными Корингом [19]для гораздо больших размеров сети (N до 50000). Точки, полученные спомощью компьютерного моделирования, опять лежат между кривыми,полученными с помощью RM- и SN-приближений, а точки, полученныенами, практически совпадают с данными Коринга. Следует заметить, чтона рис. 7 значения (1 − m f ) умножены на 5, чтобы привести их в тот жедиапазон значений, что и для разреженного кодирования.Разреженное кодированиеРаспределения финальных пересечений m f , полученных при p = 0.02,показаны на рис. 8. Главной особенностью этих распределений являетсято, что они имеют две явно различающиеся моды только в случае, когданачальные состояния достаточно далеки от эталонов (m in = 0.1 иm in = 0.3). Когда m in = 0.5 или m in = 1 присутствует только одна мода,которая медленно смещается к меньшим значениям m f при возрастанииα. Та же особенность имеется при p = 0.1. Можно все-таки предположить,что распределение имеет две моды и при больших значениях m in , которыеслишком близки и имеют слишком большую дисперсию, чтобы их былолегко разделить. При возрастании N моды становятся более узкими и ихможно разделить, как это показано на рис. 8 для p = 0.02, m in = 0.5,α = 0.34 и N = 15000. Наличие дополнительной моды вблизи моды, близкойк m f = 1, можно заметить даже для плотного кодирования (см. рис. 2,m in = 0.3, α = 0.09). Эту моду можно объяснить наличием метастабильныхсостояний в окрестности эталонов, которые исчезают при возрастанииN [20].Несмотря на плохое разделение мод, для оценки α cr мы использовалиту же процедуру, что и при плотном кодировании. В качестве границы дляразделения правильных и ложных аттракторов мы приняли m b = 0.75 (вер-56 УДК 004.032.26 (06) Нейронные сети
А. А. ФРОЛОВ, Д. ГУСЕК, И. П. МУРАВЬЕВРИС. 7. Зависимость качества воспроизведения, полученная методомRM (толстые сплошные линии), SN (тонкие сплошные линии)и SS (пунктирные линии) и экстраполяцией результатовкомпьютерного моделирования к пределу N → ∞ (светлые точки),от α и p. Темные точки — данные, взятые из работы [19].тикальные линии на рис. 8). При m in = 0.1 и m in = 0.3 эта граница имееттот же смысл, что и при плотном кодировании. Она явно разделяет хорошовыраженные моды для правильных и ложных аттракторов. При m in = 0.5и m in = 1 вероятность сходимости нейродинамического процесса к правильныматтракторам сильно зависит от выбора m b . Выбор m b = 0.75представляется разумным, потому что он обеспечивает изменение вероятностиP , что некоторая траектория сойдется к аттрактору в окрестностиэталона, от значения 1 при малых α до 0 при больших α. Оказалось, чтовыбор m b в некотором разумном диапазоне от 0.7 до 0.8 не так сильновлияет на оценку α cr , как на оценку величины P для каждой комбинацииα и N.УДК 004.032.26 (06) Нейронные сети 57
Change language