На Ð¿Ñ€Ð°Ð²Ð°Ñ Ñ€ÑƒÐºÐ¾Ð¿Ð¸ÑÐ¸

чтобы выявить малозначимые весовые коэффициенты, используется процедура
«забывания», т.е. на каждой итерации каждый весовой коэффициент уменьшается
на некую величину, пропорциональную его значению. Для вычисления
этой пропорциональной величины в программе «NASAWIN» используются линейные,
квадратичные и логарифмические функции, а также функция Гаусса.
Таким образом, несущественные весовые коэффициенты сводятся к нулю, что
позволяет сократить размерность нейросети путем удаления нейронов с нулевыми
синапсами.
8.2.10. Определение момента начала «переучивания» нейросети
С целью определения момента перехода обучения нейросети из «обобщающей»
в «запоминающую» фазу, то есть того момента, когда среднеквадратичная
ошибка для контрольных соединений начинает возрастать и обучение
нейросети должно быть прервано, в программе «NASAWIN» предусмотрена
следующая процедура. Вся выборка соединений разбивается автоматически или
вручную на 3 подвыборки – обучающую, контрольную и выборку прогноза. На
соединениях из обучающей выборки строится нейросетевая модель. Точка перехода
обучения нейросети из одной фазы в другую определяется автоматически
и соответствует моменту начала увеличения среднеквадратичной ошибки
для соединений из контрольной выборки. Прогнозирующая способность нейросети
оценивается по величине средней ошибки, вычисленной для соединений
из выборки прогноза, в момент начала «переучивания». Предложенный трехвыборочный
метод позволяет, таким образом, оценить прогнозирующую способность
нейросети с использованием соединений, не участвующих в процессе
обучения нейросети, что является существенным преимуществом по сравнению
со стандартным методом перекрестной оценки.
302