На Ð¿Ñ€Ð°Ð²Ð°Ñ Ñ€ÑƒÐºÐ¾Ð¿Ð¸ÑÐ¸

всех RBF-нейронов, а также их дисперсии. Для этого проводится кластерный
анализ исходных данных либо при помощи нейросети Кохонена, либо, чаще
всего, алгоритма k-means [70, 71], после чего центры найденных кластеров используются
как центры радиально-базисных функций, ширины которых можно,
в частности, определить как средние расстояния между центрами кластеров и
его ближайшими соседями. Второй этап обучения RBF-сетей проводится «с
учителем» - либо итерационно, в соответствии с алгоритмом обратного распространения
ошибки, либо с использованием одного из алгоритмов построения
линейных регрессионных моделей, в частности, при помощи регрессии на
главных компонентах (SVD-регрессии) [72]. Различные варианты RBF-сетей
различаются выбором: а) метода кластеризации (если она вообще проводится);
б) способов определения положения центра и ширины радиально-базисной
функции; в) способов построения линейно-регрессионной модели для обучения
выходных нейронов. Ширина радиально-базисной функции иногда берется
единой для всех RBF-нейронов, и ее значение, обеспечивающее наибольшую
прогнозирующую способность нейронной сети, определяется с помощью процедуры
скользящего контроля.
Важными модификациями RBF-сетей являются вероятностная нейронная
сеть (Probabilistic Neural Network – PNN, P-нейросеть), предложенная Спехтом
(Specht) в 1990 г. [73], и нейронная сеть обобщенной регрессии (Generalized Regression
Neural Network – GRNN, GR-нейросеть), введенная этим же автором
годом позже [74].
GR-нейросети. Функционирование GR-нейросетей основано на использовании
математического аппарата непараметрической ядерной регрессии Надарая-Ватсона
(Nadaraya-Watson) [75, 76], идея которой заключается в оценке
функции плотности вероятности совместного распределения случайной векторной
величины x и случайной скалярной величины y по методу Парзена (Parzen)
[77]:
N
T
1
⎡ ( x − x ⎤ ⎡
i
) ( x − xi
) −
= ⋅∑
⎢−
⎥ ⋅ ( y yi
)
( x,
y)
exp
exp⎢−
( M + 1) / 2 ( M + 1)
2
2
N(2π
) σ i=
1 ⎣ 2σ
⎦ ⎣ 2σ
f , (41)
2
⎤
⎥
⎦
43