На Ð¿Ñ€Ð°Ð²Ð°Ñ Ñ€ÑƒÐºÐ¾Ð¿Ð¸ÑÐ¸

выражение (74) можно рассматривать как начало разложения Тэйлора-
Маклорена функции f(x,y) в окрестности точки (0,0):
2
∂f
( x,
y)
∂f
( x,
y)
1 ∂ f ( x,
y)
f ( x,
y)
= f (0,0) +
⋅ x +
⋅ y +
⋅ x
2
∂x
∂y
2 ∂x
x=
0, y=
0
x=
0, y=
0
x=
0, y=
0
2
+
+
1
2
∂
2
f ( x,
y)
2
∂y
⋅ y
2
+
1
2
2
∂ f ( x,
y)
∂x∂y
x=
0, y=
0
x=
0, y=
0
⋅ xy + K
(77)
Основная идея разработанного нами подхода состоит в использовании
статистических характеристик, основанных на коэффициентах в разложении
функции по Тэйлору-Маклорену, для интерпретации нейросетевых моделей.
Рассмотрим теперь, как извлечь из набора данных ту же информацию о
влиянии x и y на f при помощи нейросетей. В этом случае, если при построении
нейросетевой модели отождествить x и y со входами нейросети, а f с ее выходом,
то влияние x на f может быть выражено при помощи среднего значения частной
производной функции f по отношению к переменной x, усредненного по
всей выборке:
N
1 ∂f
( x,
y)
a ~ M
x
= ∑
(78)
N ∂ x
i=
1
x=
xi , y=
y i
Здесь основное отличие от рассмотренного выше случая множественной
линейной регрессии состоит в том, что значения частной производной может
несколько отличаться на разных точках вследствие нелинейности функции f,
что и обуславливает необходимость усреднения. Аналогично, влияние другой
переменной y на функцию f может быть выражено при помощи усредненного
значения частной производной по отношению к ней:
N
1 ∂f
( x,
y)
b ~ M
x
= ∑
(79)
N ∂ y
i=
1
x=
xi , y=
y i
Итак, предлагаются следующие статистические характеристики для интерпретации
нейросетевых моделей:
• M x – среднее значение первой частной производной по выборке:
M
x
N
1 ∂f
( x,
K)
= ∑
(80)
N ∂ x
i=
1
x=
x i
, K
122