19.11.2014 Views

На правах рукописи

На правах рукописи

На правах рукописи

SHOW MORE
SHOW LESS

You also want an ePaper? Increase the reach of your titles

YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.

Значения весов объектов ν p , отличные от единицы, берутся, главным образом,<br />

тогда, когда нейросеть обучается классифицировать объекты для придания<br />

большего веса тем из них, которые принадлежат к классам с меньшим числом<br />

представителей. В остальных же случаях (т.е. практически всегда) веса<br />

объектов считаются одинаковыми и равны единице. Аналогично, значения весов<br />

выходных нейронов ν k , отличные от единицы, берутся лишь в редких случаях<br />

многозадачного обучения, в остальных же случаях они принимаются равными<br />

единице. С учетом вышесказанного, индивидуальный функционал ошибки<br />

для p-ого объекта из обучающей выборки обычно имеет вид:<br />

где:<br />

E<br />

p<br />

K<br />

1 p p[<br />

N ] 2<br />

( w)<br />

= ∑(<br />

d<br />

k<br />

− ok<br />

)<br />

(7)<br />

2<br />

k=<br />

1<br />

p<br />

d<br />

k<br />

- желаемый выход для k-ого выходного нейрона p-ого объекта (экспериментальное<br />

значение k-ого свойства для p-ого соединения) из обучающей<br />

k<br />

p[ N ]<br />

выборки; o - вычисленный выход для k-ого выходного нейрона p-ого объекта<br />

(спрогнозированное значение k-ого свойства для p-ого соединения) из обучающей<br />

выборки; N – номер выходного слоя; K – число выходов нейросети,<br />

равное числу одновременно прогнозируемых свойств химических соединений в<br />

случае QSAR/QSPR-анализа. Функционал ошибки для всей выборки в этом<br />

случае имеет вид:<br />

P K<br />

1<br />

p p[<br />

N ] 2<br />

E( w)<br />

= ∑∑(<br />

d k<br />

− ok<br />

) . (8)<br />

2<br />

p= 1 k=<br />

1<br />

1.2.4.3. Вычисление производных функционала ошибки по методу обратного<br />

распространения<br />

Для эффективной минимизации функционала необходимо уметь быстро<br />

вычислять его градиент, т.е. вектор первых производных по отношению ко всем<br />

настраиваемым параметрам. В случае индивидуального функционала ошибки<br />

для p-ого соединения из обучающей выборки элементы искомого вектора градиента<br />

можно выразить в следующем виде:<br />

21

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!