19.11.2014 Views

На правах рукописи

На правах рукописи

На правах рукописи

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

ческому мозгу во время сна, способна проявлять удивительные «творческие<br />

способности» и даже делать открытия [18, 101, 102].<br />

В качестве примера «творческих способностей» нейросетей Хопфилда<br />

можно упомянуть активную кластеризацию, в процессе которой не только<br />

формируются аттракторы, которые притягивают векторы из обучающей выборки<br />

(попавшие в один аттрактор векторы можно считать относящимися к одному<br />

классу), но и такие аттракторы (соответствующие состояниям ложной памяти),<br />

в которые не притягивается ни один вектор из обучающей выборки (в этом случае<br />

говорят о формировании пустых классов) [102]. Иными словами, за счет<br />

глубокой обработки информации нейросеть оказывается способной не только<br />

относить известные объекты к определенным классам, но и предсказывать наличие<br />

новых классов объектов и даже генерировать (описывать) эти объекты<br />

[101]. Известным примером такой предсказательной категоризации является<br />

создание Д.И. Менделеевым периодической системы элементов, в которой с<br />

самого начала были определены три пустые клетки (фактически новые классы<br />

объектов) и описаны свойства входящих в них гипотетических объектов – новых<br />

химических элементов, которые впоследствии и были обнаружены.<br />

Аналогия с высшей нервной деятельностью человека на этом, однако, не<br />

заканчивается. Оказывается, для нейросети Хопфилда не чуждо даже эстетическое<br />

«чувство прекрасного». В процессе запоминания векторов нейросеть в<br />

своей голографической ассоциативной памяти «рассматривает» запоминаемые<br />

вектора как «зашумленные» версии некоего «идеала». Она старается восстановить<br />

его за счет отбрасывания шума (путем наложения друг на друга образов,<br />

приводящих к уменьшению вклада некоррелированных компонент, т.е. шума) и<br />

уже найденный идеальный образ запомнить, создав для него аттрактор памяти.<br />

Судя по всему, Крик и Митчисон правы лишь отчасти: нейросеть во время<br />

«сна» грезит не для того, чтобы забыть ложные видения, а для того, чтобы, забыв<br />

несущественные элементы действительности, сформировать внутри себя<br />

«прекрасный идеал», который необходимо как можно лучше запомнить и к которому<br />

«устремлять свои помыслы». Благодаря этому обстоятельству нейросети<br />

Хопфилда могут быть использованы как эффективный инструмент очище-<br />

57

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!