На Ð¿Ñ€Ð°Ð²Ð°Ñ Ñ€ÑƒÐºÐ¾Ð¿Ð¸ÑÐ¸

ния от шума, поиска скрытых закономерностей в «зашумленных» объектах и
выделения из них исходного объекта-прототипа. В качестве характерных примеров
можно привести осуществляемый при помощи нейросетей Хопфилда поиск
промоторов в ДНК [18], скрытых повторов в ДНК и реконструкцию эволюционных
изменений в них [103].
Машина Больцмана. Одним из недостатков нейросетей Хопфилда является
их тенденция стабилизироваться в локальном, а не глобальном минимуме
функции энергии. Одним из способов преодоления этой трудности является использование
стохастического варианта нейросети Хопфилда, называемого
обычно машиной Больцмана. Подобное название нейросетей этого класса обусловлено
тесной связью методов их описания с математическим аппаратом статистической
термодинамики (а также данью уважения к ее основателю Больцману).
Если в детерминированных нейронных сетях, к которым относятся нейросети
Хопфилда, нейрон всегда возбуждается при превышении сетевым входом
a i определенного порогового значения (которое путем введения biasпсевдонейронов
всегда можно сделать нулевым), то в стохастических нейросетях,
к которым относится машина Больцмана, сетевой вход определяет лишь
вероятность p i перехода нейрона i в возбужденное состояние:
1
p = i
1+
exp( −a
/ T )
, (57)
i
где T – искусственная температура. Заметим, что в знаменателе этого выражения
находится фактор Больцмана, показывающий вероятность пребывания системы
в условиях термодинамического равновесия при температуре T на энергетическом
уровне, превышающем нулевой на k·a i энергетических единиц (где k –
постоянная Больцмана).
При запуске машины Больцмана на выходы вычислительных нейронов
заносятся начальные значения, определяемые входным вектором. Машина запускается
при высоком значении искусственной температуры, и сети предоставляется
возможность самостоятельно минимизировать свою энергию при
управляемом извне постепенном понижении указанной температуры. После ох-
58