ÑÐ¾ÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 ÐÐ± - ÐÐ½ÑÐ¾ÑÐ¼Ð°ÑÐ¸Ð¾Ð½Ð½Ð¾ ...

More documents

Recommendations

Info

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ10.90.80.70.60.50.40.30.20.100 2 4 6 8 10 12 14РИС. 4. Зависимость энтропии (в долях к исходному значению) отуровня иерархии дереваЗначимость независимых переменных (факторов). Важным «побочным»эффектом методики является возможность оценки относительнойзначимости факторов-входов. Все факторы (независимые переменные) можноупорядочить по степени уменьшения суммарной энтропии зависимойпеременной, возникшей при использовании фактора в решающих правилах.Не использованные ни в одном из правил переменные в этом подходепризнаются незначимыми.Характерное распределение значимости факторов приведено на рис. 5.Заметим, что предлагаемый метод приводит к весьма разреженномупредставлению модели данных, что может оказаться полезным при увеличениичисла независимых переменных.Вычислительная сложность метода. Применение метода требует решениямножества задач одномерной оптимизации на отрезке. При этомзатраты на вычисление оптимизируемой функции падают линейно по мерепродвижения от корня дерева к листьям.176 УДК 004.032.26 (06) Нейронные сети
С. А. ТЕРЕХОВЗадачи безусловной оптимизации функций на отрезке весьма подробноисследованы, и соответствующие методики успешно реализованы в пакетахприкладных программ [8].Вычислительные затраты на одномерную оптимизацию несравненноменьше затрат на многомерный поиск, который требуется, например, припостроении статистических моделей EM-алгоритмом, или обучении многослойныхнейронных сетей [2].Поиск решающих правил в ветвях дерева может быть непосредственнораспараллелен, что повышает его эффективность при использованиисовременных ЭВМ.Аналоги метода. Близким аналогом вероятностного дерева является нейросетеваяархитектура со встречным распространением (сounter-propagation,R. Hecht-Nielsen, [13]).На кластеризующем [16] слое нейросеть со встречным распространением,являющаяся, по существу, одноуровневым деревом, происходит сквознойпросмотр всех ветвей-кластеров. При этом, в отличие от предлагаемогоподхода, для выбора ветви дерева используется метрика в пространствевходов вместо решающего правила. Таким образом, кроме повышенныхвычислительных затрат, на практике могут возникать трудности с выборомподходящей метрики, что не всегда возможно в случае дискретных инепрерывных входов. Заметим также, что кусочно-постоянная аппроксимацияв форме ячеек Вороного в нейросети со встречным распространениемкачественно отличается от глобального представления функции в видеиерархических сегментов постоянства функции при использовании дерева.О применениях вероятностных деревьевОценка стоимости недвижимости в районе Бостона. В этой, ставшейклассической [11,23], задаче предлагается построить прогностическуюсистему оценки стоимости недвижимости в районе Большого Бостона. Базаданных [11] содержит 506 наблюдений для 13 зависимых и одной независимойпеременной (собственно цены).Все переменные в базе данных представлены действительными числами,за исключением одной двоичной переменной (признак — находится листроение в районе реки Чарльз Ривер)Построение модели дерева заняло чуть больше минуты на персональнойЭВМ. Полное исчерпание энтропии в данных достигнуто при 439 узлах(число выведенных решающих правил чуть больше 200).Относительная значимость факторов представлена на рис. 5.УДК 004.032.26 (06) Нейронные сети 177
Page 1 and 2:
МИНИСТЕРСТВО ОБРАЗ
Page 4 and 5:
ISBN 5-7262-0471-9ЛЕКЦИИ ПО
Page 6 and 7:
Page 8 and 9:
Page 10 and 11:
Page 12 and 13:
Page 14 and 15:
Page 16 and 17:
Page 18 and 19:
Page 20 and 21:
Page 22 and 23:
Page 24 and 25:
Page 26 and 27:
Page 28 and 29:
А. А. ФРОЛОВ 1) , Д. ГУ
Page 30 and 31:
Page 32 and 33:
Page 34 and 35:
Page 36 and 37:
Page 38 and 39:
Page 40 and 41:
Page 42 and 43:
Page 44 and 45:
Page 46 and 47:
Page 48 and 49:
Page 50 and 51:
Page 52 and 53:
Page 54 and 55:
Page 56 and 57:
Page 58 and 59:
Page 60 and 61:
Page 62 and 63:
Page 64 and 65:
Page 66 and 67:
Page 68 and 69:
Page 70 and 71:
Page 72 and 73:
Б. В. КРЫЖАНОВСКИЙ,
Page 74 and 75:
Page 76 and 77:
Page 78 and 79:
Page 80 and 81:
Page 82 and 83:
Page 84 and 85:
Page 86 and 87:
Н. Г. МАКАРЕНКОИнст
Page 88 and 89:
Page 90 and 91:
Page 92 and 93:
Page 94 and 95:
Page 96 and 97:
Page 98 and 99:
Page 100 and 101:
Page 102 and 103:
Page 104 and 105:
Page 106 and 107:
Page 108 and 109:
Page 110 and 111:
Page 112 and 113:
Page 114 and 115:
Page 116 and 117:
Page 118 and 119:
Page 120 and 121:
Page 122 and 123:
Page 124 and 125:
Page 126 and 127: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
Page 188: НАУЧНАЯ СЕССИЯ МИФ
show all

ÑÐ¾ÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 ÐÐ± - ÐÐ½ÑÐ¾ÑÐ¼Ð°ÑÐ¸Ð¾Ð½Ð½Ð¾ ...

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?

ÑÐ¾ÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 ÐÐ± - ÐÐ½ÑÐ¾ÑÐ¼Ð°ÑÐ¸Ð¾Ð½Ð½Ð¾ ...