ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ... ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕв работе [53]. Принцип минимальной длины описания обсуждается в лекцияхС.А.Шумского [54] и Риссанена [55]. Его применение к оптимизациинейронной сети предложено в [56]. Байесовы аргументы в пользу логистическойфункции обсуждаются в препринте [57].Пределы предсказуемости: хаотическая динамика иэффект Эдипа в мягких системахЧто было, то и будет; и чтоделалось, то и будет делаться, инет ничего нового под солнцем.Книга Екклесиаста«Гл. 1 ст. 9»Мы начнем с простого, но поучительного примера прогноза хаотическойсистемы. Фазовым пространством здесь является единичный отрезок M =[0, 1], а динамика определяется дискретным кусочно-линейным отображениемx(n + 1) = 2x(n), (mod 1). Таким образом, каждая последующаякоордината фазовой точки получается удвоением предыдущего значения.Если полученное число больше 1, то эта единица отбрасывается — это иозначает символ (mod 1) (1) . Легко найти общее решение x(n) = 2 n x(0).Воспользуемся тем, что каждое число из интервала [0, 1] можно записатьв форме двоичной дроби: x(0) = 0, a 1 a 2 a 3 . . . a n . . ., где a i — принимаютзначения 0 либо 1 (2) . Умножение на 2 в двоичной арифметике эквивалентнопереносу запятой вправо на одну позицию и отбрасыванию единицы(mod 1). Поэтому такое отображение часто называют сдвигом Бернулли.Его график приведен на рис. 13.Рассмотрим некоторое начальное значение, например 0.10111001, заданноес точностью до восьми знаков. Первая цифра после запятой (1)означает, что начальная точка находится в правой половине единичногоинтервала (0, 5 < x(0) < 1); вторая цифра (0) означает, что начальная точканаходится в интервале 0, 5 < x(0) < 0, 75; и т. д. Следовательно, каждаяитерация (а это вариант интегрирования для уравнения!) уточняет «адрес»начальной точки. Выпишем первые три шага итерации для некоторого на-132 УДК 004.032.26 (06) Нейронные сети
Н. Г. МАКАРЕНКОРИС. 13. Сдвиг Бернулличального значения:x(0) = 0.10111001 ,x(1) = 0.0111001 ,x(2) = 0.111001 ,x(3) = 0.11001 .Мы видим, что каждый последующий шаг динамики не что иное, какуточнение начального условия! Предположим теперь, что точность начальныхданных ограничена — в нашем примере восемью разрядами. Инымисловами, мы не знаем, какой символ стоит в девятом разряде: 0 или 1. Тогдачерез восемь последовательных итераций эта девятая цифра окажетсясразу после запятой, и мы не будем знать, справа или слева от серединыинтервала окажется фазовая точка. Самое удивительное в том, что нашапростая модель не содержит каких либо случайных членов — она полностьюдетерминирована! Итак, чему же учит сдвиг Бернулли?• Любой прогноз сводится к уточнению начальных данных, точностькоторых всегда ограничена!• Некоторые детерминированные системы имеют ограниченный горизонтпредсказуемости (3) . Такие системы называют хаотическими.УДК 004.032.26 (06) Нейронные сети 133
- Page 82 and 83: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 84 and 85: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 86 and 87: Н. Г. МАКАРЕНКОИнст
- Page 88 and 89: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 90 and 91: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 92 and 93: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 94 and 95: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 96 and 97: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 98 and 99: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 100 and 101: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 102 and 103: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 104 and 105: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 106 and 107: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 108 and 109: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 110 and 111: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 112 and 113: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 114 and 115: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 116 and 117: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 118 and 119: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 120 and 121: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 122 and 123: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 124 and 125: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 126 and 127: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 128 and 129: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 130 and 131: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 134 and 135: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 136 and 137: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 138 and 139: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 140 and 141: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 142 and 143: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 144 and 145: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 146 and 147: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 148 and 149: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 150 and 151: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 152 and 153: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 154 and 155: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 156 and 157: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 158 and 159: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 160 and 161: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 162 and 163: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 164 and 165: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 166 and 167: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 168 and 169: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 170 and 171: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 172 and 173: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 174 and 175: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 176 and 177: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 178 and 179: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 180 and 181: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕв работе [53]. Принцип минимальной длины описания обсуждается в лекцияхС.А.Шумского [54] и Риссанена [55]. Его применение к оптимизациинейронной сети предложено в [56]. Байесовы аргументы в пользу логистическойфункции обсуждаются в препринте [57].Пределы предсказуемости: хаотическая динамика иэффект Эдипа в мягких системахЧто было, то и будет; и чтоделалось, то и будет делаться, инет ничего нового под солнцем.Книга Екклесиаста«Гл. 1 ст. 9»Мы начнем с простого, но поучительного примера прогноза хаотическойсистемы. Фазовым пространством здесь является единичный отрезок M =[0, 1], а динамика определяется дискретным кусочно-линейным отображениемx(n + 1) = 2x(n), (mod 1). Таким образом, каждая последующаякоордината фазовой точки получается удвоением предыдущего значения.Если полученное число больше 1, то эта единица отбрасывается — это иозначает символ (mod 1) (1) . Легко найти общее решение x(n) = 2 n x(0).Воспользуемся тем, что каждое число из интервала [0, 1] можно записатьв форме двоичной дроби: x(0) = 0, a 1 a 2 a 3 . . . a n . . ., где a i — принимаютзначения 0 либо 1 (2) . Умножение на 2 в двоичной арифметике эквивалентнопереносу запятой вправо на одну позицию и отбрасыванию единицы(mod 1). Поэтому такое отображение часто называют сдвигом Бернулли.Его график приведен на рис. 13.Рассмотрим некоторое начальное значение, например 0.10111001, заданноес точностью до восьми знаков. Первая цифра после запятой (1)означает, что начальная точка находится в правой половине единичногоинтервала (0, 5 < x(0) < 1); вторая цифра (0) означает, что начальная точканаходится в интервале 0, 5 < x(0) < 0, 75; и т. д. Следовательно, каждаяитерация (а это вариант интегрирования для уравнения!) уточняет «адрес»начальной точки. Выпишем первые три шага итерации для некоторого на-132 УДК 004.032.26 (06) Нейронные сети