формат Adobe PDF, размер 2173 Кб - Информационно ...

формат Adobe PDF, размер 2173 Кб - Информационно ... формат Adobe PDF, размер 2173 Кб - Информационно ...

neurolectures.narod.ru
from neurolectures.narod.ru More from this publisher
11.07.2015 Views

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕв работе [53]. Принцип минимальной длины описания обсуждается в лекцияхС.А.Шумского [54] и Риссанена [55]. Его применение к оптимизациинейронной сети предложено в [56]. Байесовы аргументы в пользу логистическойфункции обсуждаются в препринте [57].Пределы предсказуемости: хаотическая динамика иэффект Эдипа в мягких системахЧто было, то и будет; и чтоделалось, то и будет делаться, инет ничего нового под солнцем.Книга Екклесиаста«Гл. 1 ст. 9»Мы начнем с простого, но поучительного примера прогноза хаотическойсистемы. Фазовым пространством здесь является единичный отрезок M =[0, 1], а динамика определяется дискретным кусочно-линейным отображениемx(n + 1) = 2x(n), (mod 1). Таким образом, каждая последующаякоордината фазовой точки получается удвоением предыдущего значения.Если полученное число больше 1, то эта единица отбрасывается — это иозначает символ (mod 1) (1) . Легко найти общее решение x(n) = 2 n x(0).Воспользуемся тем, что каждое число из интервала [0, 1] можно записатьв форме двоичной дроби: x(0) = 0, a 1 a 2 a 3 . . . a n . . ., где a i — принимаютзначения 0 либо 1 (2) . Умножение на 2 в двоичной арифметике эквивалентнопереносу запятой вправо на одну позицию и отбрасыванию единицы(mod 1). Поэтому такое отображение часто называют сдвигом Бернулли.Его график приведен на рис. 13.Рассмотрим некоторое начальное значение, например 0.10111001, заданноес точностью до восьми знаков. Первая цифра после запятой (1)означает, что начальная точка находится в правой половине единичногоинтервала (0, 5 < x(0) < 1); вторая цифра (0) означает, что начальная точканаходится в интервале 0, 5 < x(0) < 0, 75; и т. д. Следовательно, каждаяитерация (а это вариант интегрирования для уравнения!) уточняет «адрес»начальной точки. Выпишем первые три шага итерации для некоторого на-132 УДК 004.032.26 (06) Нейронные сети

Н. Г. МАКАРЕНКОРИС. 13. Сдвиг Бернулличального значения:x(0) = 0.10111001 ,x(1) = 0.0111001 ,x(2) = 0.111001 ,x(3) = 0.11001 .Мы видим, что каждый последующий шаг динамики не что иное, какуточнение начального условия! Предположим теперь, что точность начальныхданных ограничена — в нашем примере восемью разрядами. Инымисловами, мы не знаем, какой символ стоит в девятом разряде: 0 или 1. Тогдачерез восемь последовательных итераций эта девятая цифра окажетсясразу после запятой, и мы не будем знать, справа или слева от серединыинтервала окажется фазовая точка. Самое удивительное в том, что нашапростая модель не содержит каких либо случайных членов — она полностьюдетерминирована! Итак, чему же учит сдвиг Бернулли?• Любой прогноз сводится к уточнению начальных данных, точностькоторых всегда ограничена!• Некоторые детерминированные системы имеют ограниченный горизонтпредсказуемости (3) . Такие системы называют хаотическими.УДК 004.032.26 (06) Нейронные сети 133

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕв работе [53]. Принцип минимальной длины описания обсуждается в лекцияхС.А.Шумского [54] и Риссанена [55]. Его применение к оптимизациинейронной сети предложено в [56]. Байесовы аргументы в пользу логистическойфункции обсуждаются в препринте [57].Пределы предсказуемости: хаотическая динамика иэффект Эдипа в мягких системахЧто было, то и будет; и чтоделалось, то и будет делаться, инет ничего нового под солнцем.Книга Екклесиаста«Гл. 1 ст. 9»Мы начнем с простого, но поучительного примера прогноза хаотическойсистемы. Фазовым пространством здесь является единичный отрезок M =[0, 1], а динамика определяется дискретным кусочно-линейным отображениемx(n + 1) = 2x(n), (mod 1). Таким образом, каждая последующаякоордината фазовой точки получается удвоением предыдущего значения.Если полученное число больше 1, то эта единица отбрасывается — это иозначает символ (mod 1) (1) . Легко найти общее решение x(n) = 2 n x(0).Воспользуемся тем, что каждое число из интервала [0, 1] можно записатьв форме двоичной дроби: x(0) = 0, a 1 a 2 a 3 . . . a n . . ., где a i — принимаютзначения 0 либо 1 (2) . Умножение на 2 в двоичной арифметике эквивалентнопереносу запятой вправо на одну позицию и отбрасыванию единицы(mod 1). Поэтому такое отображение часто называют сдвигом Бернулли.Его график приведен на рис. 13.Рассмотрим некоторое начальное значение, например 0.10111001, заданноес точностью до восьми знаков. Первая цифра после запятой (1)означает, что начальная точка находится в правой половине единичногоинтервала (0, 5 < x(0) < 1); вторая цифра (0) означает, что начальная точканаходится в интервале 0, 5 < x(0) < 0, 75; и т. д. Следовательно, каждаяитерация (а это вариант интегрирования для уравнения!) уточняет «адрес»начальной точки. Выпишем первые три шага итерации для некоторого на-132 УДК 004.032.26 (06) Нейронные сети

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!