ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ... ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕРИС. 5. Осредненные характеристики воспроизведенияПолучены по траекториям, сходящимся к правильным (a) и ложным (b) аттракторамдля p = 0.5, m in = 0.3, α = 0.09 and N = 5000. Здесь p 11 — пунктирныелинии; p 10 — штрих-пунктирные линии; p 01 — тонкие сплошные линии; p 00 —штриховые линии; m — толстые сплошные линии.к правильным (рис. 5а) и ложным (рис. 5b) аттракторам (около 250 траекторийдля каждого случая). На первом шаге нейродинамики усредненныепараметры для траекторий, сходящихся к правильным и ложным аттракторам,совпадают между собой и с предсказанием SS-приближения. На этомшаге пересечение с воспроизводимым эталоном возрастает. Для траекторий,сходящихся к правильным аттракторам, оно продолжает возрастатьи на следующих шагах. Однако для траекторий, сходящихся к ложныматтракторам, оно возрастает только на нескольких первых шагах, а затеммедленно падает. Это хорошо знакомое поведение траекторий, сходящихсяк правильным и ложным аттракторам, которые начинаются внутри областипритяжения, предсказанной SS-приближением. Более интересно взглянутьна поведение вероятностей p µν , определенных в разделе «Информация, извлекаемаяиз сети за счет коррекции искаженных эталонов» (см. с. 41). Дляплотного кодирования поведение нейронов, активных и неактивных в воспроизводимыхэталонах, симметрично, т. е. p 01 = 1−p 10 , а p 00 = 1−p 11 . На54 УДК 004.032.26 (06) Нейронные сети
А. А. ФРОЛОВ, Д. ГУСЕК, И. П. МУРАВЬЕВпервом шаге, в соответствии с предсказаниями SS- и SN-приближений, вероятностиp 11 и p 10 равны. На следующем шаге они становятся различными,затем медленно сближаются для траекторий, сходящихся к правильныматтракторам, и остаются различными для траекторий, сходящихся к ложныматтракторам. Нейроны, которые были активны в начальном паттерне,имеют большую вероятность активироваться: p 11 > p 10 , а p 01 > p 00 . Такимобразом, нейроны как бы «помнят» свою предысторию в течение многихшагов нейродинамики. Этот факт игнорируется SN-приближениями всехпорядков. Однако для плотного кодирования различие между p 11 и p 10 нетак велико. Поэтому это приближение оказывается достаточно точным дляплотного кодирования эталонов. Для разреженного кодирования, как показанодалее, различие в поведении нейронов, активных и неактивных вначальном паттерне, более значительно.РИС. 6. Зависимость качества воспроизведения от α и N дляp = 0.5, полученные компьютерным моделированием. Значенияα меняются от 0.1 (нижняя линия) до 0.14 (верхняя линия) сшагом 0.1УДК 004.032.26 (06) Нейронные сети 55
- Page 4 and 5: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 6 and 7: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 8 and 9: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 10 and 11: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 12 and 13: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 14 and 15: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 16 and 17: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 18 and 19: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 20 and 21: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 22 and 23: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 24 and 25: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 26 and 27: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 28 and 29: А. А. ФРОЛОВ 1) , Д. ГУ
- Page 30 and 31: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 32 and 33: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 34 and 35: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 36 and 37: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 38 and 39: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 40 and 41: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 42 and 43: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 44 and 45: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 46 and 47: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 48 and 49: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 50 and 51: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 52 and 53: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 56 and 57: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 58 and 59: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 60 and 61: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 62 and 63: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 64 and 65: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 66 and 67: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 68 and 69: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 70 and 71: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 72 and 73: Б. В. КРЫЖАНОВСКИЙ,
- Page 74 and 75: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 76 and 77: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 78 and 79: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 80 and 81: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 82 and 83: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 84 and 85: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 86 and 87: Н. Г. МАКАРЕНКОИнст
- Page 88 and 89: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 90 and 91: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 92 and 93: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 94 and 95: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 96 and 97: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 98 and 99: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 100 and 101: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 102 and 103: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
А. А. ФРОЛОВ, Д. ГУСЕК, И. П. МУРАВЬЕВпервом шаге, в соответствии с предсказаниями SS- и SN-приближений, вероятностиp 11 и p 10 равны. На следующем шаге они становятся различными,затем медленно сближаются для траекторий, сходящихся к правильныматтракторам, и остаются различными для траекторий, сходящихся к ложныматтракторам. Нейроны, которые были активны в начальном паттерне,имеют большую вероятность активироваться: p 11 > p 10 , а p 01 > p 00 . Такимобразом, нейроны как бы «помнят» свою предысторию в течение многихшагов нейродинамики. Этот факт игнорируется SN-приближениями всехпорядков. Однако для плотного кодирования различие между p 11 и p 10 нетак велико. Поэтому это приближение оказывается достаточно точным дляплотного кодирования эталонов. Для разреженного кодирования, как показанодалее, различие в поведении нейронов, активных и неактивных вначальном паттерне, более значительно.РИС. 6. Зависимость качества воспроизведения от α и N дляp = 0.5, полученные компьютерным моделированием. Значенияα меняются от 0.1 (нижняя линия) до 0.14 (верхняя линия) сшагом 0.1УДК 004.032.26 (06) Нейронные сети 55
Change language