формат Adobe PDF, размер 2173 Кб - Информационно ...

Б. В. КРЫЖАНОВСКИЙ, Л. Б. ЛИТИНСКИЙСтатистическая техника Чебышева–ЧерноваДадим асимптотическую оценку емкости памяти ПНС при N ≫ 1. Пустьначальным состоянием сети является искаженный m-й паттерн˜X m = (a 1̂b1 ⃗x m 1 , a 2̂b2 ⃗x m 2 , . . . , a N̂bN ⃗x m N ) .Независимые случайные величины {a i } N 1 и {̂b i } N 1 задают мультипликативныйшум. Случайная величина a i с вероятностью a принимает значение−1, а с вероятностью (1 − a) — значение 1 (в оптической терминологии —амплитудный шум). Случайный оператор ̂b i с вероятностью b изменяет состояниеi-го нейрона на другое, а с вероятностью (1 − b) оставляет вектор⃗x m i неизменным (в оптической терминологии — частотный шум). Оценим,при каких условиях m-й паттерн будет распознаваться сетью правильно.Амплитуды A il (6) имеют вид:{x m ∑ N−1iA il =j=1 ξ j + ∑ Lr=1 η r, для l = l (m)i ;∑ Lr=1 η r, для l ≠ l (m)i ,гдеξ j = a j (⃗x m j , ̂b j ⃗x m j ) ,η r ≡ η µ j (l) = a j(⃗e l , ⃗x µ i )(⃗xµ j ,̂b j ⃗x m j ) ,j = 1, . . . , N, j ≠ i ,µ = 1, . . . , p , µ ≠ mи, для простоты, величины η проиндексированы обобщенным индексомr = (j, µ), который принимает L = (N − 1)(p − 1) различных значений;зависимость величин η от l в дальнейшем никакой роли не играет, поэтомуl можно опустить.Для рандомизированного набора паттернов {X µ } p µ=1 случайные величиныξ j и η r независимы и имеют распределения⎧⎨ξ j =⎩⎧⎨η r =⎩+1 , с вероятностью (1 − b)(1 − a),0 , с вероятностью b,−1 , с вероятностью (1 − b)a;+1 , с вероятностью 1/2q 2 ,0 , с вероятностью 1 − 1/q 2 ,−1 , с вероятностью 1/2q 2 .(10)УДК 004.032.26 (06) Нейронные сети 79