ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ... ÑоÑÐ¼Ð°Ñ Adobe PDF, ÑÐ°Ð·Ð¼ÐµÑ 2173 Ðб - ÐнÑоÑмаÑионно ...
ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕМы будем использовать следующие стандартные обозначения:• Запись x ∈ X означает, что x принадлежит X.• Запись {x|d(a, x) < r} читается: множество таких x, для которыхрасстояние от точки a меньше r.• Запись A ⊂ B (A ⊆ B) означает, что A содержится в B (содержитсяили совпадает с B).• Объединением множеств A и B называют множество C = A ∪ B,состоящее из элементов c ∈ C, каждый из которых принадлежит Aили (и) B.• Пересечением A и B называют множество C = A ∩ B, каждый элементc которого входит и в A, и в B.Соответствие между различными множествами удобно описывать функциямиили отображениями: f(∗) или f : X → Y . Подмножество {f(x)} ∈Y — это область значений функции, а {x} ∈ X — ее область определения.Метрическое пространство (M, d) — это множество M вместе с вещественнозначнойфункцией d, которая удовлетворяет аксиомам метрики. ДляM ≡ R n , где R n — n-мерное евклидово пространство (обозначается какn = dim M), часто используют L 2 -метрику[∑d(x, y) = (x i − y i ) 2] 1/2.iПусть (M, d) — метрическое пространство и r > 0 — действительноечисло. Тогда открытым шаром в точке a ∈ M называется подмножествоB(a, r) ⊂ M : B(a, r) = {x ∈ M | d(a, x) < r}. Шар называется замкнутым,если d(a, x) r.Отображение f : A → B называют сюръекцией или отображениемна, если образ всего A совпадает с B, т. е. каждый элемент из B являетсяобразом по крайней мере одного элемента из A. Если A = B, то элемент x,удовлетворяющий условию x = f(x) (f : A → A), называют неподвижнойточкой отображения f. Отображение ϕ : A → B называют инъективнымили взаимно однозначным, если ∀y ∈ B существует не более одного элементаx ∈ A такого, что y = ϕ(x). Тогда ϕ(x) = ϕ(y) влечет x = y. ЕслиB = R n , то f называют функцией: впрочем, термины «функция» и «отображение»обычно считают синонимами. Обратную к f(x) функцию будемобозначать f −1 (x). Отображение, являющееся инъективным и сюръективным,называется биекцией. Теперь сформулируем условие непрерывности:90 УДК 004.032.26 (06) Нейронные сети
Н. Г. МАКАРЕНКОотображение f : X → Y непрерывно в x ∈ X, если для любой окрестностиV , открытой в Y и содержащей точку f(x), найдется такая открытаяв X окрестность U(x), что f(U) ⊂ V . Для метрических пространств этоопределение совпадает с классическим, записанным на (ε−δ)-языке. Отображениеϕ открытого множества U из R n в R m называется гладким, еслионо имеет непрерывные частные производные всех порядков: говорят, чтоϕ имеет класс C r , если это справедливо для производных до порядка rвключительно. В более общем случае, когда область определения f не открыта,отображение ϕ : X → R n называют гладким, если для каждой точкиx ∈ X существует открытая окрестность U ⊂ R n и гладкое отображениеF : U → R n такое, что F = f на U ∩ X (рис. 1).FXxf(x)f(X)UfF(U)РИС. 1. Определение гладкого отображенияИзвестно важное свойство гладких функций: если дифференциал такойфункции в точке x имеет некоторое свойство, то сама функция будет иметьтакое же свойство по меньшей мере в окрестности точки x. Например, еслипроизводная f ′ (x 0 ) функции f положительна, f ′ (x 0 ) > 0, то в малойокрестности точки x 0 функция f возрастает (1) . Это свойство называютобычно принципом общего положения или принципом (догмой) линеаризации,поскольку дифференциал функции является линейной частью отображения(2) . Принципу общего положения удовлетворяет не каждая функция,поэтому важно сделать математически точными утверждения о выполнимостинекоторого свойства для «почти каждой» функции (3) . Вообще говоря,любые свойства математических объектов можно классифицировать какобычные (usual) и необычные (unusual). Стандартный прием выразить распространенностьнекоторого свойства, выполняющегося на подмножествеA ⊆ B, сводятся к тому, чтобы показать, что обычные свойства соответствуютподмножеству с большей мерой. Однако, пространство функцийУДК 004.032.26 (06) Нейронные сети 91
- Page 40 and 41: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 42 and 43: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 44 and 45: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 46 and 47: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 48 and 49: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 50 and 51: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 52 and 53: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 54 and 55: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 56 and 57: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 58 and 59: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 60 and 61: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 62 and 63: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 64 and 65: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 66 and 67: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 68 and 69: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 70 and 71: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 72 and 73: Б. В. КРЫЖАНОВСКИЙ,
- Page 74 and 75: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 76 and 77: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 78 and 79: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 80 and 81: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 82 and 83: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 84 and 85: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 86 and 87: Н. Г. МАКАРЕНКОИнст
- Page 88 and 89: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 92 and 93: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 94 and 95: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 96 and 97: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 98 and 99: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 100 and 101: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 102 and 103: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 104 and 105: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 106 and 107: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 108 and 109: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 110 and 111: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 112 and 113: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 114 and 115: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 116 and 117: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 118 and 119: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 120 and 121: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 122 and 123: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 124 and 125: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 126 and 127: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 128 and 129: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 130 and 131: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 132 and 133: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 134 and 135: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 136 and 137: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
- Page 138 and 139: ISBN 5-7262-0471-9ЛЕКЦИИ ПО
Н. Г. МАКАРЕНКОотображение f : X → Y непрерывно в x ∈ X, если для любой окрестностиV , открытой в Y и содержащей точку f(x), найдется такая открытаяв X окрестность U(x), что f(U) ⊂ V . Для метрических пространств этоопределение совпадает с классическим, записанным на (ε−δ)-языке. Отображениеϕ открытого множества U из R n в R m называется гладким, еслионо имеет непрерывные частные производные всех порядков: говорят, чтоϕ имеет класс C r , если это справедливо для производных до порядка rвключительно. В более общем случае, когда область определения f не открыта,отображение ϕ : X → R n называют гладким, если для каждой точкиx ∈ X существует открытая окрестность U ⊂ R n и гладкое отображениеF : U → R n такое, что F = f на U ∩ X (рис. 1).FXxf(x)f(X)UfF(U)РИС. 1. Определение гладкого отображенияИзвестно важное свойство гладких функций: если дифференциал такойфункции в точке x имеет некоторое свойство, то сама функция будет иметьтакое же свойство по меньшей мере в окрестности точки x. Например, еслипроизводная f ′ (x 0 ) функции f положительна, f ′ (x 0 ) > 0, то в малойокрестности точки x 0 функция f возрастает (1) . Это свойство называютобычно принципом общего положения или принципом (догмой) линеаризации,поскольку дифференциал функции является линейной частью отображения(2) . Принципу общего положения удовлетворяет не каждая функция,поэтому важно сделать математически точными утверждения о выполнимостинекоторого свойства для «почти каждой» функции (3) . Вообще говоря,любые свойства математических объектов можно классифицировать какобычные (usual) и необычные (unusual). Стандартный прием выразить распространенностьнекоторого свойства, выполняющегося на подмножествеA ⊆ B, сводятся к тому, чтобы показать, что обычные свойства соответствуютподмножеству с большей мерой. Однако, пространство функцийУДК 004.032.26 (06) Нейронные сети 91