формат Adobe PDF, размер 2173 Кб - Информационно ...

ISBN 5–7262–0471–9ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕона может быть решена точно с использованием соотношений для условныхвероятностей. Понятие условной вероятности P (A | B) = x составляетоснову байесова подхода к анализу неопределенностей. Приведеннаяформула означает «при условии, что произошло B (и всего остального, чтоне имеет отношения к A), вероятность возникновения A равна x». Совместнаявероятность наступления событий A и B дается формулой полнойвероятности:P (A, B) = P (A | B) · P (B) .Если в нашем распоряжении имеется информация о зависимых переменных(следствиях), а суть исследования состоит в определении сравнительныхвероятностей исходных переменных (причин), то на помощь приходиттеорема Байеса.Пусть имеется условная вероятность P (A | B) наступления некоторогособытия A при условии, что наступило событие B. Теорема Байеса даетрешение для обратной задачи — какова вероятность наступления болеераннего события B, если известно что более позднее событие A наступило.Более точно, пусть A 1 , . . . , A n — набор (полная группа) несовместных взаимоисключающихсобытий (или альтернативных гипотез). Тогда апостериорнаявероятность P (A j | B) каждого их событий A j при условии, чтопроизошло событие B, выражается через априорную вероятность P (A j ):P (A j | B) =P (A j ) · P (B | A j )P (B) = ∑ nj=1 P (A j) · P (B | A j ) .Обратная вероятность P (B | A j ) называется правдоподобием (likelihood),а знаменатель P(B) в формуле Байеса — свидетельством (evidence) 5 .Совместная вероятность является наиболее полным статистическим описаниемнаблюдаемых данных. Совместное распределение представляетсяфункцией многих переменных — по числу исследуемых переменных в задаче.В общем случае это описание требует задания вероятностей всех5 Термин “evidence” не получил общеупотребительного аналога в отечественной литературе,и его чаще называют просто «знаменателем в формуле Байеса». Важность evidenceпроявляется при сравнительном теоретическом анализе различных моделей, статистическиобъясняющих наблюдаемые данные. Более предпочтительными являются модели,имеющие наибольшее значение evidence. К сожалению, на практике вычисление evidenceчасто затруднено, так как требует суммирования по всем реализациям параметров моделей.Популярным способом приближенного оценивания evidence являются специализированныеметоды Монте-Карло.158 УДК 004.032.26 (06) Нейронные сети