2. Bayesin päätösteoria

More documents

Recommendations

Info

α* = arg min R( ωi x) i Suurimpaan posterioritodennäköisyyteen perustuvan päätössäännön muoto ei myöskään muutu, eikä aiemmin esiteltyjen diskriminanttifunktioiden muodot. 2.9. Bayesin verkot Kaikissa sovelluksissa tietämyksemme ratkaistavasta ongelmasta ei sisällä tietoa piirteiden jakaumista, vaan osassa tiedetään jotain piirteiden välisistä riippuvuuksista tai riippumattomuuksista. Bayesin verkot (Bayesian networks) on kehitetty mallintamaan tällaista tietoa ja tekemään sen perusteella tilastollista päättelyä. Muita nimikkeitä ovat Bayesin uskomusverkot (Bayesian belief networks), kausaaliverkot (causal neworks) ja uskomusverkot (belief networks). Oulun yliopisto, Hahmontunnistus ja neuroverkot (521497S), TS 44 / 99 Mikäli kahdelle satunnaismuuttujalle x ja y pätee: p(x, y) = p(x)p(y), näiden muuttujien sanotaan olevan tilastollisesti riippumattomia. Samoin jonkin piirrevektorin komponentit voivat olla tilastollisesti riippumattomia. Alla olevassa kuvassa on esitetty 3-ulotteisten piirrevektorien avulla erään luokan sijoittuminen piirreavaruuteen. Muuttujat x 1 ja x 3 ovat toisistaan tilastollisesti riippumattomia, mutta muut eivät. Mistä tämä nähdään? Bayesin verkot ovat suunnattuja syklittömiä verkkoja, joka sisältää solmuja ja niitä yhdistäviä suunnattuja linkkejä. Linkit esittävät muuttujien välisiä riippuvuussuhteita, kuten syy-seuraus-suhteita. Verkot voivat toimia myös moniulotteisten jatkuvien jakaumien esitystapana, mutta käytännössä niitä on eniten sovellettu diskreettien todennäköisyysmassojen esittämiseen. Kukin solmu A, B,... esittää yhtä ongelman muuttujaa. Kullakin diskreetillä muuttujalla voi olla useita eri tiloja, joita merkitään pienellä kirjaimella vastaavasti ai, bj,... alaindeksin merkitessä tiettyä tilaa. Esimerkiksi A voi merkitä binäärisen kytkimen tilaa: a1 = ‘on’ ja a2 = ‘off’, jolloin vaikkapa P(a1 )=0,739 ja P(a2 )=0,261. Todennäköisyydet summautuvat ykköseksi kaikissa muuttujissa. Alla olevassa kuvassa solmusta A solmuun C kulkeva linkki esittää ehdollisia todennäköisyyksiä P( ci aj) , joka tiiviimmin ilmaistaan muodossa P( c a) , jossa a ja c ovat muuttujien A ja C tilat koottuina vektoreiksi: a [ a1, …, an] . T ja c [ c1, …, cm] T = =
Oulun yliopisto, Hahmontunnistus ja neuroverkot (521497S), TS 45 / 99 Bayesin päättelyn avulla voidaan verkkoa hyödyntäen laskea kunkin muuttujan eri arvojen todennäköisyydet. Itse asiassa, mikä tahansa useasta muuttujasta koostuvan yhdistelmän todennäköisyys (yhteistodennäköisyys, joint probability) on mahdollista laskea verkosta. Todennäköisyyksien laskennassa huomioidaan verkon ilmoittamat riippuvuudet, jolloin päästään yksinkertaistamaan (ja nopeuttamaan) laskentaa merkittävästi. Tarkastellaan ensin yksittäisen muuttujan arvojen todennnäköisyyksien laskemista esimerkkien avulla. Ennen esimerkkejä kolme tärkeää seikkaa: 1) Marginalisointi, jossa todennäköisyyksiä summataan määrättyjen muuttujien
Page 1 and 2: 2. Bayesin päätösteoria 2.1. Joh
Page 3 and 4: Oulun yliopisto, Hahmontunnistus ja
Page 5 and 6: 2.2. Bayesin päätösteoria - jatk
Page 11 and 12: 2.4. Normaalijakauma Oulun yliopist
Page 15 and 16: 2.5. Diskriminanttifunktioita norma
Page 19 and 20: Mikäli prioritodennäköisyydet ov
Page 21 and 22: Vastaavalla tavalla kuin edellisess
Page 25 and 26: Allaolevassa kuvassa pyritään ero
Page 31: Kuvasta tehdään tärkeä havainto
Page 35 and 36: 3) Vakiotermien siirtäminen summal
Page 37 and 38: = = ∑ P( h) = P( e, f, g, h) e, f
Page 39 and 40: a 1 = talvi a 2 = kevät a 3 = kes
Page 41: saadaan, että α=1/0,18 , P(x 1|c

2. Bayesin päätösteoria

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?