2. Bayesin päätösteoria
2. Bayesin päätösteoria
2. Bayesin päätösteoria
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
Oulun yliopisto, Hahmontunnistus ja neuroverkot (521497S), TS<br />
16 / 99<br />
<strong>Bayesin</strong> päätössääntö minimoi luokitteluvirheen keskimääräisen todennäköisyyden,<br />
mikä nähdään seuraavasti:<br />
Virheen keskimääräinen todennäköisyys saadaan lausekkeesta:<br />
∞<br />
∞<br />
∫<br />
P( virhe)<br />
= P( virhe, x)<br />
dx<br />
=<br />
– ∞<br />
P( virhe x)p<br />
( x)<br />
dx<br />
Tämä saa pienimmän arvonsa, kun P( virhe x)<br />
saa pienimmän arvonsa kaikissa<br />
kohdissa x.<br />
Yleisesti ottaen, kun havaitaan piirrearvo x, virheellisen luokittelupäätöksen todennäköisyys<br />
on:<br />
P( virhe x)<br />
=<br />
Noudatettaessa <strong>Bayesin</strong> päätössääntöä pätee jokaisessa pisteessä x:<br />
⎧<br />
⎨<br />
Siispä virheen keskimääräinen todennäköisyys saa pienimmän mahdollisen arvonsa<br />
käytettäessä <strong>Bayesin</strong> päätössääntöä! M.O.T.<br />
Mikään muu päätössääntö ei voi alittaa <strong>Bayesin</strong> luokitteluvirhettä. Mikäli siis<br />
todennäköisyydet tunnetaan (priorit ja jakaumat), kannattaa käyttää <strong>Bayesin</strong><br />
päätössääntöön perustuvaa luokittelijaa. Muut luokittelijat tuottavat korkeintaan<br />
yhtä hyviä tuloksia, todennäköisesti huonompia. Käytännön vaikeus on tietysti<br />
määrätä todennäköisyydet tarkasti.<br />
∫<br />
– ∞<br />
P( ω1 x),<br />
kun päätetään ω2 ⎩P(<br />
ω2 x),<br />
kun päätetään ω1 P( virhe x)<br />
=<br />
min[ P( ω1 x)<br />
, P( ω2 x)<br />
]