23.08.2013 Views

2. Bayesin päätösteoria

2. Bayesin päätösteoria

2. Bayesin päätösteoria

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

Oulun yliopisto, Hahmontunnistus ja neuroverkot (521497S), TS<br />

16 / 99<br />

<strong>Bayesin</strong> päätössääntö minimoi luokitteluvirheen keskimääräisen todennäköisyyden,<br />

mikä nähdään seuraavasti:<br />

Virheen keskimääräinen todennäköisyys saadaan lausekkeesta:<br />

∞<br />

∞<br />

∫<br />

P( virhe)<br />

= P( virhe, x)<br />

dx<br />

=<br />

– ∞<br />

P( virhe x)p<br />

( x)<br />

dx<br />

Tämä saa pienimmän arvonsa, kun P( virhe x)<br />

saa pienimmän arvonsa kaikissa<br />

kohdissa x.<br />

Yleisesti ottaen, kun havaitaan piirrearvo x, virheellisen luokittelupäätöksen todennäköisyys<br />

on:<br />

P( virhe x)<br />

=<br />

Noudatettaessa <strong>Bayesin</strong> päätössääntöä pätee jokaisessa pisteessä x:<br />

⎧<br />

⎨<br />

Siispä virheen keskimääräinen todennäköisyys saa pienimmän mahdollisen arvonsa<br />

käytettäessä <strong>Bayesin</strong> päätössääntöä! M.O.T.<br />

Mikään muu päätössääntö ei voi alittaa <strong>Bayesin</strong> luokitteluvirhettä. Mikäli siis<br />

todennäköisyydet tunnetaan (priorit ja jakaumat), kannattaa käyttää <strong>Bayesin</strong><br />

päätössääntöön perustuvaa luokittelijaa. Muut luokittelijat tuottavat korkeintaan<br />

yhtä hyviä tuloksia, todennäköisesti huonompia. Käytännön vaikeus on tietysti<br />

määrätä todennäköisyydet tarkasti.<br />

∫<br />

– ∞<br />

P( ω1 x),<br />

kun päätetään ω2 ⎩P(<br />

ω2 x),<br />

kun päätetään ω1 P( virhe x)<br />

=<br />

min[ P( ω1 x)<br />

, P( ω2 x)<br />

]

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!