2. Bayesin päätösteoria

Bayesin päätössääntö tuottaa optimaalisen suorituskyvyn, mikä nähdään
seuraavasti:
Oulun yliopisto, Hahmontunnistus ja neuroverkot (521497S), TS
18 / 99
Ongelmana on löytää kokonaisriskin minimoiva päätössääntö. Yleinen
päätössääntö on funktio α(x), joka kertoo mikä toiminto αi ∈ { α1 , ... , αc} tulee valita
kunkin tapauksen x kohdalla. Kokonaisriski on tiettyyn päätössääntöön liittyvä
kustannuksen odotusarvo:
R = R( α( x)
) = R( α( x)
, x)
dx
=
Kun α(x) päätyy valintaan αi siten, että R( αi x)
on pienin kaikilla x, ylläoleva
lauseke saa pienimmän arvonsa. M.O.T.
Pienintä kokonaisriskiä kutsutaan Bayesin riskiksi (Bayes risk) R*, joka on samalla
pienin saavutettavissa oleva riski.
Tarkastellaan 2-luokkaista erikoistapausta:
jossa on yksinkertaistettu merkintöjä käyttämällä λ ij =
Valitaan siis α1 , jos R( α1 x)
< R( α2 x)
, eli jos:
∫
∫R(
α( x)
x)p
( x)
dx
R( α1 x)
= λ11P( ω1 x)
+ λ12P( ω2 x)
R( α2 x)
= λ21P( ω1 x)
+ λ22P( ω2 x)
λ( αi ωj) ( λ21– λ11)P ( ω1 x)
> ( λ12– λ22)P ( ω2 x)
eli
( λ21– λ11)p ( x ω1)P ( ω1) > ( λ12– λ22)p ( x ω2)P ( ω2) eli
p( x ω1) ( λ12– λ22) -----------------------------------------p( x ω2) ( λ21– λ11) P ω ( 2)
>
--------------
P( ω1) Alinta muotoa kutsutaan likelihood ratio -suureeksi ja sen käyttöä päätössääntönä
LR-testiksi, jossa verrataan kahden uskottavuusfunktion suhdetta kynnysarvoon.