Monte Carlo Optimization - Seminarium szkoleniowe

Algorytm oczekiwania - maksymalizacji (2)Na podstawie powy»szej równo±ci mo»na zaobserwowa¢ nast¦puj¡c¡zale»no±¢ mi¦dzy wiarygodno±ci¡ peªnych danych L c (θ|x, z), awiarygodno±ci¡ obserwowanych danych L(θ|x).dla dowolnego θ 0 .logL(θ|x) = E θ 0 [logLc (θ|x, z)] − E θ 0 [logk(z|θ, x)],Na potrzeby omawianego algorytmu oznaczmy warto±¢ oczekiwan¡wiarygodno±ci logartymicznej jako:Q(θ|θ 0 , x) = E θ 0 [logLc (θ|x, z)].Nast¦pnie dla ustalonego θ 0 maksymalizujemy Q(θ|θ 0 , x) wzgl¦dem θ, aje±li ˆθ (1) jest warto±ci¡ maksymalizuj¡c¡ to wyra»enie, to powtarzamyproces modykuj¡c warto±¢ θ 0 na ˆθ (1) . Post¦puj¡c iteracyjnie otrzymujemyci¡g estymatorów ˆθ (j) , j = 1, 2, . . ., gdzie ˆθ (j) jest warto±ci¡ θmaksymalizuj¡c¡ wyra»enie Q(ˆθ (j) |ˆθ (j−1) , x).Q(ˆθ (j) |ˆθ (j−1) , x) = max θ Q(θ|ˆθ (j−1) , x).Eliza Bujnowska () Monte Carlo Optimization 28 lutego 2006 30 / 38