Monte Carlo Optimization - Seminarium szkoleniowe

Eliza Bujnowska () Monte Carlo Optimization 28 lutego 2006 33 / 38Algorytm oczekiwania - maksymalizacji (5)Zaprezentowane twierdzenie gwarantuje, niezmniejszanie si¦ funkcjiwiarygodno±ci logarytmicznej w ka»dym kroku iteracji, jednak dalej niejeste±my w stanie stwierdzi¢, »e ci¡g (ˆθ (j) ) zbiega do estymatoranajwi¦kszej wiarygodno±ci.Aby zapewni¢ t¦ zbie»no±¢ potrzebujemy dalszych warunków naodwzorowanie ˆθ (j) → ˆθ (j+1) .Twierdzenie poni»ej jest warunkiem gwarantuj¡cym zbie»no±¢ do punktustacjonarnego (lokalnego ekstremum lub punktu przegi¦cia).TwierdzenieJe±li warto±¢ oczekiwana wiarygodno±ci peªnych danych Q(θ|θ 0 , x) jestfunkcj¡ ci¡gª¡ zarówno θ, jak i θ 0 , to ka»dy punkt graniczny ci¡gu EM(ˆθ (j) ) jest punktem stacjonarnym L(θ|x), a L(ˆθ (j) |x) zbiega monotoniczniedo L(ˆθ|x) dla punktu stacjonarnego ˆθ.