Monte Carlo Optimization - Seminarium szkoleniowe

Eliza Bujnowska () Monte Carlo Optimization 28 lutego 2006 9 / 38Metody gradientoweMetoda optymalizacji oparta na wyznaczeniu gradientu funkcji jestnumerycznym przybli»eniem problemu maksymalizacji funkcji.Polega ona na wygenerowaniu ci¡gu (θ j ), który zbiega do dokªadnegorozwi¡zania θ ∗ , przy zaªo»eniu, »e przestrze« Θ ⊂ R d i funkcja s¡ wypukªe.Ci¡g tworzony jest rekurencyjnieθ j+1 = θ j + α j ∇h(θ j ),gdzie α j > 0, a ∇h jest gradientem funkcji h. W zale»no±ci od doboruci¡gu (α j ) algorytm zbiega do maksimum.