IEVADS OPTIMIZ¯ACIJ¯A

2.3. Minimuma punkta meklēˇsanas metodes vairāku argumentu funkcijām 45
Piemēram, aplūkosim divu argumentu funkciju f(x1; x2) un tās pieaugumu
punktā (u1; u2):
f(u1 + h1; u2 + h2) − f(u1; u2) = ∂f
(u1; u2) · h1 +
∂x1
∂f
(u1; u2) · h2 + o
∂x2
|h| ,
kur o |h| ir augstākas kārtas loceklis nekā |h| = h2 1 + h22 , t.i.,
Ir spēkā formula
o(|h|)
|h| −−−→
|h|→0 0.
∂f
· h1 +
∂x1
∂f
· h2 =
∂x2
grad f(u); h =
grad f(u) · |h| · cos ϕ,
kur ϕ ir leņk¸is starp vektoriem grad f(u) un h = (h1; h2). Pieņemsim, ka
vektors (h1; h2) ir normēts, t.i., |h| = 1. Viegli redzēt, ka summa
∂f
(u1; u2) · h1 +
∂x1
∂f
(u1; u2) · h2
∂x2
būs vislielākā tad, kad pieauguma vektors (h1; h2) ir vērsts funkcijas f
gradienta virzienā (t.i., vektori grad f(u) un (h1; h2) ir kolineāri), jo tad
cos ϕ = 1.
2.1. piezīme. Atzīmēsim, ka vektors − grad f(u), kuru sauc par antigradientu,
ir vērsts funkcijas straujākās dilˇsanas virzienā.
2.5. piemērs. Funkcijas f(x; y) = x 2 + y 2 , kuras grafiks ir eliptiskais
paraboloīds ar virsotni koordinātu sākumpunktā, antigradienta vektors
(−2x; −2y) jebkurā nenulles punktā (x; y) ir vērsts uz koordinātu
sākumpunktu.
Gradientu metodes centrālā ideja - virzīties uz funkcijas iespējamo minimuma
punktu pa lauztu līniju tā, lai katrā lūzuma punktā kustības virziens
sakristu ar antigradienta virzienu.
Gradientu metodes iteratīva formula:
un+1 = un − αn+1 · grad f(un),
kur αn+1 - pozitīvs skaitlis.
Parametra α izvēle. Katrā solī ir jāizvēlas parametra α vērtība. Ja
skaitl¸a α vērtība ir pārāk liela, tad funkcijas f vērtība punktā un+1 var
kl¸ūt lielāka par f(un).