Inversio-ongelmien peruskurssi - Oulu

Lemma 4. Matriisille M ∈ R m×n pätee R(M T ) ⊥ = Ker(M) eli
R n = R(M T ) ⊕ Ker(M).
Todistus. Olkoon x ∈ R(M T ) ⊥ Jokaisella z ∈ R m pätee
0 = (M T z, x) = (z, Mx)
vain jos Mx = 0 eli x ∈ Ker(M). Siis R(M T ) ⊥ ⊂ Ker(M). Toisaalta, jos
x ∈ Ker(M), niin
(M T z, x) = (z, Mx) = 0
jokaisella z ∈ R m , joten x ∈ R(M T ) ⊥ . Siis Ker(M) ⊂ R(M T ) ⊥ .
Lause 2. Olkoon A ∈ R m×n ja y ∈ R m . Minimointiongelmalla
on samat ratkaisut kuin yhtälöllä
Todistus. Lasketaan ensin sisätulo
ˆx = argmin
x∈R n ‖Ax − y‖ 2
A T Aˆx = A T y.
f(x) = ‖Ax − y‖ 2 = (Ax − y, Ax − y)
= (Ax, Ax) − (y, Ax) − (Ax, y) + (y, y)
= (A T Ax, x) − 2(A T y, x) + (y, y).
Funktionaalin f minimi, jos sellainen on , löytyy kriittisestä pisteestä. Lasketaan
gradientin nollakohdat
∇f(x) = ∇‖Ax − y‖ 2 = 2A T Ax − 2A T y = 0. (3.2)
Olkoon ˆx gradientin nollakohta eli A T Aˆx = A T y. Tämä on minimikohta, sillä
f(x) = ‖A(x − ˆx) + Aˆx − y‖ 2 = ‖A(x − ˆx)‖ 2 + 2(A(x − ˆx), Aˆx − y) + ‖Aˆx − y‖ 2
= ‖A(x − ˆx)‖ 2 + 2(x − ˆx, A T Aˆx − A T y) + ‖Aˆx − y‖ 2
= ‖A(x − ˆx)‖ 2 + ‖Aˆx − y‖ 2 .
Korollaari 2. Olkoon A ∈ R m×n ja y ∈ R m . Minimointiongelmalla
ˆx = argmin
x∈R n ‖Ax − y‖ 2
on olemassa ratkaisu ˆx. Ratkaisu on yksikäsitteinen vain jos Ker(A) = {0}.
Todistus. Lauseen 2 nojalla minimointiongelma on ekivalentti yhtälön A T Aˆx =
A T y kanssa. Tutkitaan yhtälön A T Ax = A T y yksikäsitteistä ratkeavuutta. Injektiivisyys:
Selvästi KerA ⊂ Ker(A T A). Lisäksi x ∈ Ker(A T A) eli A T Ax = 0
jos ja vain jos
0 = (A T Ax, z) = (Ax, Az)
32