Inversio-ongelmien peruskurssi - Oulu

Luku 3
Likimääräisratkaisut ja
regularisaatio
Ryhdytään tarkastelemaan klassista approksimatiivista ratkaisumenetelmää huonosti
asetetuille lineaarisille ongelmille.
3.1 Pienimmän neliösumman menetelmä
Olkoon x ∈ R n tuntematon vektori, A ∈ R m×n tunnettu matriisi ja
y = Ax + ε ∈ R m (3.1)
annettu data.
Pienimmän neliösumman menetelmässä (eng. least squares method) valitaan
yhtälön (3.3) likimääräisratkaisuksi sellainen ˆx, jolla
eli
‖Aˆx − y‖ 2 = min
x∈R n ‖Ax − y‖2 .
ˆx = argmin
x∈R n ‖Ax − y‖ 2 .
Merkintä argmin tarkoittaa funktionaalin x ↦→ ‖Ax −y‖ 2 sitä argumenttia jolla
minimi saavutetaan.
Huomautus 1. Termi likimääräisratkaisu tarkoittaa, että ˆx ei välttämättä toteuta
yhtälöä y = Aˆx.
( )
1 0
Esimerkki 9. Olkoon tuntematon x 0 = (1 0) T , A = ja y = Ax
0 0
0 +
(0 0.1) T = (1 0.1) T . Kun x = (x 1 , x 2 ) ∈ R 2 , niin
( ) ( ‖Ax − y‖ 2 =
1 0 x1
∥ 0 0
x 2
)
−
( )∥
1 ∥∥∥
2
= (x
0.1 1 − 1) 2 + 0.1 2 ≥ 0.01.
Näytetään, että pienimmän neliösumman ratkaisu on olemassa. Osoitetaan
ensin seuraava aputulos.
31