Skript

5.4 Konjugierte-Gradienten-Verfahren
Die Methode der kunjugierten Gradienten ist vermutlich das am weitesten verbreitete
Schema für die Lösung linearer Gleichungssysteme mit positiv-definiten
Operatoren. Ohne die Vorraussetzung, dass T symmetrisch und positiv-definit
ist kann man das Konjugierte-Gradienten-Verfahren nur auf die Gauß-Normalengleichung
T ∗ T x = T ∗ y (5.10)
anwenden (Conjugate Gradient Method on the Normal Equations, CGNE). Die
wichtigste Eigenschaft des Verfahrens ist, dass das Residuum in einem Krylov-
Unterraum minimiert wird (verschoben um x 0 in Falle eines nicht-homogenen
Startwertes), d.h.
‖T x k − y‖ = min{‖T x − y‖ | x − x 0 ∈ K k (T ∗ (y − T x 0 ), T ∗ T )},
mit
K k (z, B) := { B j z | j = 0, 1, 2, . . . , k }.
Da die Minimierung von ‖T x k − y‖ im allgemeinen ein schlecht-gestelltes Problem
ist, kann dies als Regularisierung durch Projektion in den kompakten,
endlich-dimensionalen Unterraum K k (T ∗ (y−T x 0 ), T ∗ T ) interpretiert werden.
Der komplette Tlgorithmus lautet dann:
• Initialisiere x 0 , d 0 = y − T x 0 , p 1 = s 0 = T ∗ d 0 .
• Für k = 1, 2, . . . und solange s k−1 ≠ 0: Berechne
q k = T p k
α k = ‖s k−1 ‖ 2 /‖q k ‖ 2
x k = x k−1 + α k p k ,
d k = d k−1 − α k q k ,
s k = T ∗ d k ,
β k = ‖s k ‖ 2 /‖s k−1 ‖ 2 ,
p k+1 = s k + β k p k .
From the iteration procedure one observes that the conjugate gradient method
is a nonlinear iteration scheme, which is the most fundamental difference to
all regularization methods considered above. This means that the conjugate
gradient method (even for linear ill-posed problems) is a nonlinear regularization
method. The convergence analysis can therefore not be based on general
results obtain for linear regularization methods as above, but has to be carried
out by other means. Fortunately, the nonlinearity is not too strong to destroy
the possibility of using the singular value decomposition for most parts of the
analysis (cf. [?, ?]).
83