Skript

mit c < 1 2
ausreichend ist, zumindest lokal um eine Lösung. Die Bedingung
5.4 beschränkt die Art der nichtlinearität des Operators F und wird tangential
cone condition genannt. Diese Bedingung ersetzt in gewisser Weise die stetige
Invertierbarkeit des Operators F ′ (x † ), die bei der Konvergenzanalyse wohlgestellter
Probleme eine zentraler Vorraussetzung ist. Conditions on the nonlinearity
are not just artificial inventions, it can be shown that a slightly weaker
condition than (5.4) is actually necessary for the convergence of the Landweber
iteration (cf. [?]).
5.2 Newton-artige Methoden
Die grundlegende Ide von Newton-Methoden für nichtlineare Probleme wie (??)
ist eine lokale Linearisierung. Daher beinhaltet jeder Schritt der Methode die
Lösung des linearen Problems
F ′ (x k )(x k+1 − x k ) = −(F (x k ) − y). (5.5)
Da F ′ (x k ) jedoch im Fall schlecht-gestellter Probleme keine regulärer Operator
ist, ist die Gleichung zur Berechnung von selbst ein schlecht-gestelltes, lineares
Problem und x k+1 muss damit nicht wohl-definiert sein. Eine gebräuchliche
Stategy to Konstruktion von Newton-Methoden für nichtlineare, schlechtgestellte
Probleme ist daher Gleichung (5.5) mit einer Methode für lineare Problem
zu regularisieren. Zum Beispiel ergibt Tikhonov-Regularisierung (wobei
x k+1 − x k als die Unbekannte interpretiert wird)
(F ′ (x k ) ∗ F ′ (x k ) + α k I)(x k+1 − x k ) = −F ′ (x k ) ∗ (F (x k ) − y), (5.6)
die sogenannte Levenberg-Marquardt-Methode. Alternativ kann man die Tikhonov-
Regularisierung auch mit anderen a-prioi Informationen versehen, die gebräuchlichste
Form ist der Startwert x 0 in jedem Iterationsschritt:
(F ′ (x k ) ∗ F ′ (x k )+α k I)(x k+1 −x k ) = −F ′ (x k ) ∗ (F (x k )−y)+α k (x 0 −x k ). (5.7)
Diese Verfahren wird iterativ regularisierte Gauss-Newton-Methode genannt.
Der zusätzliche Term erhöht in einigen Fällen die Stabilität der Methode. Wir
bemerken, dass in beiden Fällen immernoch der Stop-Index der Regularierungsparameter
ist, nicht α k ! Der Parameter α k kann so gewählt werden, dass er gegen
Null konvergiert für k → ∞, um eine Überdämpfung der Newton-Methode
zu vermeiden. Im fall der Gauss-Newton-Methode ist α k → 0 sogar eine notwendige
Vorraussetzung für die Konvergenz der Methode, denn für α k → α ∞ >
0 würde man die Lösung des Tikhonov-Regularisierten Problems approximieren
und nicht die Lösung von (??).
The convergence analysis of Newton-type method is rather involved and shall
therefore be omitted here, we only mention that similar (sometimes weaker)
nonlinearity conditions as for the nonlinear Landweber iteration are used.
81