Hesse-Matrix - imng

Hesse-Matrix
Die quadratische Taylor-Approximation einer skalaren Funktion f in einem
Punkt mit Koordinaten a = (a 1 , . . . , a n ) lässt sich in der Form
f (x 1 , . . . , x n ) = f (a) + (grad f (a)) t (x − a)
+ 1 2 (x − a)t H f (a)(x − a) + O(|(x − a)| 3 )
schreiben, wobei die symmetrische Hesse-Matrix
⎛
⎞
∂ 1 ∂ 1 f (a) · · · ∂ 1 ∂ n f (a)
⎜
⎟
H f (a) = ⎝ .
. ⎠
∂ n ∂ 1 f (a) · · · ∂ n ∂ n f (a)
die zweiten Ableitungen enthält.
Hesse-Matrix 1-1

Beweis:
Umschreiben der quadratischen Terme der Taylor-Entwicklung (n = 2)
Hesse-Matrix 2-1

Beweis:
Umschreiben der quadratischen Terme der Taylor-Entwicklung (n = 2)
f (x, y) = f + f x (x − x 0 ) + f y (y − y 0 )
+ 1 2! (f xx (x − x 0 ) 2 + 2f xy (x − x 0 ) (y − y 0 ) + f yy (y − y 0 ) 2 ) + R
= f + f x (x − x 0 ) + f y (y − y 0 )
+ 1 ( ) (
2! ((x − x fxx f
0) , (y − y 0 ))
xy (x − x0 )
f xy f yy (y − y 0 )
wobei f und sämtliche partiellen Ableitungen im Punkt (x 0 , y 0 )
ausgewertet werden
)
+ R ,
Hesse-Matrix 2-2

Restglied
mit
für ein θ ∈ [0, 1]
R = ∑
|α|=3
1
α! ∂α f (u, v) (x − x 0 ) α 1
(y − y 0 ) α 2
(u, v) = (1 − θ)(x 0 , y 0 ) + θ(x, y)
Hesse-Matrix 2-3

Restglied
mit
für ein θ ∈ [0, 1]
Abschätzung
R = ∑
|α|=3
1
α! ∂α f (u, v) (x − x 0 ) α 1
(y − y 0 ) α 2
(u, v) = (1 − θ)(x 0 , y 0 ) + θ(x, y)
R = O(|(x − x 0 , y − y 0 )| 3 )
Hesse-Matrix 2-4

Restglied
mit
für ein θ ∈ [0, 1]
Abschätzung
R = ∑
|α|=3
1
α! ∂α f (u, v) (x − x 0 ) α 1
(y − y 0 ) α 2
(u, v) = (1 − θ)(x 0 , y 0 ) + θ(x, y)
R = O(|(x − x 0 , y − y 0 )| 3 )
Beweis im allgemeinen Fall (n ≥ 2) analog
Hesse-Matrix 2-5

Beispiel:
f (x, y) = ln(x + 1/y)
partielle Ableitungen
1
f x =
x + 1/y , f y = − 1
xy 2 + y ,
1
f xx = −
(x + 1/y) 2 , f 1
xy =
(xy + 1) 2 , f yy = 2xy + 1
(xy 2 + y) 2
Hesse-Matrix 3-1

Beispiel:
f (x, y) = ln(x + 1/y)
partielle Ableitungen
1
f x =
x + 1/y , f y = − 1
xy 2 + y ,
1
f xx = −
(x + 1/y) 2 , f 1
xy =
(xy + 1) 2 , f yy = 2xy + 1
(xy 2 + y) 2
Gradient und Hesse-Matrix im Punkt (0, 1):
( )
( )
1 −1 1
grad f (0, 1) = , H f (0, 1) =
−1
1 1
Hesse-Matrix 3-2

die quadratische Taylor-Entwicklung
( ) x
f (x, y) = (1, −1)
y − 1
+ 1 ( ) ( −1 1 x
2 (x, y − 1) 1 1 y − 1
)
+ O(|(x, y)| 3 )
= x − y + 1 + 1 2
(
−x 2 + 2x(y − 1) + (y − 1) 2) + O(|(x, y − 1)| 3 )
Hesse-Matrix 3-3

Beispiel:
quadratische Taylor-Entwicklung von
f (x, y, z) = (xy) z
im Punkt (1, 1, 1)
Hesse-Matrix 4-1

Beispiel:
quadratische Taylor-Entwicklung von
im Punkt (1, 1, 1)
partielle Ableitungen
f (x, y, z) = (xy) z
f x = yz(xy) z−1 , f z = ln(xy)(xy) z ,
f xx = y 2 z(z − 1)(xy) z−2 , f zz = (ln(xy)) 2 (xy) z ,
f xy = z(xy) z−1 + xyz(z − 1)(xy) z−2 , f xz = y(xy) z−1 + yz ln(xy)(xy) z−1
(f y , f yy und f yz durch Vertauschen der Variablen)
Hesse-Matrix 4-2

Gradient und Hesse-Matrix:
⎛
grad f (1, 1, 1) = ⎝
1
1
0
⎞
quadratische Taylor-Entwicklung
⎛
⎠ , H f (1, 1, 1) = ⎝
0 1 1
1 0 1
1 1 0
⎞
⎠
Hesse-Matrix 4-3

Gradient und Hesse-Matrix:
⎛
grad f (1, 1, 1) = ⎝
1
1
0
⎞
⎛
⎠ , H f (1, 1, 1) = ⎝
quadratische Taylor-Entwicklung
⎛ ⎞
x − 1
f (x, y, z) = 1 + (1, 1, 0) ⎝ y − 1 ⎠
z − 1
⎛
+ 1 2 (x − 1, y − 1, z − 1) ⎝
+ O(|(x, y, z)| 3 )
0 1 1
1 0 1
1 1 0
0 1 1
1 0 1
1 1 0
⎞ ⎛
⎠ ⎝
= 1 + (x − 1) + (y − 1) + (x − 1)(y − 1)
+(x − 1)(z − 1) + (y − 1)(z − 1)
+ O(|(x − 1, y − 1, z − 1)| 3 )
⎞
⎠
x − 1
y − 1
z − 1
⎞
⎠
Hesse-Matrix 4-4