Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

3.3. PARTITIONIERUNG DES ZUSTANDSRAUMS 41
lung
P {X i+1 ∈ Π Xi+1 (I m,n )|X (k)
i
∈ Π (k) X
(I m,n )}
i
g (k+1) X
(˜x (k+1)
i+1 (m, n))
i+1
=
g X
(k)
i
(˜x (k)
i (m, n))
· |Π Xi+1 (I m,n )| . (3.19)
Werden Gl. (3.18) und Gl. (3.19) in Gl. (2.15) eingesetzt, so erhält man für die
bedingte Shannon-Entropie auf einer Partition
H In (X i+1 |X (k)
i )
=
∑M n
m=1
g (k+1) X
(˜x (k+1)
i+1 (m, n)) × log
i+1
−
∑M n
m=1
g (k+1) X
(˜x (k+1)
i+1 (m, n))
i+1
g X
(k)
i
(˜x (k)
i (m, n))
· |I m,n |
g (k+1) X
(˜x (k+1)
i+1 (m, n)) · log |Π Xi+1 (I m,n )| · |I m,n | . (3.20)
i+1
Existiert die kontinuierliche bedingte Shannon-Entropie als Riemann-Integral,
dann folgt mit Gl. (2.37)
H In (X i+1 |X (k)
i ) +
∑M n
m=1
g (k+1) X
(˜x (k+1)
i+1 (m, n)) · log |Π Xi+1 (I m,n )| · |I m,n |
i+1
n→∞
−−−→
H(X i+1 |X (k)
i ) . (3.21)
Auch hier unterscheidet sich im Limes die vergröberte bedingte Shannon-Entropie
von der kontinuierlichen durch den Erwartungswert der logarithmierten Intervalllänge
|Π Xi+1 (I m,n )| der Partitionen. Insbesondere divergieren beide Terme auf
der linken Seite mit − log |Π Xi+1 (I m,n )| bzw. log |Π Xi+1 (I m,n )| für n → ∞.
Zum Abschluss wird nun gezeigt, dass die Transferentropie bezüglich einer
Partitionenfolge (I n ) n∈N mit ‖I n ‖ → n→∞ 0 gegen die kontinuierliche Transferentropie
konvergiert. Hierzu muss vorausgesetzt werden, dass die kontinuierliche
Transferentropie als Riemann-Integral existiert und dass die Dichten g (k) X i
und g (k+1) X
stetig sind.
i+1 ,Y (l)
j
g (k) X i ,Y (l)
j
, g X
(k+1)
i+1
Wird der Zustandsraum von (X (k+1)
i+1 , Y (l)
j ) in beliebige Quader aufgeteilt, so
ist
P {(X (k+1)
i+1 , Y (l)
j ) ∈ I m,n} = g (k+1) X
P {(X (k)
i
, Y (l) ) ∈ Π X (k)
j
i
i+1 ,Y (l)
j
((˜x (k+1)
i+1 , ỹ (l)
j )(m, n)) · |I m,n| ,
(I
,Y (l) m,n )} (3.22)
j
= g X
(k)
i
,Y (l)
j
((˜x (k)
i
, ỹ (l)
j
)(m, n)) · |Π X (k)
i
,Y (l)
j
(I m,n )| ,
,