ModÃ©lisation stochastique, Processus stochastiques - Dr Stephan ...

Outline 

Définitions 

Processus 

stochastiques 

discrets 



continus 

Modélisation stochastique, Processus 


Stephan Robert, HEIG-Vd 

6 octobre 2009 

1 / 54 


Modélisation stochastique, Processus stochastiques

Outline 

Définitions 



discrets 



continus 

1 Définitions 

2 Processus stochastiques discrets 

3 Processus stochastiques continus 

2 / 54 



Rappel : Variables aléatoires 

Outline 

Définitions 



discrets 



continus 

Exemple : Pièce de monnaie soit jetée trois fois. 

X(ω) : Nombre de faces. 

Ω = {FFF, FFP, FPF, PFF, FPP, PFP, PPF, PPP} 

Pour chaque issue ω ∈ Ω, X(ω) ∈ {0, 1, 2, 3}. 

on a 

X({PPP}) = 0 

X({FPP}) = X({PFP}) = X({PPF}) = 1 

X({FFP}) = X({FPF}) = X({PFF}) = 2 

X({FFF}) = 3 

3 / 54 



Processus stochastiques 

Outline 

Définitions 



discrets 



continus 

Variable aléatoire dépendant du temps : X t (ω) 

Processus stochastique : X = (X t (ω) : t ∈ T), 

Discret si T = N = {0, 1, 2, 3, ...} ou T = Z = {..., −2, 

−1, 0, 1, 

Continu si T = R ou T = R + 

Remarque : Le processus peut être à “états discrets” 

ou à “états continus”. 

Notation d’un processus discret : X = (X n : n ∈ Z) ou 

X = (X n : n ∈ N) 

4 / 54 

Exemple : Pièce de monnaie soit jetée n fois : 

Processus discret à états discrets. 



Processus stochastiques (2) 

Outline 

Définitions 



discrets 



continus 

Processus stochastique : X = (X t (ω) : t ∈ T) 

Remarques : 

Si “t” ou “n” est fixé, Le processus stochastique est 

une variable aléatoire. 

Si ω ∈ Ω est fixé, nous avons une fonction du temps. 

5 / 54 



Exemple processus stochastique discret 

Outline 

Définitions 



discrets 



continus 

Processus de Bernoulli : X = (X n : n ∈ N) est une 

collection de variables aléatoires indépendantes avec 

P(X n = 1) = p et P(X n = 0) = 1 − p, 0 ≤ p ≤ 1. 

FIGURE: Séquence particulière d’un processus de Bernoulli 

6 / 54 



Exemples (2) 

Outline 

Définitions 



discrets 



continus 

Remarque : L’espace fondamental doit être 

suffisamment grand ({0, 1} N si n = 0, 1, 2, ..., N) pour 

comprendre toutes les séquences possibles car à 

chaque ω doit correspondre une séquence (par 

exemple 010111... comme montré à la figure 

précédente). 

Exemple : {Y n , n ≥ 1} indépendantes avec 

P(Y n = 1) = p 

P(Y n = −1) = 1 − p 

Marche aléatoire ("random walk") : 

7 / 54 

X = (X n = ∑ n 

i=1 Y i) avec n ≥ 1 



Espérance mathématique 

Outline 

Définitions 



discrets 



continus 

Processus discret à états discrets : 

E(X n ) = µ X (n) = ∑ ∞ 

−∞ x i.P(X n = x i ) 

Processus discret à états continus : 

E(X n ) = µ X (n) = ∫ ∞ 

−∞ x.f X(x, n)dx 

8 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

Marche aléatoire : 

Nous avons 

X n = ∑ n 

i=1 Y i, n ≥ 1, 

P(Y n = 1) = p 

P(Y n = −1) = 1 − p 

9 / 54 

donc 

E[X n ] = E[ ∑ n 

i=1 Y i] = 

E[Y 1 ] + ... + E[Y n ] = n.E[Y 1 ]= 

n(1 ∗ p + (−1) ∗ (1 − p)) = 

n(2p − 1) 



Corrélation 

Outline 

Définitions 



discrets 



continus 

Fonction d’autocorrélation : Espérance mathématique 

du produit : X m X n 

R XX (m, n) = R X (m, n) = E[X m .X n ] = 

E[X n .X m ] = R X (n, m) 

10 / 54 



Corrélation (2) 

Outline 

Définitions 



discrets 



continus 

Observations : 

R X (n, n) = E[X n .X n ] = E[X 2 n] ≥ 0 si n = m. 

E[X 2 n] représente la puissance moyenne de X n (ou 

de X m ). 

Fonction de corrélation : R XY (m, n) = E[X m Y n ] 

11 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

12 / 54 

Auto-corrélation d’une marche aléatoire 

Nous avons R X (m, n) = E[X m .X n ] 

En remplaçant les variables aléatoires 

X n = ∑ n 

i=1 Y i = ∑ n 

i=0 Y i, Y 0 = 0, nous trouvons 

m∑ 

E[X m .X n ] = E[ Y i . 

= 

= 

m∑ 

i=0 

i=0 j=0 

min(n,m) 

∑ 

i=0 


n∑ 

Y j ] 

j=0 

n∑ 

E[Y i Y j ] 

E[Y 2 i ] + n∑ 

m∑ 

i=0 j=0,j≠i 

E[Y i ]E[Y j ] 


Exemple (2) 

Outline 

Définitions 



discrets 



continus 

et comme 

E[Y 2 k ] = 1 

E[Y k ] = 2p − 1 

nous obtenons 

R X (m, n) = min(n, m) + [nm − min(n, m)](2p − 1) 2 

13 / 54 



Covariance 

Outline 

Définitions 



discrets 



continus 

Fonction d’autocovariance : Espérance 

mathématique du produit : (X m − µ X (m))(X n − µ X (n)) 

Cov XX (m, n) = Cov X (m, n) = 

E[(X m − µ X (m))(X n − µ X (n))] 

14 / 54 



Covariance (2) 

Outline 

Définitions 



discrets 



continus 


Lorsque m = n : 

Cov X (m, n) = E[(X m − µ X (m)) 2 ] = Var(X m ) 

Si µ X (n) = µ X (m) = µ X , alors 

Cov X (m, n) = R X (m, n) − µ 2 X 

Cov X (0) = σ 2 X 

R X (0) = σ 2 X + µ2 X 

15 / 54 



Techniques de corrélation (1) 

Outline 

Définitions 



discrets 



continus 

16 / 54 




Outline 

Définitions 



discrets 



continus 

17 / 54 




Outline 

Définitions 



discrets 



continus 

18 / 54 




Outline 

Définitions 



discrets 



continus 

19 / 54 



Exemples en mécanique et en sciences de 

l’environnement 

Outline 

Définitions 



discrets 



continus 

Réponse d’un building dans le sens du vent. Bien 

choisir le modèle pour le vent ! 

20 / 54 





Outline 

Définitions 



discrets 



continus 



Réponse d’un avion à la turbulence 

atmosphérique 

20 / 54 





Outline 

Définitions 



discrets 



continus 





Analyse spectrale d’accélérogrammes sismiques 

20 / 54 





Outline 

Définitions 



discrets 



continus 






Ruine par fatique entraîné par des oscillations 

aléatoires 

20 / 54 





Outline 

Définitions 



discrets 



continus 







aléatoires 

Fiabilité de systèmes avec différentes 

configurations 

20 / 54 





Outline 

Définitions 



discrets 



continus 







aléatoires 



Prédiction des tremblements de terre à partir de 

signaux bruités 

20 / 54 





Outline 

Définitions 



discrets 



continus 

20 / 54 







aléatoires 



Prédiction des tremblements de terre à partir de 

signaux bruités 

Calcul de la hauteur maximale des vagues en 

plein océan durant une tempête 




l’environnement (2) 

Outline 

Définitions 



discrets 



continus 

Calcul de facteurs de charge pour des colonnes 

porteuses (bâtiments) 

21 / 54 

Références principales 

Vibrations aléatoires et Analyse spectrale, A. 

Preumont, PPUR. 

Probability and Statistics in Engineering, MIT Course. 





Outline 

Définitions 



discrets 



continus 



Mesure de l’élévation d’un satellite à l’aide de 

mesures bruitées 

21 / 54 









Outline 

Définitions 



discrets 



continus 





Prédiction de températures journalières sur la base 

de plusieurs observations passées 

21 / 54 









Outline 

Définitions 



discrets 



continus 







Calculs de la stabilité des sols dans différents 

endroits du monde 

21 / 54 









Outline 

Définitions 



discrets 



continus 







Calculs de la stabilité des sols dans différents 

endroits du monde 

Influence d’El Nino sur la hauteur et le débit du Nil. 

21 / 54 







Stationarité 

Outline 

Définitions 



discrets 



continus 

Stationarité stricte : 

{X n1 , X n2 , ..., X nl } a la même distribution conjointe que 

{X n1 +m, X n2 +m, ..., X nl +m} 

Stationarité au sens large (Wide Sense Stationary : 

WSS) : 

µ X (n) = E[X n ] = µ X (constante) 

Var(X n ) = σ 2 (constante) 

22 / 54 



Stationarité (2) 

Outline 

Définitions 



discrets 



continus 

Implications : 

R X (m, n) = R X (|τ|) 

Cov X (m, n) = R X (|τ|) − µ 2 X 

R X (0) = E[X 2 n] 

|R X (τ)| ≤ |R X (0)| 

23 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

Soit un processus stochastique composé d’une 

séquence de variables aléatoires X = (X n : n ∈ Z) 

ayant une espérance mathématique nulle et une 

variance de 1. 

E[X(n)] = 0 pour tout n. 

La fonction d’auto-corrélation est donnée par 

R X (m, n) = E[X m X n ] = E[X m ]E[X n ] = 0 lorsque 

|m − n| ≠ 0 et égale à R X (m, n) = E[X m X n ] = E[X 2 m] = 1 

lorsque m = n. 

Elle ne dépend que de |m − n| donc le processus est 

WSS. 

24 / 54 



Exemple (2) 

Outline 

Définitions 



discrets 



continus 

Soit un processus stochastique X = (X n : n ∈ N) 

composé de la somme d’un certain nombre de 

variables aléatoires Y i , i ≥ 0, iid, d’espérance 

mathématique nulle et de variance égale à 1, 

Y 0 + Y 1 + ... + Y n . 

Est-ce que ce processus est stationnaire au sens large 

Le calcul de l’espérance mathématique du processus 

montre que E[X n ] = E[Y 0 ] + E[Y 1 ] + ... + E[Y n ] = 0. 

La variance du processus E[X 2 n] = 1 + 1 + ... + 1 = n 

donc le processus n’est pas stationnaire au sens large. 

25 / 54 



Ergodicité 

Outline 

Définitions 



discrets 



continus 

Ergodicité : Soit un processus stochastique stationnaire 

X = (X n : n ∈ Z) au sens large avec −m ≤ n ≤ m (par 

commodité). Alors il est ergodique si 

lim ˆµ X(m) = E[X n ] 

m→∞ 

avec 

ˆµ X (m) = 

1 

1 + 2m 

m∑ 

i=−m 

X i 

26 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

Processus stochastique : X n = A, avec E[A] = 0, 

Var(A) = 1. Nous avons 

E[X n ] = E[A] = 0. 

Cependant, lorsque nous estimons la moyenne, nous 

trouvons que 

27 / 54 

1 

ˆµ X (m) = lim 

m→∞ 1 + 2m 

m∑ 

i=−m 

A = A 

Donc ce processus stochastique est stationnaire sans 

être ergodique. 



Densité spectrale de puissance 

Outline 

Définitions 



discrets 



continus 

Remarque : Un processus stochastique stationnaire au 

sens large X est un signal à énergie infinie et donc sa 

transformée de Fourier ne peut pas exister. 

Conséquence : Pour trouver les caractéristiques 

spectrales d’un signal stochastique on va donc 

calculer la transformée de Fourier de sa fonction 

d’auto-corrélation 

∞∑ 

S X (f ) = R X (k)e −j2πfk 

k=−∞ 

28 / 54 



Processus stochastiques 

Outline 

Définitions 



discrets 



continus 

Variable aléatoire dépendant du temps : X t (ω) 

Processus stochastique : X = (X t (ω) : t ∈ T), 

Discret si T = N = {0, 1, 2, 3, ...} ou T = Z = {..., −2, 

−1, 0, 1, 

Continu si T = R ou T = R + 

Remarque : Le processus peut être à “états discrets” 

ou à “états continus”. 

Notation d’un processus discret : X = (X n : n ∈ Z) ou 

X = (X n : n ∈ N) 

29 / 54 



Exemple de processus stochastique 

continu 

Outline 

Définitions 



discrets 



continus 

Soit un processus stochastique X tel que 

X t = Y cos(2πf 0 t) 

où 

Y est une variable aléatoire uniformément 

distribuée sur l’intervalle [0, 1] 

f 0 est une constante et t ≥ 0. 

30 / 54 

Le processus stochastique est à temps et à états 

continus. 



Espérance mathématique 

Outline 

Définitions 



discrets 



continus 

Processus continu à états discrets : 

E[X t ] = µ X (t) = ∑ ∞ 

−∞ x i.P(X t = x i ) 

Processus continu à états continus : 

E[X t ] = µ X (t) = ∫ ∞ 

−∞ x.f X(x, t)dx 

31 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

Processus stochastique : X t = Y cos(2πf 0 t) avec 

Y : variable aléatoire uniformément distribuée sur 

l’intervalle [0, 1] 

f 0 : constante 

t ≥ 0 

L’espérance mathématique du processus stochastique 

est donnée par 

E[X t ] = E[Y cos(2πf 0 t)] = E[Y] cos(2πf 0 t) = 1 2 cos(2πf 0t) 

32 / 54 



Exemple (2) 

Outline 

Définitions 



discrets 



continus 

33 / 54 

FIGURE: Réalisations de X t en fonction du temps, avec 

f 0 = 10, pour différentes valeurs de Y 



Corrélation 

Outline 

Définitions 



discrets 



continus 

Fonction d’autocorrélation : Espérance mathématique 

du produit : X t X s 

R XX ∫ 

(t, s) = R X (t, s) = E[X t X s ] = 

∞ ∫ ∞ 

−∞ −∞ x tx s f Xt,Xs (x t x s )dt.ds 

34 / 54 



Corrélation (2) 

Outline 

Définitions 



discrets 



continus 


R X (t, t) = E[X t .X t ] = E[X 2 t ] = E[s 2 ] ≥ 0 si t = s. 

E[X 2 t ] représente la puissance moyenne de X n (ou 

de X m ). 

Fonction de corrélation : R XY (t, s) = E[X t Y s ] 

35 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

X t = A cos(2πf 0 t + φ) 

φ : variable aléatoire qui prend la valeur de 0 avec 

une probabilité de p et la valeur de π avec une 

probabilité de 1 − p. 

Réalisations : 

X t = A cos(2πf 0 t) 

avec une probabilité p, φ = 0. 

X t = A cos(2πf 0 t + π) = −A cos(2πf 0 t) 

avec une probabilité 1 − p, φ = π. 

36 / 54 



Exemple (2) 

Outline 

Définitions 



discrets 



continus 

37 / 54 

X t pour φ = 0 et pour φ = π en fonction du temps, avec 

f 0 = 10 et A = 2 



Exemple (3) 

Outline 

Définitions 



discrets 



continus 

La fonction d’auto-corrélation est égale à 

R X (s, t) = E[X t X s ] 

= p.E[A cos(2πf 0 t)A cos(2πf 0 s)] + 

(1 − p)E[A cos(2πf 0 t + π)A cos(2πf 0 s + π)] 

= p.E[A 2 cos(2πf 0 t) cos(2πf 0 s)] + 

(1 − p)E[A 2 cos(2πf 0 t) cos(2πf 0 s)] 

= E[A 2 cos(2πf 0 t) cos(2πf 0 s)] 

= A 2 . cos(2πf 0 t) cos(2πf 0 s) 

= A2 

2 [cos(2πf 0(t + s)) + cos(2πf 0 (t − s))] 

38 / 54 



Covariance 

Outline 

Définitions 



discrets 



continus 

Fonction d’autocovariance : Espérance 

mathématique du produit : (X t − µ X (t))(X s − µ X (s)) 

Cov XX (t, s) = Cov X (t, s) = 

E[(X t − µ X (t))(X s − µ X (s))] 

39 / 54 



Covariance (2) 

Outline 

Définitions 



discrets 



continus 


Lorsque t = s : Cov X (t, s) = E[(X t − µ X (t)] 2 = Var(X t ) 

Si µ X (t) = µ X (s), alors Cov X (m, n) = R X (m, n) − µ 2 X 

Cov X (0) = σ 2 X 

R X (0) = σ 2 X + µ2 X 

40 / 54 



Exemple 

Outline 

Définitions 



discrets 



continus 

X t = Y cos(2πf 0 t) 

Y est une variable aléatoire uniformément distribuée 

sur l’intervalle [0, 1] ; f 0 est une constante et t ≥ 0 

Fonction d’auto-corrélation : 

R X (s, t) = E[X t X s ] = E[Y 2 cos(2πf 0 t) cos(2πf 0 s)] 

= E[Y 2 ] cos(2πf 0 t) cos(2πf 0 s) 

= 1 3 cos(2πf 0t) cos(2πf 0 s) 

41 / 54 



Exemple (2) 

Outline 

Définitions 



discrets 



continus 

Fonction d’auto-covariance : 

Cov X (s, t) = E[X t X s ] − E[X t ]E[X s ] 

= 1 3 cos(2πf 0t) cos(2πf 0 s) − 

− 1 2 cos(2πf 0t) 1 2 cos(2πf 0s) 

= 1 

12 cos(2πf 0t) cos(2πf 0 s) 

42 / 54 



Stationarité 

Outline 

Définitions 



discrets 



continus 

Stationarité stricte : 

{X t1 , X t2 , ..., X tl } a la même distribution conjointe que 

{X t1 +h, X t2 +h, ..., X tl +h} 

Stationarité au sens large (Wide Sense Stationary : 

WSS) : 

µ X (t) = E[X t ] = µ X (constante) 

Var(X t ) = σ 2 (constante) 

43 / 54 



Stationarité (2) 

Outline 

Définitions 



discrets 



continus 

Implications : 

R X (t, s) = R X (|τ|) 

Cov X (t, s) = R X (|τ|) − µ 2 X 

R X (0) = E[X 2 t ] 

|R X (τ)| ≤ |R X (0)| 

44 / 54 



Ergodicité 

Outline 

Définitions 



discrets 



continus 

Soit un processus stochastique X = (X t stationnaire au 

sens large, −T ≤ t ≤ T (par commodité), alors il est 

ergodique en moyenne si : 

lim T→∞ ˆµ x (T) = E[X t ] 

avec 

ˆµ x (T) = 1 ∫ T 

x t dt 

2T −T 

45 / 54 



Densité spectrale de puissance 

Outline 

Définitions 



discrets 



continus 

Remarque : Un processus stochastique stationnaire au 

sens large est un signal à énergie infinie et donc sa 

transformée de Fourier ne peut pas exister. 

Conséquence : Pour trouver les caractéristiques 

spectrales d’un signal stochastique on va donc 

calculer la transformée de Fourier de sa fonction 

d’auto-corrélation. 

S X (f ) = ∫ ∞ 

−∞ R X(τ)e −j2πf τ dτ 

46 / 54 



Densité spectrale de puissance (2) 

Outline 

Définitions 



discrets 



continus 

47 / 54 

Fonction d’auto-corrélation : 

R X (τ) = 

∫ ∞ 

−∞ 

S X (f )e j2πf τ df 

Relations de Wiener-Khintchine (Einstein). 

Propriétés : 

1 S X (0) = ∫ ∞ 

−∞ R X(τ)dτ 

2 E[X 2 (t)] = R X (0) = ∫ ∞ 

−∞ S X(f )df 

3 S X (f ) ≥ 0 pour tout f 

4 S X (f ) = S X (−f ) 

5 p X (f ) = S X (f )/ ∫ ∞ 

−∞ S X(f )df 



Exemple 

Outline 

Définitions 



discrets 



continus 

Fonction d’auto-corrélation (voir p.54 cours) 

R X (t, s) = A2 

2 cos(2πf 0(t − s)) = A2 

2 cos(2πf 0τ) 

Notons δ(f ) la fonction delta à f = 0. En prenant la 

transformée de Fourier : 

S X (f ) = 

= 

∫ ∞ 

−∞ 

∫ ∞ 

−∞ 

R X (τ)e −j2πf τ dτ 

A 2 

2 cos(2πf 0τ)e −j2πf τ dτ 

= A2 

4 (δ(f − f 0) + δ(f + f 0 )) 

48 / 54 



Application : Comparaison de différents 

modes transmission 

Outline 

Définitions 



discrets 



continus 

Séquence de bits .......010010111011001100... 

FIGURE: Modes de transmission NRZ et Manchester 

49 / 54 




modes transmission (2) 

Outline 

Définitions 



discrets 



continus 

Commençons par NRZ. La densité de probabilité d’un 

tel processus stochastique est donnée par 

p X (x) = P(X = x 0 )δ(x − x 0 ) + P(X = x 1 )δ(x − x 1 ) 

avec P(X = x 0 ) + P(X = x 1 ) = 1. Une fois connue la 

densité, il est aisé de déduire l’espérance 

mathématique E[X], ainsi que E[X 2 ] : 

E[X] = x 0 .P(X = x 0 ) + x 1 .P(X = x 1 ) = µ X 

E[X 2 ] = x 2 0.P(X = x 0 ) + x 2 1.P(X = x 1 ) = σ 2 X + µ2 X 

50 / 54 





Outline 

Définitions 



discrets 



continus 

On peut montrer (exercice) que la fonction 

d’auto-corrélation est égale à 

R X (τ) = σ 2 X .(1 − |τ|/T) + µ2 X = σ2 X .tri(τ/T) + µ2 X 

et que la densité spectrale de puissance est donnée 

par : 

S X (f ) = σ 2 X .Tsinc2 (fT) + µ 2 X .δ(f ) 

51 / 54 





Outline 

Définitions 



discrets 



continus 

Manchester : Les symboles 0 et 1 sont représentés par 

une transition au milieu d’une période d’horloge. Un 1 

est représenté par une transition du niveau haut au 

niveau bas et un 0 est représenté par une transition du 

niveau bas au niveau haut. 

Après quelques calculs (exercice), nous trouvons la 

fonction d’auto-corrélation : 

R X (τ) = A 2 (2(1 − 2|τ|/T) − ((1 − 2|τ|/T)) 

et la densité spectrale de puissance est donnée par 

S X (τ) = A 2 T(sinc 2 (fT/2) − sinc 2 (fT)) 

52 / 54 





Outline 

Définitions 



discrets 



continus 

53 / 54 

FIGURE: Densités spectrales de puissance pour les modes de 

transmission NRZ et Manchester. Les signaux sont 

anti-polaires et l’apparition des bits 0 et 1 est équiprobable. 





Outline 

Définitions 



discrets 



continus 

Commentaires : 

Sur les lignes traditionnelles, il est souvent 

nécessaire d’éviter une composante continue 

pour éviter les couplages. 

Manchester plus avantageux mais prend plus de 

place dans le domaine fréquentiel. 

Le réseau Ethernet utilise le code de transmission 

de Manchester. 

54 / 54

ModÃ©lisation stochastique, Processus stochastiques - Dr Stephan ...

Create successful ePaper yourself

Delete template?

Save as template?