Algorithme du gradient déterministe (steepest descent)

Algorithme du gradient
déterministe (steepest descent)
L’algorithme du gradient déterministe est une première
approche pour résoudre l’équation de Wiener-Hopf
de manière itérative, sans avoir besoin d’inverser une
matrice.
INRS-EMT J. Benesty

Plan
• Principe de l’algorithme du gradient déterministe
• Application de l’algorithme du gradient déterministe
au filtrage de Wiener
• Stabilité de l’algorithme du gradient déterministe
• Exemple
INRS-EMT J. Benesty 1

Principe de l’algorithme du gradient
déterministe
Soit une fonction coût J(h) continue et différentiable,
dépendant d’un vecteur inconnu h. On désire trouver
une solution optimale hopt qui satisfait:
J(hopt) ≤ J(h), ∀h. (1)
Le principe d’un algorithme itératif simple est le
suivant: en commençant avec une condition initiale
h(0), générer une séquence de vecteurs h(1), h(2), ···,
de telle manière que la valeur de la fonction J(h)
diminue à chaque itération:
J [h(n + 1)]

Un algorithme classique est l’ algorithme du gradient
déterministe:
h(n +1)=h(n) − 1
µg(n), (3)
2
où n dénote l’itération, µ est une constante positive
(pas d’adaptation), et
g(n) =
∂J [h(n)]
∂h(n)
(4)
est le gradient de la fonction coût J [h(n)]. De
l’itération n àl’itération n +1, le vecteur h est mis à
jour comme suit:
δh(n) = h(n +1)− h(n)
= − 1
µg(n). (5)
2
INRS-EMT J. Benesty 3

Pour montrer que l’algorithme du gradient déterministe
satisfait J [h(n + 1)] < J [h(n)], on utilise un
développement de Taylor au premier ordre autour de
h(n):
J [h(n + 1)] = J [h(n)+δh(n)]
≈ J [h(n)] + g T (n)δh(n), (6)
ce qui est justifié pourµ petit. On a donc:
J [h(n + 1)] ≈ J [h(n)] − 1
2 µg(n)2 , (7)
ce qui montre que J [h(n + 1)] est plus petit que
J [h(n)]. Ainsi, en augmentant n, la fonction J décroit
progressivement, approchant sa valeur minimale Jmin
quand n →∞.
INRS-EMT J. Benesty 4

Application de l’algorithme du gradient
déterministe au filtrage de Wiener
Dans le filtrage de Wiener, on minimise l’erreur
quadratique moyenne (EQM):
où
J = E{e 2 (n)}, (8)
e(n) =d(n) − x T (n)h (9)
est le signal d’erreur, h est un filtre RIF de longueur L,
x(n) est le signal d’entrée, et d(n) est le signal désiré.
Le gradient de J est:
g = ∂J(h)
∂h
= −2E{x(n)e(n)}
= −2E{x(n)d(n) − x(n)x T (n)h}
= −2p +2Rh.
(10)
INRS-EMT J. Benesty 5

On en déduit l’algorithme du gradient déterministe
pour le filtrage de Wiener:
h(n +1) = h(n) − 1
2 µg(n)
= h(n)+µ[p − Rh(n)]. (11)
Cet algorithme peut encore s’écrire en utilisant le signal
d’erreur:
e(n) = d(n) − x T (n)h(n) (12)
h(n +1) = h(n)+µE{x(n)e(n)}. (13)
Eventuellement, à l’infini, l’algorithme converge vers la
solution optimale de Wiener-Hopf:
h(∞) =hopt = R −1 p. (14)
INRS-EMT J. Benesty 6

Algorithme du gradient déterministe
Algorithme itératif pour trouver le filtre optimal de
Wiener.
Données
• la matrice d’autocorrélation R
• le vecteur d’intercorrélation p
Initialisation avec un vecteur quelconque h(0)
Itérer n =1, 2, ··· ,N
h(n +1) = h(n)+µ[p − Rh(n)]
Arrêter si p − Rh(n)

Stabilité de l’algorithme du gradient
déterministe
Comment choisir le pas d’adaptation µ pour que
l’algorithme soit stable?
Pour déterminer la condition de stabilité de
l’algorithme, on examinera ces modes naturels, càd
la représentation en valeurs propres de la matrice
d’autocorrélation R.
L’algorithme est:
h(n +1)=h(n)+µ[p − Rh(n)], (15)
en utilisant l’équation de Wiener-Hopf p = Rhopt, on
obtient:
h(n +1)=h(n)+µR[hopt − h(n)]. (16)
Soit le vecteur misalignment suivant:
c(n) =hopt − h(n), (17)
l’équation (16) s’écrit maintenant:
c(n +1)=(I − µR)c(n). (18)
INRS-EMT J. Benesty 8

On se rappelle que la matrice d’autocorrélation R
peut s’exprimer en fonction de ses valeurs et vecteurs
propres:
R = QΛQ T , (19)
où QQ T = I et Λ = diag{λ0,λ1, ··· ,λL−1} est une
matrice diagonale. En utilisant (19) dans l’équation
d’adaptation, on a:
c(n +1) = (I − µR)c(n)
= (I − µQΛQ T )c(n). (20)
En multipliant à gauche les deux côtés de l’équation
précédente par Q T , on obtient:
soit
où
Q T c(n +1) = (I − µΛ)Q T c(n), (21)
v(n +1) = (I − µΛ)v(n), (22)
v(n) = Q T c(n)
= Q T [hopt − h(n)]. (23)
INRS-EMT J. Benesty 9

Pour le lth mode naturel de l’algorithme du gradient
déterministe, on a ainsi:
vl(n +1)=(1− µλl)vl(n), l =0, 1, ··· ,L− 1, (24)
ou encore
vl(n) =(1− µλl) n vl(0), l=0, 1, ··· ,L− 1. (25)
L’algorithme converge si vl(n) → 0 quand n →∞
(dans ce cas h(n) → hopt). Pour cela il faut que:
soit
ou encore
−1 < 1 − µλl < 1, ∀l, (26)
0

La constante de temps (time constant) pour le lth
mode est définie comme suit:
d’où
|1 − µλl| =exp
τl =
− 1
τl
, (29)
−1
. (30)
ln(|1 − µλl|)
En fait, τl est le nombre d’itérations requis pour que
l’amplitude du lth mode |vl(n)| décroisse de 1/e de sa
valeur initiale |vl(0)|.
De manière équivalente, on peut prendre pour le pas
d’adaptation:
où maintenant
µ = α
λmax
, (31)
0

Supposons que la valeur propre minimale soit λL−1 =
λmin, dans ce cas:
τL−1 =
=
−1
ln(|1 − αλmin/λmax|)
−1
, (33)
ln(|1 − α/χ(R)|)
où χ(R) =λmax/λmin est le conditionnement de la
matrice d’autocorrélation R. On voit bien que la
vitesse de convergence du mode le plus lent dépend du
conditionnement de R.
On peut exprimer la même chose en fonction du filtre
adaptatif directement. En effet, on a:
soit en multipliant par Q:
v(n) = Q T [hopt − h(n)], (34)
h(n) = hopt − Qv(n)
= hopt −
L−1
l=0
q lvl(n). (35)
En remplaçant vl(n) =(1−µλl) n vl(0) dans l’équation
INRS-EMT J. Benesty 12

précédente, on obtient:
h(n) = hopt −
L−1
l=0
q l(1 − µλl) n vl(0). (36)
Cette équation montre que chacun des coefficients
du filtre de l’algorithme est une somme de L
exponentielles. La constante de temps globale (τ)
n’est pas facile àdéterminer. On a par contre:
−1
ln(|1 − µλmax|)
≤ τ ≤
−1
, (37)
ln(|1 − µλmin|)
la convergence est d’autant plus faible que le pas est
faible.
On se souvient de la forme canonique de l’erreur
quadratique moyenne (EQM):
J(n) =Jmin +
L−1
l=0
λlv 2 l (n), (38)
où Jmin est l’EQM minimale. En utilisant vl(n) =
(1 − µλl) n vl(0), nous pouvons écrire:
J(n) =Jmin +
L−1
l=0
λl(1 − µλl) 2n v 2 l (0). (39)
INRS-EMT J. Benesty 13

Lorsque l’algorithme est convergent, càd lorsque
0 < µ < 2/λmax, limn→∞ J(n) =Jmin quelque
soient les conditions initiales. La courbe obtenue en
traçant J(n) en fonction du nombre d’itérations n est
appelée courbe d’apprentissage (learning curve).
D’après l’équation (39) cette courbe consiste en une
somme d’exponentielles décroissantes, chacune d’elle
correspondant à un mode propre de l’algorithme. La
vitesse de convergence du mode l est liée à (1−µλl) 2n .
De la même manière qu’on l’a fait pour les coefficients
du filtre, on définit la constante de temps de l’EQM
pour le lth mode:
τeqm,l =
≈
−1
2ln(|1 − µλl|)
1
, (40)
2µλl
pour µλl ≪ 1, ce qui est le cas en général.
Le mode le plus lent est lié à la valeur propre la plus
petite et le mode le plus rapide est lié à la valeur propre
la plus grande.
INRS-EMT J. Benesty 14

Exemple
Reprenons l’exemple simple suivant:
R =
p =
la solution optimale est:
1.1 0.5
0.5 1.1
0.5272
−0.4458
hopt = R −1 p
=
0.8363
−0.7854
,
,
.
On va essayer d’obtenir cette solution avec l’algorithme
du gradient déterministe et voir l’effet du pas
d’adaptation (µ) sur le comportement de l’algorithme.
On va utiliser le misalignment normalisé endB:
10 log 10
h(n) − hopt 2
hopt 2 . (41)
INRS-EMT J. Benesty 15

Cette mesure est très utile en pratique et pour tous
les algorithmes adaptatifs. Elle montre comment
l’algorithme converge vers la solution optimale.
Code en MATLAB
R=[1.1 0.5;0.5 1.1];
p=[0.5271;-0.4458];
h=[-1;-1];
mu=0.01;
H=h;
for n=1:1000
h=h+mu*(p-R*h);
H=[H h];
end
INRS-EMT J. Benesty 16

h1
1
0.5
0
−0.5
−1
(a)
−1.5
−1.5 −1 −0.5 0
h0
0.5 1 1.5
Misalignment (dB)
0
−10
−20
−30
−40
−50
−60
(b)
200 400 600 800 1000
Iteration
Figure 1: Pas d’adaptation µ =0.01. (a) Processus
d’adaptation du filtre h(n) d’un point quelconque
h(0) = [−1 − 1] T et convergence vers la solution de
Wiener hopt =[0.8363 − 0.7854] T . (b) Convergence
du misalignment normalisé.
INRS-EMT J. Benesty 17

h1
1
0.5
0
−0.5
−1
(a)
−1.5
−1.5 −1 −0.5 0
h0
0.5 1 1.5
Misalignment (dB)
0
−10
−20
−30
−40
−50
−60
(b)
200 400 600 800 1000
Iteration
Figure 2: Pas d’adaptation µ =1. (a) Processus
d’adaptation (oscillations stables) du filtre h(n) d’un
point quelconque h(0) = [−1 −1] T et convergence vers
la solution de Wiener hopt =[0.8363 − 0.7854] T .(b)
Convergence très rapide du misalignment normalisé.
INRS-EMT J. Benesty 18

h1
1
0.5
0
−0.5
−1
(a)
−1.5
−1.5 −1 −0.5 0
h0
0.5 1 1.5
Misalignment (dB)
0
−10
−20
−30
−40
−50
−60
(b)
200 400 600 800 1000
Iteration
Figure 3: Pas d’adaptation µ =4. (a) Processus
d’adaptation (oscillations instables) du filtre h(n) d’un
point quelconque h(0) = [−1 − 1] T et divergence de
la solution de Wiener hopt =[0.8363 − 0.7854] T .(b)
Divergence du misalignment normalisé.
INRS-EMT J. Benesty 19

h1
1
0.5
0
−0.5
−1
(a)
−1.5
−1.5 −1 −0.5 0
h0
0.5 1 1.5
Misalignment (dB)
0
−10
−20
−30
−40
−50
−60
(b)
200 400 600 800 1000
Iteration
Figure 4: Pas d’adaptation µ =0.001. (a) Processus
d’adaptation très lent du filtre h(n) d’un point
quelconque h(0) = [−1 − 1] T et convergence vers
la solution de Wiener hopt =[0.8363 − 0.7854] T .(b)
Convergence très lente du misalignment normalisé.
INRS-EMT J. Benesty 20