lecture00.pdf
lecture00.pdf
lecture00.pdf
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
Traitement des signaux<br />
numériques – II<br />
Filtrage adaptatif et analyse<br />
spectrale<br />
Jacob Benesty<br />
INRS-EMT J. Benesty
Introduction<br />
Plan du cours<br />
Partie I: Concepts de base<br />
Processus stochastiques et modèles<br />
Valeurs propres et décomposition<br />
Partie II: Filtrage linéaire optimal<br />
Filtrage de Wiener<br />
Prédiction linéaire<br />
Partie III: Filtrage adaptatif<br />
Algorithme du gradient déterministe (steepest<br />
descent)<br />
Algorithme du gradient stochastique (least-meansquare<br />
– LMS)<br />
INRS-EMT J. Benesty 1
Variantes de l’algorithme LMS<br />
L’algorithme LMS par bloc exact (block exact LMS<br />
– BELMS)<br />
Méthode des moindres carrés (least squares – LS)<br />
Algorithme des moindres carrés récursif – MCR<br />
(recursive least-squares – RLS)<br />
Algorithme des moindres carrés récursif rapide –<br />
MCRR (fast recursive least-squares – FRLS)<br />
Algorithmes en treillis<br />
Introduction à la déconvolution/identification<br />
aveugle<br />
Partie IV: Analyse spectrale<br />
Méthodes non-paramétriques<br />
Méthodes paramétriques<br />
INRS-EMT J. Benesty 2
Manuels de référence:<br />
[1] S. Haykin, Adaptive Filter Theory. Fourth Edition,<br />
Prentice Hall, 2002.<br />
[2] J. G. Proakis and D. G. Manolakis, Digital Signal<br />
Processing: Principles, Algorithms and Applications.<br />
Third Edition, Macmillan, 1996, Chap. 12.<br />
[3] Notes + Articles,<br />
http://externe.inrs-emt.uquebec.ca/users/benesty/<br />
INRS-EMT J. Benesty 3
Session:<br />
10 janvier au 15 avril 2005.<br />
Horaires du cours:<br />
Lundi et vendredi de 9h15 à 10h45.<br />
Evaluation: Projet.<br />
Fin février 2005 – Description initiale (max. 2<br />
pages). (Titre, problématique, objectif, plan.)<br />
Mi mars 2005 – Version préliminaire du rapport<br />
final.<br />
Présentations orales.<br />
Fin avril 2005 – Rapport final.<br />
INRS-EMT J. Benesty 4
Suggestions pour les projets:<br />
Beamforming<br />
Blind source separation<br />
Single-channel acoustic echo cancellation<br />
Multichannel acoustic echo cancellation<br />
Noise reduction<br />
Adaptive algorithms<br />
Blind equalization and identification<br />
Time delay estimation<br />
Hearing aids<br />
Voice activity detector<br />
INRS-EMT J. Benesty 5
Notations<br />
x, x, X: scalaire, vecteur, matrice.<br />
x(n): signal scalaire de n.<br />
x(n): signal vecteur de n.<br />
x(n) = x(n) x(n − 1) ··· x(n − L +1) T<br />
est un vecteur de longueur L.<br />
n représente le temps discret.<br />
Filtre RIF à L coefficients:<br />
h(n) = h0(n) h1(n) ··· hL−1(n) T .<br />
INRS-EMT J. Benesty 6
Introduction au filtrage adaptatif<br />
Un filtrage est rendu adaptatif si ses paramètres, les<br />
coefficients, sont modifiés selon un critère donné, dès<br />
qu’une nouvelle valeur du signal devient disponible. Ces<br />
modifications doivent suivre l’évolution des systèmes<br />
dans leur environnement aussi rapidement que possible.<br />
Le filtrage adaptatif est généralement associé avecun<br />
fonctionnement en temps réel.<br />
x(n)<br />
FILTRE<br />
ENTREE PROGRAMMABLE<br />
- +<br />
REFERENCE<br />
ALGORITHME<br />
D'ADAPTATION DES<br />
COEFFICIENTS<br />
y(n) d(n)<br />
e(n)<br />
ERREUR<br />
Figure 1: Principe d’un filtre adaptatif.<br />
INRS-EMT J. Benesty 7
Les filtres adaptatifs peuvent être classés en fonction<br />
des choix qui sont faits sur les points suivants:<br />
le critère d’optimisation,<br />
l’algorithme de mise à jour des coefficients,<br />
la structure du filtre programmable,<br />
le type de signal traité, mono ou multidimensionnel.<br />
Il existe deux classes importantes de filtres linéaires<br />
optimaux:<br />
filtrage de Wiener (où les signaux considérés d(n)<br />
et x(n) sont stationnaires),<br />
filtrage de Kalman (qui est une généralisation du<br />
filtre de Wiener valable aussi dans le cas de processus<br />
(ou de signaux) non stationnaires).<br />
INRS-EMT J. Benesty 8
Choix de l’algorithme<br />
Le choix de l’algorithme se fera en fonction des critères<br />
suivants:<br />
la rapidité de convergence qui sera le nombre<br />
d’itérations nécessaires pour converger “assez près”<br />
de la solution optimale,<br />
la mesure de cette “proximité” entre cette solution<br />
optimale et la solution obtenue,<br />
la capacité de poursuite (tracking) des variations<br />
(non-stationnarités) du système,<br />
la robustesse au bruit,<br />
la complexité,<br />
la structure (modularité, parallélisme, ...),<br />
les propriétés numériques (stabilité et précision)<br />
dans le cas d’une précision limitée sur les données<br />
et les coéfficients du filtre.<br />
INRS-EMT J. Benesty 9
Applications<br />
Le filtrage adaptatif est un outil puissant en traitement<br />
du signal, communications numériques, et contrôle<br />
automatique. Les applications sont diverses mais<br />
présentent les caractéristiques suivantes: on dispose<br />
d’une entrée x(n) ainsi que de la réponse désirée<br />
(référence) d(n) et l’erreur e(n), qui est la différence<br />
entre d(n) et la sortie du filtre y(n), sertà contrôler<br />
(adapter) les valeurs des coefficients du filtre. Ce qui<br />
différencie essentiellement les applications provient de<br />
la façon de définir la réponse désirée d(n). On peut<br />
distinguer quatre grandes classes d’applications:<br />
l’identification de systèmes,<br />
la prédiction,<br />
la modélisation inverse,<br />
l’annulation d’interférences.<br />
INRS-EMT J. Benesty 10
1. Identification de systèmes:<br />
d(n) est la sortie du système que l’on souhaite<br />
identifier.<br />
x(n)<br />
FILTRE<br />
ADAPTATIF<br />
SYSTEME<br />
e(n)<br />
y(n)<br />
-<br />
+<br />
d(n)<br />
Figure 2: Identification d’un système.<br />
INRS-EMT J. Benesty 11
2. Prédiction:<br />
d(n) est le signal à l’instant n et y(n) le signal<br />
prédit à partir du signal aux instants précédents<br />
[d(n − 1),d(n − 2), ···].<br />
z −1<br />
FILTRE<br />
ADAPTATIF<br />
y(n)<br />
e(n)<br />
Figure 3: Principe de la prédiction.<br />
-<br />
+<br />
d(n)<br />
INRS-EMT J. Benesty 12
3. Modélisation inverse:<br />
d(n) est l’entrée (retardée) du système que l’on cherche<br />
à inverser.<br />
d(n)<br />
SYSTEME<br />
z −δ<br />
FILTRE<br />
ADAPTATIF<br />
e(n)<br />
y(n)<br />
-<br />
+<br />
d(n − δ)<br />
Figure 4: Principe de la modélisation inverse.<br />
INRS-EMT J. Benesty 13
4. Annulation d’interférences:<br />
d(n) est un signal contenant le signal utile et les<br />
interférences à annuler. x(n) est un signal dénué (ou<br />
presque) d’information et obtenu par un capteur proche<br />
des interférences.<br />
x(n)<br />
d(n)<br />
bruit<br />
signal+bruit<br />
FILTRE<br />
ADAPTATIF<br />
y(n)<br />
e(n)<br />
Figure 5: Annulation d’interférences.<br />
INRS-EMT J. Benesty 14<br />
-<br />
+
Quelques notes historiques<br />
Le début d’une théorie sur l’estimation dans laquelle<br />
plusieurs tentatives sont faites pour minimiser une<br />
fonction d’erreur remonte à Galileo Galilei en 1632.<br />
L’origine de la théorie sur l’estimation linéaire est<br />
créditée à Gauss qui en 1795 inventa la méthode<br />
des moindres carrés.<br />
Les premières études utilisant l’erreur quadratique<br />
moyenne dans les processus stochastiques sont dues<br />
à Kolmogorov, Krein, et Wiener vers la fin des<br />
années 1930.<br />
Wiener formula (en temps continu) le problème de<br />
filtrage pour estimer un processus corrompu par du<br />
bruit.<br />
En 1947, Levinson formula le filtre de Wiener en<br />
temps discret.<br />
Swerling et Kalman, en 1958 et 1960<br />
respectivement, fûrent les premiers à s’attaquer aux<br />
processus non stationnaires.<br />
INRS-EMT J. Benesty 15
Les premiers travaux sur les filtres adaptatifs ont<br />
commencé vers la fin des années 1950.<br />
L’un de ces premiers algorithmes est l’algorithme du<br />
gradient stochastique ou LMS (least-mean-square)<br />
conçu par Widrow et Hoff en 1959.<br />
Le LMS est très proche du concept d’approximation<br />
stochastique développé par Robbins et Monro en<br />
1951 en statistiques.<br />
L’algorithme RLS (recursive least-squares) standard<br />
fût inventé par Plackett en 1950.<br />
La première version rapide du RLS fût développée<br />
par Morf en 1974.<br />
INRS-EMT J. Benesty 16