Contributions à l'étude de la classification spectrale et applications

34 Classification et éléments spectraux de la matrice affinité gaussienne
Marche aléatoire sur un graphe
Meila et Shi [79] utilisent le lien entre le Laplacien d’un graphe et les chaînes de Markov initié par
[25] et identifient la matrice d’affinité normalisée comme une matrice stochastique représentant une
marche aléatoire sur un graphe et le critère de la coupe normalisée comme la somme des probabilités
de transition entre deux ensembles. Mais, seuls le cas où les vecteurs propres sont constants par
morceaux pour des structures matricielles spécifiques (bloc diagonales) sont considérées. D’autres
aspects des marches aléatoires sont utilisés pour proposer des variantes de la méthode de spectral
clustering avec des techniques agglomératives [55] ou bien l’utilisation d’une distance euclidienne
basée sur le temps moyen de commutation entre les points d’une marche aléatoire d’un graphe [114].
Perturbation matricielle
Comme évoqué dans le chapitre 1, Ng, Jordan et Weiss [84] expliquent le clustering spectral en
considérant un cas idéal où la matrice affinité gaussienne a une structure numérique bloc diagonale.
Cependant, dans le cas général, cette structure n’est pas conservée donc les auteurs utilisent des
résultats sur la perturbation de matrices. La théorie de la perturbation matricielle [96] traite du
comportement des valeurs propres et des vecteurs propres d’une matrice B lorsque celle-ci est sujette
à de faibles perturbations additives H c’est-à-dire l’étude des éléments spectaux de ˜ B = B + H. Le
théorème de Davis-Kahan [18] permet de borner la différence, via les angles principaux [49], entre
les espaces propres de B et ˜ B associés aux valeurs propres proches de 1. Cette différence dépend de
l’écart entre les valeurs propres proches de 1 et le reste du spectre. Or, ces résultats sont sensibles
à l’importance de la perturbation et l’écart peut être très petit.
Interprétation via des opérateurs
D’autres interprétations mathématiques de cette méthode ont été étudiées en utilisant une version
continue de ce problème. Plusieurs travaux ont été menés pour expliquer le fonctionnement du
clustering spectral. Belkin et Nyogi [11] ont montré que sur une variété de R p , les premiers vecteurs
propres sont des approximations de l’opérateur de Laplace-Beltrami. Mais cette justification est
valide lorsque les données sont uniformément échantillonnées sur une variété de R p .
Nadler et al [82] donnent une autre interprétation probabiliste basée sur un modèle de diffusion.
Pour cela, la distance de diffusion est définie comme une distance entre deux points basée sur une
marche aléatoire sur un graphe. La projection de diffusion de l’espace des données dans un espace
est définie par les k premiers vecteurs propres. Il a été démontré que les distances de diffusion dans
l’espace original sont égales aux distances euclidiennes dans l’espace de projection de diffusion. Ce
résultat justifie l’utilisation des distances euclidiennes dans l’espace de projection pour de diffusion
pour le clustering.
Tous ces résultats sont établis asymptotiquement pour un grand nombre de points. Cependant,
d’un point de vue numérique, le spectral clustering partitionne correctement un ensemble fini de
points avec des distributions quelconques sur les dimensions.
Nous proposons donc une nouvelle interprétation où l’ensemble fini des données représentera la
discrétisation de sous-ensembles. Ainsi, les vecteurs propres de la matrice gaussienne seront, pour
une bonne valeur de t, la représentation discrète de fonctions à support sur un seul de ces sousensembles.
L’objectif est aussi d’avoir des éléments d’analyse pour juger la qualité du clustering et
du choix du paramètre σ.