Contributions à l'étude de la classification spectrale et applications

Chapitre 1
Classification spectrale : algorithme et
étude du paramètre
Ce chapitre s’intéresse à la méthode de classification spectrale (ou clustering spectral) et à sa mise
en oeuvre. Comme cette méthode repose sur la seule mesure d’affinité entre tous les couples de points,
sans a priori sur les formes des classes (ou clusters), nous étudierons plus particulièrement, après
une présentation de l’algorithme, le paramètre de l’affinité gaussienne. En effet, son rôle est crucial
dans le partitionnement des données et il n’existe pas a priori de moyen pour définir un paramètre
optimal, mais un ordre de grandeur peut être accessible. On propose donc deux heuristiques qui
seront confrontées aux résultats théoriques dans le chapitre suivant. Dans un premier temps, les
diverses définitions, globales et locales, basées sur des interprétations physiques seront présentées.
Ensuite nous proposerons une heuristique basée sur un point de vue géométrique et nous introduirons
une mesure de qualité pour étudier l’influence de ce paramètre sur les résultats de classification (ou
clustering).
1.1 Présentation de la classification spectrale
Dans la suite, nous présentons un algorithme de spectral clustering et le choix du paramètre de
l’affinité gaussienne sera étudié.
1.1.1 Algorithme de classification spectrale
La méthode de clustering spectral consiste à extraire les vecteurs propres associés aux plus
grandes valeurs propres d’une matrice affinité normalisée, issue d’un noyau de Mercer [48]. Ces
vecteurs propres constituent un espace de dimension réduite dans lequel les données transformées
seront linéairement séparables. Deux principales classes d’algorithmes de clustering spectral ont été
développées à partir de partitionnement de graphes [104]. La première est fondée sur un partitionnement
bipartite récursif à partir du vecteur propre associé à la seconde plus grande valeur propre
du graphe du Laplacien normalisé [63, 91], ou vecteur de Fiedler [25] dans le cas non-normalisé. La
deuxième classe d’algorithmes n’utilise pas de manière récursive un seul vecteur propre mais propose
de projeter les données originales dans un espace défini par les k plus grands vecteurs propres d’une
matrice d’adjacence normalisée (ou matrice similaire à celle-ci), et d’appliquer un algorithme standard
comme k-means sur ces nouvelles coordonnées [84, 79]. Nous porterons l’étude principalement
sur cette dernière classe dans un souci de coût numérique et de simplicité algorithmique.
Y.Weiss et al (NJW) [84] présentent cette dernière classe d’algorithmes (c.f. Algorithme 1) pour
partitionner un ensemble de points S = {x1, ..., xN} ⊂ R p en k clusters où k est fixé. NJW justifient
9