Contributions à l'étude de la classification spectrale et applications

1.1.2 Problème du choix du paramètre 13
Weiss [84], σ contrôle la similarité entre les données et conditionne la qualité des résultats. Ainsi,
parmi les différentes valeurs de σ, on sélectionne celle qui minimise la dispersion des points d’un
même cluster dans l’espace propre réduit. Cette sélection peut être implémentée automatiquement
de manière non supervisée en considérant la dispersion des projections dans l’espace propre comme
indicateur. Ce choix peut être défini à l’aide d’un histogramme sur les normes xi − xj2 entre tous
les points xi, xj, pour tout i, j ∈ {1, .., N}. En supposant l’existence de clusters, l’histogramme
deviendra multi-modal : le premier mode correspondra à la moyenne intra-cluster et les suivants
représenteront les distances entre les clusters. Sélectionner un σ de l’ordre du premier mode de
l’histogramme revient donc à privilégier les affinités au sein des clusters et donc la structure blocdiagonale
de la matrice affinité.
Brand et Huang [20] définissent un paramètre scalaire global semblable à l’heuristique sur les histogrammes.
En effet, σ doit être égal à la moyenne de la distance entre chaque point de l’ensemble
S et son plus proche voisin. Cette heuristique est testée sur divers exemples géométriques 2D aux
densités variées et les résultats du clustering sont représentés sur la figure 1.3. Sur certains exemples,
cette estimation peut s’avérer insuffisante notamment lorsque les densités au sein même d’un cluster
varient comme pour les exemples (b) et (e) de la figure 1.3. De plus, cette définition requiert de faire
une boucle sur tous les points xi ∈ S pour résoudre min xi − xj2, pour tout i ∈ {1, .., N}, ce qui
j
peut être coûteux numériquement dans le cas d’un nombre important de données xj en particulier.
Approche locale
Une dernière classe de définitions basées sur des interprétations physiques [116, 42] privilégie
des approches locales où un paramètre scalaire spécifique est défini pour chaque point xi. Perona
et Zelnik-Manor [116] ont adopté une approche locale, consistant à définir un scalaire pour chaque
couple de point xi, xj. Ils assignent un paramètre scalaire σi différent à chaque point xi de l’ensemble
S. σi est égal à la distance entre le point xi et son P ième voisin le plus proche. Cette méthode donne
de bons résultats dans certains cas où l’effet de l’analyse locale fournit assez d’informations pour
créer les clusters : par exemple, des clusters compacts plongés dans du bruit. Mais calculer une
valeur de σ pour chaque point xi peut être coûteux et la valeur P reste fixée empiriquement (à
P = 7 pour [116]).
Une autre approche locale développée par Fischer et Poland [42] utilise la conductivité définie dans
les réseaux électriques : la conductivité entre deux points dépend alors de tous les chemins entre
eux. Cette définition permet de renforcer la structure numérique par bloc de la matrice affinité. Le
paramètre local est fixé tel que la somme des lignes de la matrice affinité A est égale à une valeur
τ. Donc σ dépend d’une autre valeur τ représentant un rayon de voisinage à fixer empiriquement.
Remarque 1.1. Ces définitions locales s’avèrent très efficaces pour des cas de données bruitées.
Elles permettent de distinguer le bruit des données comme le montre la figure 1.4. Cependant, ces
approches s’avèrent coûteuses et impliquent de définir de nouveaux paramètres, respectivement le
nombre de voisins P pour [116] ou la valeur τ pour [42]. Ces derniers représentent le raffinement
de l’étude locale.
Dans les exemples introduits sur la figure 1.4, la densité des points varie au sein des clusters. Ces
résultats illustrent le fait que, sans l’information de densité globale, il peut être difficile de classer