Contributions à l'étude de la classification spectrale et applications

4 Introduction
classe et la dispersion entre les classes. Ces processus se terminent par un critère d’arrêt à définir
(en général, un nombre a priori de clusters finaux). Ces méthodes sont performantes et s’adaptent à
tout type de données et pour toute mesure de similarité. Par contre, le manque d’évaluation au sein
des clusters itérativement construits et le manque de critère d’arrêt précis restent les points faibles
de ces algorithmes.
L’autre grande catégorie de méthodes non supervisées est basée sur le partitionnement des
données initiales et la réallocation dynamique de partitions. Parmi elles, l’optimisation de fonctions
objectifs reste le fondement mathématique des plus anciennes méthodes de classification. La méthode
k-means est l’une des plus utilisées [77, 56, 95] et fonctionne sur deux estimateurs [90]. Le premier est
basé sur l’estimation du centre de gravité de chaque cluster comme l’isobarycentre de l’ensemble des
points appartenant au cluster. Le second est fondé sur l’estimation globale de la partition des données
i.e l’inertie des nuages de points par cluster. Ce dernier représente les moindres carrés ordinaires
entre les points et leurs centres correspondants pour la norme L 2 . Il existe deux principales versions
à l’optimisation du k-means itératif. La première version du k-means [43] est semblable, d’un point
de vue probabiliste, à un maximum de vraisemblance et se décompose en deux étapes : assigner
les points à leur centre le plus proche puis recalculer les centres des nouveaux ensembles de points
jusqu’à satisfaire un critère d’arrêt (par exemple, l’invariance de la composition des clusters entre
deux itérations). L’autre version de cette méthode utilise la fonction objectif des moindres carrés
ordinaires pour permettre le réassignement des points. Seuls les points améliorant cette fonction
objectif seront déplacés et leurs centres respectifs recalculés. Ces variantes pour la norme L 2 ont
la même complexité numérique mais dépendent de la mesure de similarité utilisée et de la nature
des données. De nombreux autres algorithmes permettent d’optimiser la fonction objectif [9, 54]
ou de définir heuristiquement un nombre optimal k de clusters [45, 15, 97] et l’initialisation des
centres [4, 19, 57]. Cependant, la méthode k-means reste sensible à l’initialisation des centres de
clusters, aux optima locaux, aux données aberrantes et à la nature des données. Mais le principal
problème de cette méthode basée sur la séparation linéaire est que, par définition, le k-means ne
partitionne pas correctement les clusters couvrant un domaine non-convexe c’est-à-dire dans le cas
de séparations non linéaires.
Traiter des domaines non-convexes revient à considérer les clusters comme des ouverts et à
ajouter des notions topologiques de connexité, de densité et de voisinage. En effet, dans un espace
Euclidien, un ouvert peut être divisé en un ensemble de composantes connexes. Ainsi les clusters
seront caractérisés de par leur densité comme des composantes connexes denses et des points appartenant
au même cluster seront définis par leur voisinage. Les approches probabilistes utilisent ces
propriétés car les éléments des différents clusters sont supposés être générés par des distributions de
probabilités différentes ou bien de même famille avec des paramètres différents. On distingue donc
deux principales approches parmi les méthodes de partitionnement basées sur la densité de points
[53]. La première [37] juge la densité autour d’un voisinage d’un objet comme suffisante suivant le
nombre de points situés à un certain rayon de cet objet. Elle nécessite donc la définition de deux
paramètres : le rayon du voisinage et celui du cardinal minimum pour constituer un cluster. Ainsi les
données aberrantes, bruitées, sont considérées et le processus est performant pour de faibles dimensions.
Par contre, ces deux paramètres restent difficiles à choisir de manière automatique c’est-à-dire
sans apport d’informations extérieures. L’autre approche [59, 53] est basée sur un ensemble de distribution
de fonctions de densités. A partir de fonctions d’influences (en général gaussiennes ou
signaux carrés) décrivant l’impact d’un point sur son voisinage, la densité globale de l’espace des
données est modélisée de manière itérative comme la somme des fonctions d’influences de tous les
points. En identifiant les densités d’attractions c’est-à-dire les maxima locaux de la densité globale,
les clusters sont alors déterminés mathématiquement. Les paramètres de voisinage et de la fonction
d’influence restent à nouveau à choisir. De plus, les lois de probabilités utilisées ne sont pas toujours