Sprachliche Mensch-Maschine-Kommunikation

136 9. Klassifikation und Mustererkennung
Durch Klicken auf Reset können Sie Eingabefläche wieder löschen und ein
neues Problem eingeben. Versuchen Sie für verschiedene Werte von k Punkte
so einzugeben, daß möglichst viele Iterationen durchlaufen werden können,
bis ein Optimum erreicht wird.
Der Begriff ” neural gas“ ist angelehnt an die Vorstellung eines
abkühlenden Gases. Der Grad an Streuung der Zuordnung variiert dabei
wie bei allen Simulated-Annealing-Algorithmen von anfangs sehr stark
(f(i, j) = 1/k ∀i, j) bis schließlich die Zuordnung eindeutig (f(i, j) = 1 für
ein bestimmtes j und 0 für alle anderen) wie beim reinen LBG-Algorithmus
ausfällt.
Bleibt noch zu klären, wie ein sinnvoller Wert für k bestimmt werden
kann. Es wurden Ansätze verfolgt, die Größe eines Codebuchs automatisch
zu bestimmen [?]. Dabei wird im Wesentlichen für verschiedene Werte von
k ein Neural-Gas- oder ein k-Mittelwerte-Algorithmus berechnet und die
durchschnittliche Streuung auf einer zuvor aus den Trainingsdaten entfernten
Teilmenge (Kreuzvalidierungsmenge) bestimmt. Ab einem bestimmten k
ist zu erwarten, daß die Streuung auf den Kreuzvaldierungsdaten nicht
mehr genauso schnell absinkt wie auf den Trainingsdaten. Dies ist dann ein
sinnvoller Wert für k. Experimente in [?] haben die Erwartung bestätigt,
daß Klassen, die von vorn herein eher uniform beziehungsweise unimodal
erscheinen wie zum Beispiel die Klasse der Beispielspektren für Stillelaute,
auch mit wesentlich weniger Referenzen auskommen als eher Komplexe
Klassen wie die Spektren von Diphthongen.
In der Praxis hat sich allerdings herausgestellt, daß der Gewinn an
fein dosierter Modellierungsgenauigkeit oft durch die sich ergebenden
numerischen Probleme wieder aufgehoben werden. Der Vergleich von multivariaten
Gauß-Mischverteilungen mit stark unterschiedlichen Größen von
Mixturen benötigt nachträgliche Korrekturparameter (so genannte fudge
factors). Die Erkennungsraten von Spracherkennern mit so automatisch
bestimmten Codebuchgrößen waren nicht signifikant besser als diejenigen
von Erkennern mit im voraus auf konstante Größe festgelegten Codebüchern.
In der Tat gehört zu den am häufigsten angewandten Methoden der
Codebuchgrößenbestimmung die auf Erfahrung basierte Schätzung. In diese
Schätzung fließen vor allem die Menge der Trainingsdaten und der maximale
erlaubte Aufwand für die Erkennung ein. Je mehr Trainingsdaten zur
Verfügung stehen und je weniger Anforderungen and die Echtzeitfähigkeit
des Klassifikators gestellt werden, umso größer können die Codebücher
gewählt werden.