Sprachliche Mensch-Maschine-Kommunikation

21.5 Adaptionsmethoden 363
eine Funktion von i und k. Im einfachsten Fall gibt es nur eine einzige
Transformation für alle Mittelwerte, im komplexesten Fall hat jede Gauß-
Verteilung eine eigene Transformation (welche aber entweder bei wenig
Adaptionsdaten nicht ausreichend gut geschätzt werden können, oder sehr
vielen Adaptionsdaten, die schlechtere Variante im Vergleich mit einem
EM-Training wären). Der Maximum-Likelihood Aspekt kommt von der Art,
wie die Transformation gefunden wird:
(Âj, ˆSj, ˆbj) = argmax pj(x|i) (21.6)
(Aj,Sj,bj)
Zwar könnte Aj eine beliebige Matrix sein, allerdings laßt sich die
Maximum-Likelihood Optimierung am besten für Rotationsmatrizen
durchführen. Im übrigen kann es sinnvoll sein, bei besonders wenigen
Trainingsdaten, für Aj und Sj einfach Einheitsmatrizen zu verwenden, und
die resultierende Transformation als eine einfache Translation der Mittelwertsvektoren
zu implementieren. Tatsächlich stellt sich heraus, daß eine
Transformation der Sj der Kovarianzmatrizen einen wesentlich geringeren
positiven Effekt auf die Adaption hat als die Transformation der Mittelwerte
[?].
21.5.2 Label-Boosting
Der zentrale Algorithmus beim Trainieren von Hidden Markov Modellen ist
die Berechnung der γt(i) = P(qt = i|X, λ), also der Wahrscheinlichkeit dafür,
daß der stochastische Sprachprozeß sich zum Zeitpunkt t bei gegebener
Beobachtung X und HMM λ im Zustand si befindet (Gl. 12.16). Die Werte
γt(i) werden nach der reinen Theorie mit Hilfe des Forward-Backward
Algorithmus berechnet. Wie in Abs. 13.1.2 gezeigt, wird in der Praxis aber
meist statt dessen der Viterbi-Algorithmus verwendet, beziehungsweise im
voraus berechnete und abgespeicherte Viterbi-Pfade. Selbstverständlich ist
die Qualität der Viterbi-Pfade von größter Bedeutung. Unexakt positionierte
Zustandsübergänge führen dazu, daß die Modelle (Gauß-Mischverteilungen)
mit ” falschen“ Trainingsdaten trainiert werden.
Von Viterbi-Pfaden, die mit einem Sprecherunabhängigen Erkenner
berechnet werden, kann man erwarten, daß sie nicht so gut sind wie Pfade,
die mit einem auf den Sprecher spezialisierten Erkenner erzeugt wurden.
Daher bietet sich ein Vorgehen an, das unter dem Namen ” Label-Boosting“
bekannt ist (s. Abb. 21.3. Dabei werden iterativ neue HMM-Parameter St
berechnet, wobei allerdings die Berechnung der γt(i) nicht mit sprecherunabhängigen
HMM-Parametern sondern mit durch MLLR adaptierten