Sprachliche Mensch-Maschine-Kommunikation

13.3 Trainingsparadigmen 217
annehmen. Sehr viele ” grenznahe“ Muster tragen eher dazu bei eine scharfe
Trennlinie robust zu lernen.
Diese konsistenzbewahrende Methode des diskriminativen Trainings
arbeitet ohne Negativbeispiele. Eine explizite Wahrscheinlichkeitsreduktion
für bestimmte Muster kann nicht direkt herbeigeführt werden, sondern
ergibt sich - wenn überhaupt - nur durch die relative Verbesserung der
Wahrscheinlichkeiten für die positiven Muster. Wenn man nicht fordert,
daß die Modellparameter konsistent bleiben, ist es auch denkbar, beim
Aufakkumulieren der Trainingsdaten des EM-Algorithmus, verschiedene
Muster verschieden stark zu gewichten, insbesondere negative Beispiele mit
negativen Gewichtungsfaktoren zu versehen. Die entschuldigende Annahme
dabei ist die, daß es deutlich mehr positive Beispiele als negative geben
sollte, so daß die wenigen negativen Beispiele an der Gesamtmasse der
akkumulierten Information nur wie ein kleines Korrektiv wirken. Daher
auch der in diesem Zusammenhang gern benutzte Begriff des korrektiven
Trainings (s.u.). Dennoch kann man in der Regel nicht ausschließen, daß
die Akkumulatoren inkonsistent werden, und muß Vorkehrungen treffen. Die
einfachste Absicherung ist die Einführung von Minimalwerten (ǫ > 0 )für
die Werte γ(. . .). Sollte ein γ(. . .) unter den Minimalwert fallen, wird es vor
der Aktualisierung der Parameter auf diesen angehoben.
Korrektives Trainieren
Eine bereits recht früh angewandte Technik des diskriminativen Trainierens
war das so genannte korrektive Trainieren (corrective training [?]). Die Idee
hierbei ist, den Spracherkenner im Erkennungsmodus auf allen Trainingsaufnahmen
laufen zu lassen und Erkennerhypothesen zu erzeugen. Nun
kann man annehmen, daß diejenigen Aufnahmen, auf denen der Erkenner
überhaupt keine Fehler macht ausreicheichend gut modelliert werden können
und keinen Bedarf an Korrektur der Erkennerparameter stellen. Dort
allerdings, wo der Erkenner Fehler macht, ist davon auszugehen, daß die
Parameter nicht ausreichend gut trainiert sind. Nun ist es nicht sinnvoll,
den kompletten Beitrag, den die falsch erkannte Aufnahme zum Training
geleistet hat wieder zu entfernen oder gar negativ zu trainieren, sondern am
besten nur diejenigen Bereiche, die fehlerhaft erkannt werden. Man kann
dann, nachdem für jede Trainingsaufnahme sowohl eine korrekte Wortfolge
(Transkription) und einer unter Umständen fehlerhafte Transkription (Hypothese).
Für beide Wortfolgen kann nun ein Viterbi-Pfad berechnet werden.
Dann werden die üblichen Baum-Welch Regeln angewandt, wobei die γt(i)
für die Zustands-Zeit-Paare (t, i), die auf dem korrekten Viterbi-Pfad liegen,
mit einem positiven Wert f > 0 und für diejenigen, die auf dem falschen
Viterbi-Pfad liegen, mit einen negativen Wert g < 0 multipliziert (s. Abb.