Sprachliche Mensch-Maschine-Kommunikation

222 13. Das Trainieren von Spracherkennern
Menge an Information aus den Trainingsdaten zu verwerfen bzw. nur dazu
zu verwenden, die neuen Daten zu etikettieren. Würde man aber die neuen
Daten einfach nur zu den Trainingsdaten hinzufügen und so die Parameter
neu schätzen, würde die Wirkung der neuen Daten auf die Parameter kaum
merkbar ausfallen.
Eine einfache Möglichkeit, dem Problem zu begegnen, ist die unterschiedliche
Gewichtung der großen alten Datenmenge und der kleinen neuen
Datenmenge. Dabei könnten z.B. die neuen Daten mehrfach trainiert werden.
Alternativ kann man in Anlehnung an entsprechende Trainingsverfahren bei
künstlichen neuronalen Netzen mit Hilfe eines Momentums arbeiten.
Bei Verwendung eines Momentums werden die alten Trainingsdaten nicht
mehr benutzt. Die Systemparameter werden aber nicht einfach durch die
Schätzung mit den neuen Daten ersetzt, sondern nur leicht in deren Richtung
verändert. Müßte nach dem EM-Algorithmus oder der Baum-Welch-Regeln
der Parameter c ersetzt werden durch c ′ = d, dann wird statt dessen
c ′ = ǫ · c + (1 − ǫ) · d gewählt. Der Wert von ǫ kann unterschiedlich – je
nach Größe der neuen Trainingsdatenmenge – gewählt werden, ja sogar
unterschiedlich für verschiedene Parameter.