Sprachliche Mensch-Maschine-Kommunikation

336 19. Parameterraumoptimierung
erhöht, auch die Gesamtwahrscheinlichkeit der Trainingsdaten beliebig weit
erhöhen kann, im Extremfall so weit, daß jedes einzelne Trainingsdatum
seinen eigenen Parameter im Parameterraum hat.
Typische Vorgehensweisen beim Architekturentwurf werden selten
veröffentlicht. Bei den obligatorischen Systembeschreibungen der Spracherkenner,
die an den offiziellen internationalen (D)ARPA Evaluationen
teilnehmen, werden die Parameterräume zwar beschrieben, aber man findet
kaum Informationen darüber, warum diese Architektur ausgewählt wurde.
In der Praxis sieht zum Beispiel die Optimierung der Zahl der akustischen
Modelle so aus, daß für eine Reihe verschiedener Werte ein Erkenner trainiert
und danach evaluiert wird. Der am besten arbeitende Erkenner wird
schließlich zum System der Wahl. Oft läßt sich dieses Vorgehen allerdings
automatisieren, so daß die Hauptlast vor allem durch den Rechenzeitbedarf
bestimmt wird.
19.4 Kompaktifizierung
Ein kompakter Parameter hat mehrere Vorteile. Dazu gehören nicht nur
die leichtere Trainierbarkeit sondern auch Aufwandsaspekte. Weniger
Parameter können sowohl den zeitlichen als auch räumlichen Aufwand von
Spracherkenner deutlich senken. Insbesondere im Hinblick darauf, daß in
naher Zukunft die Spracherkennungstechnologie immer mehr in alltägliche
kleine Geräte Einzug finden wird, ist es wichtig, auch mit kleinen Ressourcen
gute Ergebnisse zu erzielen.
19.4.1 Typen von Kovarianzmatrizen
Es gibt verschiedene Gründe anzunehmen, daß die Verwendung von normalen
Kovarianzmatrizen für die Berechnung der HMM Emissionswahrscheinlichkeiten
mit Mixturen von Normalverteilungen nicht die beste denkbare
Lösung ist. Die Gründe dafür sind zum einen praktischer Natur. Die Anzahl
der Parameter einer vollen Kovarianzmatrix für einen d-dimensionalen
Merkmalsraum beträgt d(d + 1)/2, während die Mittelwertevektoren
lediglich jeweils d Parameter haben. Dadurch ergibt sich nicht nur ein
enormer Speicherbedarf, sondern auch das Problem der Trainierbarkeit.
Viele Parameter benötigen auch viele Trainingsdaten, um ausreichend gut
geschätzt werden zu können.
Ein anderer Nachteil voller Kovarianzmatrizen ist der erhöhte Rechenaufwand.
Die Berechnung einer Normalverteilung mit einer Kovarianzmatrix,