Sprachliche Mensch-Maschine-Kommunikation

382 22. Künstliche Neuronale Netze
wi
wi+1
d1 . . .
ui
dn
wi+n
Abb. 22.7. Ein Time Delay Neuron
22.2.6 LPNNs
. . . . . .
wj
wj+1
d1 . . .
uj
dn
wj+n
Linked Predictive Neural Nets (LPNNs) wurden vor allem Anfang der
Neunziger eingesetzt [?] [?]. Die Idee hinter diesen Netzen ist das Berechnen
der Emissionswahrscheinlichkeiten durch Vorhersagenetzwerke. Dabei wird
für jedes Modell ein Vorhersagenetzwerk (in der Regel ein einfaches mehrschichtiges
Perzeptron) trainiert, das bei der Eingabe eines oder mehrerer
Merkmalsvektoren einen anderen ” vorhersagen“ muß. Hierbei bedeutet Vorhersage
nicht unbedingt Blick in die Zukunft. Eine ” Vorhersage“ des Vektors
Xt zum Zeitpunkt t aus den Merkmalen Xt−1 und Xt+1 ist genauso denkbar
und wurde auch in(engl. multi-layer perceptron MLP) der Tat verwendet.
Das erwartete Verhalten dieser Vorhersagenetzwerke wird damit begründet,
daß jedes Netzwerk seine Vorhersagefunktion nur auf Daten der ihm
entsprechenden Modelle trainiert. Nun kann man davon ausgehen, daß die
Qualität der Vorhersage, also die Nähe zum tatsächlichen Merkmalsvektor,
für ein Netz, das mit A-Lauten trainiert wurde, besser ist, wenn es auf
A-Lauten getestet wird, als wenn es auf B-Lauten getestet wird.
Der kontinuierliche Spracherkenner selbst kann nur auf Basis der Baum-
Welch Trainingsalgorithmen für Hidden Markov Modelle gebaut werden,
lediglich die Emissionswahrscheinlichkeiten werden nicht wie zumeist mit
Gauß-Mischverteilungen, sondern mit der Vorhersagequalität der Vorhersagenetze
berechnet. In Abb. 22.9 ist der Zustand dargestellt, in dem sich
der Erkenner zum Zeitpunkt t befindet. Die Größe der schwarzen Kreise in
der DP-Matrix entspricht den Werten der Emissionswahrscheinlichkeiten
beziehungsweise der Qualität der Vorhersage von Xt aus Xt−2 und Xt−1 für