Sprachliche Mensch-Maschine-Kommunikation

372 22. Künstliche Neuronale Netze
ausgeschnittenen Aufnahmen einzelner Phoneme oder Diphone trainiert
wurden.
Der Einfachheit halber werden wir ab jetzt das Adjektiv ” künstlich“ im
Zusammenhang mit neuronalen Netzen weglassen, weil wir uns nicht für die
Funktionalität biologischer neuronaler Netze interessieren und auch nicht
auf solche Netze eingehen werden. In diesem Kapitel wird die Einführung in
die Arbeitsweise und das Training von neuronalen Netzen nicht ausführlich
behandelt. Der interessierte Leser möge sich aus einem Fachbuch zu diesem
Thema informieren. Wir wollen uns hier auf die Anwendung neuronaler
Netze in der Spracherkennung konzentrieren, und nur soweit in die Theorie
eindringen, wie dies für die hier beschriebenen Netze und Aufgaben sinnvoll
ist.
22.1 Probleme reiner HMM-Erkenner
Die Standardmethode für das Trainieren von Hidden Markov Erkennern
besteht aus den Baum-Welch Optimierungsregeln und dem Expectation Maximization
Algorithmus zur iterativen Optimierung von Mischverteilungen.
Beide Prinzipien basieren auf dem Auswerten von ” positiven Beispielen“.
Dabei wird nur die Zugehörigkeit eines Musters zu einer Klasse aber nicht
die Nichtzugehörigkeit zu anderen Klassen explizit berücksichtigt. Zwar gibt
es auch für das Optimieren von HMM Erkennern diskriminative Verfahren
(z.B. das Korrektive Training, Abs. 13.3.1), aber für neuronale Netze sind
diskriminative Verfahren meist die geeignetste Trainingsmethode.
Die Praxis hat außerdem gezeigt, daß viele Klassifikationsaufgaben mit
Hilfe von neuronalen Netzen mit deutlich weniger Parametern bewältigt
werden können als mit maximum-likelihood-basierten Klassifikatoren. Ein
Maximum-Likelihood Klassifikator muß für jede Klasse C die klassenbedingte
Wahrscheinlichkeit(-sdichte) P(x|C) über dem Merkmalsraum lernen.
Dies geschieht für jede Klasse unabhängig von den anderen Klassen und
unabhängig von der A-Priori-Wahrscheinlichkeit der Klasse. Zu dem Zeitpunkt,
an dem der Maximum-Likelihood Klassifikator seine klassenbedingten
Wahrscheinlichkeitsfunktionen schätzen muß, kann er noch nicht absehen,
welche Details dieser Funktion wichtig sind und welche weniger wichtig sind.
Abbildung 22.1 veranschaulicht den Mehrbedarf an Parametern für einen
Maximum-Likelihood Klassifikator gegenüber einem Maximum-A-Posteriori
Klassifikator. Der letztere berechnet P(C|x) und berücksichtigt dabei den
Zusammenhang aller Klassen. Ein neuronales Netz, das diese a-posteriori
Wahrscheinlichkeiten schätzen soll, muß nur eine einfache Näherung an das