Sprachliche Mensch-Maschine-Kommunikation

220 13. Das Trainieren von Spracherkennern
die Frage, ob es möglich ist, einen Erkenner mit Sprachaufnahmen zu
trainieren, ohne daß dabei die Transkriptionen der Aufnahmen vorhanden
sind. Die Erfahrung hat gezeigt, daß das Zitat von Bob Mercer: ” there’s
no data like more data“ fast immer anwendbar ist. Daraus entsteht die
Vorstellung, daß die sehr großen vorhandenen Audiodatenmengen genutzt
werden können, um Spracherkenner zu trainieren, ohne vorher den sehr langwierigen
und teuren Prozeß der Transktiption durchlaufen zu müssen. Wenn
man bedenkt, daß die größten sauber transkribierten spontansprachlichen
Datenbasen gerade mal etwa 250h Sprachaufnahmen beinhalten und daß in
den Archiven verschiedener Medien und Sendeanstalten mehrere Millionen
Stunden Sprachaufnahmen existieren, scheint die Hoffnung aus diesen riesigen
Datenmengen einen Vorteil zu ziehen, nicht unbegründet, auch wenn die
dann zu verwendenden Trainingsmethoden weniger gute Ergebnisse erzielen
als überwachte Methoden es auf der gleichen Trainingsmenge könnten.
Die Idee beim Trainieren ohne Transkriptionen ist, einen ersten schlechten
Spracherkenner zu verwenden automatisch Transkriptionen zu erzeugen.
Diese sind dann natürlich von schlechter Qualität und enthalten viele Fehler.
Selbst wenn die Fehlerrate 30% beträgt, könnten so immer noch 70% von
riesigen Datenmengen (z.B. aufgezeichnete Rundfunknachrichten) korrekt
transkribiert zum Trainieren verwendet werden. Es muß allerdings etwas
dagegen unternommen werden, daß die 30% falsch transkribierten Daten die
geschätzten Modelle nicht zu stark verfälschen. Zu den Gegenmaßnahmen
gehören im wesentlichen zwei Vorgehensweisen: die Adaption und konfidenzgewichtetes
Training. Bei der Adaption wird versucht, durch Optimieren
des Erkenners auf den neuen Daten (s. Kap. 21) an die Spracheigenschaften
und Aufnahmebedingungen der großen untranskribierten Datenmengen
anzupassen, und so die Fehlerrate etwas zu senken. Wenn der Erkenner
bessere Transkriptionen erzeugt, dann wird auch der folgende Trainingsprozeß
erfolgreicher verlaufen. Die Erwartung ist nun, durch wiederholtes
Iterieren der automatischen Transkription und des Trainings einen immer
besser werdenden Erkenner zu erhalten, der immer bessere Transkriptionen
erzeugen kann, die wiederum zu besseren Trainingserfolgen führen.
Das Verfahren des konfidenzgewichteten Trainings beruht auf der Feststellung,
daß ein Erkenner zwar nicht angeben kann, welche Teile seiner
Hypothese korrekt sind und welche falsch, aber es ist möglich bestimmte
Konfidenzmaße zu bestimmen [?] [?], die ausdrücken, wie wahrscheinlich
es ist, daß der Erkenner an einer bestimmten Stelle einen Fehler gemacht
hat. Ein relativ leicht verständliches Konfidenzmaß ist zum Beispiel der
Vergleich der (durch den Forward-Algorithmus) berechneten Beobachtungswahrscheinlichkeit
des wahrscheinlichsten Wortes mit der des zweit- oder
drittwahrscheinlichsten Wortes an der gleichen Stelle. Wenn diese Wahrscheinlichkeiten
stark voneinander abweichen, also das wahrscheinlichste