Sprachliche Mensch-Maschine-Kommunikation

264 16. Verwendung von Sprachmodellen
⎧
#(Hwn)
falls wn = Ve und Ve ∈ H
⎪⎨
#(H)
P(H) falls wn = Ve und Ve ∈ H
P(wn|H) =
0.0 falls wn = Ve und Ve ∈ H
⎪⎩
1.0 falls wn = Ve und Ve ∈ H
(16.3)
wobei #(H) die Häufigkeit der Beobachtung der Wortfolge H ist, #(Hw)
die Häufigkeit der Beobachtung der Wortfolge H gefolgt vom Wort w ist.
Bei einem Vokabular von 100 000 Wörtern könnten 10 50 verschiedene
Zehnwortfolgen erzeugt werden. Das bedeutet, daß es ausgeschlossen ist,
daß wir eine Tabelle anlegen, die für jedes Wort w und jede Worthistorie
H einen gut geschätzten Eintrag P(w|H) enthält. Bleiben also nur drei
Möglichkeiten. Erstens wir setzen sehr viele Einträge in der Tabelle auf null.
Zweitens, wir berechnen P(w|H) erst dann wenn wir es wirklich benötigen,
und nicht alles im voraus. Oder drittens, wir fassen verschiedene Historien
in Klassen zusammen und approximieren:
P(w|H) ≈ P(w|C(H)), (16.4)
wobei C(H) die Klasse von Historien ist, in die auch H fällt. Nur in
wenigen Fällen ist es sinnvoll, die Sprachmodellwahrscheinlichkeit ” im Fluge“
zu berechnen. Der Aufwand, der getrieben werden muß, um die Suche eines
Spracherkenners in akzeptabler Zeit durchzuführen, ist schon so groß, daß
eine sehr oft durchgeführte Anfrage nach Sprachmodellwahrscheinlichkeiten,
die erst noch berechnet werden müßten, den Gesamtablauf so sehr verlangsamen
würde, daß kein sinnvoller Einsatz des Erkenners mehr denkbar wäre.
Aus ebenso praktischen Gründen bietet es sich meist nicht an, die gesamte
Historie einer Aufnahme mitzuführen und ständig für die Berechnung
von Sprachmodellwahrscheinlichkeiten bereitzustellen. Abgesehen davon,
daß durch beliebig lange Historien die Komplexität des Suchalgorithmus
sehr hoch wird, können wir davon ausgehen, daß der Einfluß eines Wortes
auf die Beobachtungswahrscheinlichkeit eines anderen Wortes, daß erst sehr
viel später im Satz oder gar erst in einem viel späteren Satz auftritt mit
zunehmendem Abstand gegen null geht.
Somit bietet sich an dieser Stelle eine Art der Klassenbildung der
Historien an, nämlich die Beschränkung auf eine Maximallänge:
C(H = w1, w2, . . . wn) = {v1, v2, . . .vk|vi = wn−k+i}, (16.5)