Sprachliche Mensch-Maschine-Kommunikation

K1
p(x|2)
x
K2
max
p(2)
.
p(x|n)
Kn
p(x|1)
p(2)
p(n)
Abb. 9.9. Funktionsweise eines Bayes-Klassifikators
t=1
9.1 Klassifikatoren 141
argmax i p(C|x)
wobei µ der Erwartungswert (das erste Moment) der Verteilung ist, und
σ2 die Varianz (das zweite Moment, definiert mit Hilfe des Erwartungswertes
gemäß σ2 = E(x2 ) − E 2 (x)). Wenn Zum Schätzen dieser Parameter die Trainingsmuster
x1, x2, . . . xT verwendet werden, so ergibt sich als bester Schätzwert
ˆµ = 1
⊤
xt und ˆσ
n
2 = 1
⊤
(xt − ˆµ)
n
2
(9.8)
Da in der Praxis das Gesetz der großen Zahl so gut wie niemals dazu
führt, daß die geschätzten Parameter (Mittelwert) den Verteilungseigenschaften
(Erwartungswert) exakt gleichen, und da diese Unterscheidung
auch nur von theoretischer Bedeutung ist, werden sie im folgenden auch
nicht mehr unterschieden, und wir schreiben einfach µ unabhängig davon,
ob µ oder ˆµ gemeint ist.
Sehr viele Klassifikationsaufgaben, und dazu gehört insbesondere die
Spracherkennung, haben hochdimensionale Merkmalsräume. Mehrdimensionale
Normalverteilungen werden auch multivariate Normalverteilungen genannt.
In diesem Fall besteht eine Beobachtung aus einem d-dimensionalen
Spaltenvektor xi = (xi1, xi2, . . .xid) ⊤ , und die Verteilung berechnet sich als:
p(x) =
t=1
1
e
(2π) d |Σ| −1
2 (x − µ)⊤Σ −1 (x − µ)
(9.9)
wobei µ hier der d-dimensionale Mittelwertsvektor und Σ die Kovarianzmatrix
ist und geschätzt wird gemäß:
µ = 1
n
⊤
t=1
xt und Σ = 1
n
⊤
(xt − µ) · (xt − µ) ⊤ (9.10)
t=1