Sprachliche Mensch-Maschine-Kommunikation

Jordan Elman
22.2 Architekturen 375
Eingabemuster Kontext Eingabemuster Kontext
Abb. 22.2. Rekurrentes Neuronales Netz nach Jordan und Elman
22.2.3 LVQ – Learning Vector Quantization
Auf den ersten Blick erscheint die Einordnung des Learning Vector Quantisation
Verfahrens in den Bereich der Neuronalen Netze als irgendwie
unmotiviert. Tatsächlich ist der im folgenden vorgestellte LVQ-Algorithmus
mit denen, die für das Trainieren und die Funktion von Perzeptronen
verwendet werden, durchaus in vielen Bereichen vergleichbar.
Die Idee hinter dem LVQ liegt darin, daß Referenzvektoren, die bestimmte
Klassen repräsentieren, iterativ im Merkmalsraum verschoben werden.
Das Ziel, das dabei verfolgt wird, ist den durchschnittlichen (euklidischen
oder anderen) Abstand der Trainingsmuster zu ihrem entsprechenden
Referenzvektoren zu minimieren. Der einfache LVQ-Algorithmus sieht wie
folgt aus:
1. gegeben: die Anhahl k der Klassen,
und die Menge der Trainingsmuster v1, v2, . . . vT
2. initialisiere beliebige k Referenzvektoren µ1, µ2, . . . µk,
z.B. durch µi = vi
3. ordne jedem Trainingsmuster vi den Repräsentanten
µ f(i) seiner Klasse zu
4. bewege µ f(i) ein wenig in Richtung vi,
also µ ′ f(i) = µ f(i) + t · (vi − µ f(i))
5. wenn Optimierungskriterium noch nicht ausreichend erfüllt,
gehe zu Schritt 3