Identifikation nichtlinearer mechatronischer Systeme mit ...

2.4 Dynamische Neuronale Netze 23
2.4.3 Elman-Netzwerk
Elman-Netze [Elman, 1990] sind eine Modifikation der Jordan-Netze, bei der die
Rückkopplungsverbindungen nicht mehr von der Ausgabeschicht zur Kontextschicht,
sondern von der verdeckten Schicht zur Kontextschicht verlaufen. Somit sind Elman-
Netze in der Lage, die Zustände der verdeckten Schicht zu speichern. Zudem entfallen
die direkten Rückkopplungen der Kontextzellen.
Elman-Netze wiederum stellen einen Sonderfall der hierarchischen Elman-Netze dar,
bei denen das Prinzip der Elman-Netze auf mehrschichtige Netze erweitert wird.
Zusätzlich werden die bereits von den Jordan-Netzen bekannten Rückkopplungen
der Kontextzellen eingeführt. Der Vorteil der erweiterten Elman-Netze liegt neben
der Existenz mehrerer verdeckter Schichten vor allem in der Tatsache, dass die Kontextschichten
durch die Wahl unterschiedlicher Rückkopplungen λi unterschiedliches
Speicherverhalten haben können. In Abbildung 2.14 ist ein klassisches Elman-Netz
abgebildet und in Abbildung 2.15 ein hierarchisches Elman-Netz mit zwei versteckten
Schichten und einer zusätzlichen Kontextschicht für die Ausgabeschicht.
Abb. 2.14: Architektur eines Elman-Netzes
2.4.4 Lerngesetze für dynamische Neuronale Netze
Für dynamische Neuronale Netze werden in [Zell, 1994] Backpropagation Through
Time (BPTT) und Real-Time Recurrent Learning (RTRL) vorgeschlagen.