Riadenie inverzného kyvadla pomocou neurónových sietí

TECHNICKÁ UNIVERZITA V KOŠICIACH
FAKULTA ELEKTROTECHNIKY A INFORMATIKY
Riadenie inverzného kyvadla pomocou neurónových sietí
Milan DOSTAL
BAKALÁRSKA PRÁCA
2009

TECHNICKÁ UNIVERZITA V KOŠICIACH
FAKULTA ELEKTROTECHNIKY A INFORMATIKY
KATEDRA KYBERNETIKY A UMELEJ INTELIGENCIE
Riadenie inverzného kyvadla pomocou neurónových sietí
BAKALÁRSKA PRÁCA
Milan DOSTAL
Vedúci bakalárskej práce: Ing. Rudolf Jakša, PhD.
Konzultant bakalárskej práce: Ing. Rudolf Jakša, PhD.
Košice 2009

Analytický list
Autor: Milan Dostal
Názov práce: Riadenie inverzného kyvadla pomocou neurónových sietí
Podnázov práce:
Jazyk práce: slovenský
Typ práce: Bakalárska práca
Počet strán: 51
Akademický titul: Bakalár
Univerzita: Technická univerzita v Košiciach
Fakulta: Fakulta elektrotechniky a informatiky (FEI)
Katedra: Katedra kybernetiky a umelej inteligencie (KKUI)
Študijný odbor: Kybernetika
Študijný program: Kybernetika
Mesto: Košice
Vedúci práce: Ing. Rudolf Jakša, PhD.
Konzultanti práce: Ing. Rudolf Jakša, PhD.
Dátum odovzdania: 1. jún 2009
Dátum obhajoby: 15.06.2009
Kľúčové slová: Inverzné kyvadlo, neurónová sieť, model, topológia, riadenenie
Kategória konspekt: Výpočtová technika; Teória systémov. Automatické systémy.
Kybernetika. Informačné systémy
Citovanie práce: Dostal, Milan : Riadenie inverzného kyvadla pomocou
neurónových sietí. Bakalárska práca. Košice: Technická
univerzita v Košiciach, Fakulta elektrotechniky a informatiky ,
2009. 51 s.
Názov práce v AJ: Inverted Pendulum Control Using Neural Networks
Podnázov práce v AJ:
Kľúčové slová v AJ: Nural Network, Topology, Design

Abstrakt v SJ
Bakalárska práca sa zaoberá návrhom riadenia pre model inverzného kyvadla použitím
neurónovej siete. Popisuje úvod do riadenia systémov a zameriava sa na paradigmu neuroriadenia.
V neuroriadení sa zameriava na algoritmus učenia so spätným šírením chyby a popisuje systém
inverzného kyvadla. Pre model inverzného kyvadla navrhujú neurónové siete, kde jednotlivé
navrhované topológie sú simulované v Štuttgardskom neurónovom simulátore (SNNS). Výsledky
vyhodnocuje a porovnáva jednotlivé topológie neurónových sietí. Najlepšie navrhnuté riešenie sa
aplikuje na riadenie modelu inverzného kyvadla.
Abstrakt v AJ
This bachelor work deals with a design control for the inverted pendulum model by using
the neural network. It describes the introduction to the systems control and focuses on the
paradigm of neural control. In the neural control it focuses on the algorithm of learning with a
backpropagation of error and describes the system of the inverted pendulum. For the inverted
pendulum model, the neural networks are designed, where the individual suggested topologies are
simulated in the Stuttgard Neural Network Simulator (SNNS). The results are evaluated and
compared with each topology of neural network. The best designed solution is applied to the
control of the inverted pendulum model.

Čestné vyhlásenie
Vyhlasujem, že som celú bakalársku prácu vypracoval samostatne s použitím uvedenej
odbornej literatúry.
Košice, 15.06.2009
..........................................
vlastnoručný podpis

Poďakovanie
Týmto sa chcem poďakovať vedúcemu práce za pripomienky a odbornú pomoc pri
vypracovaní práce.

Obsah
Zoznam symbolov a skratiek.......................................................................................................9
Úvod.............................................................................................................................................10
1 Úvod do riadenia neurónovou sieťou ................................................................................11
1.1 Učenie so spätným šírením chyby..................................................................................12
2 Úvod do problematiky inverzného kyvadla......................................................................15
2.1 Model inverzného kyvadla..............................................................................................20
3 Návrh systému pre riadenie inverzného kyvadla pomocou neurónovej siete................21
3.1 Model inverzného kyvadla..............................................................................................21
3.2 Návrh riadenia virtuálneho modelu kyvadla...................................................................21
3.3 Množina trénovacich a testovacích dát...........................................................................26
4 Overenie výsledkov návrhu................................................................................................28
4.1 Topológie NN so šiestimi vstupmi a s jedným výstupom...............................................28
4.2 Topológia NN zo šiestimi vstupmi a s dvoma výstupmi................................................34
4.3 Topológia NN so šiestimi vstupmi a s tromi výstupmi...................................................39
5 Vyber najvhodnejšieho riešenia..........................................................................................44
6 Implementácia neurónovej siete na model inverzného kyvadla......................................46
7 Záver.....................................................................................................................................49
Zoznam použitej literatúry........................................................................................................50
Prílohy.........................................................................................................................................51

FEI KKUI
Zoznam symbolov a skratiek
M hmotnosť vozíka
m hmotnosť kyvadla
F sila pôsobiaca na vozík
g gravitačné zrýchlenie
l dĺžka kyvadla
x dráha vozíka
x' rýchlosť vozíka
x'' zrýchlenie vozíka
θ uhol vychýlenia kyvadla
θ' uhlová rýchlosť kyvadla
θ'' uhlové zrýchlenie kyvadla
b trecia sila pôsobiaca na vozík
I trecia sila pôsobiaca na kyvadlo
9

FEI KKUI
Úvod
V oblasti riadenia a regulácie je neodmysliteľnou súčasťou systémov vo
všeobecnosti regulátor, alebo takzvaný akčný člen, ktorého parametre musia presne
vyhovovať pre daný riadený systém. Na to, aby sme vedeli na základe stanovených
požiadaviek navrhnúť regulátor pre systém, musíme poznať riadený systém a
potrebujeme poznať technológie, na základe ktorých vieme navrhnúť daný regulátor. V
našom prípade sa budeme zaoberať s neuroriadením, pretože táto problematika je pre
nás zaujímavá a veľmi rozšírená, tak sa pokúsime bližšie zoznámiť z možnosťami a
princípom takéhoto riadenia na modeli inverzného kyvadla.
10

FEI KKUI
1 Úvod do riadenia neurónovou sieťou
Riadenie je taká činnosť, ktorou sa snažíme pôsobiť na systém tak, aby sme
pôsobili na akčný člen žiadanými hodnotami. Existuje viacero definícií pre riadenie, ale
dôležité je uvedomiť si, čo je riadenie a čo umožňuje.
Na procese riadenia sa zúčastňujú:
– riadený systém (je to systém ktorý chceme riadiť),
– riadiaci systém (je to regulátor, ktorým chceme riadiť systém),
– signály, pomocou ktorých prebieha komunikácia medzi zúčastnenými
systémami.
– cieľ riadenia, ktorý dáva procesu riadenia zmysel,
– prostredie, v ktorom sa riadenie uskutočňuje a ktoré na neho vplýva, ako sú
napríklad poruchy rôzneho charakteru.
Existuje niekoľko paradigiem riadenia, ale kvôli prehľadu vymenujeme len tie základné
a neskôr sa zameriame v ďalších kapitolách len na jednu paradigmu.
– kompenzačné riadenie,
– spätnoväzobné riadenie,
– riadenie s modelom,
– adaptívne riadenie,
– centralizované a decentralizované riadenie,
– riadenie zložitých systémov,
– lineárne riadenie,
– riadenie systémov s diskrétnymi udalosťami,
– neuroriadenie.
11

FEI KKUI
V súčastnosti je výskum v oblasti riadenia na takej úrovni, že máme pred sebou
širokú škálu možností, z ktorých môžeme vybrať vhodnú technológiu riadenia na daný
riadený systém. Preto jednou z možností riadenia systémov je neuroriadenie, kde takéto
riadenie je aplikované neurónovou sieťou. Neurónové siete sa postupne dostávajú na
úroveň všeobecného riadenia, čo umožňuje rôznorodé využitie v oblasti riadenia.
Neurónová sieť NN (Nueral Network) je zložitý systém, ktorého hlavnými
vlastnosťami sú: nelinearita, čo predurčuje na použite nielen v prostredí linearných
systémov, ale aj v prostredí nelineárnych systémov [1]. Neurónová sieť patrí do systému
MIMO (Multiple Input Multiple Output), teda umožňuje riadenie systémov s veľkým
počtom vstupov a výstupov. Prirodzenou schopnosť všetkých NN je schopnosť učiť sa a
adaptovať sa.
Existujú dva pohľady na objekt ,,Neurónová sieť“. Štandardný je ten, podľa
ktorého je neurónová sieť modelom mozgu, prípadne nervovej sústavy. Ďalší však je
iný, matematicky orientovaný pohľad, podľa ktorého tvoria neurónové siete triedu
algoritmov pre paralelne distribuované spracovanie dát (Parallel Distributed
Processing) a vlastne nejaký univerzálny matematický nástroj. Neurónové siete
môžeme kategorizovať podľa učiaceho algoritmu na viaceré skupiny, z dôvodu rozsahu
práce sa zameriame na učiaci algoritmus: učenie so spätným šírením chyby
(Backpropagation of error). Viac teórie o neurónových sietiach nebudeme rozvádzať,
pretože by to malo širší rozsah, ale pre záujem si môžete pozrieť v nasledujúcej
bibliografii [1].
1.1 Učenie so spätným šírením chyby
V súčasností je veľká väčšina aplikácií založená na tomto učiacom sa algoritme
(backpropagation, error backpropagation, backpropagation of error). Je považovaný za
základný učiaci sa algoritmus. Ide o rekurzívnu gradientovú metódu na nastavenie váh
neurónovej siete s ohľadom na minimalizáciu učiacej chyby J, ktorá je definovaná
vzťahom:
1 0 N
∑
i=
1
p
p p 2
J = ( evi
− xi
) . (1)
2
12

FEI KKUI
Kde N0 je počet výstupných neurónov v sieti, evi je požadovaná hodnota aktivácie
i-tého neurónu, xi je aktivácia i-tého neurónu a index p znamená, že údaj sa vzťahuje k
p-tej vzorke. Pre každý neurón platí:
M
∑
j = 1
x i = fi
( ii
) ii = wij
x j + θ i.
(2)
Kde ii je vstup i-tého neurónu, fi je aktivačná funkcia i-tého neurónu, M je počet
liniek vstupujúcich do i-tého neurónu, wij je váha na linke z j-tého neurónu do i-tého
neurónu a θi je prah i-tého neurónu (externý vstup neurónu). Keďže ide o gradientovú
metódu, pre zmenu váhy Δwij platí:
∂ J ∂ J ∂ ii
Δ wij = − γ = − γ
= γ δ ix
j , (3)
∂ w ∂ i ∂ w
ij
kde γ je konštanta udávajúca rýchlosť zmeny váh (learning rate) a pre δi platí:
Ak je i-tý neurón výstupný, tak platí:
Ak je i-tý neurón nie je výstupný, tak platí:
δ
i
∑
= − f ′ ( i )
∂ J ∂ J ∂ xi
∂ J
δ i = − = −
= − f ′ ( ii
). (4)
∂ i ∂ x i ∂ x
i
i
i
∂ J
δ i = − f ′ ( ii
) = ( evi
− xi
) f ′ ( ii
). (5)
∂ x
∑
= − f ′ ( i )
i
i
Nh
Nh
h= 1 h
∂ J
w
∂ i
h= 1 h
i
∂ J ∂ ih
= − f ′ ( ii
) ∑
∂ i ∂ x
hi
=
i
f ′ ( i )
i
Nh
∑
h=
1
δ
i
,
ij
i
∂ J
∂ i
h= 1 h
h
Nh
w
hi
∂
∂ x
Ni
∑
i i=
1
kde Nh je počet neurónov, do ktorých vedú z i-tého neurónu linky a ih sú vstupy týchto
neurónov. Ni je počet neurónov, z ktorých vedú linky do neurónov so vstupmi ih a xi sú
aktivácie týchto neurónov.
Posledný vzťah je základným vzťahom backpropagation a vyjadruje rekurzívne spätné
šírenie chybového signálu δ od výstupných neurónov až po vstup siete. Z hodnoty tohto
signálu na jednotlivých neurónoch sa potom odvádza zmena váh na linkách Δij= γδi xi. Je
vidíme, že backpropagation je veľmi univerzálny algoritmus. Od aktivačnej funkcie
požaduje iba znalosť jej derivácie. Učiacu chybu, od ktorej sa odvádza celé učenie, v
13
w
hi
x
i
=
(6)

FEI KKUI
podstate je tiež možné predefinovať bez podstatných zmien v algoritme. Uvedená
použitá teória je prevzatá z [3].
14

FEI KKUI
2 Úvod do problematiky inverzného kyvadla
Princíp inverzného kyvadla
Inverzné kyvadlo môže byť realizované viacerými spôsobmi. Zameriame sa na
typ inverzného kyvadla, ktoré je na vozíku. Na vrchu vozíka je pripevnená tyč jedným
koncom o pohyblivý čap. Je to systém s dvoma stupňami voľnosti, s posuvným a
rotačným. Tyč nemusí mať konštantnú dĺžku a hmotnosť, kde tieto parametre sú
sústredené na konci tyče. Pre lepšiu predstavu inverzného kyvadla je zobrazené na obr.
1. Toto kyvadlo z pohľadu riadenia môžeme nazvať riadeným systémom, ktorý zatiaľ
nemá riešené riadenie.
Funkcia inverzného kyvadla spočíva pôsobením silou na vozík z jednej alebo z
druhej strany, čím sa vozík posúva po dráhe. Pripevnená tyč na pohyblivom čape
balansuje po rovine, ktorá je kolmá na dráhu vozíka. Pôsobením silou na vozík sa
snažíme udržať balansujúcu tyč v kolmej polohe voči dráhe vozíka.
Obr. 1: Inverzné kyvadlo na vozíku, na vrchu vozíka je pripevnená tyč jedným koncom o
pohyblivý čap. Je to systém s dvoma stupňami voľnosti, s posuvným a rotačným. Tyč nemusí mať
konštantnú dĺžku a hmotnosť, kde tieto parametre sú sústredené na konci tyče.
15
čap

FEI KKUI
Popis kyvadla
Tento systém vieme popísať niekoľkými spôsobmi, buď Lagrange-Eulerovou
rovnicou pomocou rozdielu kinetickej energie a potenciálnej energie viď. [2], alebo
pomocou síl a vektorov pôsobiacich na kyvadlo obr. 2 viď.[5].
F
mg
Teda vychádzame zo súčtu síl pôsobiacich na kyvadlo:
m
Obr. 2: Popis jednotlivých zložiek pôsobiacich
na inverzné kyvadlo
M x
+ bx
+ N = F,
(7)
výsledná sila F je rovná sume síl pôsobiacich na vozík pri horizontálnom (vodorovnom)
posune vozíka. Teda M x
je sila vozíka, b x je trecia sila pôsobiaca proti vozíku a vektor
N je sila, ktorá pôsobí z horizontálneho vychýlenia tyče na vozík. Teda tento vektor N
viď. obr. 3 a 4 je rovný nasledujúcim zložkám, ktoré pôsobia na tyč kyvadla:
2
N = mx
+ mlθ
cosθ
− mlθ
sin θ , (8)
kde θ 2
ml cosθ
je sila kyvadla a ml θ sin θ je odstredivá sila kyvadla.
l
θ
M
16
x
čap
bx'

FEI KKUI
Teraz zavedieme substitúciu do prvej rovnice (7) za N dosadíme druhú rovnicu (8)
a po úprave dostávam pre tento systém prvú pohybovú rovnicu v tvare:
2
( M + m)
x
+ bx
+ mlθ
cosθ
− mlθ
sin θ = F.
(9)
m
F
Iθ' 2
l/2
N
mg
I
N
θ
P
Obr. 4: Popis zložiek na tyči inverzného kyvadla
17
M
Obr. 3: Zobrazenie síl pôsobiacich na vozík
P
Iθ''
x''
x
x
čap
b x

FEI KKUI
Druhú pohybovú rovnicu získame sumou síl pôsobiacich kmitavo na kyvadlo. Z
obrázka obr. 3 popíšeme nasledujúcu rovnicu:
Psin θ + N cosθ
− mg sin θ = mlθ
+ mx
cosθ
. (10)
Aby sme zjednodušili výpočet, musíme sa zbaviť vektorov P a N v rovnici.
Urobíme sumu momentov okolo stredu kyvadla a dostaneme:
rovnicu:
− Pl sin θ − Nl cosθ
= Iθ.
(11)
Kombináciou týchto dvoch rovníc (10) a (11) dostaneme druhú dynamickú
2
( I + ml ) θ + mgl sin θ = − mlx
cosθ
. (12)
Z týchto dvoch pohybových rovníc (9) a (12) dostaneme prenosovú funkciu
systému, ktorú linearizujeme analyticky. Najprv urobíme Laplaceovú transformáciu
týchto pohybových rovníc.
( I + ml
2
) Φ ( s)
s
( M + m)
X ( s)
s
2
2
2
− mglΦ
( s)
= mlX ( s)
s
2
+ bxX ( s)
s − mlΦ
( s)
s = U ( s).
(13)
Počas vyjadrenia prenosovej funkcie predpokladáme, že počiatočné podmienky
budú nulové. Na uhol Φ sa budeme pozerať ako na výstup a dostaneme X(s):
2
⎡ ( I + ml ) g ⎤
X ( s)
= ⎢
− Φ ( s),
2 ⎥
(14)
⎣ ml s ⎦
18

FEI KKUI
v druhej rovnici (13) za X(s) dosadíme rovnicu (14) a dostaneme:
2
2
⎡ ( I + ml ) g ⎤ 2 ⎡ ( I + ml ) g ⎤
2
( M + m)
⎢
− ⎥ Φ ( s)
s + b⎢
− ⎥ Φ ( s)
s − mlΦ
( s)
s = U ( s),
(15)
⎣ ml s ⎦
⎣ ml s ⎦
Φ(s) musíme prehodiť na pravú stranu a po úprave dostaneme:
kde
Φ ( s)
=
U ( s)
s
4
2
b(
I + ml ) 3
+ s −
q
ml 2
s
q
( M + m)
mgl 2
s −
q
,
bmgl
s
q
2
2
q = [ ( M + m)(
I + ml ) − ( ml)
]. (17)
Z prenosovej funkcie uvedenej vyššie (16) môžeme dva póly a nuly v originály
vykrátiť. Z toho dostaneme prenosovú funkciu pre inverzné kyvadlo:
Φ ( s)
=
U ( s)
Tieto použité vzťahy sú prevzaté z [5].
s
3
2
b(
I + ml ) 2
+ s −
q
ml
s
q
( M + m)
mgl
s
q
−
19
. (18)
bmgl
q
(16)

FEI KKUI
2.1 Model inverzného kyvadla
Pre virtuálny model inverzného kyvadla sme použili už vytvorený model na
základe predchádzajúceho popisu systému. Model kyvadla je programovaný pre
platformu Linux v jazyku C. Využíva staršie grafické rozhranie Motif – z historického
pohľadu patril Motif medzi prvé grafické používateľské rozhrania (GUI – Grafical user
interface) Unixovských systémoch v 80-tich rokoch 20-ho storočia. Ukážka modelu je
na obr. 5.
Obr. 5: Ukážka modelu inverzného kyvadla. Program je stiahnuteľný [11] na základe
licenčných podmienok, viď. v prílohe systémovú príručku. Model je ovládaný myšou, pomocou
klikania vľavo alebo vpravo dokážete udržať kyvadlo v kolmej polohe voči dráhe vozýka.
20

FEI KKUI
3 Návrh systému pre riadenie inverzného kyvadla
pomocou neurónovej siete
3.1 Model inverzného kyvadla
Kompilácia a spustenie virtuálneho modelu
Použitý model inverzného kyvadla je hotové riešenie, teda voľne dostupný balík
so zdrojovým kódom, ktorý je potrebné nainštalovať pod operačným systémom Linux.
Balík obsahuje okrem zdrojového kódu aj make-file a inštrukcie pre kompiláciu a
spustenie. Zdrojové kódy virtuálneho kyvadla skompilujeme Linuxovským
kompilátorom. Spustenie aplikácie modelu bez nainštalovania balíčka s grafickým
používateľským rozhraním (GUI) Motif nie je možné, pretože aplikácia využíva
knižnicu Xlib, tá je podporovaná grafickým používateľským rozhraním Motif. Aby sa
aplikácia mohla spustiť,je potrebné nainštalovať grafické používateľské rozhranie
Motif, ktoré je dostupné na internete pre väčšinu typov Linuxu. Tu sme použili balíček
pre Linux Mandriva: lesstif-devel-0.93.94-12mdv2007.0.i586.rpm. Po inštalácií GUI je
možné spustiť aplikáciu modelu inverzného kyvadla.
Úprava zdrojových kódov
Ďalšou dôležitou úlohou je preštudovanie zdrojových kódov aplikácie modelu
inverzného kyvadla. Bolo potrebné zdrojový kód aplikácie upraviť do jednoduchšej
formy, pretože kód obsahoval nevyužité programové funkcie a premenné pre naše
potreby.
3.2 Návrh riadenia virtuálneho modelu kyvadla
Voľba vstupných a výstupných veličín
Dôležitou súčasťou návrhu riadenia je definovanie vstupov a výstupov pre riadenie
inverzného kyvadla. Vstupnými veličinami, od ktorých je výstup závislý, bude: poloha
vozíka - x, rýchlosť vozíka – x', zrýchlenie vozíka – x'', uhol posunu kyvadla – θ, uhlová
rýchlosť kyvadla – θ' a uhlové zrýchlenie kyvadla - θ''. Výstupom z neurónovej siete je
sila pôsobenia na vozík – F. Detailnejšie je zobrazené na obr. 6.
21

FEI KKUI
Odchýlka kyvadla
Posun vozíka
x
x'
x”
θ
θ'
θ”
M
Neurónová sieť
Obr. 6: Pohľad na vstupné a výstupné veličiny pre riadenie systému: poloha vozíka - x, rýchlosť
vozíka – x', zrýchlenie vozíka – x'', uhol posunu kyvadla – θ, uhlová rýchlosť kyvadla – θ' a uhlové
zrýchlenie kyvadla - θ''. Výstupom z neurónovej siete je sila pôsobenia na vozík – F.
Návrh topológie pre neurónovú sieť
l
Neuroriadeniu nemusí vyhovovať hneď prvá vybraná topológia neurónovej siete.
Preto sa treba pripraviť na návrh neuroriadenia tak, že musíme počítať s viacerými
alternatívami. Práve vybraná topológia, ktorá sa naprogramuje, nemusí poskytovať
vyhovujúce riadenie pre náš systém. Pre jednoduchosť programovania existuje
Štuttgardský neurónový simulátor, ktorý umožňuje rýchlo odsimulovať navrhnutú
topológiu a pomocou trénovacích a testovacích množín, čím dokážeme naučiť a
22
Sila pôsobiaca na vozík
F

FEI KKUI
otestovať neurónovú sieť. Z týchto testov potom dokážeme vyhodnotiť neurónovú sieť
na základe učiacich sa a testovacích chýb, či daná topológia spĺňa naše kritéria.
Topológia sa navrhuje tak, že musíme vedieť koľko vstupov a výstupov budeme
využívať pri neuroriadení nášho systému. Náš systém je ovládaný jedným výstupom a
to je pôsobením konštantnej sily na vozík za čas t+1. Znamená to, že kyvadlo pokiaľ sa
drží v kolmej polohe, nepotrebujeme pôsobiť na systém. V prípade, že nastane
vychýlenie o daný uhol θ, musíme pôsobiť na vozík konštantnou silou do protismeru
výchylky. Pokiaľ pôsobenie s konštantnou silou na vozík raz nestačí, musíme pôsobiť
ešte raz konštantnou silo na vozík a to až dovtedy, kým sa kyvadlo nevráti do kolmej
polohy. Ak sa kyvadlo vychýli na opačnú stranu, pôsobíme na vozík do protismeru
vychýlenia na kyvadlo a postupujeme tak isto ako do opačnej strany.
Z uvedených skutočností teda vyplýva, že riadenie nášho systému bude mať
trojhodnotovú logiku na výstupe neuroriadenia. Vstupom do neuroriadenia sú tieto
veličiny: poloha vozíka, uhol posunu kyvadla, rýchlosť vozíka, zrýchlenie vozíka,
uhlová rýchlosť kyvadla a uhlové zrýchlenie kyvadla. Tieto veličiny sa dostávajú na
vstup neurónovej siete, teda sieť bude mať šesť vstupov. Na obr. 7 máme načrtnutý
vzhľad neurónovej siete, kde skrytá vrstva je načrtnutá len pre ilustráciu. Rozloženie
skrytej vrstvy bude popísané ďalej. Úrovne výstupného neurónu pre topológiu s jedným
neurónom na výstupe sú naznačené v tabuľke tab. 1.
Tab. 1: Úrovne výstupného neurónu pre topológiu s jedným výstupným neurónom
Pôsobenie na vozík Úroveň výst. neurónu
zľava 0,1
nepôsobí 0,5
zprava 0,9
23

FEI KKUI
Vstupná vrstva Skrytá vrstva Výstupná vrstva
Obr. 7: Návrh topológie nerónovej siete so šiestimi vstupmi a s jedným
výstupom. Skrytá vrstva je zobrazená ilustračne.
Pre ďalšiu alternatívu sme sa rozhodli navrhnúť nerónovú sieť, ktorá má dve
výstupné neuróny a šesť vstupných neurónov (obr. 8). Výstupná logika je riešená tak, že
konštantná sila bude ovládaná do jednej strany jedným výstupným neurónom a druhým
výstupným neurónom bude ovládaná do druhej strany. Pokiaľ nieje potrebné s vozíkom
pohnúť, oba výstupné neuróny budú v rovnakej úrovni, podľa tab. 2.
Vstupná vrstva Skrytá vrstva
Výstupná vrstva
Obr. 8: Návrh topológie nerónovej siete so šiestimi vstupmi a s dvoma
výstupmi. Skrytá vrstva je zobrazená ilustračne.
24

FEI KKUI
Tab. 2: Výstupné hodnoty na výstupných neurónoch
Pôsobenie na
vozík
Hodnota na 1.
výst. neurónu
Hodnota na 2.
výst. neurónu
zľava 0,9 0,1
nepôsobí 0,1 0,1
zprava 0,1 0,9
Poslednou možnou alternatívou je návrh topológie so šiestimi vstupnými neurónmi
a s troma výstupnými neurónmi. Na každú akciu kyvadla teda použijeme jeden neurón
obr. 9.
Vstupná vrstva Skrytá vrstva
Výstupná vrstva
Obr. 9: Návrh topológie neurónovej siete so šiestimi vstupmi a s
troma výstupmi. Skrytá vrstva je zobrazená ilustračne.
Skrytej vrstve sa počet neurónov bude pohybovať v každej kombinácií vstupov a
výstupov v počtoch: 0,2,6,12,40 neurónov, to znamená, že získame pätnásť rôznych
topológii neurónových sieti. Pre 12 neurónov v skrytej vrstve sa neuróny rozložia do
dvoch skrytých vrstiev po šesť neurónov. Podobným spôsobom sa rozdelí sieť zo 40
neurónmi v skrytej vrstve, takže podelíme 40 neurónov do štyroch skrytých vrstiev po
desať neurónov na jednu skrytú vrstvu.
25

FEI KKUI
3.3 Množina trénovacich a testovacích dát
Získanie trénovacich dát
Množinu trénovacich dát musíme vhodne vybrať, pretože na základe týchto dát
budeme môcť vedieť čo najlepšie naučiť neurónové siete pre navrhované topológie.
Fáza učenia je taká fáza, kde sa do sinaptických váh ukladajú znalosti. Dáta musia byť
navrhnuté podobne ako pri návrhu jednotlivých topológii neurónových sietí, čiže
napríklad pre topológiu so šiestimi vstupmi a jedným výstupom priradíme šesť
vstupných hodnôt a jednu výstupnú hodnota. Tieto hodnoty považujeme za vzorku z
trénovacej množiny. Pre tieto topológie sme sa rozhodli použiť tisíc vzoriek na
trénovanie každej neurónovej siete.
Návrh testovacích dát
Testovacie dáta sú potrebné na testovanie danej neurónovej siete, čiže na základe
testu vieme zistiť ako úspešne dokáže neurónová sieť vo fáze života využívať znalosti,
ktoré sa naučila počas fázy testovania. Testovacie dáta sa navrhujú z množiny
trénovacich dát tak, že množina testovacích dát tvorí približne dvadsať percent z
trénovacej množiny.
Prispôsobenie aplikácie modelu inverzného kyvadla pre získanie
trénovacich dát
Pre zjednodušenie získavania trénovacich dát sme pôvodnú aplikáciu modelu
inverzného kyvadla preprogramovali tak, aby sme pri ručnom ovládaní myšou
generovali trénovaciu množinu pre príslušnú topológiu. Teda pre tri rôzne výstupné
topológie sme vytvorili tri rôzne aplikácie pre generovanie trénovacich dát. Týmto
dátam sa len jednoducho prepíše koncovka súboru .txt na .pat
Testovacia množina sa vytvorí ako bolo spomenuté vyššie z tých dvadsiatich
percent z trénovacej množiny náhodným výberom, čiže pripravíme približne dvesto
vzoriek na testovaciu množinu. Túto testovaciu množinu uložíme s koncovkou .pat,
ktorú vieme načítať do SNNS.
26

FEI KKUI
Výber aktivačnej funkcie pre neurónovú sieť
Aktivačná funkcia pre učiaci sa algoritmus pre Backpropagation je štandardne
sigmoidálna funkcia, ktorá je popísaná vzťahom:
kde α je parameter strmosti sigmoidy.
1
xi = f ( ini
) = ,
− α in (19)
i 1 + e
27

FEI KKUI
4 Overenie výsledkov návrhu
Pre každú topológiu, ktorú overíme pomocou neurónového simulátora SNNS,
nastavujeme nasledovné parametre:
- učiací algoritmus je štandardný backpropagation,
- učiací parameter je 0.2,
- inicializácia neurónovej siete je -0.1 až 0.1,
- pre trénovacia množina je použité 1000 vzoriek vid. CD príloha,
- pre testovaciu množinu je použité približne 20 percent z trénovacej množiny vid.
CD príloha.
4.1 Topológie NN so šiestimi vstupmi a s jedným výstupom
Topológia bp 6-0-1
Obr. 10: Topológia NN so šiestimi vstupnými neurónmi a s jedným výstupným
neurónom, bp 6-0-1.
28

FEI KKUI
Obr. 11: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Čierna krivka je chyba učenia NN, červená krivka je testovacia chyba NN. Neurónová sieť sa nič
nenaučila pri tejto topológii. Vidíme, že ani jedna krivka neklesá, ale drží sa rovnako na chybe
22.00 z rozptylom ±1. Táto topológia teda nie je vhodná na riadenie kyvadla.
29

FEI KKUI
Topológia 6-2-1
Obr. 12: Topológia NN so šiestimi vstupnými neurónmi, s dvoma neurónmi v
skrytej vrstve a jedným neurónom na výstupe, bp 6-2-1.
Obr. 13: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 20,7 a s rozptylom ±0,5. Nižšie s
červenou farbou je krivka testovania s chybou približne 3,05 a s rozptylom ±0,2. Táto neurónová
sieť s topológiou 6-2-1 sa dokázala niečo naučiť. Testovacia krivka ukazuje že chyba testovania je
oveľa nižšia oproti predchádzajúcemu prípadu.
30

FEI KKUI
Topológia 6-6-1
Obr. 14: Topológia NN so šiestimi vstupmi, šesť neurónov v skrytej vrstve a
jeden neurón na výstupe, bp 6-6-1.
Obr. 15: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Pri tejto topológie učiaca krivka s čiernou farbou hore postupne klesá počas učenia, z chyby 22,00
na 15,0 s rozptylom približne ±0,2. Testovacia krivka s červenou farbou dole, klesá s chybou až na
1,8 s rozptylom približne ±0,2. Tento výsledok je prijateľnejší oproti predchádzajúcim topológiám.
31

FEI KKUI
Topológia 6-12-1
Obr. 16: Topológia NN so šiestimi vstupnými neurónmi, dvanásť neurónov vo
skrytej vrstve a jeden neurón na výstupe, bp 6-12-1.
Obr. 17: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka s čiernou farbou hore postupne klesá počas učenia až na chyby 5,50 s rozptylom
približne ±0,2. Testovacia krivka s červenou farbou dole, klesá s chybou až na 0,7 s rozptylom
približne ±0,2. Z kriviek vidíme, že aj táto topológia patrí medi zhodné riešenia riadenia kyvadla.
32

FEI KKUI
Topológia 6-40-1
Obr. 18: Topológia NN so šiestimi neurónmi na vstupe, štyridsať neurónov v
skrytej vrstve a jeden neurón na výstupe, bp 6-40-1.
Obr. 19: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka s čiernou farbou hore, postupne klesá počas učenia na 1,30 s rozptylom ±0,3.
Testovacia krivka s červenou farbou dole, klesá s chybou až na 0,2 s rozptylom ±0,15. Tento
výsledok je najlepší oproti predchádzajúcim topológiam. Túto topológiu môžeme započítať do
jednej alternatív riešenia pre náš systém.
33

FEI KKUI
4.2 Topológia NN zo šiestimi vstupmi a s dvoma výstupmi
Topológia 6-0-2
Obr. 20: Topológia NN so šiestimi vstupnými neurónmi a s dvomi výstupnými
neurónmi, bp 6-0-2.
Obr. 21: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia 97,0 a rozptylom ±0,5. Nižšie červenou farbou je
krivka testovania s chybou približne 15,50 a s rozptylom ±0,5. Takáto topológia nepriniesla veľmi
uspokojivé výsledky, NN sa dokáže niečo naučiť, ale so slabými výsledkami.
34

FEI KKUI
Topológia 6-2-2
Obr. 22: Topológia NN so šiestimi vstupmi, s dvoma neurónmi v skrytej
vrstve a s dvomi neurónmi na výstupe, bp 6-2-2.
Obr. 23: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 90,0 a s rozptylom ±2,0. Nižšie s
červenou farbou je krivka testovania s chybou približne 14,90 a s rozptylom ±0,2. Takáto topológia
má podobné výsledky ako v predchádzajúcom prípade, NN dokáže sa niečo naučiť, ale so slabými
výsledkami.
35

FEI KKUI
Topológia 6-6-2
Obr. 24: Topológia NN so šiestimi vstupmi, šesť neurónov v skrytej vrstve a dva
neuróny na výstupe, bp 6-6-2.
Obr. 25: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou klesá na chybu učenia približne 58,0 a s rozptylom ±1,0. Nižšie s
červenou farbou je krivka testovania, ktorá má chybou testovania približne 12,0 a s rozptylom ±3,5.
NN dokáže sa niečo naučiť, ale chyba je ešte v tomto prípade veľká.
36

FEI KKUI
Topológia 6-12-2
Obr. 26: Topológia NN so šiestimi vstupnými neurónmi, dvanásť neurónov vo
skrytej vrstve a jeden neurón na výstupe, bp 6-12-2.
Obr. 27: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 37,5 a s rozptylom ±1,5. Nižšie s
červenou farbou je krivka testovania s chybou približne 8,3 a s rozptylom ±1,2. NN s touto
topológiou má lepšie výsledky oproti predchádzajúcemu prípadu, postupne tá chybovosť klesá
nárastom počtu neurónov v skrytej vrstve.
37

FEI KKUI
Topológia 6-40-2
Obr. 28: Topológia NN so šiestimi neurónmi na vstupe, štyridsať neurónov v
skrytej vrstve a dva neuróny na výstupe, bp 6-40-2.
Obr. 29: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 9,30 a s rozptylom ±1,1. Nižšie s
červenou farbou je krivka testovania s chybou približne 1,85 a s rozptylom ±0,65. NN s touto
topológiou sa dokáže naučiť a zároveň vo fáze života celkom úspešne zvláda riadenie systému. Túto
topológiu môžeme započítať do jednej alternatív riešenia pre náš systém.
38

FEI KKUI
4.3 Topológia NN so šiestimi vstupmi a s tromi výstupmi
Topológia 6-0-3
Obr. 30: Topológia NN so šiestimi vstupnými neurónmi a s tromi
výstupmi neurónmi, bp 6-0-3.
Obr. 31: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 162,0 a s rozptylom ±0,7. Nižšie s
červenou farbou je krivka testovania s chybou približne 43,50 a s rozptylom ±0,5. Takáto topológia
nepriniesla veľmi uspokojivé výsledky, NN dokáže sa niečo naučiť, ale so slabými výsledkami.
Chyba učenia je v tomto prípade najvyššia zo všetkých topológii.
39

FEI KKUI
Topológia 6-2-3
Obr. 32: Topológia NN so šiestimi vstupmi, s dvoma neurónmi v skrytej
vrstve a s tromi neurónmi na výstupe, bp 6-2-3.
Obr. 33: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 113,6 a s rozptylom ±1,2. Nižšie s
červenou farbou je krivka testovania s chybou približne 25,0 a s rozptylom ±2,5. Takáto topológia
nepriniesla veľmi uspokojivé výsledky, NN dokáže sa niečo naučiť, ale so slabými výsledkami.
40

FEI KKUI
Topológia 6-6-3
Obr. 34: Topológia NN so šiestimi vstupnými neurónmi, šesť neurónov vo
skrytej vrstve a tri neuróny na výstupe, bp 6-6-3.
Obr. 35: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 73,0 a s rozptylom ±2,2. Nižšie s
červenou farbou je krivka testovania s chybou približne 17,70 a s rozptylom ±3,4. Takáto topológia
má lepšie výsledky ako predchádzajúce prípady, NN dokáže sa niečo naučiť, ale so slabými
výsledkami.
41

FEI KKUI
Topológia 6-12-3
Obr. 36: Topológia NN so šiestimi vstupnými neurónmi, dvanásť neurónov
vo skrytej vrstve a tri neuróny na výstupe, bp 6-12-3.
Obr. 37: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 30,0 a s rozptylom ±3,5. Nižšie s
červenou farbou je krivka testovania s chybou približne 6,10 a s rozptylom ±4,0. Takáto topológia
má lepšie výsledky, táto NN dokáže sa niečo naučiť.
42

FEI KKUI
Topológia 6-40-3
Obr. 38: Topológia NN so šiestimi neurónmi na vstupe, štyridsať neurónov v
skrytej vrstve a tri neuróny na výstupe, bp 6-40-3.
Obr. 39: Na grafe po osi x je počet cyklov a na osi y je chybovosť pri učení alebo testovaní.
Učiaca krivka je čiernou farbou s chybou učenia približne 10,0 a s rozptylom ±4,8. Nižšie s
červenou farbou je krivka testovania s chybou približne 2,90 a s rozptylom ±1,5. Takáto topológia
má najlepšie výsledky spomedzi topológii s tromi výstupmi. Túto topológiu môžeme započítať do
jednej alternatív riešenia pre náš systém.
43

FEI KKUI
5 Vyber najvhodnejšieho riešenia
Výsledky testov pre topológie neurónových sietí sme zhrnuli pre prehľad do
tabuľky tab.3, kde pre lepší prehľad sú tri najlepšie výsledky vyznačené v tejto tabuľke.
Z tohto množstva experimentov vyplýva, že sme vybrali tri najvhodnejšie riešenia, ktoré
by zvládli úspešne riadenie nášho modelu. Vyhovujúcim riešením je NN s topológiou
bp 6-40-3 obr. 38, s chybou učenia približne 10,0 a s rozptylom ±4,8. Chyba testov je
2,90 a s rozptylom ±1,5. Druhá vhodnejšia alternatíva je topológia s NN pb 6-40-2 obr.
28 s chybou učenia približne 9,30 a s rozptylom ±1,1. Chyba testovania je 1,85 a s
rozptylom ±0,65. Najvýhodnejšou možnosťou je NN s topológiou bp 6-40-1 obr. 18 s
chybou učenia na 1,30 a s rozptylom ±0,3. Chyba testovania je 0,2 s rozptylom
približne ±0,15.
Tab. 3: Zhrnutie výsledkov testov pre jednotlivé topológie
Topológia NN Chyba pri učení Chyba pri testovaní
bp 6-0-1 22 ±1 22 ±0,5
bp 6-2-1 20,7 ±0,5 3,05 ±0,2
bp 6-6-1 15,0 ±0,2 1,8 ±0,2
bp 6-12-1 5,50 ±0,2 0,7 ±0,2
bp 6-40-1 1,3 ±0,3 0,2 ±0,15
bp 6-0-2 97,0 ±0,5 15,50 ±0,5
bp 6-2-2 90,0 ±2,0 14,90 ±0,2
bp 6-6-2 58,0 ±1,0 12,0 ±3,5
bp 6-12-2 9,30 ±1,1 1,85 ±0,65
bp 6-40-2 9,3 ±1,1 1,85 ±0,65
bp 6-0-3 162,0 ±0,7 43,50 ±0,5
bp 6-2-3 113,6 ±1,2 25,0 ±2,5
bp 6-6-3 73,0 ±2,2 17,70 ±3,4
bp 6-12-3 30,0 ±3,5 6,10 ±4,0
bp 6-40-3 10 ±4,8 2,9 ±1,5
44

FEI KKUI
Na riadenie modelu inverzného kyvadla navrhujeme topológiu neurónovej siete pb 6-
40-1, pretože táto topológia má najlepšie parametre. Najhoršia topológia je bp 6-0-1,
pretože táto topológia sa nič nenaučila počas fáze učenia.
45

FEI KKUI
6 Implementácia neurónovej siete na model
inverzného kyvadla
Pre model inverzného kyvadla sme sa rozhodli použiť neurónovú sieť, ktorá má
najlepšie parametre, teda sme vybrali z topológiou bp-6-40-1 obr. 18. Táto neurónová
sieť je po naučení v SNNS uložená do súboru bp5.net. Tento súbor potrebujeme
prekonvertovať do zdrojového kódu, ktorý je použiteľný pre aplikáciu inverzného
kyvadla. Pomocou snns2c súbor bp5.net prekonvertujeme do zdrojového súboru bp5.c a
bp5.h, ktoré môžeme do modelu kyvadla dopracovať pre neuroriadenie touto vybranou
topológiou. Dopracovanie neurónovej siete urobíme tak, že vstupy kyvadla privádzame
na vstup NN a výstup z NN využijeme pre riadenie kyvadla viď, obr. 40.
Odchýlka kyvadla
Posun vozíka
x
x'
x”
θ
θ'
θ”
l
M
Neurónová sieť
Obr. 40: Pripojenie neurónovej siete na riadenie inverzného kyvadla
46
Sila pôsobiaca na vozík
F

FEI KKUI
Start
Incializácia kontextu
draw_track()
Vstupné udalosti
Je stalčeny reset?
update_pole()
calc_derivs()
bp5() - volanie NN
draw_state()
nie
show_state()
Koniec
ano
Obr. 41: Zakomponovanie zdrojového kódu pre NN do hlavného programu inverzného
kyvadla
47
Hlavný cyklus
reset(context)
Zakomponovanie NN do programu pre
riadenie inverzného kyvadla

FEI KKUI
V hlavnom programe sa doplní do funkcie update_pole() volanie funkcie pre
neurónovú sieť ako je principiálne grafický znázornené na obr. 41. Netreba zabudnúť
správne podávanie parametrov medzi funkciami. Výsledkom dostaneme inverzné
kyvadlo, ktoré je ovládané neurónovou sieťou. Celkový výsledok riadeného modelu
inverzného kyvadla pomocou neurónovej siete je možné pozrieť v CD prílohe nahraté
vo video formáte.
48

FEI KKUI
7 Záver
Cieľom tejto práce bolo navrhnúť riadenie pre model inverzného kyvadla
pomocou neurónovou sieťou. Počas návrhu boli testované rôzne topológie neurónových
sietí, ktoré by sa hodili pre riadenie inverzného kyvadla. Ako ukázali výsledky
experimentov, tak najlepšia možnosť je pomocou topológie pb 6-40-1 pozri tab. 3 a
najhoršia topológia bola pb 6-0-1, kde sme mali najslabšie výsledky učenia NN.
49

FEI KKUI
Zoznam použitej literatúry
[1] SINČÁK, Peter – ANDREJKOVÁ, Gabriela: Neurónvé siete : Inžiniersky
prístup (1. diel). Košice : TU-FEI, 1996. 107 s. Elfa
[2] KOPČÍK, Martin: Použitie fuzzy neurónovej siete typu ANFIS na riadenie
vozíka s balansujúcou tyčou (Diplomová práca). Košice: TU-FEI, 1996.
http://www.ai-cit.sk/source/publications/thesis/master_thesis/1996/kopcik/html/
all.html/
[3] JAKŠA, Rudolf: Neuroriadenie: využitie neurónových sietí v inteligentnom
riadení (Dizertačná práca). Košice : TU-FEI, 1998. http://www.ai-cit.sk/source/
publications/thesis/phd_thesis_prospectuses/1998/jaksa/html/all.html/
[4] MADARÁSZ, Ladislav – BUČKO, Marián – FÖZÖ, Ladislav: Základy
automatického riadenia. Košice : TU-FEI, 2007. 449 s. ISBN 80-8086-042-4
[5] MENSER, William – TILBURY, Dawn : Control Tutorials for Matlab and
Simulink: http://www.engin.umich.edu/class/ctms/
[6] ČUBA, Marián: Použitie neurónových sietí pri riadení autonómneho vozidla.
Košice: TU-FEI, 2007. (Diplomová práca) http://www.ai-
cit.sk/source/publications/thesis/master_thesis/1997/cuba/html/index.html/
[7] NOSKIEVIČ, Petr: Modelování a identifikace systémú, Ostrava :
MONTANEX, a. s., 1999. 276 s. ISBN 80-7225-030-2
[8] MRÁZIK, František: Ako na neurónové siete, alebo Stuttgart Neural Network
Simulator po slovensky a v praxi... . 2005 : http://www.ist.sk/index.php?
go=clanok&id=4&PHPSESSID=2e6e49c4f9b17d4cfcfc67f163e6d000/
[9] ZELL Andreas: Stuttgart Neural Network Simulator: Developed at University
of Stuttgart, Maintained at University of Tübingen http://www.ra.cs.uni-
tuebingen.de/SNNS/
[10] Maxwell's Stuttgart Neural Network Simulator [SNNS] Tutorial
http://palantir.cs.colby.edu/maxwell/classes/tutorials/snns/
[11] ANDERSON, Chuck - Program pre model inverzného kyvadla:
http://www.cs.colostate.edu/~anderson/code/
50

FEI KKUI
Prílohy
Príloha A: CD médium – bakalárska práca v elektronickej podobe, prílohy v
elektronickej podobe.
Príloha B: Používateľská príručka
Príloha C: Systémová príručka
51