Metody numeryczne cz. 2 - Instytut Metod Komputerowych w ...

Michał Pazdanowski
Instytut Technologii Informacyjnych w Inżynierii Lądowej
Wydział Inżynierii Lądowej
Politechnika Krakowska
Nadokreślony Układ Równań
Z nadokreślonym układem liniowych równań algebraicznych mamy do czynienia w sytuacji, gdy
liczba liniowo niezależnych równań m jest większa niż wymiar przestrzeni (liczba zmiennych) n .
Tak postawiony problem nie ma jednoznacznego rozwiązania. Możliwe jest jedynie wyznaczenie
jego pseudorozwiązania przy zastosowaniu dodatkowego kryterium. Takim kryterium może być
warunek minimalizacji błędu B rozumianego jako suma odległości punktu w przestrzeni n wymiarowej,
stanowiącego poszukiwane pseudorozwiązanie, od m hiperpłaszczyzn będących obrazami
poszczególnych równań. Jeżeli przez A
[ m × n]
oznaczymy prostokątną macierz główną układu równań
o elementach a
ij,
i = 1,2,...,
m;
j = 1,2,...,
n , przez D
[ m×1
]
macierz prawej strony o elementach d
i,
i = 1,2,...,m
a przez X
[ n×1
]
macierz niewiadomych o elementach x
j,
j = 1,2,...,
n , nasz problem możemy
przedstawić jako poszukiwanie minimum wyrażenia (1) ze względu na składowe x
j
wektora
X
m m
⎛
n
2
⎞
B = ∑ε i
= ∑∑
⎜ aij
⋅ x
j
− di
⎟ , (1)
i=
1 i= 1 ⎝ j=
1 ⎠
co jest równoważne znalezieniu takiego wektora X , który czyni zadość warunkowi:
gdzie
∂B
∂x
k
= 2⋅
m
∑
i=
1
∂B
∂x
a
ik
k
⎛
⋅
⎜
⎝
= 0 , k = 1,2,..., n
n
∑
j=
1
⎞
aij
⋅ x
j
− di
⎟,
⎠
2
, (2)
k = 1,2,..., n
. (3)
Warunek (2) po dokonaniu różniczkowania (3) prowadzi po zmianie kolejności sumowania w nawiasach,
n m
m
⎛ ⎞
∑∑ ⎜ aik ⋅ aij
⎟⋅ x
j
− ∑aik
⋅ di
= 0, k = 1,2,...,
n
j= 1⎝
i=
1 ⎠ i=
1
do ostatecznego układu liniowych równań algebraicznych:
n
∑
j=
1
, (4)
α
kj
⋅ x
j
= δk
, k = 1,2,...,
n , (5)
w którym współczynniki macierzy głównej Α [ n×n]
i prawej strony ∆[ n ×1]
wyznacza się z:
α
kj
=
δ =
k
m
∑
i=
1
m
∑
i=
1
a
a
ik
ik
⋅ a
⋅ d
ij
i
. (6)
Rozważane zadanie można nieco rozbudować przypisując poszczególnym równaniom wagi w ii
,
i = 1,2,...,m
, zapisane w macierzy diagonalnej W [ m × m]
a związane np. z istotnością poszczególnych
równań, a raczej dokładnością ich spełnienia przez znalezione pseudorozwiązanie. W takim przypadku
zależności (1) do (6) przyjmą postać:
1

Michał Pazdanowski
Instytut Technologii Informacyjnych w Inżynierii Lądowej
Wydział Inżynierii Lądowej
Politechnika Krakowska
m m
m m
⎛
n
2
⎞
B = ∑∑wii
⋅ε i
= ∑∑
wii
⎜∑aij
⋅ x
j
− di
⎟
i= 1 i=
1
i= 1 i=
1 ⎝ j=
1 ⎠
, (7)
po dokonaniu różniczkowania (2) dojdziemy do zależności:
m m n
∂B
⎡ ⎛
⎞⎤
= 2⋅∑
aik
⋅ ⎢∑
wii
⋅ aij
x
j
di
⎥,
x
⎜∑
⋅ −
⎟
∂
k i=
1 ⎣ i=
1 ⎝ j=
1 ⎠⎦
k = 1,2,..., n . (8)
a po zmianie kolejności sumowania w nawiasach,
n m m
m m
⎡ ⎛ ⎞⎤
⎛ ⎞
∑∑ ⎢ aik ⋅⎜∑wii
⋅aij
⎟⎥ ⋅ x
j
−∑∑
⎜ wii⋅aik
⎟⋅di
= 0,
j= 1⎣
i= 1 ⎝ i=
1 ⎠⎦
i= 1⎝
i=
1 ⎠
k = 1,2,...,
n , (9)
do ostatecznego układu liniowych równań algebraicznych (5), w którym przez α i δ oznaczono
odpowiednio:
α
kj
=
δ =
k
m
∑
a
∑∑ ⎜
i= 1 i=
1
∑
i= 1
ik
⎝ i=
1
m m
⎛
⎝
⎛
⋅⎜
m
w ⋅a
ii
w ⋅a
ik
ii
⎞
⎟⋅
⎠
ij
d
⎞
⎟
⎠
i
2
. (10)
Prezentowany sposób postępowania prześledzimy na przykładach. Na początek rozważmy nadokreślony
układ równań:
⎧−1⋅
x1
+ 2⋅
x2
= −1
⎪
2⋅
x1
+ 3⋅
x2
= 2
⎨
⎪ − 2⋅
x1
−1⋅
x2
= 1
⎪
⎩ 4⋅
x2
= 2
Ponieważ obliczenia przedstawione wzorami (1) – (6) wygodniej jest prowadzić posługując się zapisem
macierzowym, wobec tego zapiszemy układ równań (11) jako:
A ⋅ X = D , (12)
gdzie odpowiednio:
⎡−1
2 ⎤
⎢
2 3
⎥
⎢ ⎥
⎡ x1
⎤
A =
, X =
⎢−
2 −1
⎥
⎢ ⎥ ,
⎣x2
⎦
⎢ ⎥
⎣ 0 4 ⎦
Wówczas macierze Α [ n×n]
i ∆[ n ×1]
układu równań (5) obliczymy następująco:
(11)
⎡−1
⎤
⎢
2
⎥
D = ⎢ ⎥ . (13)
⎢ 1 ⎥
⎢ ⎥
⎣ 2 ⎦
Α = A T ⋅ A , ∆ = A T ⋅ D
(14)
czyli w rozważanym tu przykładzie będziemy mieli:
⎡−1
Α = ⎢
⎣ 2
2
3
− 2
−1
0
4
T
⎤
⎥
⎦
⎡−1
⎢
2
⋅ ⎢
⎢−
2
⎢
⎣ 0
2 ⎤
3
⎥
⎡9
⎥ =
−1
⎥
⎢
⎣6
⎥
4 ⎦
6
30
⎤
⎥
⎦
, (15)
2

Michał Pazdanowski
Instytut Technologii Informacyjnych w Inżynierii Lądowej
Wydział Inżynierii Lądowej
Politechnika Krakowska
⎡−1
⎤
T ⎢ ⎥
⎡−1
2 − 2 0 ⎤ 2
⎢ ⎥
⎡ 3 ⎤
∆ = ⎢
⎥ ⋅ =
⎢ ⎥
⎢ ⎥
⎣ 2 3 −1
4 ⎦ 1 ⎣11
⎦
⎢ ⎥
⎣ 2 ⎦
, (16)
a ostateczny układ równań:
Α⋅
X = ∆ , (17)
który należy rozwiązać przyjmie postać:
⎡9
6 ⎤ ⎡ ⎤ ⎡ ⎤
⎥ ⋅ x1
3
⎢ ⎢ ⎥ = ⎢ ⎥
⎣6
30 ⎦ ⎣x2⎦
⎣11
⎦
. (18)
Rozwiązaniem tego układu równań, czyli pseudorozwiązaniem problemu (11) w sensie najmniejszych
kwadratów jest macierz:
⎡0,102564⎤
X = ⎢ ⎥ ,
⎣0,346154⎦
(19)
Rozważmy teraz to samo zadanie z przypisanymi poszczególnym równaniom wagami. I tak równaniom:
pierwszemu, trzeciemu i czwartemu przypiszmy wagę 1 , a równaniu drugiemu wagę 10 . W
zapisie macierzowym odpowiada to utworzeniu macierzy wag oznaczonej W [ n × n]
i w naszym przypadku
równej:
⎡1
0 0 0 ⎤
⎢
0 10 0 0
⎥
W = ⎢
⎥ . (20)
⎢0
0 1 0 ⎥
⎢
⎥
⎣0
0 0 1 ⎦
Macierze Α [ n×n]
i ∆[ n ×1]
układu równań (5) obliczymy tym razem następująco (10):
Α = A T ⋅W
⋅ A , ∆ = A T ⋅W
⋅ D , (21)
czyli w rozważanym tu przykładzie będziemy mieli:
⎡−1
Α = ⎢
⎣ 2
2
3
⎡−1
∆ = ⎢
⎣ 2
a ostateczny układ równań:
− 2
−1
0
4
T
⎤
⎥
⎦
− 2
−1
który należy rozwiązać przyjmie postać:
2
3
⎡1
⎢
0
⋅ ⎢
⎢0
⎢
⎣0
0
4
T
⎤
⎥
⎦
0
10
0
0
⎡1
⎢
0
⋅ ⎢
⎢0
⎢
⎣0
0
0
1
0
0
10
0
0
0 ⎤ ⎡−1
0
⎥ ⎢
2
⎥ ⋅ ⎢
0 ⎥ ⎢−
2
⎥ ⎢
1 ⎦ ⎣ 0
0
0
1
0
2 ⎤
3
⎥
⎡45
⎥ =
−1
⎥
⎢
⎣60
⎥
4 ⎦
0 ⎤ ⎡−1
⎤
0
⎥ ⎢
2
⎥
⎢ ⎥
⎡39
⎥ ⋅ =
0 ⎥ ⎢ 1 ⎥
⎢
⎣65
⎥ ⎢ ⎥
1 ⎦ ⎣ 2 ⎦
⎤
⎥
⎦
60
111
⎤
⎥
⎦
, (22)
, (23)
Α⋅
X = ∆ , (24)
3

Michał Pazdanowski
Instytut Technologii Informacyjnych w Inżynierii Lądowej
Wydział Inżynierii Lądowej
Politechnika Krakowska
⎡45
60 ⎤ ⎡ ⎤ ⎡ ⎤
⎥ ⋅ x1
39
⎢ ⎢ ⎥ = ⎢ ⎥ . (25)
⎣60
111 ⎦ ⎣x2⎦
⎣65
⎦
Rozwiązaniem tego układu równań, czyli pseudorozwiązaniem problemu (11) w sensie najmniejszych
kwadratów jest macierz:
⎡0,307527⎤
X = ⎢ ⎥ , (26)
⎣0,419355⎦
Dla czytelnika może być interesujące jak zmieni się wyznaczone pseudorozwiązanie po zmianie
macierzy wag W [ n × n]
. W tym celu rozpatrzmy dwa dodatkowe przypadki. W pierwszym z nich równaniu
pierwszemu przypiszemy wagę 10 a pozostałym równaniom wagi 1 , natomiast w drugim
wagę 10 przypiszemy równaniu trzeciemu, pozostałe równania otrzymają jak poprzednio wagi
równe 1 . W przypadku pierwszym uzyskane pseudorozwiązanie wygląda następująco:
⎡0,678161⎤
X = ⎢ ⎥ , (27)
⎣0,017241⎦
a w przypadku drugim tak:
⎡− 0,536896⎤
X = ⎢ ⎥ . (28)
⎣ 0,381679⎦
Uzyskane rozwiązania przedstawiono na załączonym rysunku. Jak z niego widać, wpływ wagi na
uzyskane pseudorozwiązanie jest zgodny z oczekiwaniem, czyli zwiększanie wartości wagi przypisanej
wybranemu równaniu powoduje „przemieszczanie się” rozwiązania w kierunku równania
opatrzonego tą wagą.
4

Michał Pazdanowski
Instytut Technologii Informacyjnych w Inżynierii Lądowej
Wydział Inżynierii Lądowej
Politechnika Krakowska
3
2.5
2
1.5
1
Y1
Y2
Y3
0.5
Y4
X0 1
3 2 1 0 1 2 3
X1 1
X2 1
0.5
X3 1
1
1.5
2
2.5
3
ll , , l, l, X0 0 , X1 0 , X2 0 , X3 0
Rys. 1. Pseudorozwiązanie nadokreślonego układu równań.
Na rysunku proste Y 1÷ Y 4 odpowiadają równaniom od pierwszego do czwartego, natomiast punkty
X 0, X 1,
X 2,
X 3 odpowiadają pseudorozwiązaniom rozważanego zadania odpowiednio bez wag
i z wagami rozważanymi w przypadku pierwszym drugim i trzecim, jak to opisano powyżej.
5