kodowanie w oparciu o macierz parzys- tosci 2 Kody Reeda-Mullera

Kodowanie i kompresja
Streszczenie
Studia dzienne
Wykład 4
1 Kody liniowe - kodowanie w oparciu o macierz parzystości
Niech H będzie macierzą parzystości kodu liniowego, rozmiaru k × n, rzędu k. Wówczas,
słowa kodowe mają długość n, każde słowo kodowe koduje n − k bitów danych.
Nasze zadanie, to jednoznacznie przyporządkować słowo kodowe do każdego binarnego
ciągu danych v 1 . . . v n−k . Robimy to w następujący sposób:
• W układzie równań Hx = 0 ustalamy n − k zmiennych x i1 , . . . , x in−k , którym
przyporządkowane są wartości v 1 , . . . , v n−k .
• W efekcie uzyskujemy układ k równań liniowych z k niewiadomymi H ′ x ′ =
b ′ , który rozwiązujemy standardowymi metodami algebry liniowej. Macierz H ′
składa się z kolumn macierzy H o numerach spoza zbioru i 1 , . . . , i n−k .
• UWAGA: Powyżej zdefiniowany układ k równań liniowych z k niewiadomymi
powinien mieć jednoznaczne rozwiązanie. A zatem, macierz H ′ powinna mieć
rząd k. Oznacza to, że kolumny odpowiadające bitom “korygującym” powinny
być liniowo niezależne!
Przykład: Kody Hamminga (2 m − 1 − m, 2 m ). Jeśli bitom danych przyporządkujemy
wartości wszystkich zmiennych, które nie są potęgami dwójki, wówczas macierz H ′ w
układzie równań H ′ x ′ = b ′ będzie macierzą jednostkową.
Lecz przyporządkowanie bitom danych zmiennych x m+1 , . . . , x 2 m −1 spowoduje, że układ
równań H ′ x ′ = b ′ nie będzie miał jednoznacznego rozwiązania!
2 Kody Reeda-Mullera - powtórzenie
Funkcję boolowską m zmiennych f : Z2
m → Z 2 reprezentujemy przy pomocy słowa
binarnego o długości 2 m , i-ty bit tego słowa reprezentuje wartość funkcji f dla argumentu
będącego reprezentacją binarną liczby i.
Definicja 1 Kodem Reeda-Mullera o długości n = 2 m i stopniu r (dla r ≤ m) nazywamy
kod binarny R(r, m) złożony ze wszystkich słów binarnych o długości n reprezentujacych
˛ wielomiany n zmiennych stopnia co najwyżej r.
1

Dwa słowa binarne w = w 1 . . . w n i v = v 1 . . . v n są ortogonalne gdy ich iloczyn
skalarny jest równy 0, tzn.
n∑
w · v = v i w i = 0.
i=1
Kodem dualnym do kodu liniowego K, oznaczanym przez K ⊥ nazywamy kod złożony
ze wszystkich słow ortogonalnych do wszystkich słów kodowych kodu K.
Twierdzenie 1 Kod Reeda-Mullera R(r, m) zawiera
( )
r∑ m
k =
i=0
i
bitów danych.
Kodem dualnym do R(r, m) jest kod R(m − r − 1, m).
Algorytm kodowania dla kodu R(r, m): ciąg k = ∑ r
i=0
( m
i
)
bitów danych u1 . . . u k
kodujemy mnożąc w przez macierz, której kolejnymi wierszami są funkcje charakterystyczne
wszystkich jednomianów stopnia co najwyżej r.
3 Kody liniowe – ogólna metoda dekodowania
Definicja 2 Załóżmy, że po przejściu przez kanał komunikacyjny otrzymaliśmy słowo
binarne w, gdy wysłane było słowo kodowe v. Wówczas wektor e(w, v) = w + v
nazywamy wektorem błędów.
Zauważmy, że wektor błędów ma jedynki na tych pozycjach, na których wystąpiły
przekłamania. Ponadto, zgodnie z arytmetyką w Z n 2 , zachodzi v = w + e, czyli do
odkodowania słowa kodowego wystarczy wyznaczyć wektor błędów.
Definicja 3 Niech H będzie macierza˛
parzystości (o rozmiarze m × n) kodu liniowego
K. Wówczas syndromem słowa w ∈ {0, 1} nazywamy słowo s(w) = Hw T (w T oznacza
transpozycję).
Zauważmy, że syndrom każdego słowa kodowego kodu K jest równy wektorowi zerowemu.
Ponadto, zachodzi następująca własność:
Lemat 1 Załózmy, że przez kanał komunikacyjny przesłane zostało słowo kodowe v
a odebrane słowo w, stosowaliśmy kod liniowy z macierza˛
parzystości H. Wówczas
syndrom słowa w jest równy syndromowi wektora błędów e(w, v).
2

Dekodowanie
Dane: Słowo w oraz macierz parzystości H. A zatem wyznaczyć też możemy syndrom
słowa w, s(w).
Szukamy: słowa kodowego v, takiego że d(w, v) jest minimalna.
Algorytm: Szukamy słowa binarnego e długości n o najmniejszej liczbie jedynek
spośrów zbioru słów, których syndrom jest równy s(w), czyli Hw = He. Następnie
przyjmujemy, że e jest wektorem błędów, czyli v = w + e.
Uzasadnienie: Liczba jedynek w wektorze błędów odpowiada liczbie błęów transmisji.
Ponadto,
H(w + e) = H(w) + H(e) = H(w) + H(w) = 0.
Przykład: Powyższa metoda stosowana jest w kodzie Hamminga. Zaletą kodu Hamminga
jest, iż wartość syndromu jednoznacznie i efektywnie identyfikuje wektor błędów
o najmniejszej liczbie jedynek.
Twierdzenie 2 Niech K będzie binarnym kodem liniowym o macierzy parzystości H
rozmiaru m × n i wadze w(K) = p. Wówczas:
• czas zakodowania n − m bitów danych jest rzędu O(m · n + m 3 ); w kodzie
systematycznym jest to O(m · n)
• czas dekodowania jednego słowa kodowego (odpowiadajacego ˛ n−m bitom danych)
jest rzędu O ( ∑ ) ) ⌊(p−1)/2⌋
i=1 · m · n .
( n
i
• dla długich ciagów ˛ danych możliwe jest szybsze dekodowanie, ale kosztem pamięci:
– Preprocessing: w czasie O ( ∑ ( ) ) ⌊(p−1)/2⌋ n
i=1 i · m · n wyznaczamy dla każdej
wartości syndromu s słowo e o minimalnej wadze wśród słów spełniajacych
˛
warunek He = s (czyli s(e) = s); wyniki umieszczamy w tablicy A o 2 m
elementach długości n.
– Dekodowanie: dla każdego ciagu ˛ o długości n wyznaczamy jego syndrom w
czasie O(mn) i ustalamy wektor błędów w oparciu o tablicę A.
4 Kody Reeda-Mullera – efektywny algorytm dekodowania
Twierdzenie 3 Minimalna waga kodu R(r, m) wynosi 2 m−r .
Wniosek 1 Kod R(r, m) koryguje 2 m−r−1 − 1 błędów.
3

4.1 Interpretacja geometryczna
Definicja 4 Niech K będzie r-wymiarowa˛
podprzestrzenia˛
liniowa˛
Z2 m . Wówczas zbiór
a + K = {a + b | b ∈ K}
dla a ∈ {0, 1} m nazywamy przestrzenia˛
afiniczna˛
wymiaru r.
Fakt 1 Niech H będzie macierza˛
parzystości kodu K o długości n (czyli K jest podrzestrzenia˛
liniowa˛
Z2 n ). Wówczas przestrzeń afiniczna a + K równa jest zbiorowi
rozwiazań ˛ układu równań liniowych Hx = c, gdzie c = Ha T .
Definicja 5 Funkcja˛
charakterystyczna˛
zbioru X ⊆ {0, 1} n nazywamy słowo binarne
f = f 2 n −1 . . . f 1 f 0 takie, że f i = 1 wtedy i tylko wtedy gdy p i ∈ X.
Twierdzenie 4 Funkcja charakterystyczna r wymiarowej przestrzeni afinicznej w Z m 2
jest wielomianem boolowskim stopnia m − r.
Wniosek 2 (1) Kod Reeda-Mullera R(r, m) jest równy podprzestrzeni liniowej rozpiętej
na wektorach odpowiadajacych ˛ wszystkim funkcjom charakterystycznym przestrzeni afinicznych
w Z2
m o wymiarze m − r lub większym.
(2) Funkcja charakterystyczna przestrzeni afinicznej rozmiaru r+1 jest elementem kodu
dualnego do R(r, m) (czyli kodu R(m − (r + 1), m)).
Idea dowodu. Na mocy twierdzenia 4, R(r, m) zawiera wszystkie funkcje charakterystyczne
wszystkich przestrzeni afinicznych o wymiarze s ≥ m−r. Z drugiej strony,
każdy jednomian x i1 . . . x is opisuje przestrzeń afiniczną (zdefiniowaną odpowiednimi
równaniami), co daje (1). Natomiast (2) wynika z (1) i twierdzenia 1.
4.2 Algorytm dekodowania
Idea algorytmu Do odbiorcy dotarło słowo w. Zakładamy, że liczba błędów jest
mniejsza niż 2 m−r−1 − 1. Dla każdej pozycji w chcemy ustalić czy wystąpił na niej
błąd:
• Każdą pozycję potraktujemy jako punkt w przestrzeni Z m 2 a dokładniej jako 0-
wymiarową przestrzeń afiniczną.
• parzystością przestrzeni afinicznej L nazywać będziemy parzystość liczby błędów
w słowie w na pozycjach odpowiadających punktom należącym do L;
• jeśli w jest słowem kodowym to f L · w = 0, gdzie f L to funkcja charakterystyczna
dowolnej przestrzeni afinicznej rozmiaru r + 1; ogólnie, f L · w wyznacza
parzystość L;
4

• Trik: parzystość przestrzeni afinicznej L rozmiaru s ≤ r można wyznaczyć na
podstawie parzystości przestrzeni afinicznych rozmiaru s + 1 zawierających L! A
parzystość przestrzeni rozmiaru 0 odpowiadjącej bitowi w słowie w jest równa 1
wtedy i tylko wtedy gdy na tej pozycji wystąpił błąd.
Twierdzenie 5 Każda przestrzeń afiniczna L w Z m 2 rozmiaru s jest zawarta w 2 m−s − 1
różnych przestrzeniach afinicznych rozmiaru s + 1. Każdy punkt, który nie należy do L,
należy do dokładnie jednej przestrzeni afinicznej rozmiaru s + 1.
Wniosek 3 Jeśli liczba błędów w odebranym słowie w jest mniejsza od 2 m−r−1 wówczas
parzystość przestrzeni afinicznej L rozmiaru s ≤ r jest taka sama jak parzystość
większości przestrzeni afinicznych rozmiaru s + 1 zawierajacych ˛ L.
Idea dowodu Załóżmy, że odebrane słowo w ma t < 2 m−r−1 błędów. Z powyższego
twierdzenia wiemy, że każdy punkt nie należący do L należy do tylko jednej przestrzeni
afinicznej L ′ rozmiaru s + 1 zawierającej L. Parzystość L i L ′ może się więc różnić
tylko wtedy, gdy L ′ zawiera punkt odpowiadający bitowi, na którym wystąpił błąd. A
takich L ′ jest nie więcej niż 2 m−r−1 − 1. A wszystkich przestrzeni rozmiaru s + 1
zawierających L jest
2 m−s − 1 > 2 · (2 m−r−1 − 1).
Algorytm dekodowania dla kodu R(r, m)
Krok bazowy Niech w będzie słowem odebranym po przejściu przez kanał komunikacyjny.
Przestrzeń afiniczną L rozmiaru r +1 nazywamy parzystą, jeśli iloczym skalarny
w i wektora charakterystycznego L jest równy 0; w przeciwnym razie L jest nieparzysta.
Krok rekurencyjny Dla s = r, r −1, . . . , 1, 0, i dla każdej przestrzeni afinicznej L rozmiaru
s, L oznaczamy jako nieparzystą jeśli większość przestrzeni afinicznym rozmiaru
s + 1 zawierających L jest oznaczonych jako nieparzyste. W przeciwnym razie L oznaczamy
jako parzystą.
Korekcja błędów Wartość i-tego bitu słowa w zostaje zmieniona wtedy i tylko wtedy,
gdy przestrzeń afiniczna rozmiaru zero składająca się (tylko) z punktu p i została oznaczona
jako nieparzysta.
Wniosek 4 Kod R(r, m) koryguje 2 m−r−1 − 1 błędów.
5