teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
Wstęp Model <strong>komunikacji</strong> Ilość informacji Entropia Kodowanie Redundancja Twierdzenia <strong>Shannona</strong> Podsumowanie<br />
Fundamentalne twierdzenia <strong>Shannona</strong>:<br />
Twierdzenie<br />
Niech źródło ma entropię H (bitów na symbol) oraz niech kanał<br />
komunikacyjny ma przepustowość C (bitów na sekundę). Wtedy możliwe<br />
jest zakodowanie informacji wysyłanej ze źródła przez ten kanał w taki<br />
sposób, że średnia prędkość transmisji wynosi C/H − ε symboli na<br />
sekundę, gdzie ε jest dowolnie małe. Niemożliwa jest transmisja z<br />
prędkością większą niż C/H.<br />
Twierdzenie<br />
Dany jest dyskretny kanał o przepustowości C oraz dyskretne źródło o<br />
entropii H. Jeśli H ≤ C to istnieje system kodowania taki, że sygnał<br />
źródła może być transmitowany przez kanał z dowolnie małą częstością<br />
błędów. Jeśli H>C, to możliwe jest zakodowanie sygnału ze źródła w taki<br />
sposób, że dwuznaczność jest mniejsza niż H − C + ε, gdzie ε jest<br />
dowolnie małe. Nie istnieje metoda kodowania, która daje mniejszą<br />
dwuznaczność niż H-C.<br />
Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu.<br />
Informacja w informatyce cz. 1 <strong>teoria</strong> <strong>komunikacji</strong> C. <strong>Shannona</strong>