teoria komunikacji Shannona.pdf

teoria komunikacji Shannona.pdf teoria komunikacji Shannona.pdf

graniczne.amu.edu.pl
from graniczne.amu.edu.pl More from this publisher
02.01.2014 Views

Wstęp Model komunikacji Ilość informacji Entropia Kodowanie Redundancja Twierdzenia Shannona Podsumowanie Entropia H zdefiniowana wzorem H = − jest to miara trzech wielkości: n∑ P i log 2 P i i=1 a) średniej ilości nie zinterpretowanej (czystej) informacji przypadającej na symbol produkowany przez źródło, b) odpowiadającej jej średniej ilości deficytu danych (tego co Shannon nazywał niepewnością) jaki ma odbiorca przed sprawdzeniem sygnału od informującego oraz c) odpowiadające jej możliwości informacyjne samego źródła tzn. jego informacyjną entropię. Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu. Informacja w informatyce cz. 1 teoria komunikacji C. Shannona

Wstęp Model komunikacji Ilość informacji Entropia Kodowanie Redundancja Twierdzenia Shannona Podsumowanie symbol - zdarzenie - komunikat Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu. Informacja w informatyce cz. 1 teoria komunikacji C. Shannona

Wstęp Model <strong>komunikacji</strong> Ilość informacji Entropia Kodowanie Redundancja Twierdzenia <strong>Shannona</strong> Podsumowanie<br />

Entropia H zdefiniowana wzorem<br />

H = −<br />

jest to miara trzech wielkości:<br />

n∑<br />

P i log 2 P i<br />

i=1<br />

a) średniej ilości nie zinterpretowanej (czystej) informacji<br />

przypadającej na symbol produkowany przez źródło,<br />

b) odpowiadającej jej średniej ilości deficytu danych (tego co<br />

Shannon nazywał niepewnością) jaki ma odbiorca przed<br />

sprawdzeniem sygnału od informującego oraz<br />

c) odpowiadające jej możliwości informacyjne samego źródła tzn.<br />

jego informacyjną entropię.<br />

Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu.<br />

Informacja w informatyce cz. 1 <strong>teoria</strong> <strong>komunikacji</strong> C. <strong>Shannona</strong>

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!