teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
Wstęp Model <strong>komunikacji</strong> Ilość informacji Entropia Kodowanie Redundancja Twierdzenia <strong>Shannona</strong> Podsumowanie<br />
Porównanie efektywności kodowania.<br />
A B C D E F G H<br />
0,1 0,18 0,4 0,05 0,06 0,1 0,07 0,04<br />
Kod 1. (równa długość słów kodowych)<br />
średnia długość słowa kodowego L = 3 bity/symbol<br />
entropia źródła H = ∑ n<br />
i=1 P i log 2 P i =<br />
−2 · 0, 1 · log 2 0, 1 − 0, 18 · log 2 0, 18 − 0, 4 · log 2 0, 4 − 0, 05 − 0, 05 ·<br />
log 2 0, 05 − 0, 06 · log 2 0, 06 − 0, 07 · log 2 0, 07 − 0, 04 · log 2 0, 04 = 2, 55<br />
Efektywność kodowania wynosi η = 2,55<br />
3<br />
· 100% = 85%<br />
Zatem redundancja wynosi 15%.<br />
Kod. 2.(<strong>Shannona</strong>-Fano)<br />
Średnia długość słowa kodowego wynosi 2.64 bita/symbol<br />
Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu.<br />
Informacja w informatyce cz. 1 <strong>teoria</strong> <strong>komunikacji</strong> C. <strong>Shannona</strong>