teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
Wstęp Model <strong>komunikacji</strong> Ilość informacji Entropia Kodowanie Redundancja Twierdzenia <strong>Shannona</strong> Podsumowanie<br />
źródło liczba możliwych zdarzeń Bity informacji<br />
kruk Poe’go 1 zdarzenie (pewne) log 2 1 = 0<br />
1<br />
1 moneta 2 jednakowo prawdopodobne log 2 1 = log 2 2 = 1<br />
2<br />
2 monety 4 jednakowo prawdopodobne log 2<br />
1<br />
1<br />
4<br />
3 monety 8 jednakowo prawdopodobnych log 2<br />
1<br />
1<br />
8<br />
W przypadku źródła generującego jednakowo prawdopodobne<br />
symbole (gdy wszystkie możliwe komunikaty są jednakowo<br />
prawdopodobne)<br />
k = log a<br />
1<br />
P = − log a P = log a N,<br />
gdzie N- liczba symboli generowanych przez źródło (liczba<br />
możliwych zdarzeń).<br />
= log 2 4 = 2<br />
= log 2 8 = 3<br />
Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu.<br />
Informacja w informatyce cz. 1 <strong>teoria</strong> <strong>komunikacji</strong> C. <strong>Shannona</strong>
Change language