teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
teoria komunikacji Shannona.pdf
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
Wstęp Model <strong>komunikacji</strong> Ilość informacji Entropia Kodowanie Redundancja Twierdzenia <strong>Shannona</strong> Podsumowanie<br />
Definicja<br />
Entropia. Jeśli źródło nadaje n różnych komunikatów z<br />
prawdopodobieństwami P 1 , P 2 , ..., P n , to średnia ważona ilość<br />
informacji w komunikatach tego źródła wyraża się wzorem<br />
H = −P 1 log 2 P 1 − P 2 log 2 P 2 − ... − P n log 2 P n = −<br />
n∑<br />
P i log 2 P i<br />
i nosi nazwę entropii informacyjnej źródła informacji. Jednostką<br />
entropii jest bit.<br />
i=1<br />
Izabela Bondecka-Krzykowska Wydział Matematyki i Informatyki UAM ul. Umultowska 87 61–614 Poznań izab@amu.edu.<br />
Informacja w informatyce cz. 1 <strong>teoria</strong> <strong>komunikacji</strong> C. <strong>Shannona</strong>
Change language