Teorija informacij
Teorija informacij Teorija informacij
' ( ) * + , -¢ % ¢ . ¢ . ¢ . ¢ . ¢ . ¢ . ¢ .& .. ¢' ( ) * + , -¢ % ¢ 5 ¢ . ¢ . ¢ ¢ & ¢ ¢86 ¢ ¢86 ¢76 ¢76 5 ¡¢¥¤¦¡¨§ ¤¤¡ . 10.¡ "!:# § ¡ 10 234 3Definicija enote za količino informacije:En bit je količina informacije, ki jo dobimo, kodobimo odgovor na vprašanje na katerega stamožna natanko dva enako verjetna odgovora.– Primer 2 – ¡¢¥¤¦¡§/¤¤¦¡ . ¡ "!$# § ¡ 0– Primer 3 – ;1 ;:= ; < 2
? @¢ §Entropija sistema predstavlja spodnjo mejo števila bitov, kiso potrebni za predstavitev vseh elementov tega sistema.Mera za povezanost dvehspremenljivk na osnovi entropijeZa merjenje povezanosti poljubnih dveh spremenljivk(lahko tudi nominalnih) lahko uporabljamo Cramerjevkoeficient (Cramer’s V).A 1 Poleg njega obstaja še koeficient Rajskega (1964), ki jezgrajen na osnovi entropije:Imejmo dve spremenjivki in . Spremenljivka naj%zavzame različnih vrednosti, spremenljivka % parazličnihBvrednosti.C B D% E ¡ GF "!$# § ¡ DF 3
- Page 1: ¢ Teorija informacijEntropijaEntro
- Page 5 and 6: U D% V B U D% W B U D% X B ¤OB MN
- Page 7 and 8: DF ¤ I J I ¢ I § I:Z ¡ DF 0¡
- Page 9 and 10: D% V B 4 [ UD% W B 4 [ UPrimer 4:Su
- Page 11 and 12: e ¢ ¡Q¢¤¦¡¨§©¤f¤¡d g h[
- Page 13 and 14: ' ( ) * + , -¢ 5 ¢ 5 ¢ . ¢ . ¢
- Page 15 and 16: Če kodiranje s spremenljivo dolži
- Page 17 and 18: 00 01 100 101 1100 1101 1110 1111a
- Page 19 and 20: - . ¡ z} 4 [\][:_ ^ }. .MMorsejeva
- Page 21 and 22: Primer: sproročilo: [$[ 1 [ 1$1$1
- Page 23 and 24: [$[ 1$1 [\¤O[$[:[$[$[3 ; ) [$[ 1$1
- Page 25 and 26: Aritmetično kodiranje (Rissanen)ce
- Page 27 and 28: F Žq Œ F Œ Realno število F ,
- Page 29 and 30: Postopek kodiranja:1. Na začetku p
- Page 31 and 32: postane zaporedje, ki ustreza kodi
- Page 33 and 34: slika na ekranu SVGA (16.7 milijono
- Page 35 and 36: Formati za zgoščevanje slik z izg
? @¢ §Entropija sistema predstavlja spodnjo mejo števila bitov, kiso potrebni za predstavitev vseh elementov tega sistema.Mera za povezanost dvehspremenljivk na osnovi entropijeZa merjenje povezanosti poljubnih dveh spremenljivk(lahko tudi nominalnih) lahko uporabljamo Cramerjevkoeficient (Cramer’s V).A 1 Poleg njega obstaja še koeficient Rajskega (1964), ki jezgrajen na osnovi entropije:Imejmo dve spremenjivki in . Spremenljivka naj%zavzame različnih vrednosti, spremenljivka % parazličnihBvrednosti.C B D% E ¡ GF "!$# § ¡ DF 3