Grundkurs Informatik Aufgabensammlung mit Lösungen Teil 1

1-44 Aufgaben und Lösungen
RH = LH-H = 2.25 - 2.2019 = 0.0481 [Bit/Zeichen]
Mit Hilfe des Fano-Algorithmus baut man schrittweise den folgenden Code auf:
xi wi Si Fano-Code
______________________________________
A 0.24 1.00 0
E 0.30 0.70 0
I 0.07 0.46 1
O 0.21 0.25 1
U 0.18 0.07 1
1. Schritt 2. Schritt 3. Schritt
xi wi Si Fano-Code
______________________________________
A 0.24 1.00 00
E 0.30 0.70 01
I 0.07 0.46 10
O 0.21 0.25 110
U 0.18 0.07 111
4. Schritt – Ergebnis
Die Wortlängen sind mit denen des Huffman-Codes identisch, daher sind auch die Werte für
die mittlere Wortlänge und die Redundanz gleich denen des Huffman-Codes.
Aufgabe 3.2.2 (M3)
Gegeben sei das unten tabellierte Alphabet {x i } mit den zugehörigen
Auftrittswahrscheinlichkeiten {w i }:
x i A E I O U Y
__________________________________________________________________
w i 0.105 0.22 0.105 0.04 0.45 0.08
a) Berechnen Sie die Informationsgehalte I(x i ) sowie die Entropie.
b) Bilden Sie den optimalen Binär-Code mit Hilfe des Huffman-Algorithmus.
c) Bilden Sie einen Binär-Code unter Verwendung des Fano-Algorithmus.
d) Geben Sie für die Codes b) und c) die mittleren Wortlängen und Redundanzen an.
e) Codieren Sie nun das Alphabet mit einem optimal kurzen Code mit konstanter Wortlänge
(Block-Code). Welchen Kompressionsfaktor ergibt im Vergleich dazu der Huffman-Code
gemäß Teilaufgabe b)?
Lösung:
Für die Informationsgehalte I(xi) gilt:
I(xi) = ld(1/wi)
Bei Verwendung des Zehnerlogarithmus log() statt des Zweierlogarithmus ld() rechnet man:
ld(1/wi) = log(1/wi)/log(2) = log(1/wi)/0.30103
Für die Entropie gilt:
xi wi Si Fano-Code
______________________________________
A 0.24 1.00 00
E 0.30 0.70 01
I 0.07 0.46 1
O 0.21 0.25 1
U 0.18 0.07 1
xi wi Si Fano-Code
______________________________________
A 0.24 1.00 00
E 0.30 0.70 01
I 0.07 0.46 10
O 0.21 0.25 11
U 0.18 0.07 11
H(x i ) = w i I(x i ) = 0.105 3.2515 + 0.22 2.1844 + 0.105 3.2515 + 0.04 4.6439 + 0.45 1.1520 + 0.08 3.6439 =
= 2.1590 [Bit/Zeichen]