Grundkurs Informatik Aufgabensammlung mit Lösungen Teil 1

Aufgaben und Lösungen 1-37
Fragen immer zur Ermittlung beider Zahlen ausreichen. Im Einzelfall kann man natürlich Glück
haben und mit weniger als 13 Fragen die beiden Zahlen erraten.
Dasselbe Resultat erhält man auch durch folgende Überlegung: Wenn alle Ausgänge gleich
wahrscheinlich sind, wird die zugehörige Entropie H=ld(4950) 12.27 sein. Auch daraus folgt,
dass 13 Fragen genügen. Über eine Strategie zur Auswahl vernünftiger Fragen ist damit natürlich
nichts gesagt.
Aufgabe 2.5.8 (M1)
Gegeben sei das Alphabet A = {a, e, i, o, u} mit den Auftrittswahrscheinlichkeiten w(a)=0.25,
w(e)=0.20, w(i)=0.10, w(o)=0.30, w(u)=0.15. Berechnen Sie die Informationsgehalte der Zeichen
von A und die Entropie.
Lösung
Informationsgehalt:
Zeichen wi Ii
------------------------------
a 0.25 2.0000
e 0.20 2.3219
i 0.10 3.3219
o 0.30 1.7370
u 0.15 2.7370
I
i
ld
1
Entropie:
w
i
H
n
i 1
i i I w
H = 0.25 2.0000 + 0.20 2.3219 + 0.10 3.3219 + 0.30 1.7370 +0.15 2. 7370 =
= 0.5 + 0.46438 + 0.33219 + 0.5211 + 0.41055 = 2.22822 [Bit/Zeichen]
Aufgabe 2.3.9 (M2)
Berechnen Sie den mittleren Informationsgehalt des Textes dieser Aufgabe.
Lösung
Zunächst ist zu abzuzählen, wie oft die einzelnen Zeichen im Text der Aufgabe auftreten. So
findet man beispielsweise die Häufigkeiten ha=3 für das Zeichen „a“ und ht=5 für das Zeichen
„t“. Die Gesamtzahl der Zeichen ist n=73. Daraus berechnet man nun gemäß wi=hi/n die
Auftrittswahrscheinlichkeiten wi. Daraus folgt für die Informationsgehalte Ii der Zeichen:
I
i
ld
1
w
i
Der mittlere Informationsgehalt, d.h. die Entropie H ergibt sich dann aus der Formel:
H
n
i 1
i i I w
Dies kann man etwas mühsam per Hand berechnen. Hier wurde ein C-Programm verwendet.
Das Ergebnis H ≈ 4.136 mit den Zwischenergebnissen ist unten aufgelistet.