Seminar Differential Encoding 2002

Titel 

Seminar 

Differential Encoding 

2002 

Matthias Moeser, Seminar Datenkompression 2002, MLU Halle ❂ 75 75▲ ▼ 75 75 1

Einleitung 

• Differential encoding (differentielle Kodierung) ist ein weit verbreitetes Verfahren 

zur Datenkompression 


Einleitung 



• Voraussetzungen: 

aufeinanderfolgende Signalproben/ Abtastwerte duerfen sich nicht sehr 

unterscheiden 


Einleitung 





unterscheiden 

• auch bekannt als “vorbestimmte Kodierung “ 


Einleitung 





unterscheiden 

• auch bekannt als “vorbestimmte Kodierung “ 

• Wesen: 

der Unterschied zwischen dem tatsaechlichen Abtastwert und einer Vorhersage 

wird kodiert und uebertragen 


Quantisierer (allgemeine Erlaeuterung) 

• zentrales Element: Quantisierer 




• digitale Umsetzung eines analogen Signals (z.B. eines Sprachsignals) erfolgt im 

einfachsten Fall mit einem Analog - Digital - Wandler 






• Analogsignal wird in periodischen Zeitintervallen abgetastet und in einen 

entsprechenden Zahlenwert umgewandelt (→ quantisiert) 








• bei der Quantisierung wird ein bestimmter Wertebereich des Analogsignals zu 

einem Zahlenwert zusammengefasst 










• dies verursacht Quantisierungsfehler; auch als Quantisierungsrauschen 

bezeichnet 










• dies verursacht Quantisierungsfehler; auch als Quantisierungsrauschen 

bezeichnet 

• um Quantisierungsrauschen moeglichst klein zu halten, muss Aufloesung des 

A-D-Wandlers vergroessert werden, d.h. das Ausgabewort muss eine hoehere 

Bitbreite aufweisen 


Beispiel 

• fuer gesprochene Sprache gilt, dass sie eine begrenzte Bandbreite besitzt 

→ Abstand zwischen zwei Abtastwerten ist nicht beliebig gross 


Beispiel 



• Wertebereich der Differenzen ist in jedem Fall kleiner als der Wertebreich des 

Signals selbst 


Beispiel 





• Ausnutzung, indem man nicht das Signal, sondern nur den Unterschied 

zwischen zwei Abtastwerten kodiert 


Beispiel 





• Ausnutzung, indem man nicht das Signal, sondern nur den Unterschied 

zwischen zwei Abtastwerten kodiert 

• Datenrate ( weil kleinerer Wertebereich) wird reduziert 


• tatsaechliche Daten : 9, 10, 7, 6 

Beispiel 



Beispiel 

• vorherige (vorausgesagte) Daten : 0, 9, 10, 7 



Beispiel 

• vorherige (vorausgesagte) Daten : 0, 9, 10, 7 

• kodierte Daten : 9, 1, -3,-1 


grundlegender Algorithmus 

• man betrachte eine Quellenausgabesequenz {xn} 




• xn−1 ist das vorher kodierte und uebertragene Symbol 





• Differenzsequenz {dn} ergibt sich aus 

dn = xn − xn−1 







• dn wird quantisiert, man erhaelt die Sequenz { ˆ dn} 

ˆdn = Q[dn] = dn + qn 

wobei qn . . . Quantisierungsfehler 







• dn wird quantisiert, man erhaelt die Sequenz { ˆ dn} 

ˆdn = Q[dn] = dn + qn 

wobei qn . . . Quantisierungsfehler 

• beim Empfaenger erhaelt man die rekonstruierte Sequenz {ˆxn} durch 

ˆxn = ˆxn−1 + ˆ dn 

wobei ˆxn−1 das vorher rekonstuierte Symbol ist 


grundlegender Algorithmus ff 

• angenommen, Uebertraeger und Empfaenger starten beide mit demselben 

Wert x0, so dass 

ˆx0 = x0 





ˆx0 = x0 

• fuer den Quantisierungs - und Rekonstruktionsprozess ergibt sich 

d1 = x1 − x0 

ˆd1 = Q[d1] = d1 + q1 

ˆx1 = x0 + ˆ d1 = x0 + d1 + q1 = x1 + q1 

d2 = x2 − x1 

ˆd2 = Q[d2] = d2 + q2 

ˆx2 = ˆx1 + ˆ d2 = x1 + q1 + d2 + q2 = x2 + q1 + q2 

→ diesen Prozess fortfuehrend ergibt sich ˆxn = xn + n 

qk 

k=1 





ˆx0 = x0 

• fuer den Quantisierungs - und Rekonstruktionsprozess ergibt sich 

d1 = x1 − x0 

ˆd1 = Q[d1] = d1 + q1 

ˆx1 = x0 + ˆ d1 = x0 + d1 + q1 = x1 + q1 

d2 = x2 − x1 

ˆd2 = Q[d2] = d2 + q2 

ˆx2 = ˆx1 + ˆ d2 = x1 + q1 + d2 + q2 = x2 + q1 + q2 

→ diesen Prozess fortfuehrend ergibt sich ˆxn = xn + n 

qk 

k=1 

• offensichtlich, dass der Quantisierungsfehler mit fortfuehrenden Prozess stark 

zunimmt → unerwuenscht ! 



• Kodierer und Dekodierer arbeiten mit verschiedenen Informationen 




• Kodierer generiert die Differenzsequenz basierend auf den Orginalabtastwerten 




• Kodierer generiert die Differenzsequenz basierend auf den Orginalabtastwerten 

• Dekodierer greift bei quantisierter Differenz auf eine verzerrte Version des 

Orginalsignals zurueck 



• Problemloesung : Kodierer und Dekodierer nutzen dieselbe Informationen 

waehrend der Operationen 





• die einzige dem Empfaenger erhaeltliche Information ueber die Sequenz {xn} 

ist die rekonstruierte Sequenz {ˆxn} 





• die einzige dem Empfaenger erhaeltliche Information ueber die Sequenz {xn} 

ist die rekonstruierte Sequenz {ˆxn} 

• also modifiziere die Differenzoperation mit Benutzung des vorherig 

rekonstruierten Abtastwertes 

dn = xn − ˆxn−1 



• diese neue Operation benutzend, wiederholen wir die Untersuchung des 

Quantisierungs - und Rekonstruktionsprozesses 

ˆx0 = x0 

d1 = x1 − x0 

ˆd1 = Q[d1] = d1 + q1 

ˆx1 = x0 + ˆ d1 = x0 + d1 + q1 = x1 + q1 

d2 = x2 − ˆx1 

ˆd2 = Q[d2] = d2 + q2 

ˆx2 = ˆx1 + ˆ d2 = ˆx1 + d2 + q2 = x2 + q2 





ˆx0 = x0 

d1 = x1 − x0 

ˆd1 = Q[d1] = d1 + q1 

ˆx1 = x0 + ˆ d1 = x0 + d1 + q1 = x1 + q1 

d2 = x2 − ˆx1 

ˆd2 = Q[d2] = d2 + q2 

ˆx2 = ˆx1 + ˆ d2 = ˆx1 + d2 + q2 = x2 + q2 

• fuer die n-te Iteration ergibt sich 

ˆxn = xn + qn 

→ keine Anhaeufung des Quantisierungsrauschens 





ˆx0 = x0 

d1 = x1 − x0 

ˆd1 = Q[d1] = d1 + q1 

ˆx1 = x0 + ˆ d1 = x0 + d1 + q1 = x1 + q1 

d2 = x2 − ˆx1 

ˆd2 = Q[d2] = d2 + q2 

ˆx2 = ˆx1 + ˆ d2 = ˆx1 + d2 + q2 = x2 + q2 

• fuer die n-te Iteration ergibt sich 

ˆxn = xn + qn 

→ keine Anhaeufung des Quantisierungsrauschens 

• genaugenommen entsteht das Quantisierungsrauschen des n-ten 

rekonstruierten Symbols bei der Quantisierung der n-ten Differenzsymbols 


Blockdiagramm des grundlegenden Algorithmus 


DPCM (Differentielle Puls-Code-Modulation) 

• baut auf eben erklaertem Prinzip auf 




• die differentielle Quantisierung nutzt die Korrelation zwischen den Abtastwerten 





• bestimmt aus den vorhergegangenen N Werten mit Hilfe eines bestimmten 

Algorithmus den naechsten Abtastwert 





• bestimmt aus den vorhergegangenen N Werten mit Hilfe eines bestimmten 

Algorithmus den naechsten Abtastwert 

• dieser extrapolierte Wert wird mit dem tatsaechlichen Wert verglichen 


Blockdiagramm des DPCM 


DPCM Hintergrund 

• wir wollen unsere Differenzwerte so klein wie moeglich haben 




• d.h. ˆxn−1 sollte so nah wie moeglich bei xn sein 





• bestimmte Funktionen f(. . .) der vorherig Werte der rekonstruierten Sequenz 

garantieren eine bessere Vorhersage von xn 







• man ersetzt im Blockdiagramm den Delayblock durch den Predictorblock 








• die Ausgabe des Predictors ist die Prediction ( Vorhersage ) Sequenz {pn} 

pn = f(ˆxn−1, ˆxn−2, . . . , ˆx0) 









pn = f(ˆxn−1, ˆxn−2, . . . , ˆx0) 

• das DPCM wurde von Bell Laboratories wenige Jahre nach dem zweiten 

Weltkrieg entwickelt 









pn = f(ˆxn−1, ˆxn−2, . . . , ˆx0) 

• das DPCM wurde von Bell Laboratories wenige Jahre nach dem zweiten 

Weltkrieg entwickelt 

• es ist ein weit verbreitetes Sprachkodierungssystem und wird u.a. in der 

Telefonkommunikation verwendet 


DPCM Prediction 

• mathematische Formulierung des prediction problems 




• definiere σ2 d 

σ2 d = E[(xn − pn) 2 ] 

E[. . .] . . . Erwartungswert 

als die Varianz (Abweichung) der Differenzsequenz 





σ2 d = E[(xn − pn) 2 ] 



• p(n) . . . Predictorausgabe 

p(n) = f(ˆxn−1, ˆxn−1, . . . , ˆx0) 





σ2 d = E[(xn − pn) 2 ] 



• p(n) . . . Predictorausgabe 

p(n) = f(ˆxn−1, ˆxn−1, . . . , ˆx0) 

• wesentlich fuer die Konstruktion eines guten Predictors ist die Auswahl der 

Funktion f(. . .), welche σ2 d minimieren soll 


• Problem : ˆxn = xn + qn 

DPCM Prediction ff 

qn ist abhaengig von der Varianz von dn 

Auswirkungen auf ˆxn, σ2 d , f(. . .) 

diese Gegebenheiten verkomplizieren das Problem sehr 







• fine quantization assumption (Annahme) : 

Quantisierungsschritte so klein, dass wir ˆxn durch xn ersetzen koennen 

→ pn = f(xn−1, xn−2, . . . , x0) 









→ pn = f(xn−1, xn−2, . . . , x0) 

• weitere Annahme : wir legen fest, dass die Predictor Funktion linear ist 

→ p(n) = N 

ai ∗ xn−i 

i=1 

N spezifiziert die Ordnung des Predictors 









→ pn = f(xn−1, xn−2, . . . , x0) 

• weitere Annahme : wir legen fest, dass die Predictor Funktion linear ist 

→ p(n) = N 

ai ∗ xn−i 

i=1 

N spezifiziert die Ordnung des Predictors 

• finde {ai} fuer die Minimierung von σ 2 d 

σ 2 d = E[(xn − N 

ai ∗ xn−i) 

i=1 

2 ] 



• man nehme den Differentialquotienten von σ 2 d bzgl. ai und setze ihn 0 

δσ 2 d 

δa1 = −2E[(xn − N 

δσ 2 d 

δa2 = −2E[(xn − N 

. 

δσ 2 d 

δa N = −2E[(xn − N 

ai ∗ xn−i)xn−1] = 0 

i=1 

ai ∗ xn−i)xn−2] = 0 

i=1 

ai ∗ xn−i)xn−N] = 0 

i=1 



• man nehme den Differentialquotienten von σ 2 d bzgl. ai und setze ihn 0 

δσ 2 d 

δa1 = −2E[(xn − N 

δσ 2 d 

δa2 = −2E[(xn − N 

. 

δσ 2 d 

δa N = −2E[(xn − N 

ai ∗ xn−i)xn−1] = 0 

i=1 

ai ∗ xn−i)xn−2] = 0 

i=1 

ai ∗ xn−i)xn−N] = 0 

i=1 

• dies laesst sich umschreiben zu 

N 

i=1 

N 

i=1 

. N 

i=1 

aiRxx(i − 1) = Rxx(1) 

aiRxx(i − 2) = Rxx(2) 

aiRxx(i − N) = Rxx(N) 



• wobei Rxx(k) die Autokorrelationsfunktion von xn ist 

Rxx(k) = E[xnxn+k] 



• wobei Rxx(k) die Autokorrelationsfunktion von xn ist 

Rxx(k) = E[xnxn+k] 

• man schreibe diese Gleichungen in Matrixform als 

RA = P 

⎛ 

⎜ 

R = ⎜ 

⎝ 

Rxx(0) 

Rxx(1) 

Rxx(2) 

. 

Rxx(1) 

Rxx(0) 

Rxx(1) 

. 

Rxx(2) 

Rxx(1) 

Rxx(0) 

. . . 

. . . 

. . . 

Rxx(N − 1) 

Rxx(N − 2) 

Rxx(N − 3) 

Rxx(N − 1) Rxx(N − 2) Rxx(N − 3) . . . Rxx(0) 

A = 

⎛ 

⎜ 

⎝ 

a1 

a2 

a3 

. 

aN 

⎞ 

⎛ 

⎟ ⎜ 

⎟ ⎜ 

⎟ P = ⎜ 

⎠ ⎝ 

Rxx(1) 

Rxx(2) 

Rxx(3) 

. 

Rxx(N) 

⎞ 

⎟ 

⎠ 

Matthias Moeser, Seminar Datenkompression 2002, MLU Halle ❂ 75 75▲ ▼ 75 75 18 

⎞ 

⎟ 

⎠


• man beachte den Fakt, dass Rxx(−k) = Rxx(k) 



• man beachte den Fakt, dass Rxx(−k) = Rxx(k) 

• kennt man die Autokorrelationswerte {Rxx(1)}, so findet man die Predictor 

Koeffizienten als 

A = R −1 P 


Bsp. Prediction 

• fuer eine Sprachsequenz ist ein Predictor gesucht 




• man schaetze die Autokorrelationswerte in Abhaengigkeit von den Daten 





• geg. seien M Datenpunkte, man benutze folgenden Durchschnitt um die Werte 

fuer Rxx(k) zu finden 

M−k 

Rxx(k) = 1 

M−k 

i=1 

xixi+k 





• geg. seien M Datenpunkte, man benutze folgenden Durchschnitt um die Werte 

fuer Rxx(k) zu finden 

M−k 

Rxx(k) = 1 

M−k 

i=1 

xixi+k 

• mit diesen Autokorrelationswerten erhaelt man folgende Koeffizienten fuer drei 

verschiedene Predictoren 

− fuer N = 1 → a1 = 0.66 

− fuer N = 2 → a1 = 0.596, a2 = 0.096 

− fuer N = 3 → a1 = 0.577, a2 = −0.025, a3 = 0.204 


Bsp. Prediction ff 


• einfacher Fall des DPCM 

Delta Modulation (DM) 




• DM kann betrachtet werden als ein DPCM System mit einem 1 Bit Quantisierer 

( Quantisierer auf zwei Stufen reduziert ) 






• der digetale Quantisierer kennt nur zwei Aussagen : 

− ob der vorhergesagte Wert groesser (logisch ’1’) ist als der abgetastete 

− ob der vorhergesagte Wert kleiner (logisch ’0’) ist als der abgetastete 

• formal wird der Deltamodulator wie folgt beschrieben 






• der digetale Quantisierer kennt nur zwei Aussagen : 

− ob der vorhergesagte Wert groesser (logisch ’1’) ist als der abgetastete 

− ob der vorhergesagte Wert kleiner (logisch ’0’) ist als der abgetastete 

• formal wird der Deltamodulator wie folgt beschrieben 

dn ≤ 0 → cn = ∆ 

dn ≥ 0 → cn = −∆ 


Delta Modulation (DM) ff 

• Quantisierungsschrittweite ist auf einen bestimmten Wert begrenzt 

• moeglich, dass bei grossen Steigungen des Eingangssignals xn das Signal ˆxn 

nicht mehr folgen kann 






• es entsteht eine Steigungsueberlastung ( slope overload ) 

(Effekt tritt auch bei stark fallendem Signal ein) 








• waehrend des slope overload produziert der Quantisierer eine Folge gleicher 

Bits 

(entweder lauter ’1’ bei steigender Flanke oder lauter ’0’ bei fallender Flanke) 








• waehrend des slope overload produziert der Quantisierer eine Folge gleicher 

Bits 

(entweder lauter ’1’ bei steigender Flanke oder lauter ’0’ bei fallender Flanke) 

• diese Steigungsueberlastung bleibt solange bestehen, bis die steigung des 

Eingangsignals xn wieder kleiner wird, s.d. ˆxn wieder genauso gross wie xn 

werden kann 


• weiterer Nachteil : 





• wenn das Eingangssignal sich nur geringfuegig aendert 





• aufgrund der groben Quantisierung schwankt dann das Naeherungssignal 






• Quantisierer gibt alternierende Bitfolge aus (granulares Rauschen) 







• in einer relativ konstanten Region verkleinert man die Schrittweite zur 

Verringerung des granular noise 







• in einer relativ konstanten Region verkleinert man die Schrittweite zur 

Verringerung des granular noise 

• in Regionen mit starkem Steigen/Fallen vergroessert man die Schrittweite zur 

Verringerung des slope overloads 


Abtastung bei DM 


Ende 

• Literatur : 

− Introduction to data kompression, Khalid Seayood

Seminar Differential Encoding 2002

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?