Handout - Institut für Theoretische Informatik - Technische ...

Theoretische Informatik 2 

Jürgen Koslowski 

Institut für Theoretische Informatik 

Technische Universität Braunschweig 

SS 2012 

http://www.iti.cs.tu-bs.de/˜koslowj/Theo1 

Jürgen Koslowski (TU-BS) Theoretische Informatik 2 SS 2012 1 / 215

Übersicht: Turingmaschinen I 

1 Hintergrund und Motivation 

Ziele der Vorlesungen “Theoretische Informatik 2” 


Übersicht: Turingmaschinen I 

2 3. Turingmaschinen 

3.0 Vorüberlegung 

3.0.0 Turingmaschinen formal 

3.0.1 Darstellung von Turingmaschinen 

3.1 Entscheidbare Sprachen/Probleme 

3.2 Die Chomsky-Hierarchie formaler Sprachen 

3.3 Abschlußeigenschaften (semi-)entscheidbarer Sprachen 

3.4 Turing-berechenbare partielle Funktionen 


Übersicht: Church-Turing These I 

3 4. Church-Turing-These 

4.0 Vorbemerkungen 

4.1 RAM 

4.1.0 Befehlssatz einer RAM 

4.1.2 Simulation einer TM durch eine RAM 

4.1.2 RAM-Berechenbarkeit 

4.2 Rekursive Funktionen 


Übersicht: Unentscheidbare Probleme I 

4 5. Unentscheidbare Probleme 

5.0 Problemstellung 

5.1 Universelle Turingmaschine 

5.2 Das Halteproblem 

5.3 Weitere unentscheidbare Probleme 

5.3.0 Das Akzeptanzproblem 

5.3.1 Akzeptanz des leeren Worts 

5.3.2 Terminierung eines Algorithmus 

5.4 Satz von Rice 


Übersicht: Komplexitätstheorie I 

5 6. Komplexität von Algorithmen 

6.0 Übersicht 

6.0.1 Wiederholung: Groß-O-Notation 

6.1 Beispiele effizienter Algorithmen 

6.2 Die Komplexitätsklassen P und NP 

6.3 Die Klasse FP von Berechnungsproblemen 

6.4 FP -Reduzierbarkeit 

6.4.1 2-Sat ∈ P 

6.5 Robustheit der Klassen P und N P 

6.6 Einige Probleme aus NP 

6.7 NP -Vollständigkeit und Cooke’scher Satz 

6.8 Weitere NP -vollständige Probleme 

6.9 Die Klasse coNP 

6.10 Komplexität von Optimierungsproblemen 

6.11 Approximation von Optimierungsproblemen 

6.12 Raumkomplexität 


Hintergrund und Motivation Ziele der Vorlesungen “Theoretische Informatik 2” 

In Fortsetzung der VL “Theoretische Informatik 1” werden zunächst 

Turingmaschinen als weiteres Maschinenmodell eingeführt, dessen 

Fähigkeiten über die der Kellerautomaten hinausgehen. Es wird sich als 

das mächtigste (klassische) Maschinenmodell erweisen, ebenso mächtig 

wie alle heute gebräuchlichen Computer. (Um weitergehende Fähigkeiten 

zu realisieren, braucht man einen “Quantencomputer”.) 

Die Klasse der von TM’n akzeptierten semi-entscheidbaren Sprachen hat 

die kanonische Unterklasse der entscheidbaren Sprachen; diese werden von 

TM’n akzeptiert, die bei jeder Eingabe halten. Das wirft die Frage der 

Entscheidbarkeit bzw. Nichtentscheidbarkeit formaler Sprachen auf. Hier 

lernen wir schon das neue Verfahren der Reduktion von Problemen bzw. 

Sprachen kennen. 

TM’n lassen sich auch zur Lösung von Berechnungsproblemen (kurz 

B-Problemen) verwenden. Das liefert eine Theorie der “Turingberechenbaren 

(partiellen) Funktionen” der Form N p f 

N, p ∈ N . 


Hintergrund und Motivation Ziele der Vorlesungen “Theoretische Informatik 2” 

Alternativ kann man ausgehend von einfachen Grundfunktionen N p N 

mittels simpler Konstruktionsverfahren neue partielle Funktionen N p N 

generieren. Das liefert erst die Klasse der primitiv rekursiven Funktionen, 

und anschließend die Klasse der µ-rekursiven partiellen Funktionen. 

Letztere stimmt mit der obigen Klasse der Turing-brechenbaren partiellen 

Funktionen überein. 

In der Komplexitätstheorie geht es darum, wie effizient E-Probleme gelöst 

werden können. Das wesentliche Kriterium besteht darin, ob bei 

Verwendung von dTM’n bzw. nTMn immer eine Laufzeit realisiert werden 

kann, die polynomial in der Größe der Eingabe ist. 

B-Probleme, deren zugrundeliegendes E-Problem nicht effizient lösbar ist, 

sind selbst nicht effizient lösbar. In solchen Fällen kann man versuchen, 

möglichst gute Lösungen wenigstens zu approximieren. Das führt zum 

Begriff des Optimierungsproblems. 


3. Turingmaschinen 

Kapitel 3 

Turingmaschinen 


3. Turingmaschinen 3.0 Vorüberlegung 

3.0 Vorüberlegung 

Idee: der eingeschränkt zugängliche Keller eines Kellerautomaten wird 

durch ein frei zugängliches, beidseitig potentiell unendliches Turingband 

ersetzt, auf dessen Zellen Symbole aus einem Bandalphabet mit Hilfe eines 

Schreib-Lesekopfes geschrieben werden können: 



Der Schreib-Lesekopf kann verschiedene Zustände einnehmen; dabei 

werden wie gewöhnlich Anfangs- und Endzustände unterschieden. 

In jedem Schritt darf der Schreib-Lesekopf den Zustand ändern sowie 

ein Symbol schreiben und/oder (je nach Vereinbarung) sich um 

maximal ein Feld zur Seite bewegen. 

Zu jedem Zeitpunkt darf das Band nur endlich viele relevante 

Symbole enthalten; alle übrigen Felder müssen “leer” sein. Um dies 

anzuzeigen, wird ein spezielles Bandsymbol # eingeführt. 

Beim Berechnungsstart soll die Eingabe w ∈ Σ ∗ zusammenhängend 

auf dem Band stehen! Dies ist scheinbar ein konzeptioneller 

Unterschied zu Kellerautomaten und erst recht zu endlichen 

Automaten, bei denen die Eingabe immer extern vorlag und in nicht 

näher spezifizierter Weise von links nach rechts gelesen wurde 

(Stichwort: Online Algorithmus ). 

Bei Wikipedia findet man folgende Visualisierungen von Turingmaschinen. 



3.0.0 Turingmaschinen formal 

Wir werden verschiedene Varianten von Turingmaschinen kennenlernen, die 

sich letztendlich alle gegenseitig simulieren können. Zunächst beginnen wir 

mit zwei Basismodellen. Diese unterscheiden sich darin, ob der Kopf pro 

Schritt nur zu einer Aktion (Schreiben bzw. Bewegen), oder zu beiden 

Aktionen fähig ist, sind ansonsten aber äquivalent. 

Bei den Varianten kann man die Form des Bandes ändern (einseitig 

unendlich statt beidseitig unendlich), die Anzahl der Spuren auf dem 

Band, oder gar die Anzahl der Bänder und Köpfe. Insbesondere 

Turingmaschinen mit mehreren Bändern und Köpfen erlauben eine 

einfachere Umsetzung konkreter Algorithmen. 



Definition (TM, die entweder schreiben, oder sich bewegen kann) 

Eine Turing-Maschine mit erweitertem Bandalphabet (TMeB) 

M = 〈Q, B, Σ, δ, q 0 , q F 〉 besteht aus 

einer endlichen Menge Q von (äußeren) Zuständen; 

einem endlichen Bandalphabet B mit ausgezeichnetem Element # 

(dem Blankzeichen), 

einem endlichen Eingabealphabet Σ mit Σ ⊆ B − {#} ; 

einer Relation Q × B δ Q × (B + {L, R}); 

je einem Anfangs- und Endzustand q 0 ∈ Q bzw. q F ∈ Q . 

Eine Standard-TM á la TU-BS (STM) erfüllt B = Σ + {#} . 

M heißt deterministisch (dTM), falls δ eine partielle Funktion ist. 

Interpretation von δ : abhängig vom aktuellen Zustand und Bandsymbol 

ändert sich der Zustand, und das Bandsymbol kann entweder 

überschrieben werden, oder der Kopf wandert auf ein Nachbarfeld. 



Von Beginn an lassen wir neben den Symbolen aus Σ und dem 

Blankzeichen # weitere Hilfssymbole im Bandalphabet zu. Dies können 

z.B. Randbegrenzer, Trennsymbole oder spezielle Löschsymbole sein. 

Definition (TM, die gleichzeitig schreiben und sich bewegen kann) 

M = 〈Q, B, Σ, δ, q 0 , q F 〉 wie oben, mit dem Unterschied, daß die Relation 

Q × B δ Q × (B + {L, R}) ersetzt wird durch 

Q × B δ Q × B × {N, L, R} 

In diesem Fall wird pro Schritt zwingend ein Bandsymbol geschrieben (dies 

schließt die Möglichkeit ein, das aktuelle Bandsymbol zu reproduzieren), 

und dann ein Schritt auf ein Nachbarfeld ausgeführt ( L bzw. R ), oder 

auf dem aktuellen Feld verharrt ( N ). 

Offenbar kann man jeden Schritt einer solchen Maschine mit höchstens 

zwei Schritten einer Maschine simulieren, die entweder schreiben oder sich 

bewegen kann. Umgekehrt ist die Simulation noch einfacher (vergl. HA). 



Im Gegensatz zu Kellerautomaten fällt die fehlende Abhängigkeit der 

Übergangsrelation von den Elementen des Alphabets Σ auf. In der Tat 

dient Σ einzig zur Bestimmung der erlaubten Eingaben. 

Bei der informellen Betrachtung hatten wir gefordert, die Eingabe w ∈ Σ ∗ 

solle vor Beginn der Berechnung auf dem Band stehen. Die Analogie zu 

Kellerautomaten kann wie folgt bewahrt werden: die Übergangsrelationen 

δ(a) , a ∈ Σ , dienen allein dazu, die externe(!) Eingabe auf das Band zu 

schreiben. Alle eigentlichen Berechnungsschritte erfolgen dann spontan, 

zweckmäßigerweise vom rechten(!) Rand der Eingabe ausgehend (aber 

andere Konventionen sind genauso verbreitet). 

Strenggenommen kann man auf die Forderung Σ ⊆ B − {#} und damit 

die “Internalisierbarkeit” der Eingaben verzichten (auch eine Konvention), 

aber dafür nicht-triviale Übergangsrelationen δ(a) , a ∈ Σ , zulassen. 

Diesen Gedanken werden wir aber hier nicht weiterverfolgen. 



Eine TM-Konfiguration soll den aktuellen Zustand, den nichttrivialen 

Bandinhalt und die Position des Kopfes bestimmen. Die Konvention, 

Eingaben zunächst zu internalisieren, erübrigt die Buchführung über den 

noch zu bearbeitenden Teil der Eingabe. 

Definition (vorläufig) 

Unter einer Konfiguration einer TM versteht man ein Paar 

〈q, ω〉 ∈ Q × B + , wobei genau ein Symbol des nichttrivialen Bandinhalts 

ω durch Unterstreichung markiert ist, was die Kopfposition festlegt. 

ω soll den Bereich des Bandes minimal überdecken, der die Kopfposition 

und alle von # verschiedenen Symbole umfaßt. Daher sollten keine 

führenden oder folgenden Blankzeichen # auftreten, sofern es sich nicht 

um den Inhalt der Kopfposition handelt. 

Etwas genauer: ω sollte ein Element sein von 

((B − {#}) × B ∗ + {ε}) × B × (B ∗ × (B − {#}) + {ε})) 



Definition (Fortsetzung) 

Konfigurationen der Form 〈q 0 , s 0 . . . s n−2 s n−1 〉 mit n > 0 bzw. 〈q 0 , #〉 

heißen Initialkonfigurationen. Ist für 〈q, ω l sω r 〉 die Menge 〈q, s〉δ leer, 

sprechen wir von einer Haltekonfiguration. Im Fall von 〈q, s〉δ ≠ ∅ können 

sich bei einer Folgekonfiguration ( ⊢ ) Zustand, Inhalt des aktuellen Feldes 

und neue Kopfposition gemäß den Elementen von 〈q, s〉δ ändern. 

Unter einer Berechnung mit Eingabe w ∈ Σ ∗ versteht man eine endliche 

oder unendliche Konfigurationenfolge K i ⊢ K i+1 , wobei K 0 eine 

Initialkonfiguration mit Eingabe w , und im endlichen Fall die letzte 

Konfiguration eine Haltekonfiguration ist. 

Eine Berechnung akzeptiert ihre Eingabe genau dann, wenn sie in einer 

Haltekonfiguration mit Zustand q F endet. 

Die spezielle Form der Initialkonfiguration resultiert aus einem Linksschritt 

nach Übertragung der Eingabe auf des Band von links nach rechts. 



3.0.1 Darstellung von Turingmaschinen 

Wir entwickeln die graphische Darstellung von Kellerautomaten fort. Falls 

b ∈ B so schreiben wir 

q 

b/ϕ 

p 

anstelle von 

〈〈q, b〉, 〈p, ϕ〉〉 ∈ δ 

wobei ϕ ∈ B + {L, R} oder ϕ ∈ B × {N, L, R} gilt. Der (äußere) 

Anfangs- und Endzustand wird markiert wie zuvor. 

Die Einschränkungen bzgl. der Komponierbarkeit solcher Übergänge bei 

Kellerautomaten gilt sinngemäß auch für Turingmaschinen. 



Beispiel 

L = { a n b n c n : n ∈ N } mittels einer Maschine, deren Kopf entweder 

schreibt, oder sich bewegt. Setze B = {a, b, c, x, #} , wobei x als 

spezielles Löschsymbol dient. 

x/L 

x, c/L 

start 

q 0 

c/x 

q c 

#/# 

x, b, c/R 

#/L 

q a 

q F 

a/x 

q b 

b/x 

x, b/L 



Beispiel 

L = { a n b n c n : n ∈ N } mittels einer Maschine, deren Kopf gleichzeitig 

schreibt und sich bewegt; B wie oben. 

x/〈#, L〉 

c/〈c, L〉 

start 

q 0 

c/〈#, L〉 

q c 

#/〈#, N〉 

#/〈#, L〉 q F 

{b, x, c} ∋ z/〈z, R〉 q a 

a/〈x, R〉 

q b 

b/〈x, L〉 

b/〈b, L〉 

(Wird die Eingabe akzeptiert, ist das Band hinterher leer.) 



Definition 

Sprachen, die von einer STM akzeptiert werden, heißen semi-entscheidbar 

Satz 

Sprachen, die von einer TMeB akzeptiert werden, sind semi-entscheidbar. 

Beweis. [falls Σ echte Teilmenge von B − {#} ist] 

Ersetzt man das Alphabet Σ einer TMeB M = 〈Q, B, Σ, δ, q 0 , q F 〉 durch 

B − {#} , so erhält man eine STM M ′ , die Eingaben aus (B − {#}) ∗ 

verarbeiten kann. Zur Einschränkung auf Eingaben aus Σ ∗ schalten wir 

einen Präprozessor M Σ := 〈{r 0 , r 1 , r F = q 0 }, B, B − {#}, ρ, r 0 , r F 〉 mit 

x/L 

start 

r 0 

#/R 

x/R 

r 1 

#/L 

r F 

wobei x ∈ Σ 

davor. Dieser akzeptiert Σ ∗ ⊆ (B − {#}) ∗ und reproduziert für Wörter 

aus Σ ∗ die Initialkonfiguration. Natürlich muß {r 1 , r 2 } ∩ Q = ∅ gelten. 



Satz 

Sprachen, die von TMeB’n akzeptiert werden, deren Kopf schreiben und 

sich bewegen kann, sind semi-entscheidbar (vergl. HA). 

Andere Varianten von TM’n sind gleich mächtig zu STM’n: 

Definition 

Eine Mehr-Spur Turingmaschine verwendet ein Bandalphabet der Form 

B n mit Σ ⊆ B − {#} . Eingaben stehen auf Spur 0. 

Satz 

Von Mehr-Spur TM’n akzeptierte Sprachen sind semi-entscheidbar. 

Beweis. 

Mit B ′ := B n , # ′ := 〈 # : i < n 〉 und Σ ′ := Σ × {#} n−1 ∼ = Σ erhält 

man eine konventionelle TM. 



Definition 

Für eine n-Band TM M = 〈Q, B, n, Σ, δ, q 0 , q F 〉 hat δ die Form 

Q × B n δ Q ×(B+{L, R}) n bzw. Q × B n δ Q ×(B×{L, R, N}) n 

Der Konfigurationsbegriff ist entsprechend zu erweitern. Berechnungen 

starten mit der Eingabe auf Band 0 . Die graphische Darstellung verwendet 

Label der Form β/A 0 , A 1 , . . . , A n−1 mit β ∈ B n und n Aktionen A i . 

Satz 

Von n-Band TM’n akzeptierte Sprachen sind semi-entscheidbar. 

Beweis (Idee) 

Simulation durch 2n -Spur TM, bei deren geraden Spuren den Bändern 

entsprechen, und auf deren ungeraden Spuren über die jeweiligen 

Kopfpositionen buchgeführt wird. 



Beispiel 

Die Sprache L = { w ∈ {0, 1} ∗ : |w| 0 = |w| 2 1 } ist semi-entscheidbar: 

Idee: Wir verwenden eine 3-Band dSTM, bei der die Nullen und Einsen 

der Eingabe auf B 0 zunächst auf die Bänder B 1 bzw. B 2 verschoben 

werden. Dort finden alle weiteren Berechnungen statt. Wegen 

(n − 1) 2 = n 2 − 2n + 1 = n 2 − 2(n − 1) − 1 

können wir dann ggf. in mehreren Durchläufen auf diesen Bändern 

zunächst je eine Null und eine Eins, und dann für jede verbliebene Eins 

weitere zwei Nullen löschen. Dabei werden die Einsen auf B 2 in beiden 

Richtungen, die Nullen auf B 1 aber nur in einer Richtung durchlaufen. 

Gelingt die Löschung aller Symbole, wird die Eingabe akzeptiert. 

Bei der umseitigen Realisierung sind Aktionen, die weder Kopfposition 

noch Bandinhalt verändern, durch “ − ” abgekürzt. 



Beispiel (Fortsetzung) 

start q 0 

〈0, #, #〉/〈#, L〉, 〈0, L〉, 〈#, N〉 

〈1, #, #〉/〈#, L〉, 〈#, N〉, 〈1, L〉 

q 2 

〈#, 0, 1〉/−, 〈#, R〉, 〈#, R〉 

〈#, #, #〉/−, 〈#, R〉, 〈#, R〉 

〈#, 0, #〉/−, 〈#, R〉, 〈#, R〉 

q 1 

q 6 

〈#, 0, 1〉/−, 〈#, R〉, 〈1, R〉 

〈#, 0, 1〉/−, 〈#, R〉, 〈1, N〉 

〈#, #, #〉/−, −, − 

〈#, #, #〉/−, −, − 

q F 

〈#, #, #〉/−, −, − 

〈#, #, #〉/−, −, − 

〈#, 0, 1〉/−, 〈#, R〉, 〈1, N〉 

〈#, 0, 1〉/−, 〈#, R〉, 〈1, L〉 

q 3 

〈#, 0, #〉/−, 〈#, R〉, 〈#, L〉 

q 4 

〈#, 0, 1〉/−, 〈#, R〉, 〈#, L〉 

q 5 

In Zukunft werden wir nicht alle TM’n so detailliert beschreiben können, 

sondern uns meist auf informelle Spezifikationen beschränken. 



Satz 

Jede semi-entscheidbare Sprache wird von einer dTM akzeptiert. 

Beweis 

Betrachte eine 1-Band TM M = 〈Q, B, Σ, δ, q 0 , q F 〉 mit L(M) = L . Für 

jedes Paar 〈q, b〉 ∈ Q × B bezeichne ρ〈q, b〉 die Anzahl der verfügbaren 

Übergänge; diese werden von 0 bis ρ〈q, b〉 − 1 durchnummeriert. Setze 

r := max{ ρ〈q, b〉 : 〈q, b〉 ∈ Q × B } und Z r := { n ∈ N : n < r } 

Falls r > 1 ist M nicht deterministisch und wir konstruieren eine 

deterministische 4-Band Maschine M ′ mit L(M ′ ) = L : 

B 0 enthält die Eingabe w ∈ Σ ∗ ; 

auf B 1 werden systematisch die Zahlen k ∈ N erzeugt (unär); 

auf B 2 werden systematisch die k -Tupel ϕ ∈ (Z r ) k erzeugt; 

Band B 3 dient zur Simulation des durch ϕ spezifizierten 

Anfangsstücks einer M -Berechung der Länge ≤ k mit Eingabe w . 



Beweis (Fortsetzung) 

Genauer: die Initialkonfiguration mit Eingabe w generiert einen Graphen 

von Folgekonfigurationen, bei denen jeder Knoten maximal r Nachfolger 

hat. Die k -Tupel ϕ spezifizieren darin potentielle Wege der Länge k : 

⊲ sofern Schritt i von 〈q, . . . b . . .〉 ∈ Q × B ∗ ausgeht, wird Übergang 

Nummer ϕ i mod ρ〈q, b〉 der verfügbaren Übergänge ausgeführt, 

sofern ρ(q, b) ≠ 0 ; sonst ist eine Haltekonfiguration erreicht. 

Per Zustand wird darüber buchgeführt, ob 

ein Weg eine akzeptierenden Haltekonfiguration erreicht, dann wird 

w von M ′ akzeptiert; andernfalls wird ϕ auf B 2 und ggf. k auf 

B 1 aktualisiert und fortgefahren; 

alle potentiellen Wege der Länge k in nicht akzeptierenden 

Haltekonfigurationen enden, dann hält M ′ ohne zu akzeptieren; 

andernfalls wird k auf B 1 erhöht und fortgefahren. 

Beachte: Falls M immer hält, hat auch M ′ diese Eigenschaft. 


3. Turingmaschinen 3.1 Entscheidbare Sprachen/Probleme 

3.1 Entscheidbare Sprachen/Probleme 

Die Terminologie “semi-entscheidbar” deutet die Existenz 

“entscheidbarer” Sprachen an. Dabei soll das “Wortproblem” entschieden 

werden, ob die Eingabe w ∈ Σ ∗ zur Sprache L ⊆ Σ ∗ gehört oder nicht. 

Definition 

Eine Sprache heißt entscheidbar, wenn sie von einer TM akzeptiert wird, 

die immer hält. (Man kann sich auf dTM’n beschränken.) 

Entscheidbare Sprachen sind semi-entscheidbar, aber die umgekehrte 

Inklusion gilt nicht (Beispiel später). 

Alternativ heißen semi-entscheidbare/entscheidbare Sprachen in der 

Literatur auch “rekursiv aufzählbar”/“rekursiv”. Hintergrund: rekursiv 

aufzählbare Sprachen können von einer dTM “aufgelistet” werden, wobei 

Wiederholungen erlaubt sind. 



Definition 

Die von einer dTM T aufgezählte Sprache G(T ) besteht aus allen 

Wörtern w ∈ Σ ∗ , die in T -Konfigurationen der Form 〈q F , ω l bw#ω r 〉 

mit b ∈ B vorkommen, wenn T aus der Konfiguration 〈q 0 , #〉 startet. 

Satz 

Jede Sprache der Form G(T ) ist semi-entscheidbar. 

Beweis. 

M sei eine 2-Band Maschine, die auf T auf B 1 simuliert, und nach 

jedem Erreichen einer Konfiguration mit dem Endzustand von T das 

Σ-Wort rechts des T -Kopfes mit der M -Eingabe auf B 0 vergleicht. 

Satz 

Jede semi-entscheidbare Sprache ist von der Form G(T ) . 



Beweis. 

Ist L ⊆ Σ ∗ semi-entscheidbar, wählen wir eine 1-Band dTM M mit 

L = L(M) . Zur Aufzählung von L konstruieren wir eine 4-Band dTM T : 

B 0 

dient zur Aufzählung von L (s.u.); 

auf B 1 werden systematisch die Zahlen k ∈ N erzeugt (unär); 

auf B 2 werden systematisch die Wörter der Länge ≤ k erzeugt; 

auf B 3 werden bis zu k Schritte der M -Berechnung des Worts w 

auf B 2 simuliert. 

− Im Fall der Akzeptanz wird w nach B 0 kopiert, der Kopf links davon 

positioniert und der Zustand q F angenommen. Anschließend wird B 0 

gelöscht. 

− Danach wird das nächste Wort auf B 2 erzeugt. 

− Nach Bearbeitung aller Wörter der Länge ≤ k wird k auf B 1 erhöht. 

Per Zustand kann darüber buchgeführt werden, ob alle Wörter der Länge 

≤ k zu nicht akzeptierenden Haltekonfigurationen führen. Weil M 

deterministisch ist, muß L(M) dann endlich sein und T kann halten. 



Satz 

Eine Sprache L ⊆ Σ ∗ ist genau dann entscheidbar, wenn L und 

¯L := Σ ∗ − L semi-entscheidbar sind. 

Beweis. 

Ist L entscheidbar, so existiert eine TM M mit L(M) = L , die immer 

hält, also ist L semi-entscheidbar. Mit obiger Konstruktion erhalten wir 

eine dTM M ′ mit L = L(M ′ ) , die immer hält. Einführen eines neuen 

Endzustands q ∗ und neuer Übergänge 〈q, b〉 ↦→ 〈q ∗ , b〉 bzw. 〈q ∗ , 〈b, N〉〉 

sofern 〈q, b〉δ ′ = ∅ , liefert dann eine dTM M ′ mit L(M ′ ) = ¯L . 

Umgekehrt lassen wir dTM’n M und ¯M mit L(M) = L und L( ¯M) = ¯L 

mittels Interleaving dieselbe Eingabe bearbeiten. Die resultierende 

Maschine K hält genau dann, wenn eine der Teilmaschinen hält, und sie 

möge genau dann akzeptieren, wenn L hält und akzeptiert, oder wenn ¯L 

hält und nicht akzeptiert. Dann hält K immer und erfüllt L(K) = L . 

In beiden Fällen war die Verwendung von dTM’n wesentlich. 


3. Turingmaschinen 3.2 Die Chomsky-Hierarchie formaler Sprachen 

3.2 Die Chomsky-Hierarchie formaler Sprachen 

Nicht alle Sprachen sind semi-entscheidbar: im Vorgriff auf Kapitel 5 

stellen wir fest, daß jede TM M über Σ = {0, 1} sich durch ein 

Binärwort c(M) codieren läßt. Damit ist die Menge der möglichen 

Turingmaschinen über {0, 1} abzählbar (vergl. Anhang zum Script für 

TheoInf 1), also auch die Menge der semi-entscheidbaren Sprachen über 

{0, 1} . (Die Einschränkung auf das Alphabet {0, 1} ist unerheblich.) 

Andererseits ist die Potenzmenge P(Σ ∗ ) überabzählbar. Es muß also 

Sprachen über {0, 1} geben, die nicht semi-entscheidbar sind. Konkret 

gilt dies etwa für 

L code 

:= { w ∈ {0, 1} ∗ : w = c(M) für eine TM M mit w /∈ L(M) } 

L code 

besteht also aus den Binärcodes aller TM’n, die ihr eigenes 

Codewort nicht akzeptieren. 



Satz 

L code 

ist nicht semi-entscheidbar. 

Beweis. 

Wenn eine TM M mit L(M) = L code 

existiert, erfüllt w = c(M) die 

Bedingung w ∈ L(M) = L code 

gdw. w /∈ L(M) = L code 

, Widerspruch. 

Die Trennung der entscheidbaren von den semi-entscheidbaren Sprachen 

erfolgt in Kapitel 5 mit Hilfe der Sprache 

L halt 

:= { c(M)w : M TM, die bei Eingabe w hält } 

die semi-entscheidbar aber nicht entscheidbar ist (Halteproblem). 



Satz 

Jede kontextfreie Sprache ist entscheidbar. 

Beweis. 

Ein Kellerautomat kann durch eine 2-Band Turingmaschine simuliert 

werden: der Kopf auf B 0 fährt zum linken Rand der Eingabe und B 1 

dient zur Simulierung des Kellers, der sich von der aktuellen Kopfposition 

nach rechts erstrecken möge (vergl. HA). Damit ist jede kontextfreie 

Sprache semi-entscheidbar. 

Um die Entscheidbarkeit sicherzustellen, müssen wir mit einem Kellerautomaten 

beginnen, der immer hält. Dies ist sicher der Fall, wenn keine 

spontanen Übergänge auftreten. Und letzteres kann garantiert werden, 

wenn der Kellerautomat ausgehend von einer kontextfreien Grammatik in 

Greibach Normalform konstruiert wird, vergl. Skript zu TheoInf 1). 

Alternativ könnte man den CYK-Algorithmus per TM implementieren. 



Die betrachteten Klassen formaler Sprachen über Σ bilden eine echte 

Hierarchie; wir geben Trenn-Beispiele zu den echt kleineren Klassen an: 

Alle Sprachen, L code 

; 

die semi-entscheidbaren Sprachen, L halt 

, s.u.; 

die entscheidbaren Sprachen, { a n b n c n : n ∈ N } ; 

die kontextfreien Sprachen, { w sp(w) : w ∈ Σ ∗ } ; 

die deterministisch kontextfreien Sprachen; { a n b n : n ∈ N } ; 

die regulären Sprachen, {a 2n : n ∈ N } ; 

die endlichen Sprachen. 

Nicht betrachtet wurde die Klasse der kontext-sensitiven Sprachen, echt 

zwischen den Klassen der kontextfreien und der entscheidbaren Sprachen. 

Man spricht in diesem Zusammenhang auch von der Chomsky-Hierarchie. 

Sie wurde von Noam Chomsky Mitte der 1950’er Jahre entwickelt. 

Allerdings lag der Schwerpunkt damals auf linguistischen Fragestellungen. 


3. Turingmaschinen 3.3 Abschlußeigenschaften (semi-)entscheidbarer Sprachen 

3.3 Abschlußeigenschaften (semi-)entscheidbarer Sprachen 

Satz 

Die Klasse der (semi-)entscheidbaren Sprachen ist abgeschlossen unter 

Vereinigung und Durchschnitt; 

Konkatenation und Iteration; 

Spiegelung und Shuffle; 

Residuierung bzgl. endlicher Sprachen. 

Darüberhinaus sind die entscheidbaren Sprachen unter Komplementbildung 

abgeschlossen, die semi-entscheidbaren Sprachen aber nicht. 

Beweis 

Vorbemerkung: Bei semi-entscheidbaren Sprachen erfordert die Simulation 

mehrerer dTM’n Interleaving. Diese Einschränkung entfällt bei der 

Verwendung nichtdeterministischer Maschinen. 


3. Turingmaschinen 3.3 Abschlußeigenschaften (semi-)entscheidbarer Sprachen 

Beweis (Fortsetzung). 

Zu Vereinigung, Iteration, Shuffle und Residuierung vergl. HA. 

Durchschnitte handhabt man wie Vereinigungen, nur die Akzeptanz 

bedingung ist insoweit anzupassen, als beide Maschinen akzeptieren 

müssen. 

Im Falle der Konkatenation kann die Eingabe zufällig in zwei 

zusammenhängende Teile zerlegt werden, die dann als Eingabe für die zu 

simulierenden Maschinen dienen; dies liefert eine nTM. 

Für die Spiegelung verwendet man ein neues Band um die Eingabe zu 

spiegeln, bevor die Maschine für die ursprüngliche Sprache simuliert wird. 

Der Abschluß entscheidbarer Sprachen unter Komplementbildung folgt aus 

ihrer Charakterisierung mittels semi-entscheidbarer Sprachen. In Kapitel 5 

zeigen wir, daß das Komplement von L halt 

nicht semi-entscheidbar ist. 


3. Turingmaschinen 3.4 Turing-berechenbare partielle Funktionen 

3.4 Turing-berechenbare partielle Funktionen 

Wir wollen TM’n nun auch zur Berechnung partieller Funktionen 

Σ ∗ f 

Γ ∗ einsetzen. Dazu muß Σ, Γ ⊆ B − {#} gelten. Die 

Spezifikation eines Finalzustands q F ist hier verzichtbar. 

Zu vereinbaren bleibt, welcher Teil des Bandinhalts nach dem Halt der 

Maschine als Funktionswert interpretiert werden soll. Wir wollen dafür das 

längste zusammenhängende Wort aus Γ ∗ verwenden, das links neben der 

finalen Kopfposition auf einem designierten Band auftritt. Das Feld des 

Kopfes gehört nicht dazu, aber nach einem Linksschritt könnte die 

Ausgabe ggf. als Eingabe für eine weitere Maschine verwendet werden, 

sofern das restliche Band leer ist. 

Partielle Funktionen der Form (Σ ∗ ) n f (Γ ∗ ) k mit n > 1 oder k > 1 

erfordern Trennzeichen zwischen den Komponenten der Ein- bzw. 

Ausgabe. Auch wenn das Blankzeichen dafür verwendet werden kann, wird 

dies nicht empfohlen. 



Beispiel ( f (n) = 2n : Wähle Σ = Γ = {|} = B − {#} .) 

Idee: 2-Band Maschine; Eingabe zweimal von B 0 auf B 1 kopieren. 

〈|, #〉/〈|, L〉, 〈|, R〉 

〈|, #〉/〈#, R〉, 〈|, R〉 

start 

q 0 

〈#, #〉/〈#, R〉, 〈#, N〉 

q F 

oder geschickter start r 0 

〈|, #〉/〈#, N〉, 〈|, R〉 

〈#, #〉/〈#, L〉, 〈|, R〉 

r1 

Beim aktuellen Bandinhalt 〈#, #〉 in Zustand q F bzw. r 0 hält die 

jeweilige Maschine mit dem Ergebnis auf B 1 und B 0 leer. 

Beispiel ( f (w) = |w| : Wähle Γ = {|} disjunkt zu Σ .) 

Idee: Eingabe mit Symbolen | überschreiben; rechten Rand suchen. 

a/〈|, L〉 

|/〈|, R〉 

start 

q 0 

#/〈#, R〉 

q F 

mit a ∈ Σ 



Beispiel ( f (n, m) = n + m : Wähle Σ = Γ = {|} , B = {|, @, #} .) 

Idee: 2-Band Maschine; Eingabe auf B 1 kopieren, dabei das Trennsymbol 

@ überspringen. 

〈|, #〉/〈#, L〉, 〈|, R〉 

〈|, #〉/〈#, L〉, 〈|, R〉 

start 

q 0 

〈@, #〉/〈#, L〉, 〈#, N〉 

q F 

Idee: 1-Band Maschine; Trennsymbol @ mit erstem | von rechts 

überschreiben 

|/〈|, L〉 

|/〈|, R〉 

start q 0 

|/〈#, L〉 q1 

@/〈|, R〉 

q F 

@/〈#, N〉 



Beispiel ( f (n, m) = n · m : Wähle Σ = Γ = {|} , B = {|, #} .) 

Wir begnügen uns nun mit einer High-Level-Beschreibung: 

Idee: 3-Band Maschine; das zweite Argument der Eingabe | n #| m auf B 2 

verschieben; für jedes Symbol | auf B 2 das verbliebene Argument | n von 

B 0 nach B 1 kopieren, von links nach rechts. 

Bemerkung 

Die Erfahrungen mit Turing Maschinen und anderen Versuchen aus der 

ersten Hälfte des 20. Jahrhunderts, den Begriff der “durch einen 

(terminierenden) Algorithmus berechenbaren Funktion” formal zu fassen, 

führten zu der Vermutung, daß jede solche (totale) Funktion 

Turing-berechenbar sein muß. Diese nicht beweisbare Vermutung ist 

bekannt als Church-Turing These und wird in Kapitel 4 ausführlicher behandelt. 

Wie üblich stellt sich jetzt die Frage nach Funktionen, die nicht 

Turing-berechenbar sind. 



Definition 

Die sog. Busy Beaver Funktion N β N bildet n ∈ N ab auf 

die größte Zahl β(n) nichtleerer Felder, die eine 1-Band dTM 

über {|} , deren Kopf schreiben und sich bewegen darf und die 

über n Nicht-Haltezustände und einen Haltezustand verfügt, 

ausgehend vom leeren Band auf diesem hinterlassen kann, wenn 

sie hält. 

Achtung: Nach dem Halt der Maschine dürfen zwischen den Strichen | 

Lücken auftreten. Damit kann sich die größte unär codierte Zahl k , die 

nach dem Halt auf dem Band steht, durchaus von β(n) unterscheiden. 

Beispiel ( β(0) = 0 und β(1) = 1 ) 

#/〈|, N〉 

start q F , start q 0 

|/〈|, L〉 

q F 



Beispiel ( β(2) = 4 ) 

〈q 0 , #〉 ⊢ 〈q 1 , | #〉 

#/〈|, R〉 

⊢ 〈q 0 , | | 〉 

start 

q 0 

#/〈|, L〉 

q1 

|/〈|, R〉 

q F 

⊢ 〈q 1 , # | | 〉 

⊢ 〈q 0 , # | | | 〉 

⊢ 〈q 1 , | | | | 〉 

|/〈|, L〉 

⊢ 〈q F , | | | | 〉 

Bei Wikipedia findet man diverses Hintergrundmaterial zum Thema Busy 

Beaver (dort heißt die Funktion Σ ), einschließlich einiger Schranken für 

die Werte β(6) und β(10) . Weiterhin sei auf die Seite von Heiner Marxen 

verwiesen, der zeitnah über aktuelle Busy Beaver Rekorde buchführt. 

Es ist zu empfehlen, den Wert β(3) selbständig nachzurechnen, ohne 

obige Quellen zu konsultieren. 



Lemma 

Die busy beaver Funktion wächst streng monoton, d.h., β(n) < β(n + 1) 

für jedes n ∈ N . 

Beweis. 

Die dTM M mit Haltezustand q F möge β(n) realisieren. Füge einen 

neuen Haltezustand q G hinzu und die Übergänge 

|/〈|, L〉 

q F 

#/〈|, L〉 

q G 

Die neue Maschine M ′ , mit q F als Nicht-Haltezustand, sucht nach links 

ein freies Feld, schreibt einen Strich | und hält. 



Satz 

Für jede Turing-berechenbare totale Funktion N f N existiert eine Zahl 

r f , so daß für alle n ∈ N gilt f (n) ≤ β(n + r f ) . 

Beweis. 

Die Funktion f möge von der dTM M mit r f Zuständen berechnet 

werden. Für n ∈ N fügen wir n neue Zustände p i , i < n , zu M hinzu, 

sowie folgende Übergänge: 

#/〈|, R〉 #/〈|, R〉 #/〈|, R〉 #/〈|, R〉 

start p 0 

p1 . . . p n−1 q 0 

M n produziert ausgehend vom leeren Band n Striche und führt dann M 

mit dieser Eingabe aus. Mit M hält auch M n , und dann stehen 

mindestens f (n) Striche auf dem Band, also folgt f (n) ≤ β(n + r f ) . 



Satz 

β ist nicht Turing-berechenbar. 

Beweis. 

Wir nehmen an, β ist Turing-berechenbar vermöge der dTM M . Dann ist 

auch N f N mit n ↦→ β(2n) Turing-berechenbar (Verknüpfung mit der 

Verdoppelungsmaschine aus einem früheren Beispiel). Für jedes n ∈ N gilt 

nach obigem Satz β(2n) = f (n) ≤ β(n + r f ) . Aber n = r f + 1 liefert 

einen Widerspruch zur stengen Monotinie von β . 


4. Church-Turing-These 

Kapitel 4 

Die Church-Turing These 


4. Church-Turing-These 4.0 Vorbemerkungen 

4.0 Alternativen zu Turingmaschinen 

Laut Church-Turing-These (oder besser: Vermutung) stimmt die Klasse 

aller intuitiv “algorithmisch berechenbaren” Funktionen mit der Klasse der 

Turing-berechenbaren Funktionen überein. 

Diese These kann prinzipiell nicht beweisen werden, wird aber dadurch 

untermauert, daß andere natürliche Formalisierungen des Algorithmus 

Begriffs dieselben Klassen berechenbarer Funktionen liefern. Zur Sprache 

kommen könnten hier 

⊲ Registermaschinen (RAMs), die heutigen Computern näher stehen als 

klassische TMn (sehr kurz); 

⊲ formale Grammatiken (eine Verallgemeinerung kfG’n, sind der 

Bologna-Reform zum Opfer gefallen) 

⊲ die Theorie der sog. rekursiven Funktionen. 


RAM 

4. Church-Turing-These 4.1 RAM 

Anstelle eines (potentiell unendlichen) Turingbandes verfügt eine Random 

Accesss Machine (RAM) oder Registermaschine über einen Datenspeicher 

aus potentiell unendlich vielen Register R i , i ∈ N , die Daten in Form von 

natürlichen Zahlen unbeschränkter Größe beherbergen können. Das 

Register R 0 heißt Akkumulator. 

Anstatt eines Schreib-Lese-Kopfes arbeitet eine Steuereinheit taktweise die 

(von den Daten separat gespeicherten) Programme zeilenweise ab, gemäß 

eines Befehlszählers BZ , der auch als Register aufgefaßt werden kann 

(aber ebenfalls nicht zum Datenspeicher gehört). 

Die Ein- und Ausgabe erfolgt über separate Bänder, deren Felder natürliche 

Zahlen enthalten können (Felder mit dem Inhalt 0 gelten als “leer”), und 

auf denen ein Lese- bzw. Schreib-Kopf sich nur nach rechts(!) bewegen 

kann (unmittelbar nach dem Lese- bzw. Schreibvorgang, im selben Takt). 



4.1.0 Befehlssatz einer RAM 

Befehl 

Wirkung 

READ 〈R 0 〉 := 〈read〉, 〈BZ〉 := 〈BZ〉 + 1 

der Lesekopf bewegt sich ein Feld nach rechts 

WRITE der Schreibkopf schreibt 〈R 0 〉 und bewegt sich ein Feld nach rechts, 〈BZ〉 := 〈BZ〉 + 1 

LOAD i 〈R 0 〉 := 〈R i 〉 und 〈BZ〉 := 〈BZ〉 + 1 

STORE i 〈R i 〉 := 〈R 0 〉 und 〈BZ〉 := 〈BZ〉 + 1 

ADD i 〈R 0 〉 := 〈R i 〉 + 〈R 0 〉 und 〈BZ〉 := 〈BZ〉 + 1 

PRED 〈R 0 〉 := pred〈R 0 〉 1 und 〈BZ〉 := 〈BZ〉 + 1 

GOTO m 

〈〈BZ〉 := 

{ 

m 

m falls 〈R 

IF R i = 0 GOTO m 〈BZ〉 := 

i 〉 = 0 

〈BZ〉 + 1 sonst 

{ 

m falls 〈R 

IF R i > 0 GOTO m 〈BZ〉 := 

i 〉 > 0 

〈BZ〉 + 1 sonst 

STOP 

Maschine hält 

Weiter kann man für LOAD , STORE und ADD das Argument i statt als 

Zählindex für Register R i auch zur indirekte Adressierung des Registers 

R 〈Ri 〉 oder als Konstante i ∈ N verwenden. Dies wird durch einen Asterisk 

∗ bzw. ein Ausrufezeichen ! vor dem i angezeigt. 

1 mit pred(n + 1) = n und pred0 = 0 



Beim Programmieren elementarer Aktionen als “Macros” ist zu beachten, 

daß Sprung-Adressen ggf. anzupassen und der Akkumulator zu retten sind. 

Beispiel 

SUCC i / PRD i soll den Inhalt von R i 

STORE α 〈R α 〉 = 〈R 0 〉 

LOAD !1 〈R o 〉 = 1 

ADD i 〈R 0 〉 := 〈R i 〉 + 1 

STORE i 〈R i 〉 := 〈R i 〉 + 1 

LOAD α 〈R 0 〉 = 〈R α 〉 

um 1 erhöhen/vermindern: 

STORE α 〈R α 〉 = 〈R 0 〉 

LOAD i 〈R 0 〉 = 〈R i 〉 

PRED 〈R 0 〉 := pred〈R i 〉 

STORE i 〈R i 〉 := pred〈R i 〉 

LOAD α 〈R 0 〉 = 〈R α 〉 

Dabei ist R α ein zum Zeitpunkt des Aufrufs freies Register, das manuell 

anzupassen ist. 



Beispiel ( SUB i subtrahiert 〈R 0 〉 von 〈R i 〉 , soweit möglich:) 

0. IF R i = 0 GOTO 8 

1. PRED 

2. PRD i (braucht fünf Schritte) 

7. GOTO 0 

8. LOAD i 

Beispiel ( IF R i = k GOTO m für k > 0 :) 

0. STORE α 

1. LOAD !k 

2. SUB i (braucht neun Schritte) 

11. STORE i 

12. LOAD α 

13. IF R i = 0 GOTO m 



4.1.2 Simulation einer TM durch eine RAM 

Die Zustandsmenge wird durchnummeriert: Q = { q i : i < n } 

Das Bandalphabet B wird durchnummeriert: B = { s i : i < m } mit 

s 0 = # . 

Die Bandzellen werden durchnummeriert, mit 0 für die Kopfposition 

in der Initialkonfiguration, ungerade Zahlen nach rechts, gerade 

Zahlen nach links. 

Die Übergangstabelle 〈q i , s j 〉 ↦→ 〈q r , A t 〉 wird programmiert. 

Neben dem Akkumulator R 0 seien R 1 für den Zustandsindex und R 2 für 

die Kopfposition reserviert, während R 3+i für den Inhalt von Zelle i 

zuständig ist. 



Die Simulation besteht aus drei Teilen: 

Zunächst wird die Eingabe a 0 a 1 . . . a k−1 in die Register R 3 , R 5 , 

. . . , R 1+2k übertragen, durch wiederholte Anwendung von READ . 

Nach Erreichen von # werden die Register R 1 und R 2 gemäß der 

Initialkonfiguration initialisiert. Anschließend sind die den Übergängen 

〈q i , b j 〉 ↦→ 〈q r , a t 〉 mit b j ∈ B und a t ∈ B + {L, R} entsprechenden 

Programme auszuführen, solange Übergänge verfügbar sind. 

Der Bandinhalt links der Kopfposition wird auf das Ausgabeband 

übertragen, bis ein Blankzeichen auftritt. 



4.1.2 RAM-Berechenbarkeit 

Definition 

Eine RAM berechnet eine (partielle) Funktion N k N, falls die RAM 

bei genau den Eingaben aus dem Definitionsbereich D(f ) hält und dann 

der einzige Wert auf dem Ausgabeband mit dem Funktionswert von f 

übereinstimmt. 

Nachdem die Simulierbarkeit von Turing-Maschinen durch RAMs 

konzeptionell bereits etabliert worden ist, gilt es nun, auch die umgekehrte 

Simulierarkeit zu zeigen. 

Satz 

Jede RAM-berechenbare Funktion ist Turing-berechenbar. 

f 



Beweis 

Wir simulieren ein RAM-Programm für f mit Hilfe einer 6-Band TM mit 

Bandalphabet {|, @, #} und Zustandsmenge der Form Q × A 

(“zusätzliches Gedächtnis”), deren zweite Komponente zur Speicherung 

des endlichen RAM-Programms dient. 

B 0 dient zur Eingabe mit @| x 0 

@| x 1 

@ . . . | x n−1 

@ ; 

B 1 enthält die zunächst nichtleeren Register 〈R i 〉 = n in der Form 

@| i @| n @ ; aktuelle Angaben für R i werden rechts angefügt (das 

erspart das Verändern von Zahlen in der Mitte des Bandes); dann ist 

auch n = 0 möglich; 

B 2 und B 3 fungieren als Akkumulator bzw. Befehlszähler; 

B 4 ist ein Hilfsband und B 5 dient der Ausgabe. 

Zu Beginn sind alle Bänder außer B 0 leer. Dann wird immer der Befehl 

simuliert, dessen Zeilennummer auf B 3 steht. 




Nun gilt es, die einzelnen RAM-Befehle zu simulieren. ... 


4. Church-Turing-These 4.2 Rekursive Funktionen 

4.2 Rekursive Funktionen 

Dieser alternative Ansatz zur Formalisierung intuitiv berechenbarer 

Funktionen geht algebraisch vor. Ausgehend von sog. “Grundfunktionen” 

wird mit zwei Operationen zunächst die Klasse der “primitiv rekursiven 

Funktionen” aufgebaut. Der Abschluß unter einer dritten Operation liefert 

dann die Klasse der “rekursiven Funktionen”. 

Definition (Grundfunktionen) 

Projektionen N k π k i 

N, 〈n j : j < k〉 ↦→ n i , für k ∈ N und i < k ; 

Konstante Funktionen N k κ k 0 

N, 〈n j : j < k〉 ↦→ 0 , für k ∈ N ; 

Nachfolger-Funktion N succ N, n ↦→ n + 1 . 

Speziell im Fall k = 0 ist N 0 ein Singleton {∗} . Dann existieren keine 

κ 

Projektionen, und die Konstante {∗} 

0 0 

N kann mit dem Element 

0 ∈ N identifiziert werden (Funktion ohne Parameter). 



Zunächst wollen wir die bekannte Verknüpfung von Funktionen 

N g N f N , n ↦→ f (g(n)) =: (f ◦ g)(n) 

auf die mehrstellige Funktionen übertragen. Falls N k N brauchen wir 

k Funktionen N t i g i 

N, die man im einfachsten Fall per Substitution zu 

einer Funktion N ∑ i


f 

Stattdessen kann man für N k N auch k Funktionen g i mit 

demselben Definitionsbereich N m betrachten, und daraus eine kombinierte 

Funktion von N m nach N gewinnen, indem man die Eingabe für alle 

Funktionen g i klont: 

g 0 g 1 g 2 

f 

Definition (“Klon-Komposition”) 

Für N k 

f 

N und N m g i 

N, i < k setze N m f ◦ 〈g i : i < k〉 

N 

〈n j : j < m〉 ↦→ f ( g 0 (n j : j < m), . . . , g k−1 (n j : j < m) ) 

Diese Operation wird in der Literatur auch als “Substitution” oder 

“Komposition” bezeichnet. 



Beispiel 

Konstante Funktionen N k κ k i 

N mit i ∈ N ergeben sich aus κ k 0 durch 

i -fache Verknüpfung mit der Nachfolger-Funktion: κ k i 

= (succ) i ◦ κ k 0 . 

Beispiel 

Die durch f (n) = n + 2 spezifizierte Funktion N f N läßt sich durch 

f = succ ◦ succ realisieren. 

Entsprechend liefert die Spezifikation g(m, n) = n + 2 eine Funktion 

N 2 g 

N mit g = f ◦ π1 2 . 



Satz 

Substitution läßt sich auf Klon-Komposition zurückführen. 

Beweis 

f 

Für N k N erweitert man den Definitionsbereich der Funktionen 

N t i g i 

N, i < k , mittels Dummy-Argumenten zu N t mit t = ∑ i


Die zweite Operation zur Konstruktion primitiv-rekursiver Funktionen: 

Definition (Induktions-Rekursions-Schema (IRS)) 

Aus zwei Funktionen N k−1 

N k f = IR(g, h) 

N gemäß 

g 

N h N k+1 konstruieren wir eine dritte 

f (x , 0) := g(x ) und f (x , m + 1) := h(x , m, f (x , m)) mit x ∈ N k−1 

Die Rekursion erfolgt bei festem x ∈ N k−1 im letzten Argument. Der 

Startwert f (x , 0) ist durch g bestimmt, während bei Kenntnis von 

f (x , m) der Wert für das Nachfolger-Argument m + 1 mit Hilfe von h 

bestimmt werden kann. 

Definition (Primitiv rekursive Funktionen) 

Die primitiv rekursiven Funktionen bilden den Abschluß der Grundfunktionen 

unter der Klon-Komposition und dem Induktions-Rekursions- 

Schema, d.h., die kleinste Klasse PR von Funktionen N k N, die unter 

beiden Operationen abgeschlossen ist und die Grundfunktionen enthält. 



Beispiel 

Die Fakultätsfunktion fac(n) = n! = ∏ i≤n 

i ist primitiv rekursiv. 

Da f nicht offensichtlich die Klon-Komposition einfacherer Funktionen 

ist, versuchen wir, fac mit Hilfe des Induktions-Rekursions-Schemas 

darzustellen. fac(0) = 1 erzwingt g = κ 0 1 . Um einen Kandidaten für h 

zu finden, wollen wir fac(m + 1) mit fac(m) in Beziehung setzen. 

Offenbar gilt 

fac(m + 1) = (m + 1)! = 

∏ 

i = (m + 1) · ∏ 

i = (m + 1) · m! 

Das legt N 2 

h 

i≤m+1 

i≤m 

= (m + 1) · fac(m) = h(m, fac(m)) 

N, 〈a, b〉 ↦→ succ(a) · b nahe. 

Bei h handelt es sich um das Ergebnis der Substitution von succ und 

id N = π0 1 in die Multiplikation N2 mult 

N. Die primitive Rekursivität 

von h folgt, wenn wir die der Multiplikation nachweisen können. 




Da die Multiplikation weder auf Klon-Komposition noch auf Substitution 

basiert, versuchen wir es mit dem IRS. Aus n · 0 = 0 folgern wir 

g ′ = κ 1 0 ,während n · (m + 1) = n + n · m = h′ (n, m, n · m) die Wahl von 

h ′ (a, b, c) = a + c nahelegt, genauer: h ′ = plus ◦ 〈π 3 0 , π3 2 〉 . 

plus 

Damit bleibt die Addition N 2 N auf primitive Rekursivität zu 

untersuchen. Klon-Komposition und Substitution entfallen, bleibt also nur 

das IRS. Aus n + 0 = n folgern wir g ′′ = id N = π0 1 . Andererseits legt 

n + (m + 1) = (n + m) + 1 = h ′′ (n, m, n + m) die Wahl von 

h ′′ (a, b, c) = c + 1 nahe, genauer: h ′′ = succ ◦ π2 3 . 

Zusammenfassend sind folgende Funktionen primitiv rekursiv: 

plus = IR(π 1 0, succ ◦ π 3 2) 

mult = IR(κ 1 0, plus ◦ 〈π 3 0, π 3 2〉) 

fac = IR(κ 0 1, mult ◦ (succ × π 1 0)) 



Satz 

Jede primitiv rekursive Funktion ist total. 

Beweis. 

Alle Projektionen πi k , jede konstante Funktion κ k 0 und die 

Nachfolgerfunktion succ sind überall definiert, d.h., total. 

f 

Sind N k N und N m g i 

N, i < k , überall definiert, so gilt dies 

auch für die Klon-Komposition f ◦ 〈g i : i < k〉 . 

g 

Sind N k−1 N h N k+1 überall definiert, so ist f := IR(g, h) 

zumindest auf N k−1 × {0} definiert. Und falls f (x , m) definiert ist, so 

auch f (x , m + 1) = h(x , m, f (x , m)) . 

Die Struktur dieses Beweise können wir auch für folgenden Satz anwenden: 

Satz 

Jede primitiv rekursive Funktion ist Turing-berechenbar. 



Beweis. 

Alle Projektionen πi k , jede konstante Funktion κ k 0 und die Nachfolgerfunktion 

succ sind Turing-berechenbar, mittels sehr einfacher Maschinen. 

f 

Sind N k N und N m g i 

N, i < k , total und Turing-berechenbar, so 

wählen wir Maschinen M und T i , i < k , mit separaten Ein- und 

Ausgabebändern, die dies realisieren. Die Maschine K für die 

Klon-Komposition f ◦ 〈g i : i < k〉 simuliert nacheinander die Maschinen 

T i , i < k , mit derselben Eingabe w ∈ N m , und schreibt die Ergebnisse 

durch @ getrennt auf das Eingabeband der Simulation von M . 

Anschließend wird M mit ebendieser Eingabe simuliert. 

g 

Sind N k−1 N h N k+1 total und Turing-berechenbar durch M g 

und M h , berechnen wir f := IR(g, h) mit folgender Maschine: bei 

Eingabe 〈x , m〉 simulieren wir zunächst M g mit Eingabe x und Ausgabe 

f (x , 0) = g(x ) . Anschließend simulieren wir m-mal M h mit Eingabe 

〈x , i, f (x , i)〉 und Ausgabe f (x , i + 1) , i < m . 



Satz 

Die Menge der primitiv-rekursiven Funktionen ist abzählbar. 

Beweis. 

Offenbar ist die Menge PR 0 

der Grundfunktionen abzählbar. 

Entsteht PR n+1 durch Anwendung der Klon-Komposition und des IRS auf 

Funktionen aus PR n , so folgt wegen id IN ∈ PR 0 sofort PR 0 ⊆ PR 1 , und 

per Induktionauch PR n ⊆ PR n+1 . 

Es gibt höchstens PR n × PR n viele Möglichkeiten, das IRS, und höchstens 

(PR n ) ∗ viele Möglichkeiten, die Klon-Komposition anzuwenden. Damit 

folgt aus der Abzählbarkeit von PR n auch die von PR n+1 , und somit 

auch die von PR = ⋃ n∈N PR n . 



Satz 

Nicht jede totale Turing-berechenbare Funktion ist primitiv rekursiv. 

Beweisidee 

Wir betrachten eine Aufzählung ϕ i , i ∈ N , der primitiv-rekursive 

Funktion, die entsprechende Stelligkeit sei σ i . Definiere die 

Diagonalfunktion N ∆ N durch 

∆(n) := ϕ n (〈n : i < σ n 〉) + 1 

für n ∈ N 

Nach Konstruktion kann ∆ mit keiner einstelligen Funktion der Form ϕ n 

übereinstimmen: aus ∆ = ϕ n folgt ∆(n) = ϕ n (n) + 1 ≠ ϕ n (n) . 

Aber ∆ ist Turing-berechenbar: wähle zu n ∈ N eine Maschine M n für 

ϕ n , wende sie auf 〈n : i < σ n 〉 an und bilde den Nachfolger. Daß dieses 

von einer TM bewerkstelligt werden kann, werden wir in Kapitel 5 sehen 

(Stichwort: universelle Turingmaschine). 



Beispiel (Ackermann-Funktion (Mitte der 1920’er Jahre)) 

Die von Wilhelm Ackermann gefundene Funktion ist das bekannteste 

Beispiele für eine totale intuitiv berechenbare Funktion, die nicht primitiv 

rekursiv ist. (Gabriel Sudan hat etwas früher eine weitere derartige 

Funktion gefunden; Sudan und Ackermann waren beide Schüler von David 

Hilbert.) Ackermanns ursprünglich 3-stellige Funktion wurde 1955 von 

Rózsa Péter zur bekannten zweistelligen Version vereinfacht: 

⎧ 

⎪⎨ m + 1 falls n = 0; 

A(n, m) := A(n − 1, 1) falls n > 0 und m = 0; 

⎪⎩ 

A(n − 1, A(n, m − 1)) falls n > 0 und m > 0. 

ist Turing-berechenbar, da A(n, m) tatsächlich nur von endlich vielen 

vorher zu berechnenden Werten A(k, l) mit k ≤ n und l < m abhängt. 

Das z.B. auf Wikipedia beschriebene Wachstumsverhalten english deutsch 

verhindert, daß A primitiv rekursiv sein kann: A “wächst zu schnell” 



Definition 

h 

Eine Funktion N 2 N majorisiert eine Funktion N m N, falls 

b ∈ N existiert, so daß für jedes a ∈ N m mit a := max〈a i : i < m〉 gilt 

g(a) < h(a, b) 

Offenbar kann sich h nicht selber majorisieren, denn andernfalls hätte dies 

h(b, b) < h(b, b) zur Folge. 

Satz 

Die Klasse der von A majorisierten Funktionen umfaßt alle primitiv 

rekursiven Funktionen. Insbesondere kann A nicht primitiv-rekursiv sein. 

Beweisidee 

Man zeigt, analog zu früheren Beweisen, daß A alle Grundfunktionen 

majorisiert, und daß die Eigenschaft, von A majorisiert zu werden, unter 

Klon-Komposition und dem IRS erhalten bleibt, Details auf PlanetMath. 

g 



Historische Anmerkungen: 

Der Begriff “primitiv rekursiv” geht auf Rózsa Péter zurück: Über den 

Zusammenhang der verschiedenen Begriffe der rekursiven Funktion, 

Mathematische Annalen, 110: 612–632 (1934). 

Das Konzept muß Anfang bis Mitte der 1920’er Jahre Hilbert und 

seinen Schülern bekannt gewesen sein: David Hilbert, Über das 

Unendliche, Mathematische Annalen 95: 161–190 (1926). Dort wird 

auf Ackermanns Ergebnis Bezug genommen, dessen Artikel Zum 

Hilbertschen Aufbau der reellen Zahlen, Mathematische Annalen 99, 

118–133 aber erst 1928 erschien. Hier wird auch Sudans Arbeit Sur 

le nombre transfini ω ω , Bulletin mathematique de la Societe 

roumaine des sciences 30: 11–30, (1927) zitiert. 

Schon Hermann Grassmann beschrieb die induktive Definition von 

Addition und Multiplikation in seinem Lehrbuch der Arithmetik für 

höhere Lehranstalten (1861). Diese Idee wurde später unabhängig 

von Richard Dedekind wiederentdeckt: Was sind und was sollen die 

Zahlen? (1888). 



Um die Klasse der primitiv rekursiven Funktionen zu vergrößern, führen wir 

einen Minimierungs- oder µ-Operator ein. 

Solche existieren für Prädikate (= Relationen), für totale und partielle 

Funktionen, sowie in beschränkter und unbeschränkter Form PlanetMath . 

Wir brauchen die unbeschränkte Variante für partielle Funktionen: 

Definition 

Die Minimierung N k µf 

N einer k + 1-stelligen partiellen Funktion 

f 

N ist definiert durch 

N k+1 

x ↦→ µf (x ) := min{ m : f (x , m) = 0 ∧ ∀j < m. f (x , j) ist definiert } 

Alternative Schreibweise mit m als gebundener Variable: µm. f (x , m) . 

µsucc 

Im Allgemeinen wird µ Totalität nicht erhalten. Z.B. ist {∗} N 

undefiniert, da succ den Wert 0 nicht annimmt, die zu minimierende 

Menge also leer ist. 



Definition 

Die Klasse der µ-rekursiven Funktionen bildet den Abschluß der Klasse 

der primitiv rekursiven Funktionen unter Minimierung. 

Beispiel 

Die partielle Vorgängerfunktion N pvor N, n + 1 ↦→ n , ist µ-rekursiv 

als Ergebnis der Anwendung des µ-Operators auf eine primitiv-rekursive 

Funktion (vergl. HA), die wegen ihrer Totalität die grüne Extrabedingung 

automatisch erfüllt: 

N 2 f N , 〈n, m〉 ↦→ n − . succ m + succ m − . n 

Offengar gilt f (n, m) = 0 gdw succ m = n , was nur im Fall n > 0 

möglich ist, und zwar für m = n − 1 . (Diese Anwendung von − . und + 

ist typisch, wenn zwei Zahlen auf Gleichheit getestet werden sollen.) 



Beispiel 

sub 

Die Subtraktion N 2 N, 〈n, m〉 ↦→ n − m sofern m ≤ n , läßt sich 

mit dem IRS darstellen: n − 0 = n impliziert g = id N = π0 1 . Wegen 

n − (m + 1) = (n − m) − 1 = h(n, m, sub〈n, m〉) liegt die Wahl von 

h(a, b) = pvor(b) nahe, genauer h = pvor ◦ π1 2 . 

Beispiel 

div 

Die ganzzahlige Division N 2 N, 〈n, m〉 ↦→ k sofern k · m = n gilt, 

ist µ-rekursiv. Wir setzen zunächst 

f (n, m, k) := sub(n, k · m) (oder f (n, m, k) := n − . m · k + m · k − . n) 

Aber dann gilt f (0, 0, 0) = 0 , was µ f (0, 0) = 0 zur Folge hätte; das wäre 

zumindest unkonventionell. Um im Fall m = 0 Undefiniertheit zu 

erzwingen, können wir m durch succ(pvor m) ersetzen, was für m = 0 

undefiniert ist. Andererseits sind im Fall f (n, m, k) = 0 die Werte 

f (n, m, j) mit j < k definiert, woraus dann µ f (n, m) = k folgt. 



Satz 

Jede µ-rekursive Funktion ist Turing-berechenbar. 

Beweis. 

Wegen der Turing-Berechenbarkeit der primitiv rekursiven Funktionen ist 

nur zu zeigen, das der µ-Operator für partielle Funktionen Turing- 

Berechenbarkeit erhält: Ausgehend von i = 0 werden solange Werte 

f (x , i) bestimmt, bis erstmals 0 erscheint; das aktuelle Argument i ist 

dann der Wert von µ f (x ) . Andernfalls ist µ f (x ) undefiniert. 

Ohne Beweis geben wir die Umkehrung an: 

Satz 

Jede Turing-berechenbare Funktion ist µ-rekursiv. 

Man kann sogar zeigen, daß jede µ-rekursive Funktion durch einmalige 

Anwendung des µ-Operators auf eine primitiv rekursive Funktion erhalten 

werden kann, also auch die Ackermann-Funktion. 


5. Unentscheidbare Probleme 

Kapitel 5 

Unentscheidbare Probleme 


5. Unentscheidbare Probleme 5.0 Problemstellung 

5.0 Problemstellung 

Wir brauchen Methoden um festzustellen, daß für ein Problem kein 

terminierender Algorithmus existiert. 

Formaler: Für eine gegebene formale Sprache L ∈ Σ ∗ suchen wir nach 

Beweisen, daß L nicht entscheidbar ist. 

Beispiel 

Eingabe: Programmtext P (in JAVA, ALGOL 68. . . ), Eingabedaten E 

Aufgabe: Festzustellen, ob P bei Eingabe E terminiert. 

Dieses Problem ist nicht entscheidbar! 


5. Unentscheidbare Probleme 5.1 Universelle Turingmaschine 

5.1 Universelle Turingmaschine 

Zunächst überzeugen wir uns von der Existenz einer “programmierbaren” 

Turingmaschine M U 

. An diese stellen wir folgende Anforderungen: 

M U 

soll beliebige TMn simulieren können, deterministische wie 

nicht-deterministische. Dies ist eine Instanz von Selbstreflektion, ein 

Algorithmus, der jeden beliebigen Algorithmus ausführt, insbesondere 

auch sich selbst. Praktische Beispiele dafür sind z.B. Interpreter für 

Programmiersprachen (JAVA-Bytecode,. . . ), CPUs (= Interpreter für 

Maschinencode). 

Konkret soll M U 

bei Eingaben der Form 〈c(M), w〉 , c(M) der 

Binärcode einer TM M , diese Maschine mit Eingabe w ∈ {0, 1} ∗ 

simulieren, im Entscheidungs- wie im Berechnungsfall. 



Bemerkung 

Wir können uns auf das binäre Alphabet Σ = {0, 1} beschränken, denn 

eine Maschine M = 〈Q M , {# M } + Σ, Σ, δ, q 0 , q F 〉 mit |Σ| > 2 können 

wir durch eine Maschine ¯M über {0, 1} mit einer Zustandsmenge der 

Form ¯Q × Q M simulieren (“zusätzliches Gedächtnis”): 

Das Symbol s k , k < |Σ| + 1 , simulieren wir durch 01 k+1 

(letztendlich unär), speziell also # M = s 0 durch 01 . Vorteil: damit 

wird der Bandinhalt von M durch ein zusammenhängendes Binärwort 

auf dem Band von ¯M beschrieben. 

Die Bewegung des Kopfes entspricht der Suche nach der nächsten 

Null. 

Das Überschreiben von s i durch s j erfordert ggf. die Verschiebung 

eines Teils des M -Bandinhalts, um keine Lücken entstehen zu lassen. 

Dabei dient das Blankzeichen # der Maschine ¯M als Randbegrenzer. 



Nun wollen wir nTM’n mit n Zuständen über Σ = {0, 1} der Form 

M = 〈{ q i : i < n }, {#, 0, 1}, {0, 1}, δ, q 0 , q n−1 〉 mit q n−1 := q F 

und t Übergangsregeln ein Binärwort der Form 

c(M) = 1110 n 1w 0 1w 1 1 . . . 1w t−1 111 

zuordnen, wobei die Wörter w j , j < t , den Regeln aus δ entsprechen. 

Ähnlich wie oben codieren wir den Zustand q i durch 10 i+1 , i < n , und 

die möglichen Aktionen gemäß 

〈#, 0, 1, L, R〉 ↦→ 〈10, 10 2 , 10 3 , 10 4 , 10 5 〉 

Übergänge lassen sich nun darstellen als Binärwörter w j 

aus 

{10 i+1 : i < n}{10, 10 2 , 10 3 }{10 i+1 : i < n}{10, 10 2 , 10 3 , 10 4 , 10 5 } 

In c(M) werden deren Grenzen durch zwei Einsen markiert. 



Beispiel 

Eine Binärmaschine M 0 mit zwei Übergängen hat einem Code der Form 

c(M) = 111001w 0 1w 1 111 . Etwa 

Satz 

〈q 0 , 1〉 ↦→ 〈q 1 , L〉 entspricht w 0 = 10100010010000 

〈q 1 , #〉 ↦→ 〈q 1 , 1〉 entspricht w 1 = 100101001000 

Die Sprachen xC = { c(M) : M ist eine binäre xTM } , x ∈ {n, d} , der 

Codes (nicht)deterministischer TM’n sind entscheidbar. 

Beweis. 

Das entspricht einem Syntaxcheck: Randbegrenzer 111 überprüfen, 

Zustandszahl n auslesen, Übergangscodes w j separieren und auf 

Konsistenz prüfen. Im deterministischen Fall ist noch sicherzustellen, daß 

verschiedene Übergänge verschiedene linke Seiten haben. 



Beispiel 

Wir erinnern an die nicht semi-entscheidbare Sprache 

L code 

:= { w ∈ {0, 1} ∗ : w = c(M) für eine TM M mit w /∈ L(M) } 

Die Maschine M 0 aus obigem Beispiel akzeptiert ihren eigenen Code, da 

sie nach einem Schritt im Endzustand q 1 hält. Folglich gilt 

c(M 0 ) /∈ L code 

. Eine ähnliche Maschine M 1 mit den Übergängen 

〈q 0 , 1〉 ↦→ 〈q 0 , #〉 und 〈q 0 , #〉 ↦→ 〈q 0 , R〉 

erfüllt hingegen c(M 1 ) ∈ L code 

, da sie nie hält. 

Wir rekapitulieren die Anforderungen an M U 

für legale Eingaben c(M)w : 

⊲ M U 

hält auf c(M)w gdw. M hält auf w , und wenn die Maschinen 

halten, dann mit identischer Ausgabe. 

⊲ M U 

akzeptiert c(M)w gdw. M akzeptiert w . 



Der Einfachheit halber konzipieren wir M U 

als 3-Band-Maschine. Diese 

kann gemäß unserer Überlegungen in Kapitel 3 auch als 1-Band-Maschine 

realisiert werden; erst für diese ist dann der Code c(M U 

) verfügbar. 

Auf B 0 steht zunächst die Eingabe c(M)w . 

Der vordere Teil c(M) wird nach B 1 verschoben und einem 

Syntaxcheck unterzogen. Damit verbleibt die Eingabe w für M auf 

B 0 , das ab jetzt die Rolle des einzigen Bandes von M spielt. 

Auf B 2 wird über den aktuellen Zustand q i von M mittels i + 1 

Nullen buchgeführt; zunächst wird hier eine Null geschrieben. 

Die Simulation von M liest zunächst auf B 0 ein Symbol aus 

{#, 0, 1} . In Verbindung mit der Zustandsinformation wird auf B 2 

nichtdeterministisch nach einem passenden Übergang auf B 1 gesucht. 

Gibt es keinen solchen, so hält M U 

, wobei genau dann der 

Finalzustand von M U 

anzunehmen ist, wenn 0 n auf B 2 steht. 

Andernfalls wird gemäß der rechten Seite der Zustandsindex auf B 2 

angepaßt, die entsprechende Aktion auf B 0 ausgeführt, und der Kopf 

auf B 1 am Rand des Codes c(M) geparkt. 


5. Unentscheidbare Probleme 5.2 Das Halteproblem 

5.2 Das Halteproblem 

In Kapitel 3 war L halt 

:= { c(M)w : M TM, die bei Eingabe w hält } 

erwähnt worden, aber erst jetzt ist die Binärcodierung von TM’n verfügbar. 

Problem: Bei deterministischen Maschinen läßt jede Eingabe höchstens 

eine Berechnung zu, somit ist klar, was mit “ M hält bei Eingabe w ” 

gemeint ist. Aber wie steht’s mit nichtdeterministischen Maschinen? 

Lösung: Wie in Kapitel 3 gesehen, besitzt jede nTM M eine sog. 

Determinisierung M ′ , die M simuliert. Zwar war M ′ als 4-Band 

Maschine beschrieben worden, aber diese kann systematisch in eine STM 

M d 

transformiert werden. 

Beobachtung 0: M d 

bzw. M ′ hält genau dann bei Eingabe w , wenn 

w ∈ L(M) oder jeder Berechnungspfad für w terminiert, ohne zu 

akzeptieren. 

Beobachtung 1: Die Funktion c(M) ↦→ c(M d 

) ist Turing-berechenbar. 



Definition 

L halt 

:= { c(M)w : M TM, und M d 

hält bei Eingabe w } 

Satz 

Die Sprache L halt 

ist semi-entscheidbar, aber nicht entscheidbar. 

Beweis 

Semi-Entscheidbarkeit: via Kombination von Syntaxcheck mit M U 

: 

v 

v = c(M)w? 

Ja 

c(M d )w 

hält M U ? 

Ja 

v akz. 

Nein 

v n. akz. 



Beweis (Forsetzung). 

Entscheidbarkeit: Annahme: L halt 

ist entscheidbar. Dann existiert eine 

TM M halt 

, die immer hält und L(M halt 

) = L halt 

erfüllt. Wir konstruieren 

daraus wie folgt eine dreiteilige TM M code 

, die immer hält: 

w 

w = c(M)? 

Ja 

c(M d )w 

akz. M halt ? 

Ja 

c(M)w 

akz. M U ? 

Ja 

w n. akz. 

Nein 

Nein 

Nein 

w n. akz. 

w akz. 

w akz. 

Nach erfolgreichem Syntaxcheck w = c(M) wird die Maschine L halt 

auf 

die Eingabe c(M d 

)w angewendet. Hält M d 

(also auch M ) nicht auf 

Eingabe w , so wird w = c(M) von M code 

akzeptiert. Andernfalls testet 

M U 

, ob M die Eingabe w akzeptiert. Genau dann wird w von M code 

nicht akzeptiert. Aber dies ist ein Widerspruch zur Nichtentscheidbarkeit 

von L code 

. 



Corollar 

Das Komplement von L halt 

ist nicht semi-entscheidbar. 

Beweis. 

Wegen der Semi-Entscheidbarkeit von L halt 

ist die Semi-Entscheidbarkeit 

des Komplements äquivalent zur Entscheidbarkeit von L halt 

. 

Wie sieht das Komplement von L halt 

überhaupt aus? 

L halt 

= { v ∈ {0, 1} ∗ : ( ∃M. v = c(M)w ) =⇒ M d 

hält nicht auf w } 


5. Unentscheidbare Probleme 5.3 Weitere unentscheidbare Probleme 

5.3 Weitere unentscheidbare Probleme 

Die obige Beweistechnik ist unter dem Namen Reduktion bekannt, da die 

Frage der Entscheidbarkeit eines neuen Problems auf die der Entscheidbarkeit 

eines bekannten Problems reduziert wird. Ein ähnliches Verfahren 

wird auch in Kapitel 6, Komplexitätstheorie, nützlich sein. 

Studierende sollen diese Beweistechnik beherrschen und einen Vorrat an 

unentscheidbaren Problemen kennen. 

Reduktionsschema 

Gegeben: eine formale Sprache L ⊆ {0, 1} ∗ . 

Zu zeigen: L ist nicht entscheidbar. 

Annahme: L ist entscheidbar. Dann exisiert eine TM M mit L(M) = L , 

die immer hält. 

Verfahren: Konstruiere mittels M eine TM ˜M für eine bekanntermaßen 

untentscheidbare Sprache ˜L , Widerspruch! Damit kann L nicht 

entscheidbar gewesen sein. 



5.3.0 Das Akzeptanzproblem 

Satz 

Die Sprache L acc 

:= { c(M)w : M TM mit w ∈ L(M) } ist unentscheidbar. 

Beweis. 

Wir nehmen an, die TM M acc 

entscheidet L acc 

und hält immer. 

Idee: Das Halten einer TM M bei Eingabe w in einem Nichtfinalzustand 

auf Akzeptanz zurückführen. 

Vertauscht man in M die Final- mit den Nichtfinalzuständen, so ist das 

formal keine TM. Aber Hinzufügen eines neuen Endzustands q n und neuer 

Übergänge 〈q i , s〉 ↦→ 〈q n , s〉 , sofern keine M -Übergänge aus 〈q i , s〉 

existieren und i < n − 1 gilt, liefert eine TM, die wir mit ¯M bezeichnen. 

Die Funktion c(M) ↦→ c(M ′ ) ist natürlich Turing-berechenbar. 




Nun konstruieren wir eine dreiteilige TM M halt 

, die L halt 

entscheidet: 

u 

u = c(M)w? 

Nein 

Ja 

c(M)w 

akz. M acc ? 

Ja 

Nein 

c( ¯M)w 

akz. M acc ? 

Nein 

Ja 

u akz. 

u n. akz. 

u akz. 

u n. akz. 

M halt 

hält auf jede Eingabe, da jede Teilmaschine dies tut. 

Nach erfolgreichem Syntaxcheck ist festzustellen, daß M auf w genau 

dann hält, wenn entweder M oder ¯M die Eingabe w akzeptiert. 

Da L halt 

aber nicht entscheidbar ist, kann M acc 

nicht existieren . 

Andererseits ist das Akzeptanzproblem für Kellerautomaten entscheidbar: 

Kellerautomaten sind analog binär codierbar und können algorithmisch in 

cfG’n umgewandelt werden, sogar in CNF. Der CYK-Algorithmus 

entscheidet dann das Akzeptanzproblem. 



5.3.1 Akzeptanz des leeren Worts 

Satz 

Die Sprache L ε := { c(M) : M TM mit ε ∈ L(M) } ist unentscheidbar. 

Beweis. 

Wir nehmen an, die TM M ε entscheidet L ε und hält immer. 

Idee: Die Akzeptanz von w ∈ L(M) durch M auf die Akzeptanz von ε 

durch eine TM M w zurückführen. Diese schreibt w = s 0 s 1 . . . s m−1 von 

links nach rechts auf das leere Band, durch Übergänge 〈q i , #〉 ↦→ 〈q i , s i 〉 

und 〈q i , s i 〉 ↦→ 〈r i+1 , R〉 , i < m , und 〈q m−1 , s m−1 〉 ↦→ 〈q m , s m−1 〉 . Dann 

wird M mit um m erhöhten Zustandsindizes ausgeführt. 

Die Funktion 〈c(M), w〉 ↦→ c(M w ) ist natürlich Turing-berechenbar. 




Nun konstruieren wir eine zweiteilige TM M acc 

, die L acc 

entscheidet: 

u 

u = c(M)w? 

Ja 

c(M w ) 

akz. M ε? 

Ja 

u akz. 

Nein 

Nein 

u n. akz. 

u n. akz. 

M ε 

hält auf jede Eingabe, da beide Teilmaschinen dies tun. 

Nach erfolgreichem Syntaxcheck ist festzustellen, daß w genau dann von 

M akzeptiert wird, wenn M w die Eingabe ε akzeptiert. 

Da L acc 

aber nicht entscheidbar ist, kann M ε nicht existieren . 



5.3.2 Terminierung eines Algorithmus 

Satz 

Die Sprache L term 

:= { c(M) : M TM, die auf jede Eingabe hält } ist 

unentscheidbar. 

Beweis. 

Wir nehmen an, die TM M term 

entscheidet L term 

und hält immer. 

Idee: Einschränkung des Verhaltens einer TM M auf ihr Verhalten bei 

leerer Eingabe: die modifizierte Maschine ˜M soll zunächst die Eingabe 

löschen, mit Hilfe von Übergängen 〈q 0 , s〉 ↦→ 〈q 1 , #〉 ↦→ 〈q 0 , L〉 , s ∈ Σ , 

sowie 〈q 0 , #〉 ↦→ 〈q 2 , #〉 , und bei leerem Band weiter wie M mit um 2 

erhöhten Zustandsindizes verfahren. 

Die Funktion c(M) ↦→ c( ˜M) ist natürlich Turing-berechenbar. 




Nun konstruieren wir eine dreiteilige TM M ε , die L ε 

entscheidet: 

u 

u = c(M)? 

Nein 

Ja 

c(M) 

akz. M term ? 

Nein 

Ja 

c( ˜M) 

akz. M U ? 

Nein 

Ja 

u akz. 

u n. akz. 

u n. akz. 

u n. akz. 

M acc 

hält auf jede Eingabe, da die ersten beiden Teilmaschinen dies tun 

und die dritte nur bei garantierter Terminierung aufgerufen wird. 

Nach erfolgreichem Syntaxcheck für M bedeutet die Entscheidung “Nein” 

von M term 

auf c( ˜M) , daß M auf ε nicht hält, und folglich ε nicht 

akzeptiert. Im “Ja”-Fall existiert dagegen mindestens eine terminierende 

Berechnung von M auf ε . Mittels M U überprüfen wir nun, ob es auch 

eine akzeptierende Berechnung von M auf ε gibt. 


5. Unentscheidbare Probleme 5.4 Satz von Rice 

5.4 Satz von Rice 

Wir brauchen ein effektiveres Verfahren, die Nichtentscheidbarkeit von 

Teilsprachen von dC oder nC und verwandten Sprachen festzustellen. 

Definition 

Für eine Eigenschaft S formaler Sprachen setze 

L S := { c(M) : M TM und L(M) hat Eigenschaft S } 

Wir nennen S trivial, falls keine Sprache der Form L(M) die Eigenschaft 

S erfüllt, oder jede solche Sprache dies tut. 

Für triviales S ist L S 

entscheidbar. Interessanter ist die Umkehrung: 

Satz von Rice 

Für nicht-triviale Eigenschaften S ist die Sprache L S 

nicht entscheidbar. 



Damit erweisen sich z.B. folgende Sprachen als unentscheidbar: 

{ c(M) : M TM und L(M) regulär } 

{ c(M) : M TM und L(M) kontextfrei } 

{ c(M) : M TM und L(M) ≠ ∅ } 

Was die vorangehenden ausführlichen Beispiele angeht, so läßt sich etwa 

L ε mit Hilfe der Eigenschaft “ ε ∈ L(M) ” charakterisieren. 

Dagegen ist L term 

kein Beispiel für die Anwendbarkeit des Satzes von Rice, 

da die Forderung, M möge auf jede Eingabe halten, keine Eigenschaft der 

Sprache L(M) ist, denn M ist durch L(M) nicht eindeutig bestimmt. 

L code 

ist nicht semi-entscheidbar, geschweige denn entscheidbar. Dennoch 

könnte man die Eigenschaft “ c(M) /∈ L(M) ” betrachten: dies ist ebenfalls 

keine “legale” Eigenschaft, die eine Sprache L ⊆ {0, 1} ∗ haben kann oder 

nicht! Denkbar wäre die Existenz mehrerer TM’n, die L akzeptieren, und 

von denen manche Codes zu L gehören und andere nicht. Insofern ist 

auch hier der Satz von Rice nicht anwendbar! 



Beweis des Satzes von Rice. 

S sei nichttrivial. Falls ∅ die Eigenschaft S nicht hat, existiert dann eine 

TM M 0 , so daß L(M 0 ) ≠ ∅ die Eigenschaft S besitzt. 

Für eine beliebige TM M und w ∈ {0, 1} ∗ sei M w die folgende 

Verknüpfung von M 0 mit M : wenn M 0 akzeptiert, soll anschließend M 

mit Eingabe w ausgeführt werden. Genauer: nachdem M 0 akzeptiert hat, 

ist das Band zu löschen (warum geht das?), dann ist w auf das leere Band 

zu schreiben, und schließlich M auszuführen. Damit ist die Abbildung 

〈c(M), w〉 ↦→ c(M w ) Turing-berechenbar (Details?), und es gilt 

{ 

L(M w L(M 0 ) falls w ∈ L(M) 

) = 

∅ sonst 

Annahme: L S ist entscheidbar. Dann existiert eine TM M S mit 

L(M S ) = L S , die immer hält. 




Nun konstruieren wir eine zweiteilige TM M acc , die L acc 

entscheidet: 

M acc : 

u 

u = c(M)w? 

Nein 

Ja 

c(M w ) 

akz. M S ? 

Nein 

Ja 

u akz. 

M acc 

u n. akz. 

u n. akz. 

hält auf jede Eingabe, da beide Teilmaschinen dies tun. 

u ∈ L(M acc ) gdw u = c(M)w ∧ c(M w ) ∈ L(M S ) = L S 

gdw u = c(M)w ∧ L(M w ) hat Eigenschaft S 

gdw u = c(M)w ∧ L(M w ) = L(M 0 ) 

gdw 

gdw 

u = c(M)w ∧ w ∈ L(M) 

u ∈ L acc 

Also L(M acc ) = L acc 

, Widerspruch. Also existiert M acc nicht und L acc 

ist 

nicht entscheidbar. 




Falls ∅ die Eigenschaft S hat, betrachten wir die Negation ¯S . Weil ∅ 

die Eigenschaft ¯S nicht hat, die ebenso wie S nichttrivial ist, folgt wie 

oben, daß L¯S nicht entscheidbar ist. 

Wir wissen aber bereits, daß die entscheidbaren Sprachen unter 

Komplementbildung abgeschlossen sind. Also gilt das auch für die nicht 

entscheidbaren Sprachen. Weiterhin sind die entscheidbaren Sprachen 

unter endlichen Durchschnitten abgeschlossen. Wegen 

L¯S = L S ∩ nC 

ist somit L S unentscheidbar, folglich also auch L S . 


6. Komplexität von Algorithmen 

Kapitel 6 

Komplexität von Algorithmen 


6. Komplexität von Algorithmen 6.0 Übersicht 

6.0 Übersicht 

Die Klasse der algorithmisch lösbaren (= entscheidbaren) Probleme soll 

jetzt detaillierter untersucht werden. Das wesentliche Unterscheidungsmerkmal 

wird sein, ob ein Problem “effizient lösbar” ist in dem Sinne, daß 

die Laufzeit einer dTM, die das Problem löst, durch ein Polynom in der 

Größe der Eingabe beschränkt ist. Die zugehörige Klasse heißt P . 

Beispiel 

Eingabe: ungerichteter Graph G = 〈V , E〉 

Aufgabe: entscheiden, ob G 2-färbbar ist, d.h., ob die Knoten so mit 

zwei Farben gefärbt werden können, daß jede Kante verschiedenfarbige 

Endpunkte hat. 

Beispiel 

Eingabe: natürliche Zahl n > 0 

Aufgabe: entscheiden, ob n eine Primzahl ist. 



Wenn hingegen eine potentielle Lösung in polynomialer Zeit von einer 

dTM überprüft werden kann, gehört das Problem zu NP . 

Beispiel 


Aufgabe: entscheiden, ob G 3-färbbar ist. 

Für eine potentielle 3-Färbung V f 3 = {0, 1, 2} sind für jede Kante 

die Farben der Endpunkte zu vergleichen. 

Beispiel 

Eingabe: n geographische Orte (“Städte”) und ihre Entfernungen (bzw. 

Reiskosten), sowie eine Zahl K > 0 

Aufgabe: entscheiden, ob es eine Rundreise gibt, die alle Städte genau 

einmal besucht und deren Länge (oder Preis) durch K beschränkt ist. 

Für eine Permutation der Orte ist die Länge (der Preis) der zugehörigen 

Rundreise zu berechnen und mit K zu vergleichen. 



Offenes Problem 

Stimmt P mit NP überein? 

Millennium-Problem 

Die “schwierigsten” Probleme innerhalb der Klasse NP heißen 

NP -vollständig. Wenn es gelingt nachzuweisen, daß eines von ihnen zu 

P gehört, dann folgt P = NP . (Es gilt als sehr unwahrscheinlich, daß 

ein effizienter Algorithmus für ein NP -vollständiges Problem gefunden 

werden kann.) 

Es sind inzwischen sehr viele NP -vollständige Probleme bekannt: 

− Garey, Michael R.; Johnson, David S. (1979), Computers and 

Intractability: A Guide to the Theory of NP-Completeness, W. H. 

Freeman; 

− Eine ständig aktualisierte Liste findet sich bei 

− Pierluigi Crescenzi, and Viggo Kann (Eds.): 

A compendium of NP optimization problems 

Wikipedia 



6.0.1 Wiederholung: Groß-O-Notation 

Wir wollen Funktionen N R + in Bezug auf ihr Wachstum vergleichen. 

Informell soll O(g) die Klasse aller Funktionen sein, die asymptotisch 

(also für große Werte von n ∈ N ) nicht schneller wachsen als g . Genauer: 

Definition 

Beispiel 

f ∈ O(g) gdw ∃c ∈ R + ∃n 0 > 0 ∀n ≥ n 0 . f (n) ≤ c · g(n) 

Jedes Polynom p vom Grad t erfüllt p ∈ O(n t ) . Denn aus 

p(n) = ∑ p i n i = n ∑ ( 

t p i /n k−i = n t p t + ∑ ) 

p i /n t−i 

i≤t 

i≤t 

i

6. Komplexität von Algorithmen 6.1 Beispiele effizienter Algorithmen 

6.1 Beispiele effizienter Algorithmen 

Vor einer genaueren Analyse graphentheoretische Probleme ist zu klären, 

wie Graphen sinnvoll als Eingaben für TM’n codiert werden können. 

Definition 

Ein gerichteter Graph G = 〈V , E〉 besteht aus einer Menge V von 

Knoten (Vertices) und einer Relation E ⊆ V × V . Paare 〈u, v〉 ∈ E 

werden graphisch als gerichtete Kanten (Edges) oder Pfeile u v 

dargestellt, während E als binäre Adjazenzmatrix über V aufgefaßt 

werden kann 

{ 

1 falls 〈u, v〉 ∈ E 

E u,v = 

0 sonst 

G heißt ungerichtet, falls die Relation E symmetrisch ist. Dann werden 

in der graphischen Darstellung die Hin- und Rückpfeile u v durch 

eine ungerichtete Kante u v ersetzt. 



Anstelle von Adjazenzmatrizen kann man auch sog. Adjazenzlisten 

verwenden, in denen für jeden Knoten seine direkten Nachfolger 

gespeichert sind, im Wesentlichen die Positionen der Einsen aus der 

entsprechenden Zeile der Adjazenzmatrix: 

Beispiel 

0 1 

2 

3 4 

⎛ 

⎜ 

⎝ 

0 1 0 0 0 

0 1 1 0 1 

0 0 0 0 0 

1 0 0 0 0 

0 0 1 1 0 

⎞ 

⎟ 

⎠ 

0 → (1) 

1 → (1, 2, 4) 

2 → ( ) 

3 → (1) 

4 → (2, 3) 

Während die Größe der Adjazenzmatrix durch |V | 2 gegeben ist, ist der 

Wert für die Darstellung mittels Adjazenzlisten mit |E| + |V | vielleicht 

präziser, wegen |E| ∈ O(|V | 2 ) aber von derselben Größenordnung. 



Definition 

Einer topologischen Sortierung eines gerichteten Graphen G = 〈V , E〉 mit 

n Knoten ist eine Funktion V ord n = {0, . . . , n − 1} mit der 

Eigenschaft 

〈u, v〉 ∈ E impliziert ord(u) < ord(v) 

Beispiel 

•1 •0 

•3 

•4 •2 

Die neue Kante von 4 nach 1 zerstört die topologische Sortierbarkeit. 

Allgemein kann ein gerichteter Graph genau dann topologisch sortiert 

werden, wenn er keine Zyklen hat (Test für die Existenz von Zyklen). 



Beispiel (Naiver Algorithmus für Topologisches Sortieren) 

Eingabe: Gerichteter Graph G = (V , E) mit n Knoten und k Kanten 

Ausgabe: Topologische Sortierung V ord n, falls G azyklisch 

1: {(0) Initialisierung} 

2: i := 0 { i : die Zahl, die ord zuweisen soll} 

3: W := V { W : die Menge der noch nicht bearbeiteten Knoten} 

4: {(1) Rekursionsschritt} 

5: while ein Knoten x ∈ W ohne Vorgänger in W existiert do 

6: ord(x) := i 

7: i := i + 1 

8: W := W − {x} 

9: end while {Zyklus falls W ≠ ∅ , sonst topologische Sortierung} 

Korrektheit: klar. 

Laufzeit: (unter Verwendung von Adjazenzmatrizen) 

Die Befehle in Zeilen 3,2,6,7 und 8 benötigen konstante Zeit A . 

Schleife 5 wird m 2 -mal durchlaufen, mit m = n, . . . , 1 , da W schrumpft; 

in der Rest-Matrix über W ist eine 0-Spalte zu finden, in Zeit K . 

n∑ 

n∑ 

T (n) = 2A + (Km 2 + 3A) = 2A + K m 2 + 3An ∈ O(n 3 ) 

m=1 

m=1 



Beispiel (Verbesserter Algorithmus für topologisches Sortieren) 


2: i := 0 {Laufzeit A , i : die Zahl, die ord zuweisen soll} { A } 

3: for alle Knoten v in V do 

4: In[v] := 0 {Laufzeit A , In[v] : Vorgängeranzahl von v } 

5: end for {Laufzeit A · n } { A · n } 

6: for alle Knoten u in V do 

7: for alle Knoten v mit einer Kante (u, v) in E do 

8: In[v] := In[v] + 1 {Laufzeit A } 

9: end for {Laufzeit A · k(v) , k(v) Länge der Nachfolgerliste von v } 

10: end for {Laufzeit A · k bei Adjazenzlisten} { A · k } 

11: U := ∅ {Laufzeit A , U - Menge aller Knoten v mit In[v] = 0 } { A } 

12: for alle Knoten v in V do 

13: if In[v] = 0 then 

14: U := U ∪ {v} 

15: end if {Laufzeit 2A } 

16: end for {Laufzeit 2A · n } { 2A · n } 


18: while U einen Knoten v enthält do 

19: U := U − {v} ; ord(v) := i ; i := i + 1 {Laufzeit 3A } 

20: for alle Knoten w mit (v, w) ∈ E do 

21: In[w] := In[w] − 1 {Laufzeit A } 

22: if In[w] = 0 then 

23: U := U ∪ {w} 


25: end for {Laufzeit 3A · k(v) } 

26: end while {Laufzeit 3A · (n + k) , Zyklus falls i < n , sonst topologische Sortierung} { 3A · (n + k) } 




Gesamtlaufzeit: T (n, k) = 4A(n + k) + 2A(n + 1) ∈ O(n + k) . 

Die FOR-Schleifen in Zeilen 6 und 7 garantieren nur in dieser Reihenfolge 

eine Laufzeit von A · k in Zeile 10. Bei umgekehrter Reihenfolge, oder 

Verwendung von Adjazenzmatrizen, ergäbe sich hier A · n 2 . Ein ähnliches 

Argument liefert für die FOR-Schleife in Zeile 20 innerhalb der 

WHILE-Schleife in Zeile 18 den Term 3A · k in Zeile 26. Im Falle von 

Adjazenzmatrizen stünde hier 3A · n 2 . 

Damit wäre bei Verwendung von Adjazenzmatrizen die Laufzeit gegeben 

durch T (n) = 4A · (n + n 2 ) + 2A · (n + 1) ∈ O(n 2 ) . 

Bei der Bestimmung der Effizienz kommt es also darauf an, wie man die 

Größe der Eingabe definiert: Hinsichtlich der Knotenzahl |V | läuft der 

Algorithmus mit Adjazenzmatrizen in quadratischer Zeit, verglichen mit 

kubischer Zeit des naiven Algorithmus. Hinsichtlich der Summe |V | + |E| 

läuft der obige Algorithmus in linearer Zeit. 




Korrektheit: Wenn G azyklisch ist, gibt es in jeder Runde Knoten ohne 

Vorgänger. Folglich gilt U ≠ ∅ , solange noch unsortierte Knoten 

existieren. Erfolgt in Zeile 19 die Zuweisung ord(v) = i , so wurden allen 

Vorgängern von v in früheren Schritten kleinere Werte zugewiesen. 

Aus obiger Analyse darf man allerdings nicht den Schluss ziehen, die 

Codierung gerichteter Graphen mittels Adjazenzlisten wäre der Codierung 

mittels Adjazenzmatrizen überlegen, zumal |E| ∈ O(|V | 2 ) gilt. 

Beispiel 

v1 

w4 

x3 

u0 

y2 

Adjazenzlisten: u → (v),, v → (w, x) , w → (()), 

, x → (w),, y → (x),, 

Knoten i In[i] ∈ U? In[i] ∈ U? In[i] ∈ U? 

u 0 yes 

v 1 0 yes 

w 2 1 0 yes 

x 2 1 0 yes 

y 0 yes 



Nun wenden wir uns der 2-Färbung ungerichteter Graphen zu. 

Satz 

Ein ungerichteter Graph ist genau dann 2-färbbar, wenn er keine Zyklen 

ungerader Länge besitzt. 

Beweis. 

Zyklen ungerader Länge sind offensichtlich nicht 2-färbbar, dürfen somit 

nicht als Untergraphen auftreten. 

Gibt es keine Zyklen ungerade Länge, so färben wir einen Knoten v und 

alle Knoten in gerader Entfernung von v rot, und alle übrigen Knoten 

blau. Nach Voraussetzung haben alle Verbindungen zwischen je zwei 

gleichfarbigen Knoten nur gerade Längen, während alle Verbindungen 

zwischen Knoten unterschiedlicher Farbe von ungerader Länge sind. 

Idee: Schichtweises Vorgehen: färbe gewähltes v rot, alle Nachbarn blau, 

die ungefärbten Nachbarn dieser Menge rot usw. 



Beispiel (Algorithmus für 2-Färbung) 


Ausgabe: eine 2-Färbung V = ROT + BLAU , falls eine existiert 


2: ROT := ∅ ; BLAU := ∅ ; F := ∅ ; {Laufzeit 3A , F : Menge der Knoten in Bearbeitung} { O(1) } 


4: while ∃v ∈ V do 

5: V := V − {v} ; ROT := ROT + {v} ; F := F + {v} {Laufzeit 4A } 

6: while ∃w ∈ F do 

7: for alle Knoten u ∈ V mit {u, w} ∈ E do 

8: if w ∈ ROT then 

9: BLAU := BLAU + {u} 

10: else 

11: ROT := ROT + {u} 


13: F := F + {u} ; V := V − {u} {Laufzeit 2A } 

14: end for 

15: F := F − {w} {Laufzeit A } 

16: end while 

17: end while { O(n + k) } 

18: {(2) Ausgabe} 

19: Überprüfen, ob BLAU oder ROT eine Kante enthalten { O(n + k) } 

Die Laufzeit ist linear in |V | + |E| , da jeder Knoten und jede Kante 

einmal “angefasst” werden. 




Korrektheit: Zu jedem Zeitpunkt liegt jeder Knoten v entweder in V , in 

ROT oder in BLAU . Sobald V = ∅ , ist somit jeder Knoten gefärbt. Falls 

ROT und BLAU keine Kante enthalten, liegt eine 2-Färbung vor. 

Gehören die Endpunkte von 〈u, w〉 ∈ E zu ROT ( BLAU ), sind beide 

durch einen Weg (un)gerader Länge mit dem Startknoten v verbunden 

(Induktion). Damit liefern diese Wege samt 〈u, w〉 einen Zyklus ungerader 

Länge, Widerspruch. 

Beispiel 

a 

c 

e 

b 

d 

f 

Knoten a ∈ V a ∈ F c ∈ F d ∈ F b ∈ F e ∈ F f ∈ F 

V a − e b − e d, e, f f − − − − 

F − a b, c b, d, e b, e, f e, f f − 

ROT − a a a.d.e a.d.e a.d.e a.d.e a.d.e 

BLAU − − b, c b, c b, c, f b, c, f b, c, f b, c, f 



Beispiel (Algorithmus für 3-Färbung) 

Eingabe: Ungerichteter Graph G = (V , E) mit n Knoten und k Kanten 

Ausgabe: G mit 3 Farben färben 

Es ist kein effizienter Algorithmus bekannt (Begründung später). Wenn 

man alle möglichen Färbungen auf ihre Korrektheit prüfen will, ergibt sich 

eine Laufzeit O(3 n ) . Andererseits kann man nichtdeterministisch eine 

potentielle Färbung raten und diese deterministisch überprüfen. 

Beispiel (Algorithmus für gerichteten Weg) 

Eingabe: Gerichteter Graph G = 〈V , E〉 , Knoten v, w ∈ V 

Aufgabe: entscheiden, ob gerichteter G -Weg von v nach w existiert 

Idee: iterativ die von v aus erreichbaren Knoten bestimmen und in einer 

Hilfs-Menge M sammeln; wenn w am Ende zu M gehört, existiert ein 

gerichteter Weg von v nach w . 





2: M := {v} { M : die von v erreichbaren Knoten} 


4: while eine Kante 〈x, y〉 mit x ∈ M und y /∈ M existiert do 

5: M := M + {y} 

6: E := E − {〈x, y〉} 

7: end while 

8: {(2) Ausgabe} 

9: JA, falls w ∈ M , sonst NEIN 

Korrektheit: Klar! 

Laufzeit: Entscheidend ist die WHILE-Schleife in Zeilen 4–7. Bei 

Verwendung von Adjazenzlisten werden maximal n-mal alle k Kanten 

getestet, was in einer Laufzeit von O(n · k) resultiert. Im Falle von 

Adjazenzmatrizen ist stattdessen eine (n × n)-Matrix maximal n-mal 

nach Einsen zu durchsuchen, also ergibt sich O(n 3 ) . 



Im Allgemeinen soll die Codierung der Eingaben “vernünftig” sein, etwa: 

Zahlen werden binär oder dezimal codiert (so daß ihr Wert 

exponentiell in der Länge der Darstellung ist), aber nicht unär (wobei 

der Wert mit der Länge übereinstimmt). 

Graphen werden mittels Adjazenzmatrizen oder -listen codiert. 

Aussagenlogische Formeln werden häufig in konjunktiver Normalform 

(KNF) codiert, d.h., 

− jede Formel ϕ ist die Konjunktion von Klauseln; 

− jede Klausel ist die Disjunktion von Literalen; 

− jedes Literal ist entweder eine Variable oder die Negation einer solchen. 

Jede aussagenlogische Formel kann in eine äquivalente Formel in KNF 

umgewandelt werden, etwa unter Verwendung der Distributivgesetze 

und der de Morgan’schen Regeln. 

Ist die Anzahl der Literale pro Klausel durch m ∈ N beschränkt, 

sprechen wir von m-KNF. Ein Beispiel in 2-KNF ist etwa 

ϕ = (¬x ∨ y) ∧ (¬x ∨ z) ∧ (x ∨ ¬z) 



In Analogie zur m-Färbbarkeit von Graphen stellt sich im Fall logischer 

Formeln die Frage der m-Erfüllbarkeit: 

Beispiel 

Das E-Problem m-Sat hat als Eingabe eine Formel ϕ in m-KNF. Zu 

entscheiden ist, ob diese Formel erfüllbar ist, in dem Sinne, daß eine 

Belegung der auftretenden Variablen mit 0 (bzw. false ) und 1 (bzw. 

true ) existiert, so daß ϕ den Wert 1 ( true ) erhält. 

In Abschnitt 6.3 werden wir mittels Reduktion feststellen, daß 2-Sat zu 

P gehört, während die NP -Vollständigkeit von 3-Sat in Abschnitt 6.4 

nachgewiesen wird. Das unbeschränkte Erfüllbarkeitsproblem Sat ist 

natürlich ebenfalls NP -vollständig (Cooke’scher Satz). 


6. Komplexität von Algorithmen 6.2 Die Komplexitätsklassen P und NP 

6.2 Die Komplexitätsklassen P und NP 

Unter P ( NP ) wollen wir die Klasse aller E-Probleme verstehen, die von 

einem (nicht-)deterministischen Algorithmus in polynomialer Zeit gelöst 

werden können. 

Dabei soll die konkrete Implementierung des Algorithmus irrelevant sein, 

d.h., P und NP sind unabhängig vom verwendeten Algorithmusmodell. 

Wenn dies gewährleistet ist, kann man ein bequemes Modell wählen, etwa 

TM’n mit mehreren Bändern. 

Definition 

Eine Funktion N t R + wird als Zeitkomplexität einer nTM M 

bezeichnet, wenn M für jede Eingabe w ∈ Σ n immer nach höchstens 

t(n) Schritten hält. D. h., die Tiefe des Berechnungsbaums von w ist 

durch t(|w|) beschränkt. 



Bemerkung 

Gelegentlich wird für die Zeitkomplexität nichtdeterministischer Maschinen 

M gefordert, daß nur für Wörter aus L(M) eine (etwa die kürzeste) 

akzeptierende Berechnung der Länge nach durch t(|w|) beschränkt sein 

muß. Dies folgt sofort aus der obigen Definition. 

Umgekehrt möchte man M um einen Schrittzähler ergänzen und 

Berechnungen von w abbrechen, sobald sie mehr als t(|w|) Schritte 

brauchen. Dabei sind |w| und t(|w|) vorher zu bestimmen, was 

O(|w| + T (|w|)) Schritte braucht, wobei T die Zeitkomplexität einer 

Maschine ist, die t berechnet. Die Zeitkomplexität der modifizierten 

Maschine liegt dann in O(n + T (n) + t(n)) . Damit dies mit O(t(n)) 

übereinstimmt, sollte {n, T (n)} ⊆ O(t(n)) gelten. 

Zwar sind beide Definitionen der Zeitkomplexität i.A. nicht äquivalent, 

aber sofern es sich bei t und T um Polynome handelt, bleibt die 

Zeitkomplexität polynomial, was für unsere Zwecke ausreicht. 



Beispiel 

Vollständig deterministische endliche Automaten (vDEA’s) verbrauchen 

pro Schritt ein Symbol der Eingabe und halten dann. Also benötigen sie 

lineare Zeit O(n) . 

Beispiel 

Eine dTM für die Sprache L = { w ∈ {a, b} ∗ : w = sp(w) } aller 

Palindrome über Σ = {a, b} könnte wie folgt operieren: 

Zeichen am rechten Rand löschen und im Zustand speichern; 

linken Rand suchen, und dortiges Zeichen mit dem gespeicherten 

Wert vergleichen; im Erfolgsfall linkes Randzeichen löschen und mit 

dem nächsten Zeichen von links symmetrisch analog verfahren. 

Bei gleichzeitigem Schreiben und Bewegen erfordern die ⌈n/2⌉ Durchläufe 

n + 1 , n − 1 , . . . 1 Schritte, was sich durch ⌈n/2⌉(⌈n/2⌉ + 3)/2 ∈ O(n 2 ) 

abschätzen läßt. 



Anmerkungen: 

Bei gleichzeitiger Bearbeitung von k Zeichen läßt sich eine 

Beschleunigung um den Faktor k erreichen, da sich die Anzahl der 

Durchläufe entsprechend verringert. 

Bei Verwendung einer 2-Band TM kann die Eingabe einmal kopiert 

und die Kopie direkt in umgekehrter Richtung mit dem Original 

verglichen werden, wodurch das Speichern des am Rand gelöschten 

Symbols und die jeweilige Suche nach dem anderen Rand entfällt. 

Damit läßt sich eine Laufzeit der Größenordnung O(n) realisieren. 

In Abschnitt 6.4 werden wir zeigen, daß folgende Definition der Klassen P 

und NP unter solchen Modifikationen des Maschinenmodells robust ist. 

Definition 

P ( NP ) ist die Klasse der entscheidbaren formalen Sprachen L , die von 

einer dTM (nTM) mit polynomialer Zeitkomplexität akzeptiert werden 

können, d.h., es existiert eine d/nTM M mit L = L(M) , und ein Polynom 

p so daß jede Berechnung von w nach höchstens p(|w|) Schritten hält. 



Satz 

P ⊆ NP 

Beweis. 

Klar, da jede dTM auch eine nTM ist. 

Auch hier gibt es im nichtdeterministischen Fall einen alternativen Zugang: 

anstelle eine Sprache aus NP zu entscheiden, kann man sie verifizieren: 

Definition 

Für L ⊆ Σ ∗ heißt L check 

⊆ Γ ∗ mit Σ ⊆ Γ Zertifikatssprache, falls 

L check 

∈ P , eine entsprechende dTM heißt Verifizierer; 

es existiert ein Polynom q so daß für jedes w ∈ Σ ∗ 

w ∈ L gdw wz ∈ L check 

für ein Wort z ∈ Γ ∗ mit |z| ≤ q(|w|) 

Ein solches z heißt Zertifikat für w . 

gilt 



Satz 

NP besteht genau aus den Sprachen, die Zertifikatssprachen besitzen. 

Beweis 

Ein Verifizierer M check 

, mit Zeitkomplexität p , für L check 

, mit 

Längenkomplexität q , liefert einen Entscheider M für L wie folgt: 

B 0 enthält die Eingabe w ; ihre Länge |w| und q(|w|) werden auf 

auf B 3 gespeichert, was O(q(|w|)) Schritte erfordert; 

auf B 1 wird nichtdeterministisch ein Wort z ∈ Γ ∗ mit |z| ≤ q(|w|) 

erzeugt (“geraten”); dies erfordert 2|z| ∈ O(q(|w|)) Schritte; 

auf B 2 wird M check 

mit Eingabe wz simuliert. 

M hält und akzeptiert genau dann, wenn die Simulation von M check 

dies 

tut und hat Zeitkomplexität in O(p(q(n))) . 

Umgekehrt sei M ein Entscheider für L mit Zeitkomplexität t . Als 

Zertifikate für w ∈ L verwenden wir die Wegbeschreibungen der 

akzeptierenden Berechnungen von w im M -Berechnungsbaum, genauer: 




Der M -Berechnungsbaum von w hat eine Tiefe ≤ t(|w|) . Die maximale 

Verzweigungszahl sei r ∈ N . Jeder Weg von der Initialkonfiguration zu 

einer Haltekonfiguration, also jede Berechnung, kann nun durch ein Wort 

in {0, . . . , r − 1} ∗ der Länge ≤ t(|w|) eindeutig beschrieben werden 

(aber nicht jedes derartige Wort muß einer Berechnung entsprechen). 

L check 

besteht dann aus den Wörtern wz ∈ (Σ + r) ∗ mit w ∈ L und z 

Wegbeschreibung einer akzeptierenden Berechnung für w . 

Die Maschine M check 

simuliert bei Eingabe wz den Ablauf der Maschine 

M mit Eingabe w gemäß der durch z spezifizierten Berechnung und ist 

somit deterministisch. Die Simulation erfordert |z| ≤ t(|w|) Schritte. 

Das obige maschinenbezogene Zertifikat wird in der Praxis meist sehr 

unhandlich sein. Dort verwendet man meistens problembezogene 

Zertifikate. 



Beispiel (Eine Zertifikatssprache für 3-Färbbarkeit) 

Die Codierung ungerichteter Graphen G = 〈V , E〉 erfolgt mittels 

Adjazenzmatrizen w und der Größenangabe n := |V | . Als Zertifikat 

verwenden wir Codierungen z von Zufallszerlegungen V = R + G + B . 

wz ∈ L check 

gdw ∀e ∈ E. e ⊈ R ∧ e ⊈ G ∧ e ⊈ B 

Teilmengen von V lassen sich als binäre n-Tupel codieren, während 

Adjazenzmatrizen die Größe n 2 haben. 

L check 

∈ P : zu überprüfen ist, ob die Eingabe aus n 2 + 3n Bits besteht, 

und dann, ob die Teilmengen R, G, B ⊆ V , paarweise disjunkt sind, V 

ausschöpfen, und keine Kanten {u, v} ∈ E als Teilmenge enthalten. Dies 

kann durch bitweise Vergleiche geschehen, also in polynomialer Zeit. 

Damit gilt 3-Färbbarkeit ∈ NP . 



Abschließend überlegen wir uns, daß zumindest P nicht mit der Klasse 

der entscheidbaren Probleme übereinstimmt: 

Beispiel 

Folgende entscheidbare(!) Sprache gehört nicht zu P : 

L exp 

:= { c(M) : die TM M akzeptiert w := c(M) in ≤ 2 |w| Schritten } 

In der HA werden wir die Abgeschlossenheit von P unter Komplementbildung 

nachweisen. Aus der Annahme L exp 

∈ P folgt dann L exp 

∈ P . 

Somit existiert eine TM ¯M mit einem Polynom ¯p als Zeitkomplexität, die 

L( ¯M) = L exp 

erfüllt. Wähle n 0 ∈ N mit 

¯p(n) ≤ 2 n 

für alle n ≥ n 0 , und 

|c( ¯M)| ≥ n 0 (ggf. Zustände zu ¯M hinzufügen) 

Falls ¯w := c( ¯M) ∈ L exp 

, dann wird ¯w von ¯M in ≤ ¯p(| ¯w|) ≤ 2 | ¯w| 

Schritten akzeptiert, d.h., ¯w ∈ L exp 

, . 

Falls ¯w = c( ¯M) /∈ L exp 

= L( ¯M) , folgt c( ¯M) ∈ L exp 

, also ¯w ∈ L( ¯M) , . 


6. Komplexität von Algorithmen 6.3 Die Klasse FP von Berechnungsproblemen 

6.3 Berechnungsprobleme und Reduzierbarkeit 

Bisher hatten wir die Zeitkomplexität von E-Problemen betrachtet. Um 

verschiedene E-Probleme miteinander vergleichen, genauer, sie aufeinander 

reduzieren, zu können, müssen wir auch die Zeitkomplexität von 

B-Problemen betrachten. 

Beispiel 

Unser Algorithmus zur 2-Färbung von Graphen (falls eine solche existiert) 

bildet den Code eines Graphen auf den Code einer 2-Färbung ab, bzw. auf 

die codierte Nachricht, daß keine solche Färbung existiert. 

Definition 

FP ist die Klasse aller Funktionen Σ ∗ Γ ∗ , für die eine dTM M und 

ein Polynom p existieren, so daß f von M berechnet wird und die 

Berechnung von w ∈ Σ ∗ höchstens p(|w|) Schritte benötigt. 

f 



Beispiel (Starke Komponenten) 

Eingabe: gerichteter Graph G = 〈V , E〉 

Aufgabe: die maximalen Mengen wechselseitig durch gerichtete Wege 

miteinander verbundener Knoten (=”starke Komponenten”) berechnen 


2: i := 0 { i : der Komponentenzähler} 


4: while V ≠ ∅ do 

5: wähle v ∈ V ; V := V − {v} 

6: K i := {v} { K i : die neu zu bestimmende Komponente} 

7: for alle Knoten w ∈ V do 

8: if gerWeg(v, w) und gerWeg(w, v) then 

9: K i := K i + {w} ; V := V − {w} 

10: end if 

11: end for 

12: end while 

Im Wesentlichen wird der Algorithmus für gerichteten Weg mit Laufzeit 

O(n + k) in der maximal n-mal zu durchlaufenden FOR-Schleife zweimal 

aufgerufen. Da die WHILE-Schleife auch maximal n-mal durchlaufen wird, 

ergibt sich mit Adjazenzlisten eine Laufzeit von O(n 2 (n + k)) , und mit 

Adjazenzmatrizen von O(n 4 ) . 



Beispiel 

a 

d 

b 

c 

e 

hat die starken Komponenten 

{a,b,c} 

{d,e} 

{f} 

f 

Die starken Komponenten von G bilden wieder einen Graphen Ḡ : dabei 

ist 〈K, K ′ 〉 genau dann eine Kante von Ḡ , wenn eine G -Kante von 

einem K -Knoten zu einem K ′ -Knoten existiert. Konstruktionsbedingt ist 

Ḡ azyklisch, also topologisch sortierbar. 


6. Komplexität von Algorithmen 6.4 FP - Reduzierbarkeit 

6.4 FP -Reduzierbarkeit 

Definition 

Eine Sprache L ⊆ Σ ∗ ist auf eine Sprache K ⊆ Γ ∗ FP -reduzierbar, 

Notation L ⊳ K , wenn eine Funktion Σ ∗ f 

Γ ∗ in FP existiert mit 

w ∈ L gdw f (w) ∈ K 

Die Einschränkung auf Funktionen aus FP ist wichtig, denn andernfalls 

wären alle nichttrivialen Sprachen wechselseitig aufeinander reduzierbar: 

für echte Teilmengen L ⊆ Σ ∗ und K ⊆ Γ ∗ wähle u ∈ K und ū ∈ Γ ∗ − K 

und definiere Σ ∗ f 

Γ ∗ durch 

{ 

u falls w ∈ L 

f (w) = 

ū falls w /∈ L 

Dann gilt w ∈ L gdw f (w) ∈ K , aber die “Reduktion” benötigt soviel 

Zeit wie die Entscheidung, ob w ∈ L gilt. 



Die Relation ⊳ ist als ist höchstens so schwierig wie zu interpretieren und 

dient als Hauptwerkzeug zur Strukturierung der Klasse E aller 

Entscheidungsprobleme. 

Da FP unter Komposition abgeschossen ist und alle Identitätsfunktionen 

enthält, folgen Reflexivität und Transitivität der Relation ⊳ . 

Andererseits werden wir bald sehen, daß ⊳ nicht antisymmetrisch ist. Es 

ist also keine Ordnungsrelation im strengen Sinne, aber zumindest noch 

eine Quasi-Ordnung auf der Klasse der Entscheidungsprobleme, bzw. eine 

Ordnung auf der Klasse der ⊳-Äquivalenzklassen, d.h., auf den Klassen 

gleich schwieriger Probleme ( L ⊳ M und M ⊳ L ). 

Zur besseren Orientierung erwähnen wir bereits jetzt, daß die oberen 

⊳-Schranken der Klasse NP , d.h., die Probleme, die mindestens so 

schwierig wie jedes NP -Problem sind, NP -hart heißen. Schließlich 

bezeichnet man die NP -harten Probleme innerhalb der Klasse NP , also 

die schwierigsten NP -Probleme, als NP -vollständig. 



Beispiel 

Das E-Problem Kanten-2-Färbbarkeit hat ungerichtete Graphen als 

Eingabe. Zu entscheiden ist, ob die Kanten derart mit 2 Farben gefärbt 

werden können, daß Kanten mit gemeinsamem Endpunkt verschieden 

gefärbt sind. 

Wir zeigen Kanten-2-Färbbarkeit ⊳ 2-Färbbarkeit. 

Idee: Die Kanten von G als Knoten eines sog. Kantengraphen G K 

interpretieren. Formal: G K := 〈V K , E K 〉 mit 

V K := E und {e, e ′ } ∈ E K gdw e ∩ e ′ ≠ ∅ ∧ e ≠ e ′ 

Etwa 

2 

{0, 2} {1, 2} 

G : 

0 1 

↦→ G K : 

{0, 1} 

4 3 

{1, 3} 




Korrektheit der Reduktion G ↦→ G K : wir zeigen 

G ist genau dann Kanten-2-färbbar wenn G K 

2-färbbar ist 

Für eine Zerlegung der Kantenmenge E = R + B gilt. 

R + B = E ist eine Kanten-2-Färbung von G 

⇔ wenn { {u, v}, {x, y} } einfarbig, dann {u, v} ∩ {x, y} = ∅ 

⇔ wenn { {u, v}, {x, y} } einfarbig, dann ist dies keine G K -Kante 

⇔ R + B = E ist eine 2-Färbung von G K 

Laufzeit: Die Adjazenzmatrizen A und A K der ungerichteten Graphen G 

bzw. G K sind symmetrisch, also durch die Einträge im oberen Dreieck 

bestimmt. Mit n := |V | ergibt sich in Laufzeit O(n 2 ) 

|V K | = |E| = ∑ 

i



Wir verwenden die Positionen 〈i, j〉 mit i < j < n der Einsen in A als 

Knoten der Kantenmatrix; diese seien lexikographisch geordnet. 

Die Kanten von G K entsprechen Paaren von Einsen in derselben Zeile 

oder Spalte im oberen Dreieck von A . Genauer, für i < j < l < n gilt: 

A i,j = A i,l = 1 impliziert 〈i, j〉〈i, l〉 in G K 

A i,l = A j,l = 1 impliziert 〈i, l〉〈j, l〉 in G K 

In jedem Fall sind drei geschachtelte Schleifen über i < n , über i < j < n 

und über i < j < l < n zu durchlaufen, was eine Laufzeit von O(n 3 ) 

liefert. Allerdings erfordert die Initialisierung der Matrix A K mit Nullen 

bereits O(n 4 ) Schritte. 



Satz 

Aus L ⊳ K ∈ P (NP) folgt L ∈ P (NP) , d.h., bzgl. ⊳ ist P ( NP ) ein 

unterer Abschnitt der Klasse E aller E-Probleme. 

Beweis. 

Wähle eine FP -Reduktion L ⊆ Σ ∗ Γ ∗ ⊇ K, die von einer dTM M f 

berechnet wird, und eine d/nTM M K mit L(M K ) = K . Diese Maschinen 

mögen polynomiale Zeitkomplexität p f bzw. p K haben. Die 

Hintereinanderschaltung M L von M f und M K erfüllt 

w ∈ L(M L ) gdw f (w) ∈ L(M K ) = K gdw w ∈ L 

Da das Schreiben der Ausgabe f (w) mindestens |f (w)| Schritte 

erfordert, ist die Laufzeit von M L auf Eingabe w durch p K (p f (|w|)) 

beschränkt, also hat M L ebenfalls polynomiale Zeitkomplexität. 

Die Zugehörigkeit zu P bzw. NP kann somit auch durch Reduktion auf 

andere P bzw. NP -Probleme nachgewiesen werden. 

f 



6.4.1 2-Sat ∈ P 

Um zu zeigen, daß 2-Sat zu P gehört, wollen wir es auf ein 

graphentheoretisches Problem reduzieren, das aufgrund früherer Ergebnisse 

zu P gehört. 

In klassischer Logik ist die Implikation α β zu ¬α ∨ β äquivalent. 

Das motiviert uns, 2-KNF Formeln ϕ in Implikationsgraphen G(ϕ) 

umzuformen, mit den Literalen der auftretendende Variablen als Knoten 

und je zwei gerichteten Kanten ¬α β und ¬β α pro Klausel 

(α ∨ β) , etwa 

x 

¬x 

ϕ = (x ∨ y) ∧ (¬x ∨ z) ∧ (¬z ∨ ¬y) ↦→ G(ϕ) : 

y 

¬y 

z ¬z 



Korrektheit: ϕ ist erfüllbar gdw für jede Variable x die Literale x und 

¬x in verschiedenen starken Komponenten von G(ϕ) liegen. 

( ⇒ ) Wenn eine Belegung der Variablen existiert, die jeder Klausel 

(α ∨ β) den Wert true zuordnet, muß insbesondere α oder β mit true 

belegt sein. Damit hat G(ϕ) keine Kante von einem mit true zu einem 

mit false belegten Literal. Da je zwei Knoten einer starken Komponente 

auf einem gerichteten Kreis liegen, können somit die verschieden belegten 

Literale x und ¬x nicht in derselben starken Komponente auftreten. 

( ⇐ ) Wähle eine topologische Sortierung ord des Graphen der starken 

Komponenten [α] von G(ϕ) , α Literal, und setze 

x = true gdw ord[¬x] < ord[x] 

Ist (α ∨ β) eine Klausel mit α = false , dann gilt wegen der Kanten 

¬β α und ¬α β in G(ϕ) 

und folglich β = true . 

ord[¬β] ≤ ord[α] < ord[¬α] ≤ ord[β] 



Auf welches Problem habe wir 2-Sat eigentlich reduziert? 

Definition 

SinvKomp hat als Eingabe einen gerichteten Graphen G = 〈V , E〉 und 

eine selbstinverse Abbildung V f V ohne Fixpunkte. 

Zu entscheiden ist, ob für jedes u ∈ V die Knoten u und f (u) in 

verschiedenen starken Komponenten von G liegen. 

Offenbar gehört SinvKomp zu P , da die Berechnung der starken 

Komponenten in polynomialer Zeitkomplexität erfolgen kann, wie auch die 

Überprüfung, ob a und f (a) zu derselben starken Komponente gehören. 

Es bleibt nachzuweisen, daß unsere Reduktion ϕ ↦→ G(ϕ) zu FP gehört. 

Als Maß m für die Größe der Eingabe ϕ bietet sich die Länge des Strings 

an, einschließlich Klammern bei Infix-Notation. Die Ermittlung der 

Variablen in ϕ und somit der Knoten von G(ϕ) erfordert lineare Zeit, 

ebenso wie das Eintragen der zwei Kanten pro Klausel. 



Beispiel 

Die obige Formel ϕ = (x ∨ y) ∧ (¬x ∨ z) ∧ (¬z ∨ ¬y) ist erfüllbar, da sich 

die positiven und negativen Varianten der Variablen x , y und z auf die 

beiden starken Komponenten des zugehörigen Graphen G(ϕ) verteilen. 

Die Belegung x = z = true und y = false und ihre Negation liefern 

beide den Wert true für ϕ . 

Andererseits ist ψ = (y ∨ x) ∧ (¬y ∨ z) ∧ (¬z ∨ x) ∧ (¬x ∨ ¬t) ∧ (t ∨ ¬x) 

nicht erfüllbar, da G(ψ) nur eine starke Komponente besitzt: 

x 

y 

z 

t 

¬x ¬y 

¬z 

¬t 


6. Komplexität von Algorithmen 6.5 Robustheit der Klassen P und N P 

6.5 Robustheit der Klassen P und N P 

Wir untersuchen die Robustheit der mittels Standard-TMn á la TU-BS 

definierten Klasse P unter Abschwächungen des TMn-Modells. Analog 

kann man auch für andere Algorithmenmodelle verfahren. Schließlich fallen 

auch noch die Abschlußeigenschaften von P in diese Rubrik. 

Zusätzlicher Speicher: Man integriert ein endliches Alphabet A von 

Speichersymbolen, indem man die Zustandsmenge Q durch Q × A 

ersetzt. Außerdem sind Elemente a 0 , a F ∈ A auszuzeichnen, um Anfangsund 

Endzustände definieren zu können. Die Zeitkomplexität bleibt 

unverändert. 

Erweitertes Bandalphabet: Wenn Σ + {#} echte Teilmenge von B ist, 

kann man zum Alphabet Σ ′ := B − {#} übergehen und einen 

Präprozessor vorschalten, der eine Eingabe w ∈ (Σ ′ ) ∗ per Zusatzspeicher 

darauf prüft, ob sie zu Σ ∗ gehört. Dieser Aufwand ist linear in |w| . 



Mehrspur-TM: Hier dient B k als Bandalphabet, mit Blanksymbol 

〈# : i < k〉 . Zu Beginn steht die Eingabe auf der ersten Spur. Die 

Identifikation des Alphabets Σ mit Σ × {〈# : i < n − 1〉} erlaubt uns 

nun, Mehrspur-Maschinen als Spezialfall von Maschinen mit erweitertem 

Bandalphabet aufzufassen, s.o. 

Mehrband-TM: Hierbei existieren k unabhängige Schreib-Leseköpfe. 

ObdA nehmen wir an, daß M pro Schritt immer nur auf einem Band 

arbeitet. Andernfalls verlängert die Sequentialisierung von M die 

Zeitkomplexität nur um einen Faktor k . 

Die Simulation kann durch eine TM mit 2k Spuren erfolgen: Spur 2i 

enthält den Inhalt von Band i , während Spur 2i + 1 nur die Kopfposition 

auf Band i verzeichnet. 

Satz 

Jede k -Band dTM M mit mindestens linearer Zeitkomplexität t kann 

durch eine Einband-TM M ′ mit Zeitkomplexität t 2 simuliert werden. 



Beweis. 

In den ungeraden Spuren wird zunächst unter dem letzten 

Eingabesymbol in Spur 0 eine Kopfmarkierung gesetzt, was konstante 

Zeit erfordert. 

Eine M -Aktion auf Band i kann durch M ′ auf den Spuren 2i und 

2 i + 1 simuliert werden, in derselben Zeit, die M benötigt. 

Um eine nachfolgende Aktion auf Band j zu simulieren, ist der Kopf 

von M ′ zur Kopf-Markierung auf Spur 2j + 1 zu verschieben. Dazu 

sind bei Eingabe w maximal t(|w|) Schritte nötig. 

Insgesamt wird die Schrittzahl also höchstens quadriert. 

Somit dürfen wir bei Komplexitätsargumenten auf die bequemeren 

Mehrband-Maschinen zurückgreifen. 

Für andere Algorithmenmodelle (RAM, reale Rechner, etc.) kann man den 

Zeitbedarf bei der Simulierung durch (Mehrband-)TMn ermitteln. Dieser 

stellt sich als polynomial heraus, daher bleibt P invariant. 



Satz 

P ist abgeschlossen unter binären Vereinigungen und Durchschnitten, 

Komplementbildung, Konkatenation und Kleene-Stern. 

Beweis. 

Für binäre Vereinigungen und Durchschnitte, sowie für Kleene-Stern vergl. 

HA. Für die Komplementbildung verwende die Konstruktion M ↦→ M ′ aus 

dem Nachweis der Nichtentscheidbarkeit von L acc 

. 

Konkatenation: Die dTM M i möge immer halten und L i ⊆ Σ ∗ i 

in 

polynomialer Zeit p i akzeptieren, i < 2 . Die Maschine M zerlegt die 

Eingabe w ∈ (Σ 0 ∪ Σ 1 ) ∗ systematisch in zwei Teile w 0 und w 1 mit 

w 0 w 1 = w und untersucht diese auf Zugehörigkeit zu L i , i < 2 . Sobald 

beide Tests positiv ausfallen, wird w akzeptiert. Die Anzahl der 

Zerlegungen ist durch |w| + 1 beschränkt, die Laufzeit der Tests auf 

max{p 0 (|w|), p 1 (|w|)} . 


6. Komplexität von Algorithmen 6.6 Einige Probleme aus NP 

6.6 Einige Probleme aus NP 

Beispiel ( Hamiltonscher Kreis ∈ NP ) 

Das E-Problem Hamiltonscher Kreis hat als Eingabe einen ungerichteten 

Graphen G = 〈V , E〉 mit n := |V | Knoten. 

Zu entscheiden ist, ob G einen Hamiltonschen Kreis besitzt, d.h., eine 

Permutation π der Knoten, so daß sie in dieser Reihenfolge durch Kanten 

zu einem Kreis verbunden werden können, formal 

{π(i), π(i + 1 mod n)} ∈ E für i < |V | 

Als Zertifikate eignen sich Permutationen von V . Die Überprüfung, ob die 

entsprechenden Kanten existieren, kann in linearer Zeit erfolgen. 



Beispiel ( TSP ∈ NP ) 

Das Travelling Salesman Problem in seiner Entscheidungsvariante TSP hat 

als Eingabe n Städte (geographische Orte) S i , i < n , eine 

(symmetrische) Matrix d von Entfernungen und eine Schranke K . 

Zu entscheiden ist, ob eine Rundreise existiert, die alle Städte genau 

einmal besucht (ein Hamilton’scher Kreis), so daß ihre Länge, die Summe 

der Entfernungen aufeinanerfolgender Städte, durch K nach oben 

beschränkt ist. 

Als potentielle Zertifikate eignen sich wieder Permutationen π von V . In 

linearer Zeit überprüft man die Gültigkeit von 

∑ 

d π(i),π(i+1 mod n) ≤ K 

i


Beispiel ( Sat ∈ NP ) 

Sat hat als Eingabe eine Boole’sche Formel ϕ(x 0 , . . . , x n−1 ) in KNF 

(ohne Beschränkungen in der Länge der Klauseln). Zu entscheiden ist, ob 

ϕ erfüllbar ist. 

Als Kandidaten für ein Zertifikat eignen sich Zufallsbelegungen der 

Variablen x 0 . . . x m−1 . Die Berechnung des Wahrheitswerts von ϕ kann 

wiederum in polynomialer Zeit erfolgen. 

Beispiel ( Zerlegbarkeit ∈ P , erst seit 2004 bekannt) 

Primes hat als Eingabe eine natürliche Zahl n . Zu entscheiden ist, ob 

n eine Primzahl ist. 

2004 zeigten Agrawal, Kayal und Saxena Primes ∈ P . Da P unter 

Komplementbildung abgeschlossen ist, gehört das Problem 

Zerlegbarkeit ebenfalls zu P , bei dem zu entscheiden ist, ob n 

zusammengesetzt ist. Eine Lösung liefert leider keine Hinweise auf 

Primfaktoren. 



Wie wir auf Seite 21 gesehen haben, kann jede immer haltende 1-Band 

nTM M durch eine immer haltende 3-Band dTM M ′ simuliert werden, 

indem “breadth first” alle M -Berechnungen bis zu einer vorgegebenen 

Tiefe nach akzeptierenden Haltekonfigurationen durchsucht werden. 

Corollar 

Jede nTM mit Zeitkomplexität t(n) kann durch eine dTM mit Zeitkomplexität 

O(2 c·t(n) ) , c ∈ R + geeignete Konstante, simuliert werden. 

Speziell ist L ∈ NP durch eine dTM mit Zeitkomplexität 2 p(n) , p 

Polynom, entscheidbar. 

Beweis 

Für |w| = n ist die Anzahl der Tupel auf B 2 durch ∑ i

6. Komplexität von Algorithmen 6.7 NP - Vollständigkeit und Cooke’scher Satz 

6.7 NP -Vollständigkeit und Cooke’scher Satz 

Definition 

Ein E-Problem L heißt 

NP -hart, falls L obere ⊳-Schranke von NP ist, d.h., für jedes 

NP -Problem K gilt K ⊳ L ; Bezeichnung NPH 

NP -vollständig, falls L ⊳-größtes Elemente von NP ist, d.h., 

L ∈ NP ist NP -hart; Bezeichnung NPV . 

Satz 

Existiert ein NP -vollständiges Problem L ∈ P , so folgt P = NP . 

Beweis. 

Nach Definition läßt sich jedes Problem K ∈ NP auf L reduzieren und 

folglich in polynomialer Zeit durch eine dTM lösen. 



Satz (Cook’scher Satz) 

Das E-Problem Sat der Erfüllbarkeit einer Boole’schen Formel in KNF ist 

NP -vollständig. 

Beweis 

Die Zugehörigkeit zu NP war bereits oben gezeigt worden. 

Für jede Sprache {0, 1} ∗ ⊇ L ∈ NP bleibt zu zeigen: L ⊳ Sat 

Idee: Ausgehend von einer nTM M , die L in polynomialer Zeit p 

akzeptiert, konstruiert man zu jedem w ∈ L eine Boole’sche Formel ϕ w 

in KNF, die eine akzeptierende Berechnung von w durch M beschreibt. 

Dann ist nachzuweisen: 

⊲ w ∈ L gdw. ϕ w erfüllbar (Korrektheit der Reduktion) 

⊲ ϕ w kann in Zeit O(p(|w|) 2 ) aus w konstruiert werden (damit 

gehört die Reduktion zu FP ). 




Vorbereitung: gegeben ist eine binäre 1-Band nTM M mit polynomialer 

Zeitkomplexität p und L(M) = L . 

⊲ Die Zustände sind vom Anfangszustand q 0 bis zum Endzustand 

(dieser hat keine Übergänge) durchnummeriert. 

q m−1 

⊲ B = {s 0 , s 1 , s 2 } mit s 0 = # , s 1 = 0 , s 2 = 1 , s 3 = L und s 4 = R . 

⊲ Das Band sei durch Z indexiert, mit 0 an der Position des Kopfes in 

der Initialkonfiguration mit Eingabe w . Es genügt, Zellen im Bereich 

−p(|w|) bis p(|w|) zu betrachten. 

⊲ Es gibt d Übergänge 〈q i(y) , s j(y) 〉 ↦→ 〈q i ′ (y), s j ′ (y)〉 , y < d , mit 

d 

i, i ′ n , d 

j 

3 und d 

j ′ 5 (Indexfunktionen) 

Die Formel ϕ w soll eine akzeptierende Berechnung von M auf Eingabe 

w beschreiben. Dabei ist zu maximal p(|w|) Zeitpunkten der Inhalt von 

2p(|w|) Bandzellen zu spezifizieren, weiterhin Zustand und Kopfposition 

der Maschine und, bis auf den letzten Zeitpunkt, der aktuelle Übergang. 




Dafür dienen entsprechende Variable: 

Name Interpretation: zur Zeit t Anzahl 

qi t ist M in Zustand q i i < m, t < p(|w|) 

kr t ließt M Bandzelle r −p(|w|) < r < p(|w|), t < p(|w|) 

l t r , nr t , er t , steht #, 0, 1 in Bandzelle r −p(|w|) < r < p(|w|), t < p(|w|) 

uy t wird Übergang y ausgeführt y < d, t < p(|w|) − 1 

ϕ w 

wird Konjunktion der Beschreibung folgender vier Teile sein: 

der Initialkonfiguration; 

der Akzeptanzbedingung für w ; 

der Konsistenzbedingungen (KBD’n) für M : zu jedem Zeitpunkt t 

− ist M in höchstens einem Zustand; 

− steht in jedem Feld genau ein Symbol; 

− steht der Kopf auf genau einer Position; 

− findet höchstens ein Übergang statt. 

des Übergangseffekts auf Zustand, Kopfposition und Bandinhalt. 




Initialkonfiguration: Initialzustand bzw. -kopfposition sind bestimmt 

durch q0 

0 und k0 0 , während der Bandinhalt w = s 0 . . . s n−1 ∈ {0, 1} ∗ 

mittels geeigneter Variablen nr 0 bzw. er 0 mit −n < r ≤ 0 spezifiziert 

wird. Dazu kommt die Angabe, daß die übrigen relevanten Felder leer sind: 

⎛ 

⎞ ⎛ ⎞ 

∧ 

⎝ 

⎠ ∧ ⎝ 

∧ ⎠ 

l 0 r 

l 0 r 

−p(n)



KBD Zustände: Für t < p(n) ist M in höchstens einem Zustand: 

q t i ⇒ ¬q t j bzw. ¬q t i ∨ ¬q t j für alle i < j < m 

(m(m − 1)/2 Klauseln) 

KBD Feldinhalt: Für t < p(n) und −p(n) < r < p(n) gilt 

(l t r ∨ n t r ∨ e t r ) ∧ (¬l t r ∨ ¬n t r ) ∧ (¬n t r ∨ ¬e t r ) ∧ (¬e t r ∨ ¬l t r ) 

Diese 4 · p(n)(2p(n) − 1) ∈ O((p(n)) 2 ) Klauseln besagen, daß jedes 

relevante Feld genau ein Symbol enthält. 

KBD Kopfposition: Für t < p(n) drücken 1 + (2p(n) − 1)(p(n) − 1) 

Klauseln aus, daß der Kopf in genau einer Position steht: 

⎛ 

⎝ 

⎞ 

∨ 

⎠ ∧ 

∧ ( 

¬k 

t 

r ∨ ¬kr t ) 

′ 

−p(n)



KBD Übergänge: Für t < p(n) drücken d(d − 1)/2 Klauseln aus, daß 

höchstens ein Übergang stattfindet: 

¬u t y ∨ ¬u t z für y < z < d 

Beschreibung der Übergangseffekte: Für jeden der d Übergänge 

〈q i(y) , s j(y) 〉 ↦→ 〈q i ′ (y), s j ′ (y)〉 drücken p(n) − 1 Teilformeln(!) die 

Zustandsänderung für t < p(n) − 1 aus: 

( 

) 

uy t ⇒ qi(y) t ∧ qt+1 i ′ (y) 

Gemäß der Definition der Implikation liefern die Distributivgesetze nun 

insgesamt 2 (p(n) − 1) d äquivalente Klauseln: 

( ) ( ) 

¬uy t ∨ qi(y) 

t ∧ ¬uy t ∨ q t+1 

i ′ (y) 

für t < p(n) − 1 und y < d 




Falls s j(y) = 0 und s j ′ (y) = L , beschreiben weitere 2(p(n) − 1) 2 

Teilformeln Kopfbewegung und den ursprünglichen Feldinhalt: 

( 

u 

t 

y ∧ kr t ) ( 

⇒ k 

t+1 

r−1 ∧ ) 

nt r für t < p(n) − 1 , − p(n) + 1 < r < p(n) 

Nach Definition der Implikation liefern die de Morganschen Regeln und die 

Distributivgesetze nun 4(p(n) − 1) 2 äquivalente Klauseln: 

¬ ( uy t ∧ kr 

t ) ( 

∨ k 

t+1 

r−1 ∧ ) ( nt r ⇔ ¬u 

t 

Y ∨ ¬kr 

t ) ( 

∨ k 

t+1 

∧ ) 

nt r 

⇔ ( ¬uY t ∨ ¬kt r ∨ kr−1) t+1 ( 

∧ ¬u 

t 

Y ∨ ¬kr t ∨ nr 

t ) 

Schließlich bleibt wegen s j ′ (y) = L der Bandinhalt unverändert: 

( 

u 

t 

y ∧ xr t ) 

⇒ x 

t+1 

r bzw. ¬uy t ∨ ¬xr t ∨ xr 

t+1 

für t < p(n) − 1 , −p(n) + 1 < r < p(n) und x ∈ {l, n, e} , was weitere 

6(p(n) − 1) 2 Klauseln liefert. 




Falls s j(y) ∈ {#, 1} bzw. s j ′ (y) = R kann man analog verfahren, während 

für Aktionen der Form s j ′ (y) ∈ {#, 0, 1} insbesondere die Klauseln für den 

Bandinhalt zur Zeit t + 1 anzupassen sind (HA). 

Schließlich bleibt auszudrücken, daß Zustände außer q0 

0 tatsächlich nur 

aufgrund von Übergängen entstehen. Leider ist es nicht möglich, für 

t < p(n) − 1 folgende Klausel zu verwenden (warum?) 

∨ 

y



Laufzeit: ϕ w entsteht durch Konjunktion aller Klauseln. Die resultierende 

Formel in KNF hat eine Länge, die quadratisch in p(n) , und damit 

polynomial in n = |w| ist. 

Korrektheit: Nach Konstruktion existiert eine Variablenbelegung, die ϕ w 

den Wert true zuordnet, wenn M bei Eingabe w eine akzeptierende 

Berechnung durchführen kann. 

Umgekehrt ist im Fall der Erfüllbarkeit von ϕ w die Akzeptanzbedingung 

erfüllt, d.h., es gibt eine Zeit T < p(n) mit qm−1 T = true . Sofern 

T > 0 , existiert mindestens ein Übergang, der den Endzustand q m−1 

produziert. Zum Zeitpunkt T − 1 wird aber nur genau ein Zustand qu 

T −1 

angenommen und es findet genau ein Übergang uy 

T −1 statt. Auf diese 

Weise kann man rückwärts den Zustand q0 

0 erreichen. 

Die Initialkonfiguration und die Konsistenzbedingungen garantieren dann, 

daß wirklich eine Berechnung der Maschine M vorliegt. 



Satz (Ladner 1975) 

Falls P ≠ NP , dann wird NP nicht von P und NPV ausgeschöpft, 

d.h., es gibt dann E-Probleme, die weder NP -vollständig sind, noch zu 

P gehören. 

Beispiel 

Ein Kandidat für ein derartiges Problem ist Graph-Isomorphismus: die 

Eingabe besteht aus zwei Graphen G i = 〈V i , E i 〉 , i < 2 . Zu 

entscheiden ist, ob es eine Bijektion V 0 

f 

V 1 gibt mit 〈u, v〉 ∈ E 0 

gdw. 〈f (u), f (v)〉 ∈ E 1 . 

Bemerkung 

Im Gegensatz dazu ist das Problem Subgraph-Isomorphismus 

NP -vollständig: für eine Eingabe aus zwei Graphen G i = 〈V i , E i 〉 , 

f 

i < 2 , ist zu entscheiden, ob es eine Injektion V 0 V 1 gibt mit 

〈u, v〉 ∈ E 0 gdw. 〈f (u), f (v)〉 ∈ E 1 . 


6. Komplexität von Algorithmen 6.8 Weitere NP - vollständige Probleme 

6.8 Weitere NP -vollständige Probleme 

Beispiel ( 3-Sat ist NP -vollständig) 

3-Sat gehört aus demselben Grund wie Sat zu NP , vergl. S. 148. 

Idee für eine Reduktion Sat ⊳ 3-Sat : Wir formen eine Klausel 

ϕ := (α 0 ∨ α 1 ∨ · · · ∨ α k−1 ) der Länge k > 3 iterativ um zu 

(α 0 ∨ α 1 ∨ b 0 ) ∧ (¬b 0 ∨ α 2 ∨ · · · ∨ α k−1 ) 

(α 0 ∨ α 1 ∨ b 0 ) ∧ (¬b 0 ∨ α 2 ∨ b 1 ) ∧ (¬b 1 ∨ α 3 ∨ · · · ∨ α k−1 ) 

. . . 

bis eine Konjunktion von k − 2 Klauseln der Länge 3 erreicht ist. Dafür 

sind k − 3 neue Variablen nötig, also ist die Laufzeit pro Klausel linear. 

Korrektheit: Die Existenz eines j < k mit α j = true ist äquivalent zu 

b 0 = true und es existiert 2 ≤ j < k mit α j = true, oder 

b 0 = false und es existiert j < 2 mit α j = true 



Beispiel ( 3-Färbbarkeit ist NP -vollständig) 

Auf S. 124 haben 3-Färbbarkeit ∈ NP gezeigt. 

Um 3-Sat auf 3-Färbbarkeit zu reduzieren, betrachten wir 

H : 

d 

• 

• 

a 

x 

• 

• 

b 

c 

Behauptung 0: Sind a , b und c in H rot, dann auch d . 

Beweis: Wenn b und c rot sind müssen die Farben blau und gelb bei den 

links danebenliegenden Knoten auftreten, folglich ist x rot. Dasselbe 

Argument für a und x liefert, daß d rot sein muß. 

Behauptung 1: Ist einer der Knoten a , b oder c blau, kann auch d 

blau gefärbt werden. 

Beweis: Klar, wenn a , b und c blau sind. 




Ist a blau und x rot, können wir die links danebenliegenden Knoten rot 

bzw. gelb und dann d blau färben. Ist b oder c blau, kann x blau 

gefärbt werden, und ebenso d , unabhängig von der Farbe von a . 

Reduktion: Einer Formel ϕ in KNF ordnen wir einen Graphen G ϕ zu, 

der aus drei Typen von Teilgraphen besteht: Dreiecken 

R 

G 

B 

und 

x ¬x 

und für jede Klausel (α ∨ β ∨ γ) eine Kopie von H 

G 

für jede Variable x in ϕ 

B 

• 

• 

α 

x 

• 

• 

β 

γ 

mit Knoten α , β bzw. γ in den obigen Literal-Dreiecken. 




So ist etwa die Klausel (x ∨ ¬y ∨ ¬z) für den folgenden Teilgraphen 

verantwortlich: 

z ¬z 

y ¬y 

x ¬x 

R 

G 

B 

• 

• 

• 

• 

• 

Jede weitere 3-Klausel liefert eine weitere Kopie des Hilfsgraphen H , die 

bei B anzuheften ist, und ggf. weitere bei G anzuheftende Dreiecke für 

neue Variablen. 




Korrektheit: Ist ϕ erfüllbar, so färben wir die Knoten R , G und B mit 

den Farben rot, gelb bzw. blau. Im Dreieck für die Variable x ist dann das 

wahre Literal blau und das falsche rot zu färben. Wegen der Erfüllbarkeit 

von ϕ ist in jeder Kopie von H ein Knoten α , β oder γ blau gefärbt, 

was mit der Färbung von B konsistent ist. 

Ist G ϕ 3-färbbar, dann seien oBdA die Knoten R , G und B rot, gelb 

und blau gefärbt. Kein Variablen-Knoten kann dann gelb gefärbt sein, und 

nach der ersten Behauptung können in keiner Kopie von H die Knoten 

α , β und γ rot gefärbt sein. Also ist einer dieser Knoten blau, was nach 

der zweiten Behauptung zur blau-Färbung von B konsistent ist, und 

damit ist die Klausel wahr. 

Laufzeit: Die Anzahl der Variablen-Dreiecke und der Kopien von H 

beträgt jeweils O(|ϕ|) . 



Satz 

k -Färbbarkeit ist NP -vollständig für jedes k > 2 . 

Beweis. 

Das Beispiel zeigt die NP -Vollständigkeit von 3-Färbbarkeit. 

Zwecks Reduktion k -Färbbarkeit ⊳ (k + 1)-Färbbarkeit fügen wir 

einen neuen Knoten zu G hinzu, den wir in linearer Zeit mit allen alten 

Knoten verbinden. Der neue Graph G ′ ist genau dann (k + 1)-färbbar, 

wenn G k -färbbar ist. 

Definition 

Ein Graph heißt planar, wenn er ohne Kantenüberschneidungen in der 

Ebene gezeichnet werden kann. 

Planare k -Färbbarkeit ist trivial für k > 3 Appel, Haken 1976 ; 

NP -vollständig für k = 3 ; 

in P für k < 3 . 



Beispiel (Hamilton’scher Kreis (HC) ist NP -vollständig) 

Eingabe: ungerichteter Graph G = 〈V , E〉 . Zu entscheiden ist, ob ein 

Rundweg (Kreis) existiert, der alle Knoten genau einmal besucht. 

Aufgabe 5.6 zeigt einen expliziten Beweis basierend auf [Christos H. 

Papadimitriou. Computational Complexity. Addison-Wesley, 1994]. 

Beispiel (TSP ist NP -vollständig) 

TSP ∈ NP : vergl. Seite 147. 

HC ⊳ TSP : ordne einem ungerichteten Graphen G = 〈V , E〉 die 

Konstante K := |V | zu und die {1, 2}-wertige Kostenmatrix mit 

d i,j = 1 gdw {i, j} ∈ E 

Korrektheit: Klar, da ein Hamilton’scher Kreis in einem Graphen mit n 

Knoten die Länge n haben muß. 

Die Laufzeit ist im Falle von Adjazenzmatrizen quadratisch in n , da 

einzig die Nullen der Adjazenzmatrix durch Zweien zu ersetzen sind. 


6. Komplexität von Algorithmen 6.9 Die Klasse coNP 

6.9 Die Klasse coNP 

Der Abschluß von P unter Komplementbildung sollte “von rechts wegen” 

bewiesen werden, indem man die Endzustandsmenge einer dTM, die 

immer hält, durch ihr Komplement ersetzt (wie im Fall regulärer 

Sprachen). Die technische Konvention eines einzigen Endzustands q F 

erfordert den Umweg, einen neuen Endzustand q G einzuführen, und 

Übergänge 〈p, s〉 ↦→ 〈q G , a〉 , sofern q ≠ q F und keine Übergänge aus 

〈p, s〉 existieren. Die Zeitkomplexität wird davon nicht tangiert. 

Wendet man dasselbe Verfahren auf eine nTM M an, die immer hält, so 

braucht die Sprache L( ¯M) nicht mit dem Komplement Σ ∗ − L 

übereinzustimmen: sobald für w ∈ L(M) auch eine nicht-akzeptierende 

Berechnung existiert, gehört w auch zu L( ¯M) . 

Tatsächlich ist die Frage, ob NP mit coNP übereinstimmt, bisher 

offen. Im negativen Fall würde P ≠ NP folgen. Auf jeden Fall gilt aber 

P ⊆ coNP . 



Beispiel (Gültigkeit ist coNP -vollständig) 

Eingabe: Boole’sche Formel ϕ in KNF. Zu entscheiden ist, ob jede 

Belegung der Variablen ϕ den Wert true zuordnet. 

Als Alphabet für Boole’sche Formeln diene Σ = {x, 0, 1, ∧, ∨, ¬, (, )} . Die 

Variablen sollen die Form xw haben, w eine Binärzahl. Somit können wir 

die Menge der Formeln in KNF als (reguläre!) Sprache Knf über Σ 

auffassen, die die Menge Gültigkeit der gültigen Formeln enthält. 

Das Komplement Gültigkeit ist die Vereinigung aus 

⊲ 

⊲ 

Σ ∗ − Knf , was regulär ist und folglich zu P ⊆ NP gehört; und 

Knf − Gültigkeit = { ϕ ∈ Knf : ¬ϕ erfüllbar } ; mit Belegungen 

der Variablen, die für ϕ den Wert false liefern, als Zertifikaten folgt 

auch hier die Zugehörigkeit zu NP . 

Da NP unter binären Vereinigungen abgeschlossen ist, folgt 

Gültigkeit ∈ NP , und somit Gültigkeit ∈ coNP . 




Der Nachweis der coNP -Vollständigkeit erfordert zu zeigen, daß jedes 

coNP -Problem auf Gültigkeit FP -reduziert werden kann. Aber aus 

L ∈ coNP folgt ¯L ⊳ Sat , etwa vermöge einer FP -Reduktion g . Für die 

Selbst-Abbildung w ↦→ ¬g(w) auf Σ ∗ gilt zweifellos 

w ∈ L gdw w /∈ L gdw g(w) nicht erfüllbar gdw ¬g(w) gültig 

Leider ist dies noch keine FP -Reduktion von L auf Gültigkeit , da 

¬g(w) als Negation einer KNF-Formel i.A. nicht in KNF vorliegt; das 

Hineinziehen der Negation zu den Literalen liefert sogar eine Formel in 

DNF, deren äquivalente Umwandlung in KNF zu exponentiellem 

Längenwachstum führen kann. 

Mit Hilfe neuer Variablen läßt sich ¬g(w) aber in eine gleicherfüllbare 

Formel ψ(w) in KNF umwandeln, die gegenüber ¬g(w) nur linear 

wächst (vergl. HA 5.5(d)). Damit liefert w ↦→ ψ(w) die gewünschte 

FP -Reduktion L ⊲ Gültigkeit . 



Der nächste Satz folgt aus der entsprechenden Aussage in NP : 

Satz 

Aus L ⊳ K ∈ coNP folgt L ∈ coNP , d.h., bzgl. ⊳ ist coNP ein 

unterer Abschnitt der Klasse E aller E-Probleme. 

Offenes Problem 

Stimmt der Durchschnitt von NP und coNP mit P überein? 

Satz 

NP = coNP genau dann wenn es ein coNP -vollständiges Problem in 

NP gibt. 

Beweis. 

( ⇐ ) Aus coNPV ∩ NP ≠ ∅ folgt coNP ⊆ NP , da NP ein unterer 

Abschnitt ist. Also gilt auch NP = cocoNP ⊆ coNP . 

( ⇒ ) Das coNP -vollständige Problem Gültigkeit gehört zu NP . 


6. Komplexität von Algorithmen 6.10 Komplexität von Optimierungsproblemen 

6.10 Komplexität von Optimierungsproblemen 

Das TSP in seiner E-Variante wirkt etwas künstlich: die Schranke K hat 

intrinsisch wenig mit dem Problem zu tun. Gesucht ist eigentlich die 

“beste” Reiseroute. Ähnlich verhält es sich mit der Färbbarkeit von 

Graphen: hier ist eigentlich die minimale Farbenzahl von Interesse, mit der 

ein Graph gefärbt werden kann. An diese kann man sich “herantasten”, a 

indem man die Schranke k im zugehörigen E-Problem sukzessive 

verringert. 

Das deutet an, daß es neben den Klassen der Entscheidungs- oder 

E-Probleme und der Berechnungs- oder B-Probleme eine weitere Klasse 

interessanter und wichtiger Probleme von praktischer Relevanz gibt: die 

Optimierungs- oder O-Probleme. 



Die Probleme MaximalesMatching und MaxFlow 

Definition 

Ein gerichteter Graph G = 〈V , E〉 heißt bipartite, wenn eine Zerlegung 

V = V 0 + V 1 existiert, so daß alle Kanten nur von Knoten in V 0 zu 

Knoten in V 1 verlaufen, formal E ⊆ V 0 × V 1 + V 1 × V 0 . 

Unter einem Matching versteht man dann eine Menge paarweise disjunkter 

Kanten, d.h., je zwei Kanten haben keinen gemeinsamen Endpunkt. 

Bzgl. der Kantenzahl maximale Matchings kann man finden, indem man 

gegebene Matchings solange mittels sog. “erweiternder Wege”in größere 

Matchings umwandelt, wie möglich. Dann ist zu beweisen, daß alle derart 

konstruierbaren Matchings dieselbe Kantenzahl haben. 

Stattdessen werden wir MaximalesMatching auf ein allgemeineres 

Problem reduzieren. 



Definition 

Einem Netzwerk ist ein gerichteter Graph G = 〈V , E〉 zusammen mit 

zwei ausgezeichneten Knoten s, t ∈ V (für “Source” und “Target”) 

ohne ein- bzw. ausgehende Kanten; 

einer Kapazitätsfunktion V × V c N, die der Bedingung 

〈u, v〉 /∈ E gdw c〈u, v〉 = 0 genügt. 

Ein Fluß durch das Netzwerk ist eine Abbildung V × V f Z mit 

0 ≤ f 〈u, v〉 ≤ c〈u, v〉 für 〈u, v〉 ∈ E ; 

f 〈u, v〉 = −f 〈v, u〉 für alle u, v ∈ V ; 

∑ 

u∈V 

f 〈u, v〉 = 0 für alle Knoten v ∈ V − {s, t} . 

Schließlich ist die Größe des Flusses f gegeben durch 

‖f ‖ := 

∑ 

f 〈s, v〉 = 

∑ 

f 〈v, t〉 

〈s,v〉∈E 

〈v,t〉∈E 



Ford-Fulkerson Algorithmus (1956), informell 

Um einem Fluß f in einem Netzwerk auf Maximalität zu prüfen versuchen 

wir, einen größeren Fluß f ′ zu finden. Dann hat auch der Differenzfluß 

∆f = f ′ − f positive Größe, kann allerdings für gewisse Kanten 

〈u, v〉 ∈ E negative Werte annehmen. Diese sind als positive Werte 

entlang der umgekehrten Kante 〈v, u〉 zu interpretieren, d.h., ∆f lebt 

auf einem hinsichtlich f modifizierten Netzwerk: 

Definition 

Zu einem Netzwerk 〈〈V , E〉, s, t, c〉 und einem Fluß f ist das abgeleitete 

Netzwerk N(f ) = 〈〈V , E ′ 〉, s, t, c ′ 〉 bestimmt durch 

〈u, v〉 ∈ E ′ gdw c ′ 〈u, v〉 := c〈u, v〉 − f 〈u, v〉 > 0 

Offenbar ist f genau dann maximal, wenn kein positiver Fluß auf N(f ) 

existiert, d.h., wenn t von s aus in 〈V , E ′ 〉 nicht erreichbar ist. 



Algorithmus für maximalen Fluß 

Beispiel 

(Initialisierung:) f 0 sei der Null-Fluß. 

(Rekursion:) Falls t von s in N(f n ) erreichbar ist, 

− wähle einen Pfad P von s nach t in N(f n ) ; 

− bestimme die minimale Kapazität k entlang der P -Kanten; 

− Hinzufügen aller P -Kanten mit dem Wert k zu f n liefert f n+1 . 

12 12 

12 19 

v 0 v 1 

16 

4 

20 

81 

12 

12 

v 0 v 1 

12 19 

N(f 01 23 ) : s 

117 

10 4 7 

t 

9 

4 

v 2 v 3 

13 

62 4 

14 

73 

11 7 

f 01 23 : s 

117 

t 

4 

v 2 v 3 

In N(f 3 ) ist t von s aus nicht mehr erreichbar, also ist f 3 maximal. 

11 7 

7 



Die maximale Größe eines Flusses ist natürlich durch das Minimum der 

Kapazitätssummen der Kanten aus s bzw. nach t beschränkt. Daher 

terminiert der obige Algorithmus nach endlich vielen Schritten, da der Fluß 

pro Schritt um mindestens 1 größer wird. (Für R-wertige Kapazitäten 

und Flüsse gilt dieses Argument nicht mehr!) 

Da obiges Argument bzgl. des Differenzflusses für jeden Fluß f und jeden 

Fluß F maximaler Größe anwendbar ist, folgt sofort, daß der Algorithmus 

unabhängig von der Wahl der Verbindungspfade immer ein globales 

Maximum liefert, nicht nur ein lokales. 



Beispiel ( MaximalesMatching ⊳ MaxFlow ) 

Einem bipartiten Graph G = 〈V 0 + V 1 , E ⊆ V 0 × V 1 〉 ordnen wir als 

Netzwerk N(G) den Graphen 

〈V 0 + V 1 + {s, t}, {s} × V 0 + E + V 1 × {t}〉 

zusammen mit den neuen Knoten s und t und der auf der neuen 

Kantenmenge konstant 1-wertigen Kapazitätsfunktion zu. 

Laufzeit: Zwei neue Knoten lassen den Graphen linear wachsen; die 

Adjazenzmatrix codiert die Kapazitätsfunktion. 

Korrektheit: Ein Matching M für G läßt sich durch Verbinden der 

beteiligten Knoten mit s bzw. t zu einem Fluß m auf N(G) ergänzen; 

die paarweise Disjunktheit der Kanten des Matchings ist äquivalent zur 

Gleichgewichtsbedingung des Flusses. Die Anzahl der Kanten in M 

stimmt mit der Größe des Flusses überein, also bewirkt eine Vergrößerung 

des Matchings eine Vergrößerung des Flusses und umgekehrt. 




N(f 01 23 4 ) : f 01 23 4 : 

Wir stellen fest: 

Im Spezialfall uniformer Kantenkapazität entsteht das abgeleitete 

Netzwerk durch Umkehrung der Kanten, die den gewählten Pfad von 

s nach t ausmachen. 

Auch die Wahl eines absurd langen Pfades, etwa in N(f 1 ) oben, 

vergrößert das bisherige Matching nur um eine Kante (warum?). 

Kürzere Pfade haben denselben Effekt und sind daher vorzuziehen. In 

N(f 3 ) ist dagegen kein kürzerer Pfad möglich. 



Formalisierung von Optimierungsproblemen 

Definition 

Ein Optimierungsproblem 〈Σ, E, A, L, c〉 besteht aus 

einem Alphabet Σ , codiert Probleminstanzen und Lösungen; 

Sprachen E, A ⊆ Σ ∗ 

der Probleminstanzen bzw. Lösungen; 

einer Lösungsrelation L ⊆ E × A , die Probleminstanzen mit 

zulässigen Lösungen verbindet; 

einer Kostenfunktion L c N. 

Eine TM M löst das Mini/Maximierungsproblem 〈Σ, E, A, L, c〉 , falls M 

bei Eingabe von v ∈ E mit Ausgabe w ∈ A hält und gilt 

⊲ v L w ; 

⊲ c〈v, w〉 ≤ ≥ c〈v, w ′ 〉 für alle w ′ ∈ A mit v L w ′ . 



Da die Kostenfunktion N-wertig ist, hat jede lösbare Instanz eines 

Minimierungsproblems auch eine minimale Lösung, während bei 

Maximierungsproblemen keine maximale Lösung zu existieren braucht. 

Definition 

PO ist die Klasse der Optimierungsprobleme P = 〈Σ, E, A, L, c〉 mit 

E, A ∈ P ; 

Es gibt ein Polynom p , so daß aus 〈v, w〉 ∈ L folgt |w| ≤ p(|v|) 

(die Lösungen sind “kurz”); 

die charakteristische Funktion χ L und c gehören zu FP ; 

Definition 

P wird von einer dTM mit polynomialer Zeitkomplexität gelöst. 

Das dem Mini/Maximierungsproblem P = 〈Σ, E, A, L, c〉 zugrunde 

liegende E-Problem P dec 

hat neben v ∈ E eine Zahl k ∈ N als Eingabe. 

Zu entscheiden ist, ob w ∈ A existiert mit 〈v, w〉 ∈ L und c〈v, w〉 ≤ ≥ k . 



Bemerkung 

P ∈ PO impliziert natürlich P dec 

∈ P . Sofern P ≠ NP , folgt aus der 

NP -Vollständigkeit von P dec 

dann auch P /∈ PO . 

Beispiel ( MaxMatching ∈ PO ) 

Codierung einer Probleminstanz: Knotenzahl n , Adjazenzmatrix A und 

binäres Partitionierungs-n-Tupel β , bzgl. dessen Bipartizität vorliegt. 

Codierung von potentiellen Lösungen durch (n × n)-Matrizen M . 

Syntaxcheck Probleminstanz: A hat nur Einsen in Positionen, deren 

Koordinaten verschiedene β -Werte haben (der Graph ist bipartite). 

Syntaxcheck potentielle Lösung: pro Zeile und Spalte tritt höchstens 

eine Eins auf (das Matching besteht aus disjunkten Kanten). 

A L M gdw M ≤ A komponentenweise (Teilgraph). 

c(M) ist die Hälfte der Anzahl der Einsen in M (Symmetrie). 




Der Lösungsalgorithmus verwendet Erreichbarkeit ∈ P bzgl. s 

und t im abgeleiteten Netzwerk; letzteres entsteht durch Umkehrung 

gewisser Kanten, was in polynomialer Zeit machbar ist. 

Terminologie 

Optimierungsproblemen tragen Namen mit Präfix Min oder Max. 

Beispiel ( MinFärbb /∈ PO ) 

Eingabe: ungerichteter Graph; zu bestimmen ist die Minimalzahl an 

Farben für eine Knotenfärbung. Das zugehörige E-Problem MinFärbb dec 

umfaßt 3-Färbbarkeit, was bekanntlich NP -vollständig ist. 

Beispiel ( MinTSP /∈ PO ) 

Hier stimmt MinTSP dec 

mit dem NP -vollständigen E-Problem TSP 

überein, vergl. S. 144. 


6. Komplexität von Algorithmen 6.11 Approximation von Optimierungsproblemen 

6.11 Approximation von Optimierungsproblemen 

Gegeben: ein Optimierungsproblem P mit P dec 

NP -vollständig 

Ziel: optimale Lösung effizient approximieren, mittels einer dTM mit 

polynomialer Zeitkomplexität 

Wir unterscheiden verschiedene Ansätze: 

Heuristik: ein Algorithmus, der erfahrungsgemäß “gute” Lösungen 

konstruiert, aber ohne harte Schranken für die Approximationsgüte. 

Approximationsalgorithmus: dieser liefert harte Schranke für die Güte 

der Approximation. 

PTAS: parametrisierter Algorithmus, der beliebig gute 

Approximationen erlaubt, auf Kosten der Laufzeit. 

volles PTAS: zusätzlich hängt die Laufzeit polynomial von der 

Approximationsgüte ab. 

Wir beschränken uns auf die ersten beiden Punkte. 



Algorithmus für MinKÜ 

Gegeben: ungerichteter Graph G = 〈V , E〉 ; 

Gesucht: minimale Knotenmenge D ⊆ V , die jede Kante e ∈ E 

nichtleer schneidet (Knotenüberdeckung). 

Gemäß einer Übungsaufgabe ist MinKÜ dec 

= KÜ NP -vollständig. 

1: D := ∅ ; {bisherige Überdeckung} 

2: while der aktuelle Graph eine Kante e hat do 

3: D := D ∪ e ; {Überdeckung um Endpunkte von e vergrößern.} 

4: G := 〈V − e, E ′ 〉 ; {Diese Knoten aus G entfernen, durch 

Löschen zweier Zeilen und Spalten der Adjazenzmatrix} 

5: end while 

Korrektheit: Jede aus E entfernte Kante schneidet D nichtleer, und alle 

Kanten werden aus E entfernt. 

Laufzeit: O(|E|) , denn jede Kante wird einmal besucht und entfernt. 



Güte der Approximation 

Satz 

Die minimale Größe opt(G) einer Knotenüberdeckung und die Größe 

c(G) der vom Algorithmus gelieferten Lösung erfüllen c(G) ≤ 2opt(G) . 

Beweis. 

D entsteht durch Vereinigung paarweise disjunkter Kanten. Jede andere 

Knotenüberdeckung D ′ , speziell eine optimale, muß einen Endpunkt jeder 

dieser Kanten enthalten, also mindestens |D|/2 viele Knoten. 

Definition 

Für ε > 0 heißt ein deterministischer Algorithmus für P mit polynomialer 

Laufzeit ε-approximierend für P = 〈Σ, E, A, L, c〉 , falls 

|c〈v, w〉 − opt(v)| 

|opt(v)| 

≤ ε wobei opt(v) := opt{ c〈v, w〉 : 〈v, w〉 ∈ L } 



Beispiel 

Der obige Algorithmus für MinKÜ ist 1-approximierend, denn 

c(G) ≤ 2opt(G) impliziert c(G) − opt(G) ≤ opt(G) . 

Für ε < 1 ist der Algorithmus nicht ε-approximierend: G : • • liefert 

c(G) = 2 aber opt(G) = 1 . 

Beispiel ( SiT(k) ) 

Das O-Problem Scheduling of Independent Tasks(k) hat ein 

n-Tupel t ∈ N n als Eingabe, zu interpretieren als Bearbeitungszeiten von 

n voneinander unabhängigen Aufgaben (Tasks). Für diese stehen k 

gleichmächtige Prozessoren zur Verfügung. Gesucht ist eine Abbildung 

S(t) 

n k (Arbeitsplan oder Schedule), die die Gesamtlaufzeit T (t) 

minimiert: 

∑ 

T (t) = max{ t i : j < k } 

i∈S(t) −1 {j} 



Ein typischer Laufzeitplan hat etwa die Form 

5 

4 

Prozessor 

3 

2 

1 

0 

0 20 40 60 

Zeit 

Verschieben der letzten Aufgabe von Prozessor 4 nach Prozessor 1 

verbessert in diesem Fall die Gesamtlaufzeit. 



Idee für einen SiT(k)-Algorithmus: die Aufgaben gemäß Zeitbedarf 

absteigend sortieren, in dieser Reihenfolge so verteilen, daß Prozessoren 

mit der bisher geringsten Belastung bevorzugt werden. 

Algorithmus für SiT(k) 

Gegeben: t ∈ N n ; 

Gesucht: Schedule n 

S(t) 

k, der die Gesamtlaufzeit minimiert. 

1: t absteigend sortieren; 

2: for m < k do 

3: T m = 0 ; 

4: end for 

5: for i < n do 

6: wähle j < k mit T j = min m


Korrektheit: Die zweite FOR-Schleife sorgt dafür, daß jedem Task ein 

Prozessor zugeordnet wird. 

Laufzeit: Wegen der Konstanz von k haben die erste FOR-Schleife und 

der Körper der zweiten FOR-Schleife konstante Laufzeit. Also benötigt 

die zweite Schleife lineare Laufzeit. Die Sortierung erfordert O(n log n) . 

Beispiel 

〈1, 3, 5, 3, 10, 7〉 liefert umsortiert 〈t 0 , t 1 , t 2 , t 3 , t 4 , t 5 〉 = 〈10, 7, 5, 3, 3, 1〉 , 

was bei k = 3 Maschinen zu folgenden Zuordnungen und Laufzeiten führt: 

S(t) −1 {0} = {0} , S(t) −1 {1} = {1, 4} , S(t) −1 {2} = {2, 3, 5} 

2 

Prozessor 

1 

0 

0 2 4 6 8 10 

Zeit 



Satz 

Der obige Algorithmus ist 1-approximierend. 

Beweis 

Wähle eine Aufgabe i , die zur Zeit T (t) endet. Falls i < k folgt 

t i = T (t) , und somit T (t) = T opt 

. Andernfalls haben wir 

Prozessor 

k − 1 

. 

3 

2 

1 

0 

Da alle Prozessoren bis zur Zeit T (t) − t i 

0 

T (t) − t i 

T (t) 

beschäftigt sind, gilt 

T (t) − t i ≤ T opt 

und folglich T (t) − T opt 

≤ t i 




Nach Voraussetzung muß zudem t i ≤ T (t) − t i und folglich t i ≤ T opt 

gelten, denn sonst wäre die Aufgabe i früher verplant worden. Damit also 

T (t) − T opt 

T opt 

≤ t i 

T opt 

≤ t i 

t i 

= 1 

Ohne Beweis stellen wir fest, daß der Algorithmus sogar 1 3 -approximierend 

ist. Man spricht in diesem Zusammenhang auch von der Güte der 

Approximation. 



Ziel: PTAS für k = 2 . Dazu: Optimalalgorithmus für SiT(2) verwenden: 

finde alle Teilsummen von t ∈ N n mit dynamischer Programmierung; 

jede minimale Teilsumme ≥ τ := 1 ∑ 

2 i


Beispiel 

Für t = 〈10, 53, 37, 22〉 erhalten wir τ = 122/2 = 61 sowie 

B 0 = {0} 

B 1 = {0, 0 + 10} 

B 2 = {0, 10, 0 + 53, 10 + 53} 

B 3 = {0, 10, 53, 63, 0 + 37, 10 + 37, 53 + 37, 63 + 37} 

B 4 = {0, 10, 53, 63, 37, 47, 90, 100, 22, 32, 75, 59, 69, 112, 122} 

Damit ordnet die optimale Lösung den beiden Prozessoren die Aufgaben 

der Längen 22 und 37 bzw. 10 und 53 zu. 

Idee: ε-Approximation für Eingabe t ∈ N n durch Optimallösung für linear 

verkürzte Eingabe t ′ = rnd( 1 λ · t) ∈ Nn mit λ > 1 realisieren. Durch die 

Verkürzung der Eingabewerte um den Faktor λ gehen Bits verloren 

(Rundungsfehler), daher wird S(t ′ ) i.A. nicht mit S(t) übereinstimmen. 



Der relative Fehler der Kosten hat dann die Form 

|c(t) − opt(t)| 

|opt(t)| 

= |λ · opt(t′ ) − opt(t)| 

|opt(t)| 

≤ |λ · opt(t′ ) − opt(t)| 

τ 

Nun müssen wir durch geeignete Wahl von λ sicherstellen, daß der Zähler 

nach oben durch τε beschränkt ist, damit der relative Fehler ≤ ε bleibt. 

Der Vergleich entsprechender Teilsummen b ∗ ′ und b ∗ für t ′ bzw. t aus 

den jeweiligen Optimalalgorithmen liefert 

|λ · b ′ ∗ − b ∗ | = λ · |b ′ ∗ − b ∗ /λ| ≤ λ · n 

2 

da b ′ ∗ 

eine Summe aus höchstens n gerundeten Werten ist. Setze 

λ := max{1, 2τɛ/n} 

Falls 1 ≥ 2τɛ/n gilt, ist die optimale Lösung des ursprünglichen Problems 

zu bestimmen, was dem Zähler des obigen Bruchs den Wert 0 zuweist. 



In der Praxis wollen wir reelle Arithmetik vermeiden und die lineare 

Verkürzung durch Abschneiden von Ziffern realisieren. Anstelle von rnd 

ist dann die Funktion ⌊−⌋ zu verwenden, wodurch der Faktor 1 2 

entfällt. 

Für die β Basis der Zahlencodierung erhält man den Skalierungsfaktor 

λ := β r mit r := max{ x ∈ N : β x ≤ τε/n } 

Die Zeitkomplexität liegt nun in O(n · τ/λ) = O(n/ε) . 

Definition 

Ein PTAS für ein O-Problem P = 〈Σ, E, A, L, c〉 ist ein Algorithmus M 

mit Eingabe v ∈ E und ε > 0 , dessen Ausgabe w ∈ A mit 〈v, w〉 ∈ L 

einen relativen Fehler ≤ ε aufweist. Weiterhin muß für jedes ε > 0 ein 

Polynom p ε existieren, so daß M( , ε) eine Laufzeit in O(p ε ) hat. 

Ein PTAS heißt voll, falls die Laufzeit des Algorithmus polynomial in |v| 

und in 1/ε ist. 



Beispiel 

Der oben beschriebene Algorithmus für SiT(2) ist ein volles PTAS. 

Beispiel 

Das O-Problem MinBinPAcking hat als Eingabe ein Tupel a ∈ N n von 

“Gewichten” und eine “Kapazität” C ∈ N . Gesucht ist die Minimalzahl 

an “Körben” der Kapazität C , die alle Gewichte aufnehmen können. 

Diese Problem besitzt ein PTAS dessen Laufzeit exponentiell in 1/ε ist. 

Unter der Voraussetzung P ≠ NP existiert kein volles PTAS für 

MinBinPAcking (ohne Beweis). 

Satz 

Unter der Voraussetzung P ≠ NP existiert für kein ε > 0 ein 

ε-approximierender Algorithmus für MinTSP. 



Beweis 

Indirekt: wir nehmen an, A sei ein ε-approximierender Algorithmus für 

MinTSP. Dann läßt sich das E-Problem HamiltonscherKreis (HK) 

in polynomialer Zeit von einer dTM lösen, im Widerspruch zu seiner 

NP -Vollständigkeit. 

Zu einem ungerichteten Graphen G = 〈V , E〉 definieren wir die 

Entfernungsmatrix 

⎧ 

⎪⎨ 0 falls u = v 

d u,v := 1 falls {u, v} ∈ E 

⎪⎩ 

2 + ⌈εn⌉ sonst 

Die von A berechnete Rundreise möge die Länge K haben. 

Behauptung: G hat genau dann einen HK, wenn K ≤ n(1 + ε) . 




( ⇒ ) Besitzt G einen HK, so hat die optimale Rundreise die Länge n . 

Dann gilt 

|K − n| 

= K − 1 ≤ ε gdw K ≤ n(1 + ε) 

n n 

( ⇐ ) Ohne HK in G hat die optimale Rundreise mindestens die Länge 

2 + ⌈εn⌉ + n − 1 ≥ 1 + n + εn ≥ 1 + n(1 + ε) > n(1 + ε) 

Der resultierende Algorithmus für HK berechnet also d wie oben, wendet 

A auf die entsprechende Instanz von MinTSP an und prüft, ob die Länge 

des gefundenen Rundwegs durch n(1 + ε) beschränkt ist. 

Die Korrektheit ist klar, und die Laufzeit ist polynomial. 



Die Voraussetzung P ≠ NP liefert eine Einteilung der O-Probleme in 

eine strikt wachsende Hierarchie von Klassen mit Trennbeispielen: 

PO det. Polynomialzeit-Lösungsalgorithmen MaxMatching 

vPTAS volle PTAS SiT(2) 

PTAS Polynomialzeitapproximationsschemata MinBinPacking 

APX es ex. ein ε-approximierender Algo MinKÜ 

NPO ndet. Polynomialzeit-Lösungsalgotighmen MinTSP 


6. Komplexität von Algorithmen 6.12 Raumkomplexität 

6.12 Raumkomplexität 

Speicherbedarf von Algorithmen ist das zweite wichtige Effizienzkriterium. 

Definition 

Eine Funktion N t R + wird als Raumkomplexität einer nTM M 

bezeichnet, wenn der Kopf von M für jede Eingabe w ∈ X n höchstens 

auf t(n) verschiedene Felder zugreift. ( M muß nicht immer halten!) 

(N )PSPACE bezeichnet die Klasse aller E-Probleme, die von einer 

(n)dTM mit polynomialer Raumkomplexität akzeptiert werden können. 

In Analogie zur oben verwendeten Schreibweise findet man auch die 

Bezeichnungen PTIME und NPTIME für P bzw. NP . 

Da eine TM pro Schritt nur ein Feld beschreiben kann, gilt automatisch 

P = PTIME ⊆ PSPACE und NP = NPTIME ⊆ NSPACE 

Obwohl die Turingmaschinen hier nicht immer halten müssen, gilt 



Satz 

PSPACE -Sprachen sind entscheidbar. 

Beweisskizze 

Für jede Eingabe kann nur endlicher Teil des Bandes erreicht werden, also 

gibt es auch nur endlich viele mögliche Konfigurationen. Berechnet man 

zunächst eine Schranke für deren Anzahl und zählt dann die Schritte, so 

kann man feststellen, wann sich eine Konfiguration wiederholt haben muß. 

Im deterministischen Fall kann die Eingabe dann nicht mehr akzeptiert 

werden, insofern kann man die Berechnung abbrechen. 

Für eine nTM M versagt dieses Argument, weil Berechnungszweige 

ignoriert werden können. Der übliche Übergang zur Determinisierung M d 

, 

führt hier leider nicht weiter: die Schranke für die Anzahl der erreichbaren 

Konfigurationen ist exponentiell in der Raumkomplexität, aber die Buchführung 

über die Berechnungstiefe in M d 

erfolgte unär! Statt hier etwa zu 

binärer Darstellung überzugehen, wählen wir einen anderen Ausweg. 



Zuvor aber eine vereinfachende Annahme über Turingmaschinen: 

Lemma 

Jede 1-Band TM mit polynomialer Raumkomplexität p(n) ≥ n ist 

äquivalent zu einer 1-Band TM mit ebenfalls polynomialer 

Raumkomplexität, die nur mit leerem Band halten kann. 

Beweisskizze 

Für w ∈ Σ n berechne p(n) (Speicherbedarf grd p · n ) und schreibe 

spezielle Randmarkierer auf die Bandzellen mit Index ±p(n) . Nach 

Rückkehr zum rechten Rand von w wird die Ursprungsmaschine 

ausgeführt, wobei die Ränder nach Vorausssetzung nicht überschritten 

werden können. Hält diese Berechnung, wird der Bandbereich zwischen 

den Randbegrenzern (einschließlich) gelöscht. 

Im Gegensatz zum bislang unbestimmten Verhältnis zwischen nichtdeterministischen 

und deterministischen Turing-Maschinen bei der 

Zeitkomplexität, herrscht bei der Raumkomplexität Klarheit: 



Satz (Savitch, 1970) 

Jede nTM mit polynomialer Raumkomplexität p kann von einer dTM mit 

Raumkomplexität p 2 simuliert werden, also PSPACE = NPSPACE . 

Beweis 

Die nTM M habe Raumkomplexität p(n) ≥ n und möge nur bei leerem 

Band halten, d.h., K F = 〈q F , #〉 ist die einzige Haltekonfiguration. 

Zwecks Abschätzung der Anzahl κ der von der Initialkonfiguration bei der 

Berechnung von w mit |w| = n aus potentiell erreichbaren 

Konfigurationen setzen wir r := |Q| und m := |B| . 

κ ≤ r · m p(n) · p(n) < r · (m p(n)) 2 < 2 

C·p(n) 

für geeignetes C ∈ N 

Wir betrachten jetzt nur noch solch potentiell erreichbare Konfigurationen. 



Beweis (Fortzetzung) 

Genau dann, wenn eine Konfiguration K ′ von K aus in höchstens 2 i 

Schritten erreicht werden kann, setzen wir abkürzend 

REACH (K, K ′ , i) = true 

Also akzeptiert M die Eingabe w genau dann, wenn gilt 

wobei K w 

REACH (K w , K F , C · p(n)) = true 

die Initialkonfiguration bei Eingabe w ist. 

Gesucht: ein deterministischer Algorithmus für REACH (K, K ′ , i) , der 

für Werte i < C · p(n) selbst polynomiale Raumkomplexität hat. 

Wir geben eine rekursive Konstruktion für einen derartigen Algorithmus an: 

i = 0 : REACH (K, K ′ , 0) = true gdw K = K ′ oder K ⊢ K ′ . 



Beweis (Fortzetzung) 

i + 1 : Wir nehmen an, für i ≥ 0 haben wir einen REACH -Algorithmus 

mit der gewünschten Eigenschaft. Nun ist REACH (K, K ′ , i + 1) genau 

dann wahr, wenn eine Zwischenkonfiguration ¯K existiert mit 

REACH (K, ¯K, i) = true und REACH ( ¯K, K ′ , i) = true 

Insgesamt sind dann höchstens 2 · 2 i = 2 i+1 Schritte nötig, um K ′ von 

K aus zu erreichen. 

Der Algorithmus für i + 1 probiert nun systematisch alle von der K w 

potentiell erreichbaren Konfigurationen ¯K durch. 

Raumkomplexität: Die Spezifikation einer erreichbaren Konfiguration 

benötigt maximal p(n) + 2 Bandzellen. Beim rekursiven Aufruf kann der 

Platz vom letzten Versuch wiederverwendet werden. Der Zähler i ist 

durch C · p(n) ∈ O(p(n)) beschränkt. 

aus 




Der Raumbedarf S(i) erfüllt damit die Rekursion 

S(0) = C · p(n) und S(i + 1) = C · p(n) + S(i) 

Dies läßt sich auflösen zu 

S(C · p(n)) = C · p(n) + S(C · p(n) − 1) 

= C · p(n) + C · p(n) + S(C · p(n) − 2) 

. . . 

= (C · p(n)) 2 

Damit ist die Behauptung bewiesen. 

Nun folgt unmittelbar NP ⊆ NPSPACE = PSPACE ⊆ REC . Für 

die Oberklasse PSPACE von NP läßt sich nun in analoger Weise der 

Begriff der Vollständigkeit formulieren. 



Definition 

Die Syntax quantifizierter Boole’scher Formeln (qBF) hat die BNF 

ϕ ::= x | true | false | ¬ϕ | ϕ ∧ ϕ | ϕ ∨ ϕ | ϕ → ϕ | ∀x.ϕ | ∃x.ϕ 

Die Menge der freien Variablen einer qBF ϕ ist gegeben durch 

FV (true) = FV (false) := ∅ 

FV (x) := {x} 

FV (¬ϕ) := FV (ϕ) 

FV (ϕ ∧ ψ) = FV (ϕ ∨ ψ) = FV (ϕ → ψ) := FV (ϕ) ∪ FV (ψ) 

FV (∀x.ϕ) = FV (∃x.ϕ) := FV (ϕ) − {x} 

Nicht freie Variablen sind durch einen Quantor gebunden. 

ϕ heißt geschlossen, falls jede auftretenden Variable gebunden ist. 



Schreibweise: ϕ(x 0 , x 1 , . . . , x n−1 ) bedeutet FV (ϕ)⊆{ x i : i < n} . 

Fakt 

Jede geschlossene qBF ϕ kann in sogenannter Prenex-Normalform (PNF) 

dargestellt werden 

ϕ = Q 0 x 0 . Q 1 x 1 . . . . Q n−1 x n−1 . ψ(x 0 , . . . , x n−1 ) 

wobei ψ keine Quantoren enthält. Mit Hilfe von “Dummy-Variablen” ist 

es zudem möglich, alternierende Prenex-Normalform (aPNF) zu erreichen, 

bei der Existenz- und All-Quantor alternieren: 

ϕ = ∃x 0 . ∀x 1 . . . . Q m−1 x m−1 . ψ(x 0 , . . . , x m−1 ) 

Beispiel 

Das E-Problem QuantifizierteBoolescheFormel (QBF) hat als 

Eingabe eine geschlossene quantifizierte Boolesche Formel ϕ . Zu 

entscheiden ist, ob ϕ wahr ist. 



Satz 

QBF ∈ PSPACE . 

Beweis. 

Enthält ϕ = Q 0 x 0 . Q 1 x 1 . . . . Q n−1 x n−1 . ψ(x 0 , . . . , x n−1 ) keine Quantoren, 

gilt ϕ ∈ {true, false} . Sonst entfernt man Q 0 und bewertet 

A = Q 1 x 1 . . . . Q n−1 x n−1 . ψ(false, . . . , x n−1 ) 

B = Q 1 x 1 . . . . Q n−1 x n−1 . ψ(true, . . . , x n−1 ) 

Falls Q 0 = ∃ , bildet man A ∨ B , andernfalls A ∧ B . 

Die Laufzeit dieses rekursiven Verfahrens beträgt O(2 n ) , bei einer 

Rekursionstiefe von n (Anzahl der Quantoren). Da die Auswertung 

quantorenfreier Formeln logarithmischen Platz in der Anzahl der Variablen 

benötigt (HA), liegt der Platzbedarf in O(n + log n) = O(n) . 



Satz 

QBF ist PSPACE -hart und somit PSPACE -vollständig. 

Beweis (vergl. Sipser) 

Für L ∈ PSPACE ist L ⊲ QBF nachzuweisen. 

Betrachte eine dTM M für L mit polynomialer Raumkomplexität p . Wie 

aus dem Beweis des Cooke’schen Satzes bekannt, können Zustand, 

Bandinhalt und Kopfposition von M durch Boolesche Formeln in KNF 

beschrieben werden, also auch die Konfigurationen von M . 

Wir führen neue Variable c i für Konfigurationen ein und konstruieren 

daraus entsprechend der Idee im Beweis des Satzes von Savich eine qBF 

ϕ 〈c0 ,c 1 ,i〉 , die ausdruckt, daß c 1 von c 0 aus in höchstens 2 i Schritten 

erreicht werden kann. Zu prüfen bleibt für Eingaben w ∈ Σ n die Wahrheit 

von ϕ 〈cw ,c F ,C·p(n)〉 . 

Wie zuvor ist der Fall ϕ 〈c0 ,c 1 ,0〉 

trivial. 




Beim Übergang zu i > 0 sind wieder beliebige Zwischenkonfigurationen 

zu verwenden. Wir schrieben die Formel entsprechend um: 

ϕ 〈c0 ,c 1 ,i+1〉 = ∃m 0 . (ϕ 〈c0 ,m 0 ,i〉 ∧ ϕ 〈m0 ,c 1 ,i〉) 

Das Einfügen einzelner Zwischenkonfigurationen verdoppelt aber die Länge 

der Formeln, was zu exponentiellem Wachstum führt. Das läßt sich aber 

mit Hilfe universeller Quantifizierung verhindern: 

ϕ 〈c0 ,c 1 ,i+1〉 = ∃m 0 . ∀(c 2 , c 3 ) ∈ {(c 0 , m 0 ), (m 0 , c 1 )}. ϕ 〈c2 ,c 3 ,i〉 

Um die Größe von ϕ 〈cw ,c F ,C·p(n)〉 abzuschätzen, stellen wir fest, daß 

aufgrund der Rekursion die Formel um O(p(n)) wächst. Bei eine 

Rekursionstiefe von O(p(n)) ergibt sich also eine Formel der Größe 

O((p(n)) 2 ) , wie im Beweis des Satzes von Savich. 



QBF kann als Erweiterung von Sat aufgefaßt werden: eine KNF-Formel 

ϕ(x 0 , . . . , x t−1 ) ist genau dann erfüllbar, wenn folgende Formel wahr ist 

∃x 0 . ∃x 1 . . . . ∃x t−1 . ϕ 

qBF-Formeln in aPNF lassen sich auch spieltheoretisch interpretieren: zwei 

Spieler, Eloise und Abelard, wählen abwechsend Werte für die Variablen in 

ψ = ∃x 0 . ∀x 1 . . . . Q m−1 x m−1 . ϕ(x 0 , . . . , x m−1 ) 

Eloise für die durch Existenzquantoren gebundenen Variablen, Abelard für 

die übrigen. Eloise gewinnt, falls in der so bestimmten Belegung ϕ wahr 

ist, andernfalls gewinnt Abelard. 

Definition 

Die Sprache FormelSpiel besteht aus denjenigen geschlossenen Formeln 

in aPNF, für die Eloise eine Gewinnstrategie hat. 



Man überzeugt sich leicht davon, daß FormelSpiel PSPACE - 

vollständig ist (HA). 

Nachdem sich PSPACE als “große” Komplexitätsklasse herausgestellt 

hat, die sogar NP umfaßt, fehlt hinsichtlich der Raumkomplexität noch 

eine “kleines” Gegenstück zu P . Aber um sub-lineare Raumkomplexität 

sinnvoll definieren zu können, ist bei der Definition von Raumkomplexität 

an sich die Rolle des Eingabebandes zu überdenken: 

Definition 

Eine 2-Band Turingmaschinen mit einerm read-only Eingabeband und 

einem normalen Arbeitsband hat Raumkomplexität f (n) , falls jede 

Eingabe der Länge n höchstens f (n) Raum auf dem Arbeitsband 

benötigt. Wenn es um die Berechnung von Funktionen geht, ist zusätzlich 

noch ein write-only Ausgabeband vorzusehen. 

Im Gegensatz zu endlichen Automaten und Kellerautomaten wird die 

Eingabe nicht notwendig als Strom verarbeitet, da auf dem Eingabeband 

Schritte in beiden Richtungen möglich sind. 



Weitere interessante Raum-Komplexitätsklassen: 

Definition 

Die Klasse L ( NL ) besteht aus allen E-Problemen, die von einer 

(nicht)deterministischen Turingmaschine mit Raumkomplexität in 

O(log n) gelöst werden können. 

Beispiel 

Sowohl die Sprache der korrekt geklammerten Ausdrücke über {), (} als 

auch die die Sprache {w ∈ {a, b} ∗ : |w| a = |w| b } liegen in L : Man muß 

nur die Anzahl noch offener Klammern bzw. die Anzahlen von Symbolen a 

sowie b binär bestimmen und mit 0 bzw. miteinander vergleichen. 

Man kann zeigen, daß Erreichbarkeit in gerichteten Graphen und 

2-Sat in NL liegen und sogar NL-vollständig sind, woraus 

L ⊆ NL ⊆ P folgt. Es ist offen, ob diese Inklusionen echt sind.

Handout - Institut für Theoretische Informatik - Technische ...

Erfolgreiche ePaper selbst erstellen

Template löschen?

Als Template speichern?