Ausdrucksfähigkeit der Alg.-Modelle

Ausdrucksfähigkeit der Alg.-Modelle
Leisten imperative Algorithmen mehr als
Registermaschinen?
Kann man Leistung von Algorithmenmodellen
vergleichen?
Problem: Modelle sind auf unterschiedlichen Argumentund
Wertebereichen definiert:
applikative-Algorithmen: f : Z n → Z, n variabel
imperative-Algorithmen: f : Z n → Z m , n,m variabel
Markov-Algorithmen: f : X → Y, X, Y ⊆ A *
Registermaschien-Algorithmen: f : Z n → Z m , n,m variabel
Idee: Vereinheitlichung der Kodierung der Argumentund
Wertebereiche (z.B. als Texte über A * )
Beweis (konstruktiv; hier nicht durchgeführt): Abbildung mittels
eines geeigneten "Übersetzers„, der ein Modell in ein
anderes überführt, das die gleiche Funktion berechnet.
239

CHURCH’sche These
Aus Möglichkeit der Abbildung zwischen
Modellen folgt
alle bisher diskutierten Algorithmenmodelle (und
weitere) leisten prinzipiell gleich viel
sie führen auf die gleiche Klasse berechenbarer
Funktionen
Die Klasse der intuitiv berechenbaren Funktionen
stimmt mit den formalen Klassen der (Registermaschinen-,
imperativ, applikativ, Markov-, etc.)
berechenbaren Funktionen überein.
These prinzipiell nicht beweisbar!
240

Universelle Algorithmenmodelle
Ein Algorithmenmodell heißt universell, wenn
damit alle berechenbaren Funktionen
beschrieben werden können.
Eigenschaften universeller Sprachen (u.a. alle
Programmiersprachen)
der nutzbare Bereich für Daten / Parameterwerte
ist nicht beschränkt
Konzepte wie Rekursion oder Iteration (while)
mit bedingten Sprüngen erlauben (bedingte)
Wiederholung von Teilaufgaben
241

Zusammenfassung
Formale Modelle
Registermaschine
Abstrakte Maschinen
Markov-Algorithmen
Ausdrucksfähigkeit: Church’sche These
Literatur: Saake/Sattler: Algorithmen und
Datenstrukturen, Kapitel 6
242

Teil VI
Eigenschaften von Algorithmen
243

Überblick
Berechenbarkeit und Entscheidbarkeit
Korrektheit von Algorithmen
Komplexität
244

Berechenbarkeit und Entscheidbarkeit
Frage: Gibt es Problemstellungen, für die kein
Algorithmus zur Lösung existiert?
Oder: Kann man alles berechnen bzw. programmieren?
Berechenbarkeit:
Eine Funktion f : N k → N heißt berechenbar, wenn es
einen Algorithmus gibt, der für Eingaben (x 1 , …, x k ) ∈ N k
terminiert, d.h. in endlicher Zeit f(x 1, …, x k) berechnet.
Die Menge dieser Funktionen entspricht allen jemals mit
Computern berechenbaren Funktionen (CHURCH’sche
These)
245

Existenz nichtberechenbarer Funktionen
nicht jede Funktion ist berechenbar
folgt aus Gödelschen Unvollständigkeitssatz
Jedes hinreichend mächtige formale System ist
entweder widersprüchlich oder unvollständig.
Abzählung der Sätze des formalen Systems
Aussage konstruieren: „Satz x ist nicht beweisbar“
Diese Aussage wird Satz x des Systems
entweder: Satz x ist wahr, dann nicht beweisbar
oder: Satz x ist falsch, dann beweisbar und demnach wahr
→ Widerspruch
sowie der Unlösbarkeit der Halteproblems
246

Einschub: Abzählbarkeit (1)
Eine Menge ist abzählbar, wenn sie bijektiv auf N
abgebildet werden kann.
Z ist abzählbar wenn man Zahlen abwechselnd mit
positivem und negativen Vorzeichen auflistet: 0, 1, -1, 2,
-2, 3, -3, …
Q + ist abzählbar, wenn man die Zahlen in einer Tabelle
anordnet:
1
2
3
4
M
1
1/1
2/1
3/1
4/1
M
2
1/2
2/2
3/2
4/2
M
(Für Q kann man analog Z verfahren und abwechselnd
positive und negative Zahlen in der Spalte aufführen)
3
1/3
2/3
3/3
4/3
M
4
1/4
2/4
3/4
4/4
M
…
…
…
…
…
O
247

Einschub: Abzählbarkeit (2)
R ist überabzählbar (Cantor‘s Diagonalverfahren)
Sei r i irgendeine Folge reeller Zahlen und a ij deren Dezimalziffern:
r
r
r
r
M
1
2
3
4
=
=
=
=
Sei jetzt x = 0,x 1 x 2 x 3 … wobei x i = (a ii + 1) mod 10 .
→ x unterscheidet sich somit von allen Zahlen der Folge
Für jede Folge von Zahlen zwischen 0 und 1 gibt es somit eine Zahl
zwischen 0 und 1, die nicht in dieser Folge enthalten ist.
Deshalb enthält keine Folge alle reellen Zahlen in [0,1[.
Das Intervall [0,1[ ist deshalb überabzählbar.
Somit ist auch ganz R überabzählbar.
0,
0,
0,
0,
a
a
a
a
11
21
31
41
a
a
a
a
12
22
32
42
a
a
a
a
13
23
33
43
a
14
a
a
a
24
34
44
K
K
K
K
248

Existenz nichtberechenbarer Funktionen (Beweisskizze)
Eigenschaft von Algorithmen:
Jeder Algorithmus lässt sich durch einen
endlichen Text über einem festen, endlichen
Alphabet beschreiben.
Texte über Alphabet A = {a 1, …, a n} (mit
alphabetischer Ordnung):
A * = {ε, a 1 , …, a n , a 1 a 1 , a 1 a 2 , …, a 5 a 3 a 3 a 1 a 5 a 2 , …}
Aufzählung der Wortlänge nach; bei gleicher
Länge lexikographisch
→ Menge der Zeichenketten abzählbar (bijektiv
auf natürliche Zahlen abbildbar)
249

Existenz nichtberechenbarer Funktionen (Beweisskizze)
Cantor’sches Diagonalverfahren
Menge der Algorithmentexte ist abzählbar
(Zeichenketten)
beweisbar: Menge der Funktionen ist
überabzählbar
Diagonalbeweis
speziell einstellige Funktionen F auf Z, f : Z → Z
Annahme: F sei abzählbar: F = {f 0 , f 1 , …}
ist folgendes g in F enthalten?
Widerspruch!
g(x) = f abs(x) (x) + 1
g(0) = f 0 (0) + 1
g(1) = f 1 (1) + 1
g(2) = f 2 (2) + 1
g(-1) = f 1 (1) + 1
250

Konkrete nichtberechenbare Funktionen 1
Vorbemerkungen
1. Berechnet werden partielle Funktionen f:A * →A *
über einem festen Alphabet A.
2. Auch die Algorithmen selbst lassen sich als
Text über A darstellen.
Alternative: Gödelisierung
Kodierung von Algorithmentexten als Zahlen
251

Konkrete nichtberechenbare Funktionen 2
Sei x ∈ A * : ein beliebiger Text.
ϕ x : die vom Algorithmus mit Text x berechnete Funktion.
x kein sinnvoller Algorithmentext → ϕ x überall undefiniert.
Sei f : A * → A * eine partielle Funktion. Dann ist
dom f := {x ∈ A * | f(x) ist definiert }
der Urbildbereich von f (dom für „domain“).
Die (totale) Funktion h : A * → A * ,
⎧ε, falls x ∈ dom
h(
x)
= ⎨
⎩a
sonst
ist nicht berechenbar.
ϕ
x
252

Halteproblem
Funktion h basiert auf einem unentscheidbaren
Problem
Kann man ein Programm entwickeln, das als Eingabe
den Quelltext eines zweiten Programms sowie dessen
Eingabewerte erhält und entscheiden kann, ob dieses
zweite Programm terminiert?
253

Spezielles Halteproblem
h(x) entscheidet durch die Ausgaben ε oder a,
ob x∈dom ϕ x ist oder nicht.
x∈dom ϕ x bedeutet, dass ϕ x(x) definiert ist, und
dies wiederum heißt, dass der Algorithmus mit
Text x bei Eingabe von x irgendwann anhält.
Anwendung eines Algorithmus auf die eigene
Beschreibung.
Die Funktion h drückt die Frage aus:
„Hält ein Algorithmus irgendwann an, wenn man
ihm seinen eigenen Text eingibt?“
Diese Frage ist auch als spezielles
Halteproblem bekannt.
254

Veranschaulichung des Halteproblems
Maschine (Algorithmus) STOP mit zwei Eingaben
Algorithmentext x
Eingabe y für x
sowie zwei Ausgaben
JA: x stoppt bei Eingabe von y
NEIN: x stoppt nicht bei Eingabe von y
Annahme: STOP löst Halteproblem
x
y
STOP
JA
NEIN
255

Veranschaulichung des Halteproblems 2
Konstruktion einer neuen Maschine SELTSAM
mit STOP
x
SELTSAM
x JA
STOP
x
NEIN
OK
256

Verhalten von SELTSAM
Hält SELTSAM bei der Eingabe von SELTSAM?
1. Wenn ja, so wird der JA-Ausgang von STOP
angelaufen und SELTSAM gerät in die
Endlosschleife, hält also nicht.
Widerspruch!
2. Wenn nein, so wird der NEIN-Ausgang von
STOP angelaufen und SELTSAM stoppt mit OK.
Widerspruch!
257

Formaler Beweis (1)
Annahme: h : A * → A * berechenbar
h(
x)
aufgrund der Church’schen These ist somit auch
g : A * →A * berechenbar:
g(
x)
g(x) ≠ ϕ x(x) für alle x ∈ A * .
=
=
⎧ε, falls x ∈ domϕ
x
⎨
⎩a
sonst
⎧ ϕx ( x)
a,
falls h(
x)
= ε
⎨
⎩ε
sonst
258

Formaler Beweis (2)
Da g berechenbar ist, gibt es einen Algorithmus
mit einem Text y ∈ A * , der g berechnet, d.h., es
gibt ein y mit g = ϕ y . Damit folgt nun:
ϕ y(y) = g(y) ≠ ϕ y(y)
Dies ist offenbar ein Widerspruch, der sich nur
dadurch lösen lässt, dass wir die Annahme
aufgeben, h sei berechenbar.
Erneut ein Diagonalbeweis!
259

Nichtentscheidbare Probleme
Jede nichttriviale semantische Eigenschaft von
Algorithmen ist nichtentscheidbar.
Beispiele:
Ist die berechnete Funktion total? Überall undefiniert?
Injektiv? Surjektiv? Bijektiv? etc. etc.
Berechnen zwei Algorithmen dieselbe Funktion?
Ist ein gegebener Algorithmus korrekt, d.h., berechnet er
die gegebene (gewünschte) Funktion?
Im Einzelfall können Fragen entschieden werden! Es
gibt aber keine allgemein Methode, also z.B. einen
Algorithmus der Korrektheit aller Algorithmen nachweist.
Auch einfache Fragestellungen können nicht
entscheidbar sein: Post’sches Korrespondenzproblem
260

Post’sches Korrespondenzproblem
Gegeben seien ein Alphabet A und zwei gleich
lange Listen von Worten über A:
α = (α 1, α 2, …, α n)
β = (β 1, β 2, …, β n)
wobei α i, β i ∈ A + = A * − {ε} und n ≥ 1.
Das Problem besteht nun darin, eine
„Korrespondenz“ zu finden, d.h. eine endliche
Folge (i 1, i 2, …, i k), i j ∈{1, …, n} für j = 1, 2, …, k,
so dass gilt:
α i1 α i2 …α in = β i1 β i2 …β in
261

Post’sches Korrespondenzproblem: Bsp. 1
Eingabelisten:
A = {0, 1}
α = (1, 10111, 10)
β = (111, 10, 0)
Dieses Post’sche Korrespondenzproblem besitzt
eine Lösung, die Korrespondenz (2,1,1,3):
10111 . 1 . 1 . 10 = 10 . 111 . 111 . 0
262

Post’sches Korrespondenzproblem: Bsp. 2 (1)
Post’sches Korrespondenzproblem:
A = {0, 1}
keine Lösung!
α = (10, 011, 101)
β = (101, 11, 011)
263

Post’sches Korrespondenzproblem: Bsp. 2 (2)
α = (10, 011, 101), β = (101, 11, 011)
Gäbe es eine Lösung, so müsste sie mit 1 anfangen:
1 0 … ?= 1 0 1 …
Dann ein i mit α i = 1 …, also 1 oder 3.
(1, 1, …) ergibt
(1, 3, …) ergibt
1 0 1 0 … ≠ 1 0 1 1 0 1 …
1 0 1 0 1 … ?= 1 0 1 0 1 1 …
Index 3 muss wieder gewählt werden, (1, 3, 3, …) ergibt
1 0 1 0 1 1 0 1 … ?= 1 0 1 0 1 1 0 1 1 …
Wieder müsste 3 gewählt werden usw.
terminiert nicht!
264