Dynamisch Programmeren

Dynamisch Programmeren
extreem ver doorgedreven recursie: om een groot probleem op te
lossen, splitsen we het in kleinere problemen die onafhankelijk van
elkaar opgelost kunnen worden
wanneer we niet precies weten welke kleinere problemen op te lossen,
berekenen we ze allemaal en bewaren de antwoorden voor later gebruik
‘programmeren’ is hier in de betekenis van ‘het proces van beperkingen
formuleren zodanig dat de methode toepasbaar is’
1

soorten problemen:
• het is niet altijd mogelijk om oplossingen voor kleinere problemen
te combineren en tot een oplossing voor een groter probleem te
komen
• het aantal op te lossen kleine problemen kan onaanvaardbaar groot
zijn
2

Knapzak probleem
zoek een combinatie van objecten die in een knapzak passen zodanig
dat de waarde maximaal is
toepassingen: vervoersmaatschappij (laden van vrachtwagen, schip,
vliegtuig, ...)
3

for (j = 1; j

Fig.1 Voorbeeld van een knapzak probleem
5

cost[i] is de hoogste waarde die met knapzak capaciteit i verkregen
kan worden; best[i] is het laatst toegevoegde item om dat maximum
te bekomen
de inhoud van de optimale knapzak kan berekend worden met de best
array
6

Fig.2 Oplossing van het knapzak probleem
7

Eig.1 De tijd nodig voor het oplossen van het knapzak probleem met
dynamisch programmeren is evenredig met NM (N: soorten objecten;
M: grootte van de knapzak).
het probleem is dus eenvoudig op te lossen als M niet groot is
als M of de groottes, waarden van de objecten reële getallen zijn ipv
gehele getallen werkt het niet (fundamenteel probleem)
voordeel: vroeger opgeloste deelproblemen moeten niet opnieuw bekeken
worden;
dynamisch programmeren vindt een optimale oplossing
8

Matrix Chain Product
klassieke toepassing: minimaliseren van de hoeveelheid rekenwerk nodig
om een reeks matrices van verschillende grootte te vermenigvuldigen
de volgorde waarin de matrices vermenigvuldigd worden bepaalt het
aantal bewerkingen
aantal mogelijkheden om N matrices te vermenigvuldigen: Catalaans
getal is ongeveer 4 N−1 /N √ πN
9

⎛
⎜
⎝
a11 a12
a21 a22
a31 a32
a41 a42
⎞
⎟
⎠
b11 b12 b13
b21 b22 b23
⎛
⎝ c11
c21
c31
⎞
⎠ d11 d12
e11 e12
e21 e22
f11 f12 f13
f21 f22 f23
10

de oplossing met dynamisch programmeren is ‘bottom-up’:
er is maar 1 manier om M1 te vermenigvuldigen met M2, en 1 manier
om M2 met M3 te vermenigvuldigen; die kosten worden bewaard
we berekenen ook de manier om opeenvolgende triples te vermenigvuldigen,
gebruik makend van wat al berekend is
11

for (i = 1; i

voor 1 ≤ j ≤ N − 1 vinden we de minimale kost om MiM i+1...M i+j te
berekenen
optimale volgorde, afgeleid uit cost en best:
13

Fig.3 Oplossing van het matrix chain probleem
14

order(int i, int j)
{
if (i == j)
cout >> name(i);
else
{
cout >> ’(’;
order(i, best[i][j]-1);
cout >> ’*’;
order(best[i][j], j);
cout >> ’)’;
}
}
15

Eig.2 Dynamisch programmeren lost het ‘matrix chain product’ probleem
op in tijd evenredig met N 3 en met geheugen evenredig met
N 2 .
16

Optimale Binaire Zoekbomen
naar sommige sleutels wordt veel vaker gezocht dan naar andere; het
is best om de vaakst gezochte bovenaan in de zoekboom te plaatsen
aan elke knoop van de binaire boom kennen we een integer toe die
evenredig is met de frequentie van zoeken
17

Fig.4 Optimale binaire zoekboom
18

kost van de boom berekenen door de frequentie van elke knoop te
vermenigvuldigen met de afstand tot de wortel en alles op te tellen
(gewogen interne padlengte)
het verschil met Huffman codering is dat het hier wel belangrijk is om
de volgorde te respecteren; in binaire bomen zijn alle knopen links
van de wortel kleiner enz.
beste manier is voor elke j, toenemend van 1 tot N − 1 om een
deelboom op te bouwen met Ki, K i+1, ...K i+j voor 1 ≤ i ≤ N − j
19

for ( i =1; i

Fig.5 Binaire zoekboom met frequenties
21

Eig.3 De dynamic programming methode om een optimale binaire
boom te vinden gebeurt in tijd evenredig met N 3 en gebruikt ruimte
evenredig met N 2 .
22

Tijd en ruimte
toepassingen van dynamisch programmeren kunnen compleet verschillende
tijd en ruimte nodig hebben afhankelijk van de hoeveelheid informatie
over kleine deelproblemen
voor de knapzak is de benodigde ruimte evenredig met de grootte van
de knapzak; voor andere problemen is N 2 ruimte nodig
23