ë™ì  프로그래밍 - í•œêµ­ê¸°ìˆ êµìœ¡ëŒ€í•™êµ

©copyright 2005
알고리즘(INA280) NOTE 04
동적 프로그래밍
한국기술교육대학교 인터넷미디어공학부 김상진
교육목표
동적 프로그래밍(dynamic programming) 개요
이항계수 계산 알고리즘
Floyd의 최단 경로 알고리즘
최적의 원칙
연쇄 행렬곱셈 알고리즘
최적의 이진 검색 트리
2/43

동적 프로그래밍
분할정복법은 하향식 해결법으로서, 나누어진 부분들 사이에 서로
상관관계가 없는 문제를 해결하는데 적합하다.
분할정복법으로 피보나찌 수를 계산하면 중복된 계산을 많이
하게 되므로 적합하지 않다.
피보나찌 수를 계산하는 알고리즘 경우에는 나누어진 부분들
사이에 서로 연관되어 있다.
F 5 를 계산하기 위해서는 F 4 와 F 3 을 계산해야 되며, 이둘은
모두 F 2 의 계산이 필요하다.
동적 프로그래밍(dynamic programming)은 분할정복법과 정반대되는
접근 방법으로서, 상향식(bottom-up) 해결법이다.
즉, 분할정복법과 마찬가지로 문제를 작은 여러 개의 사례로 나누어
이들 사례를 먼저 해결한다.
하지만 해결한 값을 보관하여, 나중에 이 값이 또 필요하면 다시
계산하지 않는다.
3/43
이항계수
이항계수(binomial coefficient)는 다음과 같이 정의된다.
⎛n⎞ n!
⎜
, for 0 n k
k
⎟ = ≤ ≤
⎝ ⎠ k!( n−
k)!
n과 k가 작지 않으면 이항계수를 직접 계산하는 것은 어렵다.
이항계수는 다음과 같의 재귀적으로 정의할 수 있다.
⎧⎛n−1⎞ ⎛n−1⎞
⎛n⎞ ⎪⎜ 0 k n
k 1
⎟+ ⎜
k
⎟ < <
⎜
k
⎟= ⎨⎝ − ⎠ ⎝ ⎠
⎝ ⎠ ⎪
⎩1
k = 0, k = n
이 정의로부터 분할정복 방식의 알고리즘을 구현할 수 있다.
이 알고리즘은 n!이나 k!을 계산하지 않고 이항계수를 계산할 수 있다.
4/43

분할정복법을 이용한 이항계수 알고리즘
문제: 이항계수를 계산하기
입력: 음이 아닌 정수 n과 k, 여기서 k≤n
출력: 이항계수 n C k
int bin(int n, int k){
if(k == 0 || n == k) return 1;
else return bin(n-1, k-1) + bin(n-1, k);
}
이 알고리즘은 피보나찌 수를 계산하는 알고리즘과 마찬가지로 같은
계산을 반복적으로 수행한다.
실제 2 n C k -1만큼의 항을 계산해야 n C k 를계산할수있다.
5/43
분할정복법을 이용한 이항계수 알고리즘
2 n C k -1만큼의 항을 계산해야 n C k 를계산할수있다.
(증명) 귀납법으로 증명
귀납출발: n = 1일때, 2 1 C k – 1 = 2 – 1 = 1이다.
이유: n = 1 일때 k는 0 또는 1이다.
귀납가정: n>k일때성립
귀납단계: n = k일때, 알고리즘에 의해 n C k = n-1 C k-1 + n-1 C k 이다.
따라서 n C k 를 계산하기 위한 비용은 n-1 C k-1 과 n-1 C k 을 계산하기
위한 비용을 합한 것에 1을더한것이된다.
그런데 귀납가정에 의해 n-1 C k-1 과 n-1 C k 을 계산하기 위한 비용은
2 n-1 C k-1 -1과 2 n-1 C k -1이다.
따라서 n C k 를 계산하기 위한 비용은 다음과 같다.
= 2 n-1 C k-1 – 1 + 2 n-1 C k - 1 +1 = 2( n-1 C k-1 + n-1 C k ) -1 = 2 n C k -1
6/43

동적 프로그래밍을 이용한 이항계수 알고리즘
알고리즘 절차
단계 1. 재귀 관계식을 정립한다.
⎧Bi [ − 1][ j− 1] + Bi [ − 1][ j] 0< j<
i
Bi [][ j]
= ⎨
⎩1 j = 0, j = i
단계 2. 문제의 사례를 상향식 방식으로 해결한다.
B[0][0] = 1
B[1][0] = 1
B[1][1] = 1
B[2][0] = 1
B[2][1] = B[1][0] + B[1][1] = 1 + 1 = 2
B[2][2] = 1
B[3][0] = 1
B[3][1] = B[2][0] + B[2][1] = 1 + 2 = 3
…
7/43
동적 프로그래밍을 이용한 이항계수 알고리즘
문제: 이항계수를 계산하기
입력: 음이 아닌 정수 n과 k, 여기서 k≤n
출력: 이항계수 n C k
int bin2(int n, int k){
index i, j;
int B[0..n][0..k];
for(i = 0; i≤n; i++)
for(j = 0; j≤min(i,k); j++)
if(j == 0 || j == i) B[i][j] = 1;
else B[i][j] = B[i-1][j-1] + B[i-1][j];
return B[n][k];
}
8/43

동적 프로그래밍을 이용한 이항계수 알고리즘
주어진 n과 k에 대해for 루프가 반복하는 횟수는 다음과 같다.
i
0
1
2
3
…
k
k+1
…
n
반복횟수
1
2
3
4
…
k+1
k+1
…
k+1
전체 반복 횟수는 다음과 같다.
1+ 2+ 3+ 4 + + k+ ( k+ 1) + ( k+ 1) + + ( k+
1)
n− k+
1번
위 표현식은 다음과 같다.
kk ( + 1) ( k+ 1)(2n− k+
2)
+ ( n− k+ 1)( k+ 1) = ∈Θ( nk)
2 2
9/43
동적 프로그래밍을 이용한 이항계수 알고리즘
개선방법
2차원 배열을 사용하고 있지만 한 행의 계산이 끝나면 더 이상 이전
행의 값이 필요없다.
0부터 k까지의 일차원 배열을 이용하여 구현 가능
다음 특성을 이용하여 계산량을 줄일 수 있다.
⎛n⎞ ⎛ n ⎞
⎜
k
⎟=
⎜
n−
k
⎟
⎝ ⎠ ⎝ ⎠
k>n-k이면 이와 같이
바꾸어 계산하는 것이
더 효율적이다.
10/43

그래프 기초
다음은 가중치 방향 그래프이다.
정점(vertex)
간선(edge)
가중치(weight)
방향 그래프(directed graph, digraph): 간선에 방향이 있는 그래프
가중치 그래프(weighted graph): 간선과 연관된 값이 있는 그래프
경로(path): 한 정점에서 다른 정점까지 도달하기 위해
지나는 일련의 정점(정점 사이에는 간선이 있어야 함)을 말한다.
단순 경로(simple path): 같은 정점을 두 번 지나지 않는 경로
11/43
그래프 기초 -계속
순환(cycle): 한 정점에서 다시 그 정점으로 돌아오는 경로
순환 그래프(cyclic graph): 순환이 존재하는 그래프
비고. 비순환 그래프(acyclic graph)
경로의 길이(length): 가중치 그래프에서는 경로를 구성하는 간선들의
가중치의 합을 말하며, 비가중치 그래프에서는 경로를 구성하는
간선의 수를 말한다.
인접 정점(adjacent vertex): 정점 v i 와 v j 를잇는간선이있으면v i 와 v j 는
인접 정점이라 한다.
12/43

최단 경로 찾기 문제
최단 경로 찾기 문제는 최적화 문제(optimization problem) 중 하나이다.
최적화 문제란 후보 답이 여러 개 존재할 수 있는 문제를 말한다.
이 문제의 해답은 후보 답 중에 가장 최적의 값을 가지는 답을 하나
찾는 문제를 말한다.
최적값이란 보통 최대 또는 최소값을 말한다.
한 정점에서 다른 정점으로 하나 이상의 최단 경로가 존재할 수
있으므로 이 중 하나만 찾으면 된다.
방법 1. 모든 경로를 찾은 후에 그 중에서 최단 경로를 찾는다.
완전 연결 그래프이면 한 정점에서 다른 정점으로 모든 정점을
지나는 경로만 총 (n-2)!개의 존재한다.
이것은 지수시간 보다 더 나쁘다.
방법 2. 동적 프로그래밍을 이용하면 차수가 n 3 인 알고리즘을
만들수있다.
13/43
Floyd의 최단 경로 알고리즘 I
가중치 그래프를 다음과 같이 2차원 배열로 나타낼 수 있다.
⎧edge weight vi에서
vj를 잇는 간선이 있는 경우
⎪
Wi [][ j]
= ⎨∞
vi에서
vj를 잇는 간선이 없는 경우
⎪
⎩0
i = j
W[i][j]
14/43

Floyd의 최단 경로 알고리즘 I -계속
예4.1)
v 2 에서 v 5 까지의 최단 경로를 구하는 방법
D (k) [i][j]: 집합 {v 1 , …, v k }에 속한 정점만을 중간 정점으로 사용하는
v i 에서 v j 로가는최단경로
D (0) [2][5] = ∞
D (1) [2][5]
= min(len[v 2 , v 5 ], len[v 2 , v 1 , v 5 ]) = 14
D (2) [2][5] = D (1) [2][5] = 14
D (3) [2][5] = D (2) [2][5] = 14
D (4) [2][5]
= min(len[v 2 , v 1 , v 5 ], len[v 2 , v 4 , v 5 ],
len[v 2 , v 1 , v 4 , v 5 ], len[v 2 , v 3 , v 4 , v 5 ])
= min(14, 5, 13, 10) = 5
D (4) [2][5] = D (5) [2][5] = 5
W[i][j]
15/43
Floyd의 최단 경로 알고리즘 I -계속
앞 슬라이드 예를 통해 다음이 성립한다는 것을 알 수 있다.
D (0) = W, D (n) = D(최단 경로)
동적 프로그래밍을 이용한 최단 경로 알고리즘의 설계 절차
단계 1. D (k-1) 로부터 D (k) 를 계산할 수 있도록 재귀 관계식을 설립
단계 2. 상향식 방법으로 D (0) 부터 D (n) 까지 차례로 구한다.
재귀 관계식의 설정
다음 두 가지 경우를 고려해야 함
경우 1. v i 에서 v j 로의 하나 이상의 최단 경로가 v k 를 사용하지
않으면 다음이 성립한다.
D (k) [i][j] = D (k-1) [i][j]
경우 2. v i 에서 v j 로의 모든 최단 경로가 v k 를 사용하는 경우
D (k) [i][k] = D (k-1) [i][k] + D (k-1) [k][j]
16/43

Floyd의 최단 경로 알고리즘 I -계속
경우 2.
v i 에서 v j 로의 최단 경로가 v k 를 중간 노드로 사용하는 경우이다.
따라서 이 경로는 두 구간으로 나눌 수 있다.
v i 에서 v k 로의 최단 경로(v k 는포함될수없음): D (k-1) [i][k]
v k 에서 v j 로의 최단 경로(v k 는포함될수없음): D (k-1) [k][j]
그러므로 다음이 성립한다.
D (k) [i][k] = D (k-1) [i][k] + D (k-1) [k][j]
17/43
Floyd의 최단 경로 알고리즘 I -계속
경우 1과경우2를 모두 고려하면 다음과 같다.
D[5][4]
( k) ( k−1) ( k−1) ( k−1)
D i j = D i j D i k + D k j
[][ ] min( [][ ], [][ ] [ ][ ])
경우 1 경우 2
D (0) [5][4] = ∞
D (1) [5][4] = min(D (0) [5][4], D (0) [5][1]+D (0) [1][4])
= min(∞, 3+1) = 4
D (2) [5][4] = min(D (1) [5][4], D (1) [5][2]+D (1) [2][4])
= min(4, 4+2) = 4
18/43

Floyd의 최단 경로 알고리즘 I -계속
1
2
3
4
5
1
2
3
4
5
D (2)
1
2
3
4
5
D (0) 0
D (1) 0
1
0
1
∞
1
5
1
0
1
∞
1
5
1
0
1
4
1
5
2
9
0
3
2
∞
2
9
0
3
2
14
2
9
0
3
2
14
3
∞
∞
0
4
∞
3
∞
∞
0
4
∞
3
∞
∞
0
4
∞
4
∞
∞
2
0
3
4
∞
∞
2
0
3
4
∞
∞
2
0
3
5
3
∞
∞
∞
0
5
3
4
∞
4
5
3
4
7
4
1
2
3
4
5
1
2
3
4
5
1
2
3
4
5
D (3) 0
D (4) 0
D (5) 20
1
0
1
4
1
5
1
0
1
3
1
4
1
0
1
3
1
4
2
9
0
3
2
14
2
9
0
3
2
14
2
8
0
3
2
5
3
∞
∞
0
4
∞
3
∞
∞
0
4
7
3
10
11
0
4
7
4
∞
∞
2
0
3
4
∞
∞
2
0
3
4
6
7
2
0
3
5
3
4
7
4
0
5
3
4
6
4
5
3
4
6
4
19/43
Floyd의 최단 경로 알고리즘 I – 계속
문제: 가중치 방향 그래프에서 최단 경로 찾기(가중치는 양수)
입력: 가중치 방향 그래프 W, W에있는정점의수n
출력: 2차원 배열, 이 배열의 각 요소는 한 정점에서 다른 정점으로
최단 경로의 길이를 나타낸다.
void floyd(int n, number W[][], number D[][]){
index i, j, k;
D = W;
for(k=1; k≤n; k++)
T(n) = n 3 ∈Θ(n 3 )
for(i=1; i≤n; i++)
for(j=1; j≤n; j++)
D[i][j] = min(D[i][j], D[i][k] + D[k][j])
}
20/43

Floyd의 최단 경로 알고리즘 II – 계속
문제, 입력: Floyd 알고리즘 I과동일
출력: Floyd 알고리즘 I의출력, 다음과 같은 2차원 배열 P
P[i][j]: i에서 j로 최단경로 상에 중간노드가
없는 경우는 0,
있으면 중간노드 중에서 색인 값이 가장 큰 노드,
void floyd(int n, number W[][], number D[][], number P[][]){
index i, j, k;
for(i=1; i

최적화 문제와 동적 프로그래밍
동적 프로그래밍을 이용한 최적화 문제를 해결하는 알고리즘 개발
과정
단계 1. 문제의 사례에 대한 최적해를 주는 재귀 관계식 정립
단계 2. 상향식 방법으로 최적해의 값을 계산한다.
예5.1)
최단 경로의 길이를 구한다.
단계 3. 상향식 방법으로 최적해를 구성한다.
예5.2)
최단 경로를 구한다.
모든 최적화 문제는 동적 프로그래밍으로 해결할 수 있는 것은 아니다.
최적 원칙(principle of optimality): 어떤 문제의 사례에 대한 최적해가
그 사례의 모든 부분사례의 최적해를 항상 포함하고 있으면 이 원칙이
적용된다고 한다.
이 원칙이 적용되어야 동적 프로그래밍으로 최적화 문제를 해결할
수있다.
23/43
최적의 원칙
적용되는 경우
최단 경로 문제
v i 에서 v j 까지 최단 경로가
v k 를 포함하면 이 경로의
부분 경로인 v i 에서 v k 까지의
경로는두정점간의최단
경로이다.
1 v 1
3 1
v 2
v 3
2
4 1
v 4
적용되지 않는 경우
최장 경로 문제
문제의 대한 해를
단순 경로로 제한
v 1 에서 v 4 까지의 최장 경로
(v 1 , v 3 , v 2 , v 4 ) = 7
v 1 에서 v 3 까지의 최장 경로
(v 1 , v 2 , v 3 ) = 4
v 1 에서 v 4 까지의 최장 경로
의 부분 경로는 항상 최장
경로가 아니다.
24/43

연쇄 행렬곱셈
i×j 행렬과 j×k 행렬을 곱하기 위해서는 기본적으로 i×j×k 곱셈이
필요하다.
예5.3)
2×3 행렬과 3×4 행렬을 곱하기
⎡7 8 9 1⎤
⎡1 2 3⎤⎢ 29 35 41 38
2 3 4 5
⎥ ⎡ ⎤
⎢
4 5 6
⎥ = ⎢
74 89 104 83
⎥
⎣ ⎦
⎢ ⎥
⎢
⎣ ⎦
⎣6 7 8 9⎥⎦
29 = 1×7 + 2×2 + 3×6, 이와 같은 계산을 결과 행렬 i×k번
수행해야 한다.
다음과 같은 일련의 행렬을 곱하는 경우를 생각하여 보자.
A × B × C × D
20× 2 2× 30 30×
12 12×
8
중요한 사실. 곱하는 순서는 결과에 영향을 주지 않는다.
예5.4)
A(B(CD)) = (AB)(CD)
25/43
연쇄 행렬곱셈 -계속
일련의 행렬을 곱하는 경우에는 곱하는 순서에 따라 필요한 기본
연산의 수가 크게 달라진다.
예5.5)
A(B(CD) 30×12×8+2×30×8+20×2×8 = 3680
(AB)(CD) 20×2×30+30×12×8+20×30×8 = 8880
A((BC)D) 2×30×12+2×12×8+20×2×8 = 1232
((AB)C)D 20×2×30+20×30×12+20×12×8 = 10320
목표: 가장 최적의 곱하는 순서를 구하는 것
26/43

연쇄 행렬곱셈의 무작정 알고리즘
알고리즘: 가능한 모든 순서를 구한 다음에 그 중에 가장 최적인 순서를
선택한다.
시간복잡도: 지수시간
Why
t n : n개의 행렬(A 1 , A 2 , …, A n )을 곱할 수 있는 가능한 모든 순서의 수
t n 의 부분집합으로서 A 1 을 맨 마지막으로 곱하는 경우를 생각해
볼수있다. 이것의 가능한 경우의 수는 t n-1 이다.
t n 의 부분집합으로서 A n 을 맨 마지막으로 곱하는 경우도 생각해
볼수있다. 이것의 가능한 경우의 수는 t n-1 이다.
따라서 다음이 성립한다.
t n ≥ t n-1 +t n-1 = 2t n-1
t 2 = 1이고, t n ≥ 2t n-1 ≥ 2 2 t n-2 ≥ … ≥ 2 n-2 t 2 ∈Θ(2 n )이다.
27/43
동적 프로그래밍을 이용한 연쇄 행렬곱셈
이 문제는 다음과 같은 이유에 의해 최적의 원칙에 적용된다는 것을
알수있다.
예5.6)
6개의 행렬을 곱하는 최적의 순서가 다음과 같다고 하자.
A 1 ((((A 2 A 3 )A 4 )A 5 )A 6 )
(A 2 A 3 )A 4 는 A 2 에서 A 4 까지의 행렬을 곱하는 최적의 순서이다.
일련의 행렬을 곱하는 경우에 다음이 성립한다.
A k-1 의열수와A k 의 행 수는 같아야 한다.
d k 를 A k 의열의수라하면A k 의행의수는d k-1 이다.
d 0 : A 1 의행수
재귀 관계식의 구축
M[i][j]: i

동적 프로그래밍을 이용한 연쇄 행렬곱셈
6개의 행렬을 곱하는 최적의 순서는 다음 중 하나에 포함된다.
A 1 (A 2 A 3 A 4 A 5 A 6 ) 사실 1. 최적 원칙이 적용되는 문제이다.
(A 1 A 2 )(A 3 A 4 A 5 A 6 ) 사실 2. 옆에 있는 다섯 가지는 크게
(A 1 A 2 A 3 )(A 4 A 5 A 6 ) 두 부분으로 나누어진다.
(A 1 A 2 A 3 A 4 )(A 5 A 6 ) 중요 관찰. 나누어진 두 부분은 사실 1에
의해 최적이다.
(A 1 A 2 A 3 A 4 A 5 )(A 6 )
따라서 최적의 순서는 다음과 같이 정의된다.
M[1][6] = min( M[1][ k] + M[ k+ 1][6] + d d d )
위 결과를 일반화하면 다음과 같다.
0 k 6
1≤k≤5
M[][ i j] = min( M[][ i k] + M[ k+ 1][ j] + d d d )
Mi [][] i = 0
i−1
k j
i≤k≤j−1
29/43
동적 프로그래밍을 이용한 연쇄 행렬곱셈
예5.7) 5.7) A
1× A
2× A
3× A
4× A
5×
A
6
5×
2
2× 3 3× 4 4×
6 6× 7 7×
8
1
2
3
4
5
6
1
0
2
30
0
3
64
24
0
4
132
72
72
0
5
226
156
198
168
0
6
348
268
366
392
336
0
M[i][i] = 0
M[1][2] = M[1][1] + M[2][2] + 5×2×3 = 30
M[2][3] = M[2][2] + M[3][3] + 2×3×4 = 24
…
M[5][6] = M[5][5] + M[6][6] + 6×7×8 = 336
M[1][3] = min(M[1][1] + M[2][3] + 5×2×4,
M[1][2] + M[3][3] + 5×3×4)
= min(24+40,30+60) = 64
…
M[1][4] = min(M[1][1] + M[2][4] + 5×2×6,
M[1][2] + M[3][4] + 5×3×6,
M[1][3] + M[4][4] + 5×4×6)
= min(72+60,30+72+90,64+120) = 132
…
30/43

최적의 순서 구축
최적의 순서를 얻기 위해서는
M[i][j]를 계산할 때 최소값을
주는 k를 P[i][j]에 보관한다.
예5.8) 5.8)
P[2][5] = 4
이것은 A 2 에서 A 5 까지
곱하는 순서는 다음과 같다는
것을 의미한다.
1
2
3
1
2
1
3
1
2
4
1
3
3
5
1
4
4
6
1
5
5
(A 2 A 3 A 4 )A 5
최적의 순서는…
P[1][6] = 1
A 1 (A 2 A 3 A 4 A 5 A 6 )
4
4
5
P[2][6] = 5 (A 2 A 3 A 4 A 5 )A 6
5
5
P[2][5] = 4 (A 2 A 3 A 4 )A 5
P[2][4] = 3 (A 2 A 3 )A 4
P[2][3] = 2 A 2 (A 3 )
31/43
동적 프로그래밍을 이용한 연쇄 행렬곱셈
int minmult(int n, int[] d, index[][] P){
index i, j, k, diagonal;
int[1..n][1..n] M;
for(i=1;i≤n;i++) M[i][i] = 0;
for(diagonal=1;diagonal≤n-1;diagonal++){
for(i=1; i≤n-diagonal; i++){
j = i+diagonal;
M[i][j] = min(M[i][k]+M[k+1][j]+d[i-1]*d[k]*d[j]);
// where i≤k≤j-1
P[i][j] = a value of k that gave the min
}
}
return M[1][n];
}
diagonal = 1
i = 1, j = 2, k = 1
i = 2, j = 3, k = 2
i = 3, j = 4, k = 3
i = 4, j = 5, k = 4
i = 5, j = 6, k = 5
diagonal = 2
i = 1, j = 3, k = 1, 2
i = 2, j = 4, k = 2, 3
i = 3, j = 5, k = 3, 4
i = 4, j = 6, k = 4, 5
32/43

동적 프로그래밍을 이용한 연쇄 행렬곱셈
모든 경우 분석
k 루프를 수행하는 횟수: min 계산
(j-1)-i+1 = i+diagonal-1-i+1 = diagonal
for-i 루프를 수행하는 횟수 = n-diagonal
전체는 다음과 같다.
n−1
nn ( − 1)( n+
1) 3
∑ [( n- diagonal) × diagonal] = ∈Θ( n )
6
diagonal=
1
33/43
트리 구조의 기본
트리(tree)
루트(root)라고 하는 유일한 시작 노드를 가지며,
각 노드는 여러 개의 자식 노드를 가질 수 있는 구조로서,
루트에서 각 노드까지의 경로가 유일한 구조를 말한다.
트리는 재귀 구조(recursive structure)라한다.
각 노드를 기준으로 그 노드가 루트가 되는 부분트리(subtree)를
만들수있다.
이진 트리(binary tree): 각 노드가 최대 두 개의 자식 노드만을 가질 수
있는 트리
노드의 깊이(depth): 루트 노드부터 그 노드까지 간선의 수
다른 말로 트리에서 노드의 레벨(level)이라 한다.
34/43

트리 구조의 기본 -계속
균형 이진 트리(balanced binary tree): 트리의 모든 노드의 왼쪽
부분트리와 오른쪽 부분트리의 깊이가 최대 하나 차이가 나는 트리
이진 검색 트리의 정의: 순서가 정의되어 있는 항들로 구성한
이진 트리로서 다음과 같은 특성을 가지고 있다.
각 노드는 키를 가지고 있다.
한 노드의 키는 그 노드의 왼쪽 부분트리에 있는 노드들의 모든
키보다 크다.
한 노드의 키는 그 노드의 오른쪽 부분트리에 있는 노드들의 모든
키보다 크다.
최적의 이진 검색 트리: 키를 찾기 위한 평균 시간이 최소화된 이진
검색 트리
35/43
이진 검색 트리의 예
트리 1.
트리 2.
David
Carmen Peter
Isabelle Tom
Ralph Wally
Peter
David
Tom
Carmen Isabelle Ralph Wally
트리 2에서 모든 키를 검색할
확률이 같으면 트리 2는 최적의
이진 검색 트리이다.
검색시간(search time): 어떤 키
를 찾기 위해 필요한 비교 횟수
이 시간은 depth(key)+1이다.
예) 트리 1에서 Peter: 2
트리에 key 1 , key 2 , …, key n 이
있고, p i 는 key i 를 검색할 확률
이며, c i 는 key i 를 검색하기 위해
필요한 검색시간이라 하자.
그러면 이 트리에서 평균
n
검색 시간은
∑ 이다.
i =
cp
1 i i
이 값을 최소화하는 것이
목표
36/43

최적의 이진 검색 트리의 예
예5.9)
p 1 = 0.7, p 2 = 0.2, p 3 = 0.1
트리 a. 3(0.7)+2(0.2)+1(0.1) = 2.6
트리 b. 2(0.7)+3(0.2)+1(0.1) = 2.1
트리 c. 2(0.7)+1(0.2)+2(0.1) = 1.8
트리 d. 1(0.7)+3(0.2)+2(0.1) = 1.5
트리 e. 1(0.7)+2(0.2)+3(0.1) = 1.4
key 3
key 3
key 1
key 1
key 2
트리 b.
key 2
key 1
key 3
key 2
key 1
key 3
트리 a.
트리 d.
key 1
key 2
트리 c. key 2
key 3
트리 e.
37/43
동적 프로그래밍을 이용한 최적의 이진 검색 트리
최적의 이진 검색 트리를 찾기 위해 가능한 모든 이진 검색 트리를
고려하는 것은 최소한 지수시간이 필요하다.
j
c p m=
i m m이 최소화되는 key i 에서 key j 로 구성된 트리가 있다고 하자.
이런 트리를 최적이라 하며, 최적값을 A[i][j]로 표기한다.
A[i][i] = p i
예5.10)
p 1 = 0.7, p 2 = 0.2, p 3 = 0.1일때A[2][3]
1(p 2 )+2(p 3 ) = 1(0.2) + 2(0.1) = 0.4
∑
2(p 2 )+1(p 3 ) = 2(0.2) + 1(0.1) = 0.5
참고. 위 해답은 3개의 값을 모두 고려하였을 때의 해답의 부분
해답이다.
최적의 원칙이 이 문제에도 적용된다.
38/43

동적 프로그래밍을 이용한 최적의 이진 검색 트리
tree k : key k 가 루트에 있어야 한다는 제약이 있을 경우에 최적의 이진
검색 트리
그러면 평균 검색 시간은 다음과 같다.
A[1][ k− 1] + p1 + + pk− 1
+ p [ 1][ ]
k + A k+ n + pk+
1+ +
p
n
왼쪽 부분트리의
평균 검색 시간
루트 때문에
추가적으로 필요한 시간
루트의
평균 검색 시간
오른쪽 부분트리의
평균 검색 시간
루트 때문에
추가적으로 필요한 시간
n
A[1][ k− 1] + A[ k+ 1][ n]
+∑ p
m=
1
m
39/43
동적 프로그래밍을 이용한 최적의 이진 검색 트리
A[1][n]은 다음과 같다.
n
A[1][ n] = min( A[1][ k− 1] + A[ k+ 1][ n])
+∑ p
m=
1
1≤k≤n
여기서 A[1][0] = 0이고, A[n+1][n]=0이다.
이것을 일반화하면 다음과 같다.
j
Ai [][ j] = min( Ai [][ k− 1] + Ak [ + 1][ j])
+ p
1≤k≤n
Ai [][] i = p, Ai [][ i− 1] = 0, A[ j+ 1][ j] = 0
i
∑
m=
i
m
m
40/43

동적 프로그래밍을 이용한 최적의 이진 검색 트리
예5.10) 5.10) David(3/8), Isabelle(3/8), Ralph(1/8), Wally(1/8)
1
2
3
4
5
0
0
1
3/8
0
2
9/8
3/8
0
3
11/8
5/8
1/8
0
4
7/4
1
3/8
1/8
0
A[i][0] = 0
A[1][1] = 3/8, A[2][2] = 3/8,
A[3][3] = 1/8, A[4][4] = 1/8
A[1][2] = min(A[1][0]+A[2][2],A[1][1]+A[3][2])
+6/8
= min(3/8,3/8)+6/8 = 9/8
A[2][3] = min(A[2][1]+A[3][3],A[2][2]+A[4][3])
+4/8
= min(1/8,3/8)+4/8 = 5/8
A[3][4] = min(A[3][2]+A[4][4],A[3][3]+A[5][4])
+2/8
= min(1/8,1/8)+2/8 = 3/8
…
41/43
동적 프로그래밍을 이용한 최적의 이진 검색 트리
float optsearchtree(int n, float[] p, index[][] R){
index i, j, k, diagonal;
int[1..n+1][0..n] A;
for(i=1;i

동적 프로그래밍을 이용한 최적의 이진 검색 트리
모든 경우 분석
k 루프를 수행하는 횟수: min 계산
j-i+1 = i+diagonal-i+1 = diagonal+1
for-i 루프를 수행하는 횟수 = n-diagonal
전체는 다음과 같다.
n−1
nn ( − 1)( n+
4) 3
∑ [( n- diagonal) × (diagonal+1)] = ∈Θ( n )
6
diagonal=
1
43/43