동적계획법(Dynamic Programming)

다이나믹 프로그래밍이란?

- 메모리를 적절히 사용하여 수행시간을 비약적으로 향상시키는 방법

- 이미 계산된 결과는 별도 메모리 영역에 저장하여 다시 계산하지 않도록 함

- 다이나믹 프로그래밍의 구현은 일반적으로 하향식(Top-Down)과 상향식(Bottom-Up)으로 구성

 

일반적인 프로그래밍 분야에서의 동적(Dynamic)의 의미

- 자료구조에서 동적할당(Dynamic Allocation)은 프로그램이 실행되는 도중에 실행에 필요한 메모리를 할당하는 기법

- 동적계획법(Dynamic Programming)에서의 동적(Dynamic)은 별다른 의미없이 붙여진 단어

 

다이나믹 프로그래밍의 조건

1. 최적 부분 구조(Optimal Substructure)

- 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있음

2. 중복되는 부분 문제(Overlapping Subproblem)

- 동일한 작은 문제를 반복적으로 해결해야 함

 

DP 대표문제1: 피보나치 수열

 

재귀를 이용한 피보나치 수열 파이썬 코드 

def fibonacci(x):
    if x == 1 or x == 2:
        return 1
    return fibonacci(x - 1) + fibonacci(x - 2)


print(fibonacci(4))

* 피보나치 수열은 재귀를 사용하면 간단하게 구현할 수 있지만, 지수의 시간 복잡도를 가지기 때문에 숫자가 커질 수록 기하급수적으로 많은 시간이 소요된다는 단점이 있음

 

 

* 별도의 메모리 공간에 이미 해결한(값을 구한) 문제들을 저장하여 반복적인 계산으로 인한 시간 소모를 줄일 수 있음

 

하향식(Top-Down) 기법(Memoization)

- 다이나믹 프로그래밍을 구현하는 방법중 하나 

- 한번 계산한 결과를 메모리 공간에 메모하는 기법

• 같은 문제를 다시 호출하면 메모했던 결과를 그대로 가져옴
• 값을 기록해둔다는 점에서 캐싱(Caching)이라고도 함

- 구현 과정에서 재귀함수를 이용 

 

피보나치 DP Top-Down 파이썬 코드 (시간복잡도: O(N))

dt = [0] * 100
def fibo_top_down(x):
    print('f(%s)' % str(x), end=" ")  # 실행되는 함수 체크
    if x == 1 or x == 2:
        return 1
    if dt[x] != 0:
        return dt[x]
    dt[x] = fibo_top_down(x - 1) + fibo_top_down(x - 2)
    return dt[x]

 

상향식(Bottom-Up) 기법

- 다이나믹 프로그래밍의 전형적인 형태

• 결과 저장용 리스트(혹은 배열)는 DP 테이블이라고 함

- 주로 반복문을 이용하여 구현

- 엄밀히 말하면 Memoization은 이전에 계산된 결과를 일시적으로 기록해두는 넓은 개념을 의미 

• 따라서, Memoization은 다이나믹 프로그래밍에만 국한된 개념은 아님
• 한번 계산된 결과를 담아두기만 하고 다이나믹 프로그래밍을 위해 활용하지 않을 수도 있음

피보나치 DP Bottom-Up 파이썬 코드  (시간복잡도: O(N))

db = [0] * 100
def fibo_bottom_up(x):
    db[1], db[2] = 1, 1
    for i in range(3, x + 1):
        print('f(%s)' % str(i), end=" ")  # 실행되는 함수 체크
        db[i] = db[i - 1] + db[i - 2]
    return db[x]

 

다이나믹 프로그래밍 vs 분할 정복

공통점: 최적부분구조

• 큰 문제로 작은 문제를 해결할 수 있으며 작은 문제의 답을 모아 큰 문제를 해결할 수 있는 상황

차이점: 부분 문제의 중복

• 다이나믹 프로그래밍에서는 각 부분 문제들이 서로 영향을 미치며 부분 문제가 중복됨
• 분할 정복 문제에서는 동일한 문제가 반복적으로 계산되지 않음 

분할정복 대표 예시: 퀵 정렬

 

퀵 정렬 파이썬 코드 

def QuickSort(arr):
    n = len(arr)
    res = []
    if n <= 1:
        return arr
    pivot = arr[0]
    left, right = [], []
    for num in arr[1:]:
        if num <= pivot:
            left.append(num)
        else:
            right.append(num)
    return QuickSort(left) + [pivot] + QuickSort(right)