파이썬 벡터 사용하기

Goal

1. 딥러닝에서 벡터화(vectorization)의 장점 알아보기
2. 파이썬의 다양한 벡터화 연산 코드 알아보기

 

벡터화(Vectorization)을 사용하는 이유

딥러닝에선 엄청 많은 양의 데이터를 다루게 된다. 이 때, 많은 양의 데이터간에 곱셈와 같은 어떤 연산을 하게 되면 시간이 너무 오래 걸리는게 큰 문제가 된다.

 

예를 들어, 각각 백만개의 숫자를 가진 a와 b 배열에서 a와 b간의 모든 숫자를 곱하여 더해야한다면 일반적으로는 for문을 통해 할 수 있을 것이다. 하지만 시간이 너무 오래 걸리기 때문에 이럴 때 파이썬 numpy 라이브러리에 내제되어 있는 벡터 함수들을 사용하면 아주 빠르게 같은 작업을 수행할 수 있다!

import numpy as np
import time

a = np.random.rand(1000000)	# 백만개의 0~1 사이의 숫자
b = np.random.rand(1000000)	# 백만개의 0~1 사이의 숫자

### for문을 사용 ###
c = 0
start = time.time()	# 시작시간
for i in range(1000000):
    c += a[i]*b[i]
end = time.time()	# 종료시간

print(c)
print("For loop: " + str(1000*(end-start)) + "ms")
print("\n")

### 벡터를 사용 ###
start = time.time()	# 시작시간
c = np.dot(a,b)
end = time.time()	# 종료시간

print(c)
print("Vectorized version: " + str(1000*(end-start)) + "ms")

*** For문 버전 ***
249852.61979416214
For loop: 441.72096252441406ms


*** 벡터화 버전 ***
249852.6197941607
Vectorized version: 3.0107498168945312ms

위의 결과를 보면 벡터화한 코드에서는 3.01 ms 밖에 걸리지 않았지만 같은 작업을 for문을 통해 진행했을 땐 무려 100배가 넘는 441.72 ms가 걸렸다! 이 테스트는 백만개의 데이터로 진행했을 때 결과지만 실제 딥러닝 모델을 학습할 때에는 훨씬 더 많은 양의 데이터를 사용하기 때문에 엄청난 차이를 불러일으킨다.

 

다른 벡터화 연산 방법

import numpy as np

v = np.random.rand(1000000)

# e의 v승 (e^v)
v_exp = np.exp(v)

# v의 로그값
v_log = np.log(v)

# v의 절대값
v_abs = np.abs(v)

# v의 최대값
v_max = np.maximum(v, 0)

# v의 제곱값
v_sqr = v**2

# v의 역함수
v_inv = 1/v

위와 같이 파이썬 numpy 라이브러리에는 많은 벡터 연산 방법이 내제되어 있다. 잘 알아보고 이용해보자 :)

 

 

참고

Andrew Ng의 딥러닝 강의 - https://www.coursera.org/learn/neural-networks-deep-learning/lecture/NYnog/vectorization