Keras
-
RNN vs LSTM vs GRU최신 기술동향/인공지능 (AI) 2020. 8. 1. 10:43
이번 글에서는 시계열분석에 필요한 RNN 계열 모델들을 정리한다. 대표적으로, Recurrent Neural Network (RNN)과 이를 보완하기 위한 Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU) 모델이 있다. RNN RNN은 이름에 '순환'이라는 Recurrent가 들어감에서 알 수 있듯이, 한 쪽 방향으로 정보가 흘러가는 것이 아니라, Layer에서 순환하는 구조를 갖고 있다. 이는 그림을 통해서 조금 더 알기 쉽게 설명할 수 있다. 이를 위해 다른 Blog [1]에 잘 설명되어 있는 그림을 가져왔다. RNN 모델에서는 여러 개의 input x_t (보통 시계열) 값을 input으로 받아서 h_t라는 output 값을 계산해서 내보냄과 동..
-
딥러닝의 개념최신 기술동향/인공지능 (AI) 2020. 7. 7. 10:52
Deep Learning은 Machine Learning 알고리즘의 한 종류다. 신경망 (Neural Network)라고도 불리는데, Deep Neural Network (DNN)은 신경망을 구성하는 Layer가 많아지는 구조로 이루어져있다. 아래 그림은 가장 기본적인 Neural Network의 예시인데, Input X가 Hidden-Layer 1과 Hidden-Layer 2로 들어가서 Output Y로 나오는 구조다. Hidden Layer를 보면, 이전 Layer의 output과 Hidden Layer의 Weight Maxtrix를 곱하고, 비선형함수 (Non-Linear Funcation)에 넣는다. 여기서 '비선형함수'가 중요한 이유는 비선형 함수 없이 선형함수만으로 Hidden Layer를 구..