deep learning
-
Hyper-Parameter Tuning 및 AutoML 논문 리뷰최신 기술동향/인공지능 (AI) 2021. 2. 6. 08:27
AI에 대한 어느 정도의 지식이 있다면, 충분히 많은 AI 논문 알고리즘에 대한 논문과 관련된 코드들을 찾아 볼 수 있다. 기존 Machine Learning 알고리즘, Neural Network 기반의 알고리즘 등 다양한 알고리즘을 자신의 Application에 맞게 활용할 수 있는 Tool들이 있다. 하지만 새로운 Application이나 논문 주제를 위해 시뮬레이터를 설계하려고 하면, 기존의 알고리즘을 그대로 가져다 사용하는 것이 아니라 자신에게 맞는 ML 모델을 적용해야한다. 참고 자료에서 Node 갯수는 몇 개가 좋으며, Dropout은 얼마나 하는 것이 좋을지에 대한 Hyper-parameter에 대한 고민, CNN을 쓰는 것이 맞는지, 얼마나 깊게 쌓아야할지 등 Architecutre에 대한..
-
AI 기반 Cellular Communication 기술 동향 리뷰5G & 6G 통신 기반 기술 2020. 11. 24. 08:39
이번 글에서는 AI 기반의 Cellular 통신에 대해 어떤 논의가 진행되고 있는지에 대해 정리한 ETRI의 전자통신동향 분석자료를 리뷰해보고자 한다. ETRI의 전자통신동향 분석은 나올 때마다 읽어보고 있는데, 상당히 정리가 잘 되어있는 편이기 때문에 관심이 있는 사람들은 주기적으로 읽어보는 것을 추천한다. 제목: AI 기반 이동통신 물리계층 기술 동향과 전망 [1] 저자: 장갑석 (K. Chang, kschang@etri.re.kr) 6G무선방식연구실 책임연구원/기술총괄 고영조 (Y.J. Ko, koyj@etri.re.kr) 6G무선방식연구실 책임연구원/실장 김일규 (I.G. Kim, igkim@etri.re.kr) 미래이동통신연구본부 책임연구원/본부장 가장 먼저 리뷰할 동향은 AI가 PHY Laye..
-
RNN vs LSTM vs GRU최신 기술동향/인공지능 (AI) 2020. 8. 1. 10:43
이번 글에서는 시계열분석에 필요한 RNN 계열 모델들을 정리한다. 대표적으로, Recurrent Neural Network (RNN)과 이를 보완하기 위한 Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU) 모델이 있다. RNN RNN은 이름에 '순환'이라는 Recurrent가 들어감에서 알 수 있듯이, 한 쪽 방향으로 정보가 흘러가는 것이 아니라, Layer에서 순환하는 구조를 갖고 있다. 이는 그림을 통해서 조금 더 알기 쉽게 설명할 수 있다. 이를 위해 다른 Blog [1]에 잘 설명되어 있는 그림을 가져왔다. RNN 모델에서는 여러 개의 input x_t (보통 시계열) 값을 input으로 받아서 h_t라는 output 값을 계산해서 내보냄과 동..
-
딥러닝의 개념최신 기술동향/인공지능 (AI) 2020. 7. 7. 10:52
Deep Learning은 Machine Learning 알고리즘의 한 종류다. 신경망 (Neural Network)라고도 불리는데, Deep Neural Network (DNN)은 신경망을 구성하는 Layer가 많아지는 구조로 이루어져있다. 아래 그림은 가장 기본적인 Neural Network의 예시인데, Input X가 Hidden-Layer 1과 Hidden-Layer 2로 들어가서 Output Y로 나오는 구조다. Hidden Layer를 보면, 이전 Layer의 output과 Hidden Layer의 Weight Maxtrix를 곱하고, 비선형함수 (Non-Linear Funcation)에 넣는다. 여기서 '비선형함수'가 중요한 이유는 비선형 함수 없이 선형함수만으로 Hidden Layer를 구..