최신 기술동향
-
TRPO와 PPO 알고리즘의 개념최신 기술동향/인공지능 (AI) 2021. 9. 6. 21:31
앞선 글들에서 소개했듯이, 강화학습은 주어진 Environment에서 State을 기준으로, 최고의 Action을 학습해나가는 과정이다. State에서의 Action을 통한 결과를 반영하여 (State, Action) = (s,a)의 관계 Q function을 점수화하는 Value-Based 학습, Action을 결정하는 Policy 자체를 학습시켜 나가는 Policy-Based 학습이 있다. 각각의 장단점을 갖고 있으며, 그 카테고리 안에도 State와 Action이 Discrete or Continuous 여부 등에 따라 여러 모델들이 파생된다. 그 중, 이번 글에서 소개할 Proximal Policy Optimization Algorithm (PPO) [1]은 이름에서 알 수 있듯이 Policy-B..
-
Ultra-WideBand (UWB) 기술의 원리와 Use case최신 기술동향 2021. 8. 15. 09:18
최근 무선 통신기기 사업을 하는 기업들에서 Ultra WideBand (UWB)라는 기술에 대해 연구를 거듭하며 이에 대한 홍보를 진행하고 있다. 작년 삼성전자의 무선사업부 기고문 [1]을 보면 UWB가 Wi-Fi/Bluetooth와 더불어 통신 기술의 게임체인저로 자리매김할 거라는 내용이 실려있다. 통신 분야는 호환성이 무엇보다 중요하기 때문에 UWB의 발전에 대해 논해보자는 'FiRa 컨소시엄'을 만들고 완성차 업체, 소비재 기업들과 논의를 진행하고 있다. 삼성전자와 더불어 무선기기 시장의 양대 산맥인 Apple에서도 해당 기술에 대한 관심을 가지고 있으며, 연구를 진행 중이다. Car connectivity Consortium (CCC)라는 표준화 단체에서는 자동차의 스마트키를 스마트폰으로 대체하는..
-
Google AI Blog(논문) 리뷰: SoundStream (An End-to-End Neural Audio Codec)최신 기술동향/인공지능 (AI) 2021. 8. 14. 11:24
AI에 대해 독보적인 기술력을 갖고있는 Google은 AI을 이용한 다양한 자사의 연구내용을 소개하는 Google AI Blog [1]를 운영한다. 이번 글에서는 Google AI Blog에 올라온 기술 중에 가장 최신인 Neural Network (NN)를 이용한 Audio Codec에 대해 분석하고 소개하고자 한다. 기술에 대한 원문은 논문 [2]으로도 공개가 되어 arxiv에 올라와 있다. Codec은 보통 Encoding / Decoding을 합친 표현으로 송신단에서 데이터를 압축하여 전송하고, 수신단에서 압축된 데이터를 통해 원래 데이터로 복구하는 프로토콜이다. 즉, 무선이든 유선이든 특정 네트워크를 통과해서 전달이 되어야하기 때문에 Multi-user가 해당 네트워크를 공유하는 상황에서는 적은..
-
Forbes IT 기사 리뷰 - Google's Tensor SoC최신 기술동향 2021. 8. 10. 20:19
최근, Google은 Blog [1]를 통해 Tensor라는 이름의 SoC를 개발했고, Google의 자체 개발 smartphone인 Pixel 6에 탑재할 예정이라고 밝혔다. 이와 관련해서 이번에 리뷰할 내용은 Forbes에 실린 'What Does Google’s Tensor SoC Mean For Google’s Hardware And Software Efforts?' [2] 라는 기사다. 이번 글에서도 기사 하나만을 리뷰하기보다는 구글이 스마트폰과 SoC 생태계에 뛰어드는 스토리를 조금 풀어보고자 한다. Google은 모든 것을 알고 있다고 해도 과언이 아닐 정도로, 지구상 최고이자 최강의 기업으로 꼽히는데, 이를 가능케했던 것들은 압도적인 데이터를 바탕으로 하는 AI 기술이었다. 전 세계 60억..
-
Video Coding for Machine (VCM) 논문 리뷰최신 기술동향 2021. 7. 13. 18:08
이번에 리뷰할 기술은 Video Coding for Machine (VCM)이다. 일반적으로, 이미지를 압축한다고 할 때는 JPEG, 영상을 압축한다고 할 때는 H.264 등의 압축 표준을 사용한다. 전통적인 압축의 방식은, 어느 정도 데이터(e.g., 이미지, 영상)가 뭉개져 보이는 형태더라도, 사람이 보기 쉽게 Encoding이 된다. 예를 들면, JPEG으로 압축된 데이터를 사람이 본다고 했을 때, 비행기인지, 새인지 판단할 수 있다. 이런 기존의 압축 방법 덕분에, 우리는 몇십 MB에 달하는 이미지 한 장, 몇십 GB에 달하는 영상 하나를 수십 배까지 용량을 줄여서 전송할 수 있었고, 이렇게 압축된 데이터가 다양한 use case에 적용되었다. 하지만, 클라우드 컴퓨팅을 위해 해당 데이터를 전송해..
-
AI 알고리즘 경량화최신 기술동향/인공지능 (AI) 2021. 5. 1. 08:25
AI를 활용한 다양한 Application이 등장하며, 각 Application의 성능을 향상시키기 위한 최적의 알고리즘도 등장하고 있다. Natural Language Processing (NLP)를 향상하기 위해, '어느 context에 집중해서 봐야하는지'를 알려주는 Attention 알고리즘, 이를 CNN로 확장시키기 위한 Convoulution Bottleneck Attention Module (CBAM) 등 다양한 알고리즘이 파생되어 제시되고 있다. 하지만 대부분의 평가지표는 Accuracy 및 NMSE값에 초점이 맞춰져 있기 때문에 점점 복잡한 모델들이 등장하고 있다. 많은 GPU를 사용해서 Dataset을 병렬로 처리한다면, Train도 빠르게 될 것이고, Train된 모델을 기반으로 In..
-
Hyper-Parameter Tuning 및 AutoML 논문 리뷰최신 기술동향/인공지능 (AI) 2021. 2. 6. 08:27
AI에 대한 어느 정도의 지식이 있다면, 충분히 많은 AI 논문 알고리즘에 대한 논문과 관련된 코드들을 찾아 볼 수 있다. 기존 Machine Learning 알고리즘, Neural Network 기반의 알고리즘 등 다양한 알고리즘을 자신의 Application에 맞게 활용할 수 있는 Tool들이 있다. 하지만 새로운 Application이나 논문 주제를 위해 시뮬레이터를 설계하려고 하면, 기존의 알고리즘을 그대로 가져다 사용하는 것이 아니라 자신에게 맞는 ML 모델을 적용해야한다. 참고 자료에서 Node 갯수는 몇 개가 좋으며, Dropout은 얼마나 하는 것이 좋을지에 대한 Hyper-parameter에 대한 고민, CNN을 쓰는 것이 맞는지, 얼마나 깊게 쌓아야할지 등 Architecutre에 대한..
-
Attention & Transformer의 개념최신 기술동향/인공지능 (AI) 2020. 12. 13. 08:23
이번 글에서는 시계열 분석에서 State-of-Art라고 할 수 있는, Transforemer에 대해 정리해보고자 한다. 일반적으로 시계열 분석이라 하면, Recurrent Neural Network (RNN)이나 Long-Short Term Memory (LSTM)알고리즘을 배운다. 그것보다 조금 더 최신이면서, 간단한 알고리즘으로 GRU가 소개되었다. RNN의 장기간 학습 과정으로 인해 소실되는 정보들 중에 필요한 부분 (Remember, forget)들을 뒤의 State로 넘겨주면서 장기간 학습이 가능해지게 되었다. 이처럼 기존 RNN의 약점을 보완하는 LSTM과 이를 잇는 GRU는 Motivation도 직관적으로 이해하기도 편하고, 사용하기도 편한다. Tensorflow나 Keras에서는 해당 L..