Intel의 Neuromorphic Chip - Loihi 2

 일반적인 Computer Architecture는 Computing Core (e.g., CPU/GPU)가 Memory에서 데이터를 불러와서 연산을 한 후, 다시 메모리에 넣는 방식으로 이루어진다. 폰 노이만에 의해 개발된 이 방식은 '폰-노이만'구조라 불리며, 수십 년간 Computer Architecture의 Baseline 역할을 했다. 하지만, CPU의 연산처리량이 높아져도 메모리에서의 Throughput이 부족하면 전체 성능이 저하되고 반대의 경우에도 전체 성능이 저하되는 '폰-노이만 병목현상'이 문제점으로 지목되어 왔다. 이런 문제를 줄이기 위해 CPU/GPU 근처에 저장장치를 더 두는 Cache (캐쉬)를 이용하거나, 고대역메모리-High Bandwidth Memory (HBM) 연구, 메모리에서프로세싱도 처리하는 Processing in Memory (PiM) 연구가 이루어지고 있다. 더 나아가, 기존의 연산 방식에서는 막대한 Power Consumption이 발생하는데, 이는 AI를 다양한 Device에 적용하기 어려운 원인이 된다. 모든 어려운 문제의 해답은 자연에 있다는 말처럼, AI 연구진들은 20W의 에너지 소모로 많은 연산을 처리하는 인간의 뇌의 구조에 집중하고, Neuromorphic Chip 연구에 적용하기 시작한다. 

 

 앞선 글 [1] 에서 간략하게 소개된 것처럼, Neural Processing Unit (NPU)는 AI 연산에 특화된 Chip이고, 많은 기업에서 이를 연구하고 있다. 이번 글에서는 NPU를 연구하는 많은 기업 중, Computing Chip에 이미 많은 포트폴리오를 보유하고 있으며, CPU에서는 독보적인 위치를 차지하고 있는 Intel의 Nueromorphic Chip 개발 현황에 대해 알아보고자 한다. 이 글은 EETimes의 2021년 10월 5일 기사 [2]를 참고한 내용이다.

 Intel이 2017년 1세대 Neuromorphic Chip인 Loihi를 공개한 이후, 최근, 2세대 Neuromorphic Chip인 Loihi 2를 공개했다. Neuromorphic Chip은 [1]에서 간단하게 소개한 Spiking Neural Network (SNN)의 방식을 따르고 있다. 기존의 Deep Neural Network (DNN)이 여러 Neuron 들에서 가중치를 곱하고 더한 출력을 다음 Layer의 Input으로 주었다. SNN 방식에서는 Event-based 방법으로 앞서 들어온 작은 신호들이 중첩되어, 하나의 큰 Spike 신호를 출력하는 방식으로 이루어진다. Loihi는 기존 Computer Architecture처럼 Computing과 Memory가 분리되고, Synchronous하게 데이터를 주고 받는 것이 아니라, Computing Core안에 Memory가 있고, Asynchronous하게 연산을 처리한다. 듣기만 해도, 계산 방식이 복잡하고, 결과를 예측하기 힘들 것 같다는 생각이 든다. 하지만, 연산 방식이 불안정하면, Robot이나 Mission-Critical한 경우에는 사용할 수 없기 때문에, 이를 잘 Control하는 Solution이 필요하고, 이에 대한 연구도 이루어지고 있다.

 Loihi 2는 Loihi 1과 비교했을 때, Memory의 총 량은 비슷하지만, 더 Flexible하게 쪼개서 할당할 수 있는 구조가 되었고, Model을 지원하는데 더 적은 Network Parameter로도 이를 표현할 수 있도록 설계되었다. 또 하나의 중요한 발전은 Neuron Programmability다. Loihi 1이 주어진 설정에서만 정해진 연산을 했다면, Loihi 2는 일반적인 연산 등 더 확장된 모델 구성이 가능하도록 바뀌었다. ASIC과 FPGA의 차이를 소개하면서, Programmability를 FPGA의 강점 중 하나로 말했던 것처럼, Chip에서 가장 중요한 요소 중 하나로, Loihi 2에서는 더 확장된 모델 구성이 가능하게 되었다.

 구조적으로는 Loihi 1이 SNN에서 Spike의 크기가 고정되어 있던 것에 비해, Loihi 2에서는 Spike의 크기도 Configurable하다는 차이가 생겼다. Biological하게는 Spike의 크기가 고정되어 있는 Loihi 1이 더 자연에 가깝지만, Spike의 크기가 Configure하게 되어서, Intel의 Loihi 구현에 있어서 상대적으로 간단하게 바뀔 수 있었다고 소개한다. SNN의 정확한 연산 방식에 대해서는 다루지 않았지만, DNN의 학습 및 추론 방식과 비교하는 글도 필요할 것으로 보인다. Loihi 2와 함께 소개된 Lava라는 Open-Source Framework도 있다. Intel Neuromorphic research community [3]에서 사용할 수 있는데, Google의 Tensorflow같은 파급력과 개발자 층은 확보되지 않은 것으로 보인다.

 

Conclusion

 이번 글에서는 최근 공개된 Intel의 Neuromorphic Chip인 Loihi 2에 대해 정리해보았다. 크게 보면, Loihi 1보다 더 다양한 연산 지원, 메모리 할당의 Flexibility와 Model Compression 증가, SNN 모델에서 Spike 크기 Configurable로 정리해볼 수 있을 것 같다. Neuromorphic Chip에 대한 연구는 Intel 이외의 선진 기업들에서도 연구 중이다. 폰 노이만 병목과 전력 소모의 고질적인 문제는 Resource가 부족한 on-device에서 큰 장애물이 되기 때문에 이를 위한 Neuromorphic 연구는 지속될 것으로 보인다.

 하지만, 앞선 글에서 소개했던 것과 같이, 기존의 Computer Architecture와 풀고자 하는 문제에 차이가 생기기 때문에, 다른 Application과의 호환도 중요해보인다. 기존의 CPU/GPU가 더 범용적인 문제를 풀었다면, Neuromorphic Chip은 AI 문제에 Focusing된 Chip이기 때문에 이런 고민이 더 필요하다. 초기 연구가 공정 방식에 초점을 맞추고 있었다면, Input/Output이 고정된 문제가 아닌, 어떤 AI 문제들을 지원할 수 있는 Neuromorphic Chip이고, 해당 Use case에는 어떤 특징이 있는지를 파악하며 알고리즘 설계도 함께 이루어져야 할 것으로 보인다.

 

Reference

[1] https://engineering-ladder.tistory.com/97

Neural Processing Unit (NPU)의 기술 및 시장 동향

 

[2] https://www.eetimes.com/intel-unveils-second-generation-neuromorphic-chip/

[3] https://www.intel.com/content/www/us/en/research/neuromorphic-community.html

Intel Neuromorphic Research Community