AI 반도체란? (뉴로모픽 반도체, NPU, GPU, CPU)

 

최근 ‘AI 반도체’라는 용어가 등장할때마다 ‘CPU, GPU, NPU, 뉴로모픽’ 이라는 단어도 함께 등장하고 있습니다.

들어본 기술 용어 같기도 할텐데요. 이번 기회에 뜻을 정리해보고, 기술의 전망까지 한번 알아보도록 하겠습니다.

 

#1. ‘CPU, GPU, NPU, 뉴로모픽 그리고 AI반도체’ 란 무엇일까요?

 

CPU(Central Processing Unit) : 중앙처리장치라는 뜻으로 컴퓨터의 두뇌역할을 하면서 모든 데이터를 처리하는 장치입니다. 또한, 사용자로부터 입력 받은 명령어를 해석, 연산한 후 그 결과를 출력하는 역할도 담당하고 있습니다. 최근에는 하나의 칩에 CPU 및 GPU 등이 함께 들어가는 경우가 많아 CPU의 개념이 부품이라기보다는 기능의 하나로 인식되는 경향이 있습니다.

 

GPU(Graphics Processing Unit) : 그래픽카드의 핵심 칩입니다. 3D 그래픽이 본격적으로 도입되기 시작하면서 화면을 보다 현실적으로 만들기 위한 각종 광원 효과 및 질감 표현 기법이 점차 발전하기 시작했으며, 이러한 작업들을 CPU 혼자서 처리하기 버겁기 때문에 이를 보조할 3D 그래픽 연산 전용의 프로세서, 즉 GPU가 개발되어 그래픽카드에 탑재되기 시작했습니다.

 

NPU(Neural Processing Unit) : 심층 신경망(Deep Neural Network)을 사용하는 기계학습, 즉 딥러닝(Deep Learning)에서 복잡한 행렬 곱셈 연산을 수행하는 칩입니다.

 

뉴로모픽(Neuromorphic) : 사람의 뇌 신경을 모방한 차세대 반도체로서, 전력 소모량이 기존 반도체 대비 1억분의 1에 불과하며, 저장과 연산은 물론 인식 패턴 분석까지 하는 칩입니다. 모든 칩을 병렬로 연결해 연산과 저장을 한번해 할 수 있는 기술이기도 합니다.

 

AI 반도체 : 인공지능 알고리즘을 가장 효율적으로 사용할 수 있는 하드웨어 칩이며, 최근에는 뉴로모픽 반도체라고도 불리우고 있습니다.

#2. ‘CPU, GPU, NPU, 뉴로모픽 그리고 AI반도체’ 기술 현황

 

AI 반도체는 ‘1세대 중앙처리장치(CPU) + 그래픽처리장치(GPU) → 2세대 신경망처리장치(NPU) → 3세대 뉴로모픽’ 으로 발전하고 있습니다.

 

뉴로모픽 반도체는, 연산을 담당하는 중앙처리장치(CPU)와 정보를 저장하는 메모리가 별도로 존재하는 기존의 컴퓨팅과 달리 사람의 뇌처럼 연산과 저장을 동시에 할 수 있어 전력 소모와 연산 속도가 빠르다는 장점이 있습니다. 이에 따라 대용량 데이터를 병렬로 연결해 복잡한 연산, 추론, 학습 등이 가능해집니다.

 

※ PIM(Processor In Memory, 지능형 메모리 반도체) 개념 다시보기 : Link

   (PIM 반도체도 AI 반도체에 해당됩니다)

 

 

#3. ‘CPU, GPU, NPU, 뉴로모픽 그리고 AI반도체’ 산업 전망

 

시장조사업체 가트너에서는 AI 반도체 시장이 지난 2020년 331억 4800만달러에서 2025년 767억 7000만달러로 성장할 것으로 예상했으며, 혁신적인 전력 소모 감소와 연산 속도를 특징으로 하는 뉴로모픽 반도체는 자율 주행차, 사물인터넷(IoT), 음성인식, 인공지능(AI), 로봇 등을 넘어 서버, 클라우드 등 데이터센터로 꾸준히 사용범위가 확대될 것으로 전망됩니다.