[AI 용어사전] ⑥GPU와 NPU

AI 머리는 다 똑같지 않다?

AI가 똑똑하게 일하려면 ‘두뇌’가 필요해요. 그런데 AI의 두뇌는 전부 똑같은 게 아니랍니다. 특히 요즘엔 AI가 쓰는 두뇌에도 종류가 생겼어요. GPU와 NPU가 바로 그것인데요. 어떤 두뇌는 그림을 더 잘 그리고, 어떤 두뇌는 말을 더 잘해요. 이 두 개를 잘 이해하면 AI 기술도 더 쉽게 이해할 수 있어요.

GPU는 멀티태스킹 천재, 그래픽의 제왕

GPU(Graphics Processing Unit)는 원래 게임 그래픽이나 3D 영상을 빠르게 처리하려고 만들어졌어요. 그런데 이게 AI 학습에도 딱이었죠. 왜냐하면, AI는 한 번에 수천~수만 개의 계산을 동시에 해야 하거든요. GPU는 그런 병렬 연산(여러 작업을 동시에 처리하는 능력)에 아주 강합니다.

예를 들어, AI가 사진 속 고양이를 찾으려면 수많은 픽셀을 동시에 분석해야 해요. 이럴 때 GPU가 활약해요. 지금 우리가 쓰는 많은 AI 모델은 대부분 GPU로 학습되고 있어요.

GPU는 미국의 엔비디아(NVIDIA)가 주로 개발하고 있고, 최근엔 AI 시대의 핵심 인프라로 부상하면서 반도체 산업의 중심에 서 있기도 하죠.

※15년 전, GPU와 CPU의 차이를 설명하는 엔비디아 영상.

NPU는 AI 특화 맞춤형 두뇌

NPU(Neural Processing Unit)는 이름부터 다르죠? 신경망(Neural Network)처럼 작동하는 AI를 위해 처음부터 설계된 전용 두뇌예요. GPU가 멀티플레이어라면, NPU는 오직 AI 하나만 보고 달리는 전문 플레이어인 셈이죠.

특히 NPU는 온디바이스 AI에서 많이 사용돼요. 스마트폰에서 얼굴을 인식하거나, 음성 명령을 알아듣는 기능 같은 거요. 이때 인터넷 없이도 빠르게 작동해야 하니까, 작고 효율적인 NPU가 딱이에요. 게다가 전력도 적게 써서 배터리 걱정도 줄여줘요.

NPU는 구글, 애플, 화웨이 등 글로벌 기업뿐 아니라, 한국의 AI 반도체 스타트업인 리벨리온(Rebellions)이나 **퓨리오사AI(FuriosaAI)도 자체 기술로 개발하고 있어요. 국내에서도 AI 반도체 기술 경쟁이 뜨거워지고 있는 거죠.

 GPU vs NPU 차이는?

GPU는 대형 뇌, NPU는 스마트 뇌

AI가 점점 더 우리 일상에 들어오면서, ‘AI용 뇌’도 다양해졌어요. GPU는 힘 좋고 똑똑한 만능형, NPU는 빠르고 효율적인 전문가형이에요. 앞으로 AI가 어디에 쓰이느냐에 따라, 어떤 뇌가 더 많이 쓰일지도 달라질 거예요.

AI가 바깥세상으로 나가면 피지컬 AI가 되고, 속 안의 뇌를 들여다보면 GPU냐 NPU냐로 나뉘는 거죠. 

신주백 기자 jbshin@kmjournal.net