[테크 칼럼] 클라우드를 떠난 AI, ‘기기 안으로’… 한국 온디바이스 AI 생태계가 뜬다

클라우드 의존 끝… AI는 ‘손 안의 연산’으로 간다

삼성전자가 테슬라로부터 AI6 AI 칩을 수주하며 글로벌 온디바이스 AI 시장에 불을 지폈다. 테슬라가 선택한 전략은 단순한 반도체 구매가 아니라, ‘클라우드 없는 AI’의 선언이었다. AI가 이제 서버가 아닌 디바이스 내부에서 직접 연산을 수행해야 하는 시대로 접어들었다는 의미다.

온디바이스 AI는 스마트폰, 자동차, 로봇, IoT 기기 등에서 인터넷 연결 없이 작동하는 AI 기술이다. 빠른 응답성, 높은 보안성, 저전력 처리, 그리고 실시간성 덕분에 자율주행, 국방, 의료, 스마트 농업 등 다양한 산업군에서 필수가 되고 있다.

진짜 AI는 ‘현장에서 작동’한다… 피지컬 AI가 핵심

기기 안에서 AI가 판단하고 움직이는 온디바이스 AI가 뜨면서, 그 핵심 기술로 ‘피지컬 AI(Physical AI)’가 부상하고 있다. 피지컬 AI는 단순 연산을 넘어, 환경 인식 → 판단 → 행동 제어까지 가능한 AI를 의미한다. 국내에서도 이 영역을 정면 돌파하고 있는 스타트업들이 빠르게 등장하고 있다.

마음AI, 완성형 자립형 AI의 기준을 새로 쓰다

마음AI는 온디바이스 기반의 대표적 피지컬 AI 기업으로, 자체 개발한 3대 파운데이션 모델을 기반으로 로봇·농기계·키오스크·국방 장비에 이르기까지 AI를 직접 구동시킨다.

SUDA(음성 대화), MAAL(다국어 언어 모델), WoRV(로봇 제어 AI)로 구성된 자사 모델은 인터넷 없이도 동작하는 완전한 자립형 AI 시스템이다. 로봇 AIden은 음성 명령을 듣고, 주변 환경을 분석하며, 자율적으로 경로를 변경할 수 있으며 농약살포기, 국방 전술로봇으로 실증을 마쳤다.

단순히 반응하는 AI가 아니라, 현장에서 사고하고 움직이는 온디바이스AI의 실현이다.

리벨리온, 반도체로 구현하는 엣지 AI의 진격

리벨리온은 ION, ATOM, REBEL이라는 AI 가속기 제품군으로 온디바이스와 클라우드 양축을 모두 겨냥하고 있다. 특히 ION은 초소형 엣지 NPU 칩으로, AI가 로컬 환경에서 추론을 직접 수행하도록 설계돼 있다.

최근 Sapeon과의 합병으로 기술력과 자본력을 동시에 끌어올린 리벨리온은, 자율주행부터 IoT까지 국산 NPU 기반의 온디바이스 AI 솔루션을 완성해나가고 있다.

퓨리오사AI, 클라우드에서 엣지까지 아우르는 NPU 확장 전략

퓨리오사AI는 1세대 Warboy와 2세대 Renegade 칩을 통해 고성능 클라우드 AI 추론 시장을 개척해왔다. 최근 ARM 기반 경량 NPU 솔루션 개발에 착수하며 온디바이스 AI 시장 진입을 공식화했다.

고성능 AI 칩 설계 경험을 바탕으로, 데이터센터급 AI 성능을 엣지 디바이스에 이식하려는 전략이 업계의 주목을 받고 있다.

‘현장 지향형 AI’ 스타트업들도 질주

하이퍼엑셀(HyperAccel)은 LG전자, Naver와 협력해 온디바이스 AI SoC를 개발 중이며, 로봇·가전 등 다양한 디바이스에 탑재 가능한 칩 설계를 수행하고 있다.

서울로보틱스(Seoul Robotics)는 LiDAR 기반 3D 비전 AI 기술을 통해 도심 자율주행·스마트시티 인식 시스템 등에서 온디바이스 비전 AI를 구현한다.

리얼월드(RLWRLD)는 로봇 중심 피지컬 AI 시스템 설계 기업으로, 최근 LG전자 등에서 1500만 달러 규모의 투자를 유치하며 기술 상용화에 속도를 내고 있다.

이들은 ‘실제로 작동하는 AI’를 모토로, 상황 판단과 물리적 반응을 동시에 처리하는 현장형 AI 개발에 주력하고 있다.

반도체 생태계도 움직인다… 설계 하우스들의 중요성 부각

AI 연산을 담당하는 NPU 및 SoC 설계는 결국 에너지 효율과 물리 크기, 실시간성의 싸움이다. 이 가운데 에이디테크놀러지와 가온칩스는 ARM 및 삼성 파운드리와의 파트너십을 통해 2nm~5nm 초미세공정의 AI 칩 설계 역량을 갖춘 설계 하우스로 부각되고 있다.

딥엑스, 리벨리온(Rebellions) 등 AI 스타트업의 설계 파트너로 활약하며, 온디바이스 AI 반도체 생태계의 허리 역할을 수행 중이다.

정부도 힘을 보탠다… '자립형 AI 시스템' 국가 전략 추진

과학기술정보통신부는 최근 1조원 규모의 온디바이스 AI 기술개발 로드맵을 확정하고, AI 반도체-모델-디바이스를 모두 아우르는 풀스택 자립형 AI 시스템 구축 계획을 추진 중이다. 산업통상자원부와 국방부 또한 로봇 및 자율기기용 AI를 '국가 전략기술'로 지정해, 국산화와 자율운영 기반 기술 확보에 집중하고 있다.

‘온디바이스 AI’는 단순한 기능이 아니라 ‘AI의 새로운 뇌’다

한국의 온디바이스 AI 기술은 이제 단순한 소프트웨어 경량화나 기능 분산 수준을 넘어섰다. AI가 스스로 판단하고 행동하는 실시간 자립형 기술, 즉 ‘피지컬 AI(Physical AI)’ 시대를 여는 기업들이 속속 등장하고 있다.

마음AI의 자립형 로봇, 리벨리온의 경량 NPU, 서울로보틱스의 환경 인식 기술, 그리고 퓨리오사AI의 확장형 설계 전략은 모두 한국이 AI의 ‘실행 주체’로 도약할 수 있음을 보여준다.

AI는 이제 구름 위가 아니라, 우리 손바닥 안에서 ‘스스로 생각하고 움직이는 존재’가 되어가고 있다. 

신주백 기자  jbshin@kmjournal.net