LG유플러스, NPU 기반 온디바이스 AI로 '익시오' 혁신…엑사원 3.5 sLM 도입

LG유플러스가 AI 통화 앱 ‘익시오(IXIO)’에 NPU 기반 온디바이스 AI를 본격 도입하며 스마트폰 상에서 더욱 빠르고 안전한 AI 서비스를 구현한다. 이번 혁신은 LG AI연구원, 옵트에이아이와 협력해 대규모언어모델인 엑사원 3.5를 소형화한 sLM(Small Language Model)을 기반으로 한다.

“클라우드 탈피, 스마트폰 속에서 바로 작동하는 AI”

온디바이스 AI는 클라우드 서버가 아닌 단말기 내에서 직접 모델을 구동하는 기술로, 네트워크 연결이 불안정하거나 보안이 민감한 상황에서도 원활하게 작동하는 것이 강점이다. 특히 스마트폰에 탑재된 NPU를 활용해 연산 속도와 전력 효율을 극대화할 수 있다.

기존 익시오는 중앙처리장치를 활용해 AI 서비스를 제공했으나, 새로 도입된 NPU 기반 sLM은 동일한 성능을 유지하면서도 전력 소모는 78% 감소, 모델 크기는 82% 축소된 것으로 나타났다. 이로써 배터리 지속시간과 기기 내 저장공간의 효율도 크게 개선될 것으로 기대된다.

엑사원 3.5 기반…한국어에 특화된 초경량 LLM

핵심은 한국어 처리에 특화된 LLM인 ‘엑사원 3.5’의 경량화 기술이다. 엑사원 기반의 sLM은 다양한 통화 데이터를 빠르게 요약하고 정제하는 데 탁월하며, 특히 오프라인 상황에서도 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI 태스크 제안 등의 고급 기능을 실현할 수 있다.

LG유플러스는 이 기능을 통해 통화 기록 자동 요약, 회의록 생성, 일정 연동 등 초개인화된 서비스 제공이 가능해질 것으로 보고 있다.

“시장 선도하는 온디바이스 AI 에이전트로”

LG유플러스 기술개발그룹장 송대원 상무는 “온디바이스 AI 기술 고도화를 통해 초개인화된 AI 에이전트로 진화하겠다”며 “향후 사용자 맞춤형 기능이 강화되면 고객 경험 차별화는 물론, LG유플러스가 온디바이스 AI 시장을 선도하는 핵심 사업자로 부상할 것”이라고 밝혔다.

신주백 기자  jbshin@kmjournal.net