LG유플러스 직원이 온디바이스 소형언어모델을 확인하고 있다. 사진=LG유플러스 제공
LG유플러스 직원이 온디바이스 소형언어모델을 확인하고 있다. 사진=LG유플러스 제공

엑사원 3.5, 스마트폰 안으로 들어오다

LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대형언어모델(LLM) ‘엑사원 3.5’를 경량화한 온디바이스 소형언어모델(sLM)을 개발했다. 이번 기술은 LG유플러스의 AI 통화 앱 ‘익시오(ixio)’에 탑재돼, 통화 요약·음성 인식 등 기능의 속도와 보안성을 동시에 높일 전망이다.

이번 sLM은 LG AI연구원이 지난해 12월 공개한 ‘엑사원 3.5 2.4B’를 기반으로 만들어졌다. 세 기관은 약 6개월간의 공동 연구 끝에, 대형 모델의 성능을 유지하면서도 스마트폰 내부에서 직접 구동 가능한 수준으로 모델을 경량화하는 데 성공했다.

“보안·속도·전력, 세 마리 토끼 잡았다”

온디바이스 AI의 가장 큰 장점은 네트워크나 서버를 거치지 않아도 작동한다는 점이다. 즉, 이용자의 음성·텍스트 데이터가 외부로 전송되지 않고 스마트폰 내부에서만 처리되므로 보안성이 강화된다.

LG유플러스는 CPU 기반이던 기존 익시오 AI를 NPU(신경망처리장치) 기반으로 전환해 성능은 그대로 유지하면서 전력 소모를 78% 절감, 모델 크기도 82% 축소했다고 밝혔다. 이는 스마트폰 배터리 효율과 실시간 처리 속도 모두를 끌어올리는 핵심 개선이다.

한국어 AI ‘엑사원’, 익시오와 시너지

엑사원은 한국어 처리 능력에서 업계 최고 수준을 인정받고 있는 모델이다. 이를 기반으로 LG유플러스는 익시오에 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI 작업 제안 등 새 기능을 추가할 계획이다.

내달 베타 테스트를 통해 품질 검증을 마친 뒤, 내년 상반기 상용화를 목표로 하고 있다. 초기 버전은 퀄컴 스냅드래곤8 칩셋 기반 스마트폰에서 구동되며, 이후 iOS 기기로 적용 범위를 확대한다.

엑사원 4.0까지 ‘온디바이스화’ 추진

LG유플러스, LG AI연구원, 옵트에이아이는 이미 후속 모델인 ‘엑사원 4.0’의 온디바이스화 계획도 밝힌 상태다. 이를 통해 익시오는 단순한 통화 요약 앱을 넘어 개인 맞춤형 온디바이스 AI 에이전트로 발전할 전망이다.

송대원 LG유플러스 기술개발그룹장은 “엑사원의 성능을 유지하면서 온디바이스 환경에서 구현한 이번 sLM은 보안성과 효율성을 모두 잡은 사례”라며 “앞으로 초개인화된 온디바이스 AI 경험을 통해 차별화된 서비스를 선보이겠다”고 말했다.

신주백 기자  jbshin@kmjournal.net

저작권자 © KMJ 무단전재 및 재배포 금지