LGU+, 엑사원 온디바이스 sLM 개발… '익시오' 적용

LG AI연구원·옵트에이아이와 6개월 공동 연구 성과

LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) ‘엑사원(EXAONE) 3.5’ 기반 온디바이스 sLM을 개발했다. 사진은 LG유플러스 직원이 개발한 온디바이스 sLM을 확인하는 모습. [사진=LG유플러스]

LG유플러스는 25일 LG AI연구원, 옵트에이아이와 협력해 대규모 언어모델(LLM) ‘엑사원(EXAONE) 3.5’를 기반으로 한 온디바이스 소형 언어모델(sLM) 개발에 성공했다고 밝혔다. 이번 성과는 AI 통화 앱 ‘익시오(ixi-O)’ 서비스 고도화에 활용될 예정이다.

이번 sLM은 지난해 12월 LG AI연구원이 선보인 ‘엑사원 3.5 2.4B’를 기반으로, LG유플러스와 LG AI연구원, 온디바이스 AI 솔루션 기업 옵트에이아이가 약 6개월간 공동 연구해 개발한 것이다.

온디바이스 AI 기술은 이용자 데이터가 외부 네트워크나 서버를 거치지 않고 스마트폰 내에서 직접 구동되기 때문에 보안성이 높고 응답 속도도 빠르다. 특히 스마트폰 내 NPU(신경망처리장치)를 활용해 다양한 단말에서 구현할 수 있는 장점이 있다.

LG유플러스는 이번 온디바이스 sLM을 ‘익시오’에 적용하면서 기존 CPU 기반 방식 대비 전력 소모를 78%, 모델 크기를 82% 줄였다. 성능은 그대로 유지하면서 효율성을 크게 개선한 셈이다.

또한 엑사원의 한국어 처리 능력이 우수하다는 점에서 통화 요약, 대화 텍스트 변환 등 익시오 주요 기능과의 시너지 효과가 기대된다. 실제로 LG유플러스는 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI 태스크 제안 등 신규 기능을 고도화할 계획이다. 회사는 오는 10월 베타 테스트로 안정성과 품질을 검증한 뒤, 내년 상반기 상용화에 나선다.

엑사원 기반 온디바이스 sLM은 퀄컴의 ‘스냅드래곤8’ 칩셋을 탑재한 스마트폰에서 우선 적용되며, 내년에는 iOS 기기까지 지원 범위를 확대할 예정이다. 아울러 LG유플러스와 LG AI연구원, 옵트에이아이는 지난 7월 공개된 ‘엑사원 4.0’을 기반으로 한 온디바이스 sLM 개발에도 나선다. 이를 통해 익시오 서비스는 개인 맞춤형 AI 에이전트로 발전할 전망이다.

송대원 LG유플러스 기술개발그룹장은 “세계적으로 성능을 인정받은 엑사원을 온디바이스로 구현한 sLM을 통해 더 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다”며 “앞으로도 초개인화된 온디바이스 에이전트를 선보이며 차별화된 사용자 경험을 제공하겠다”고 말했다.