LG유플러스는 AI 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 운영 효율을 높이기 위한 ‘토큰 최적화’ 기술 확보에 나선다고 2일 밝혔다. [사진=LG유플러스]

[디지털데일리 강소현 기자] LG유플러스는 AI 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 운영 효율을 높이기 위한 ‘토큰 최적화’ 기술 확보에 나선다고 2일 밝혔다.

최근 AI 산업에서는 적은 자원으로 높은 성능을 구현하는 기술이 서비스 경쟁력을 좌우하는 핵심 요소로 떠오르고 있다. AI 서비스 확산에 따라 GPU와 전력 등 운영 비용이 증가하면서, 같은 수준의 서비스를 더 적은 자원으로 제공할 수 있는 기술의 중요성도 커지고 있다.

LG유플러스와 옵트에이아이는 이러한 변화에 대응해 AI 운영 효율을 높이는 토큰 최적화 기술을 공동 연구한다. 토큰 최적화는 AI 모델의 크기와 연산량을 줄이거나 연산 과정을 효율화해 같은 자원으로 더 많은 요청을 처리할 수 있도록 하는 기술이다.

양사는 각사가 보유한 역량을 결합해 AI 서비스 운영에 필요한 GPU와 전력 사용량을 줄이는 동시에 응답 속도와 서비스 품질을 높이는 것을 목표로 한다.

LG유플러스는 실제 AI 서비스 운영 경험을 바탕으로 기술 검증과 서비스 적용을 담당하고, 옵트에이아이는 AI 모델을 더 가볍고 빠르게 구동하기 위한 기술 연구·개발을 맡는다.

양사는 앞서 스마트폰 등 기기 자체에서 AI를 구동하는 온디바이스 AI 분야에서도 협력해왔다. LG유플러스는 ‘엑사원(EXAONE)’ 기반 소형언어모델(sLM)에 연산량과 모델 크기를 줄이는 경량화 기술을 적용해 스마트폰의 AI 전용 반도체인 NPU에서 구동할 수 있도록 했다.

이를 통해 기존 CPU 방식과 동일한 수준의 성능을 유지하면서 전력 소모는 78%, 모델 크기는 82% 줄이는 성과를 거뒀다. 양사는 이를 바탕으로 온디바이스 AI 환경에서 AI 운영 효율화 기술의 가능성을 검증했다.

양사는 이번 기술 교류를 계기로 공동 연구 범위를 서버 GPU 환경까지 확대한다. 대규모 AI 서비스를 운영할 때 동일한 GPU 자원으로 더 많은 이용자의 요청을 처리할 수 있도록 AI 모델의 연산 과정을 효율화하는 기술을 중점적으로 연구할 계획이다.

현재 진행 중인 GPU 기반 AI 모델 최적화 연구에서도 초기 성과가 나타나고 있다. 양사는 AI 모델이 답변을 생성하는 연산 과정을 실제 서비스 환경에 맞게 최적화해 동일한 GPU에서 처리할 수 있는 토큰량을 기존 대비 최대 4배로 높였다.

LG유플러스는 향후 확보한 기술을 자사 AI 서비스와 대규모 AI 인프라 운영 환경에 단계적으로 적용해 AI 운영 효율을 지속적으로 높여 나갈 계획이다.