"더 큰 모델 아닌 더 싼 업무완결"…LGU+, 토큰 최적화로 B2B AI 출사표 작성일 11-15 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="p9rug4J6T0"> <figure class="figure_frm origin_fig" contents-hash="6c05bbcb8d69c75d5800281ed70a4156b0f76f23f443050cc10cdd1c5fe7247b" dmcf-pid="U2m7a8iPh3" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/15/552796-pzfp7fF/20261115090025349mozt.jpg" data-org-width="640" dmcf-mid="0ZdTfFb0Sp" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/15/552796-pzfp7fF/20261115090025349mozt.jpg" width="658"></p> </figure> <p contents-hash="d7693221e85fdde5cbcd33fcf2d6553c967f69861a4b3ba7d114182b05768537" dmcf-pid="uVszN6nQCF" dmcf-ptype="general">[디지털데일리 정혜승기자] “AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다.”</p> <p contents-hash="c93138cf19082edc50c28ab8f3a1b16ececaa4f93a82508c021e4017dc11db01" dmcf-pid="7fOqjPLxCt" dmcf-ptype="general">이상엽 LG유플러스 최고기술책임자(CTO)는 지난 12일 기자 대상 ‘AI 토큰 최적화 스터디'에서 이같이 밝혔다. LG유플러스는 이날 스터디에서 상용 환경에서 검증한 비용 절감 기술, 연구 성과, 사업 방향을 공개했다.</p> <p contents-hash="4153d0bf38125485db592add3d669564546e01ba136464c548fadd5b086c55d0" dmcf-pid="z4IBAQoMC1" dmcf-ptype="general">LG유플러스가 AI 운영 비용을 좌우하는 '토큰' 최적화 기술을 앞세워 내년 기업간거래(B2B) AI 시장에 출사표를 던졌다. AI 에이전트의 성능은 유지하면서 토큰 사용 비용을 90% 이상 낮추는 기술로 비용 부담에 AI 도입을 망설이는 기업 고객을 공략하겠다는 전략이다. 토큰 단가 인하 경쟁을 넘어 '고객이 하나의 업무를 완결하는 데 드는 총비용(Task Cost)'을 낮춘다는 구상이다.</p> <p contents-hash="89a0cc4bf0b94a606e1007dcbb4e43264bc0959b6f87ee36fd5042702854da4e" dmcf-pid="q8CbcxgRv5" dmcf-ptype="general">토큰은 AI를 쓸 때 소비되는 기본 단위다. 전기·가스·수도처럼 AI 시대의 '라이프라인'이 됐다. 토큰 단가는 최근 몇 달 새 67%, 1~2년 사이로는 80%가량 떨어졌지만, AI 지출은 오히려 불어나고 있다. 사람보다 토큰을 5~10배씩 쓰는 AI 에이전트가 확산되면서다. LG유플러스는 이를 "기능이 좋아져 쓸수록 소비가 늘어나는 '제번스의 역설'"이라고 표현했다.</p> <p contents-hash="f44750095e7cf645f3c39da9c911bd83fa4b5540a618f9be07673861d8e3a8d3" dmcf-pid="B6hKkMaelZ" dmcf-ptype="general">핵심은 답변 한 번이 아니라 '업무 완결'까지의 비용이다. LG유플러스는 “AI가 사용자에게 답을 내놓기 전까지 생각하는 과정에서 전체 비용의 80% 이상이 든다”며 “AI의 진짜 비용은 답변을 뱉어내는 게 아니라 업무를 끝낼 때까지 드는 비용”이라고 설명했다. 이상엽 CTO는 "모델 단가가 아무리 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어난다"고 말했다.</p> <p contents-hash="670d0bc153f6945cc620d0b1b8cb7639dcd546c6eb2998622360ecd485b4ac60" dmcf-pid="bA0nYDSrSX" dmcf-ptype="general">LG유플러스는 익시오(ixi-O)와 AI컨택센터(AICC), 사내 업무 혁신(AX) 등 실제 서비스 트래픽에서 다진 '운영 레시피'를 강점으로 내세웠다. 자체 검증 결과 토큰 소모가 가장 큰 코딩 영역에서 자체 AI 모델로 운영 비용을 약 90% 절감했고, 연산 처리 방식을 바꿔 동일 인프라 대비 처리 효율을 약 4배로 끌어올렸다. 질문 난이도에 따라 적합한 모델을 배분하는 '모델 라우팅'으로는 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 줄였다.</p> <p contents-hash="86c4ee4460b910c5353adc39ae7170d54c375f1375d24ee233d2c4185ad63280" dmcf-pid="KcpLGwvmWH" dmcf-ptype="general">모델 자체도 가볍게 만들었다. 자체 온디바이스 모델 크기를 기존 2.4~3GB에서 약 3분의 1 수준인 800MB로 줄이면서도 클라우드 모델 대비 95% 이상의 성능을 확보했다. 작은 모델이 먼저 답하고 큰 모델이 검증하는 기술(스펙쿨러티브 디코딩) 등으로 토큰 생성 속도도 2배 이상 높였다. 이런 연구 성과는 세계 최고 권위의 AI 학회 '뉴립스(NeurIPS)'에 논문 2편이 동시 채택됐다.</p> <p contents-hash="ee6b011ddfbf8af60f38e433e697feca7330716eddafaf112a0ab080fe30047f" dmcf-pid="9kUoHrTshG" dmcf-ptype="general">익시오가 대표 사례다. LG유플러스는 익시오 출시 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 함께 썼지만, 실전 튜닝을 거치며 자체 모델과 엑사원(EXAONE)의 비중을 정교하게 조합해 품질과 비용을 동시에 잡았다. 제미나이가 맡던 트래픽은 점차 자체 모델로 옮겨오고 있다. 이상엽 CTO는 "실전 서비스에서 검증을 끝낸 즉시 전력 기술이야말로 쉽게 따라올 수 없는 지속 가능한 AI 사업의 해자(Moat)"라고 강조했다.</p> <p contents-hash="3ef86a2f7c26f87d95449af5a8db9c1813509c189acdc6b33650f98b5814a530" dmcf-pid="2EugXmyOCY" dmcf-ptype="general">인프라 단에서는 특정 고가 칩에 종속되지 않는 ‘칩믹스(Chip-Mix)’ 전략을 내세웠다. 엔비디아·AMD의 그래픽처리장치(GPU)는 물론 국산 AI 반도체 기업 퓨리오사AI의 신경망처리장치(NPU)를 2년 이상 함께 검증하고 있다. 질문을 분석하는 '프리필' 단계는 연산에 강한 엔비디아 GPU가, 답변을 생성하는 '디코드' 단계는 메모리 대역폭이 큰 AMD GPU가 맡는 식으로 작업 특성에 따라 칩을 쪼개 가장 가성비 높은 반도체에 분산하는 구조다.</p> <p contents-hash="a9461b4de788b2524a452315722530cfc18d9aade35197384a03f4710301e7d5" dmcf-pid="VD7aZsWITW" dmcf-ptype="general">이렇게 축적한 기술은 내년 토큰 사업으로 이어진다. LG유플러스는 연말 카카오와 함께하는 '모두의 AI'에서 모델 서빙을 전담하며 운영 데이터와 최적화 노하우를 쌓고, 협력사와의 제휴형 모델과 자체 인프라 구축을 병행해 B2B 토큰 사업을 전개할 방침이다.</p> <p contents-hash="1a2d0dd993164d305e47868e5bfa92ee7e7f647f524f976fb50f5143d272155b" dmcf-pid="fwzN5OYCvy" dmcf-ptype="general">구체적인 절감폭에 대해 이상엽 CTO는 "태스크마다 다르지만 에이전트 영역은 90% 이상, 일반 영역은 30% 이상 줄고 많게는 4배까지 좋아지기도 한다"면서도 "고객이 쓰려는 업무 형태에 따라 수치가 크게 달라 단적으로 말하기는 어렵다"고 했다. 소비자 체감에 대해서는 "그동안 누리기 어려웠던 초고성능 AI를 커피 한 잔 값으로 쓸 수 있게 하는 것"이라고 설명했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [인터뷰] "어포더블" 박중서 TI코리아 대표, 안정된 공급망 기반 고객 수용성 높인다 11-15 다음 중국산 AI서 검열·편향 걷어내 서방에 되판다…‘AI 개조’ 틈새시장 뜬다 11-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.