치솟는 토큰 비용에...서비스 모델 새판 짜는 AI 기업들 작성일 07-05 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5RSu1iSryk"> <figure class="figure_frm origin_fig" contents-hash="ecf76d5d17a849803ebca0b8e3b9edda77fb901be68d57dc9e1bce13f69d32e9" dmcf-pid="1ev7tnvmhc" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 에이전트 시대 토큰 사용량과 이용료가 급등하자 이제는 한정된 토큰 안에서 가장 효율적인 결과를 내도록 유도하는 ‘토큰 다이어트’가 대세가 됐다. 관련 AI 기업들 역시 신규 수요를 잡기 위한 새로운 서비스 모델을 강구하고 있다. <출처=미드저니 생성 이미지>" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/mk/20260705153001996libc.png" data-org-width="700" dmcf-mid="Zk3P9r3GCE" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/mk/20260705153001996libc.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI 에이전트 시대 토큰 사용량과 이용료가 급등하자 이제는 한정된 토큰 안에서 가장 효율적인 결과를 내도록 유도하는 ‘토큰 다이어트’가 대세가 됐다. 관련 AI 기업들 역시 신규 수요를 잡기 위한 새로운 서비스 모델을 강구하고 있다. <출처=미드저니 생성 이미지> </figcaption> </figure> <div contents-hash="510f5ddea71ddf77e9e19f6c13f982f87f86e4785bb967548b1e3226dc3dfb55" dmcf-pid="tdTzFLTsTA" dmcf-ptype="general"> <span>인공지능(AI) 에이전트를 가동하는 기업들이 토큰 종량제(사용한 만큼 비용을 내는 방식) 아래에서 요금 부담에 시달리자, AI 기업들이 이 부담을 상쇄하는 서비스 모델을 잇달아 내놓고 있다. 비용 효율이 높은 모델로 갈아타거나 사용 한도를 두는 기업이 늘어난 상황을 새로운 사업 기회로 삼는 모습이다.</span> </div> <p contents-hash="8e660fa716a590068425ed4317b7fe6e4cc40129709b8b889588a7ef499a134a" dmcf-pid="FJyq3oyOlj" dmcf-ptype="general">5일 정보통신기술(ICT) 업계에 따르면 최근 AI 기업들은 고객사의 비용 부담을 덜어주는 서비스와 솔루션을 앞다퉈 선보이고 있다. 과금 방식을 바꾸거나 값싼 모델을 내놓거나 토근 소비 자체를 줄이는 기술로 접근법도 갈린다.</p> <p contents-hash="5d21b2eb94b8b1881cf871c7e876f95d66863fd3bb9b1bd88a080681d358bcdf" dmcf-pid="3iWB0gWIhN" dmcf-ptype="general">과금 구조에 손댄 곳은 세일즈포스다. 세일즈포스는 최근 고객 서비스용 AI 에이전트 구축·운영을 지원하는 ‘에이전트포스 헬프 에이전트’를 공개하며 ‘문제 해결 기반 과금’을 새롭게 도입했다. 기업은 에이전트가 고객 문제를 처음부터 끝까지 자율적으로 해결한 경우에만 비용을 내고, 고객이 상담원 연결을 요청하거나 결과에 불만을 표시하면 과금되지 않는다. 세일즈포스 관계자는 “기업은 에이전트의 단순 응대 건수나 사용량이 아닌 실제로 고객의 문제를 해결한 업무와 성과를 기준으로 고객 서비스 부문에서의 AI 투자 효율성을 제고할 수 있다”고 설명했다.</p> <p contents-hash="4d07a8aeda39ce6cc96f4abd0d00e32e35ea4a978c659e674ac1e207b87ca6f8" dmcf-pid="0MlU5JlwWa" dmcf-ptype="general">최근 신규 모델로 가격 경쟁력을 내건 곳은 앤트로픽이다. 앤트로픽은 지난달 30일 ‘클로드 소네트 5’를 출시하며 “상위 모델인 ‘클로드 오퍼스 4.8’에 근접한 성능을 더 낮은 가격으로 제공한다”고 밝혔다. 실제로 앤트로픽 자체 벤치마크에서 소네트 5는 지식 업무 등 일부 항목에서 오퍼스 4.8에 근접하거나 앞섰다. 프로모션 가격(8월 31일까지) 기준 비용은 입력 토큰 100만개 당 2달러, 출력 10달러로 오퍼스 4.8(5달러·25달러)의 40% 수준이며, 표준가(3달러·15달러)는 오퍼스 4.8의 60% 수준이다.</p> <p contents-hash="a87aea9148a0dae0081511b1b865970c5caaa5b514c0d061719b9ef10cf092cf" dmcf-pid="pRSu1iSrvg" dmcf-ptype="general">토큰 소비 자체를 줄이는 기술로 접근한 곳은 마이크로소프트(MS)다. MS 리서치는 지난달 29일 AI 에이전트의 장기 기억을 개선하는 메모리 구조 ‘메모라’를 공개했다. 현재 AI 에이전트는 세션마다 긴 대화 이력을 매번 다시 읽어야 해 토큰 사용량이 불어나는데, 메모라는 정보를 저장하는 방식과 검색하는 방식을 분리해 필요한 기억만 골라 불러온다. MS는 벤치마크에서 전체 이력을 통째로 입력하는 방식과 견줘 토큰을 최대 98%까지 줄이면서 정확도는 더 높았다고 밝혔다. 다만 이는 상용 제품이 아닌 연구 성과로, 일부 전문가는 벤치마크 기준 절감 폭이 실제 청구액 감소를 보장하지는 않는다고 지적했다.</p> <p contents-hash="a3db6edad1b7808d9fe571e20154e95f2d3cf2e323d9d9e971c47f9fbebb6f79" dmcf-pid="Uev7tnvmlo" dmcf-ptype="general">토큰 비용을 체계적으로 관리하는 ‘AI 핀옵스’ 솔루션도 대안으로 주목받는다. 핀옵스는 재무(Finance)와 개발·운영(DevOps)을 합친 말로, 원래 클라우드 사용량을 파악하고 유휴 리소스와 할인 약정으로 비용을 최적화하는 방법론이다. 최근에는 그래픽처리장치(GPU) 사용량과 거대언어모델(LLM) 호출료, 토큰 사용량까지 포괄하는 AI 지출 관리로 확장됐다. 글로벌 시장에선 클라우드제로, 밴티지, 파이나웃 등이 기업의 AI 모델 이용료를 클라우드 지출과 함께 추적한다. 오픈AI·앤트로픽 등 여러 공급사의 사용 비용을 한데 모아 보여주는 방식이다.</p> <p contents-hash="62da025e8b3a016563ec522feb43e6893ee97ab0549abef2b6dc06f8ea33200a" dmcf-pid="udTzFLTsSL" dmcf-ptype="general">국내에선 베스핀글로벌의 관계사 옵스나우가 AI 핀옵스로 영역을 넓히고 있다. 옵스나우가 개발한 ‘옵스나우 핀옵스’는 변동성이 큰 AI 지출을 보다 예측 가능한 운영 비용으로 전환하도록 지원한다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 김효주 올해 KLPGA 투어 승률 100%…6년만에 ‘롯데 오픈’ 우승 07-05 다음 메모리 품귀에 하반기 폰 가격 더 뛴다…갤Z폴드8 300만원 육박할 듯 07-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
