[AI 클로즈업] AI 토큰값 저렴해져도 청구서 금액은 폭증한다 작성일 06-28 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">가트너 "완료 작업당 비용, 2028년까지 4배 이상 오른다"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZkTvCiEoyz"> <figure class="figure_frm origin_fig" contents-hash="e2a42d39a9892f219363879bda585bc04e61724d459c1b9dc55ec626e4ae51cd" dmcf-pid="5EyThnDgT7" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/28/552796-pzfp7fF/20260628170010355sjks.png" data-org-width="640" dmcf-mid="XKt1HklwWq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/28/552796-pzfp7fF/20260628170010355sjks.png" width="658"></p> </figure> <p contents-hash="dd3a12c7ba18d611f2e6b7f86031da4de371641fe219a60adfcdc385f56ca627" dmcf-pid="1Y7u3OGhlu" dmcf-ptype="general">[디지털데일리 구아현 기자] 인공지능(AI) 토큰값은 내려가고 있다. 하지만 기업이 받아 드는 AI 청구서 비용은 오히려 높아진다는 분석이다.</p> <p contents-hash="54a97e656d3ef6f693a9ba107a69cc9321e26b029f73efa1a49b4a151e66c463" dmcf-pid="tGz70IHlhU" dmcf-ptype="general">생성형 AI 확산 초기에는 모델 가격 인하와 무료·정액형 요금제가 'AI 대중화'의 상징처럼 받아들여졌다. 그러나 기업 현장에서 AI가 단순 질의응답을 넘어 업무 자동화, 고객 응대, 소프트웨어 개발, 데이터 분석 등 에이전트형 워크플로로 확장되면서 비용 구조는 달라지고 있다. 한 번의 답변을 만드는 비용보다 하나의 업무를 끝내기 위해 얼마나 많은 추론·도구 호출·재시도·검증이 필요한지가 더 중요해졌다.</p> <p contents-hash="25d7972796040aca321771e815aa512fc250b83028534a016b8b857505c2b4b2" dmcf-pid="FHqzpCXSyp" dmcf-ptype="general">가트너는 최근 'AI의 임박한 비용 폭발이 가치에 대한 냉혹한 집중을 강제할 것(AI's Impending Cost Explosion Will Force a Ruthless Focus on Value)' 보고서에서 토큰 단가 하락만으로 AI 비용을 판단해서는 안 된다고 지적했다. 평균 토큰 가격은 낮아지고 있지만 기업이 실제로 부담하는 '완료 작업당 비용'은 오히려 상승하고 있다는 분석이다. 복잡한 에이전트형 업무에서는 고성능 추론 모델을 반복적으로 호출해야 하고 이 과정에서 비용 변동성이 커진다는 설명이다.</p> <p contents-hash="171318319278d982a4b14b258f08e02ae911bf119af8339aff932594689b1400" dmcf-pid="3XBqUhZvC0" dmcf-ptype="general">시장 전체의 지출 전망도 같은 방향을 가리킨다. IDC에 따르면 전 세계 AI 지출은 2024년 2350억달러에서 2028년 6320억달러로 확대될 전망이다. 같은 기간 생성형 AI(GenAI) 지출 비중은 17.2%에서 32%로 커진다. AI가 더 많은 산업과 업무에 들어갈수록, 토큰 단가 하락과 별개로 기업의 AI 지출 총량은 커질 수밖에 없다는 의미다.</p> <p contents-hash="f6f91d9d29b1ae75d41d361ccea7d4ec8e009c50e10aba91d5b3ad52181e41e3" dmcf-pid="0ZbBul5Tl3" dmcf-ptype="general">가트너는 이를 '토큰 슈링크플레이션(token shrinkflation)'으로 설명한다. 시리얼 박스 가격은 같지만 내용물이 줄어드는 것처럼, 겉으로 보이는 토큰 단가는 낮아져도 업무 하나를 끝내는 데 드는 실제 비용은 같거나 오히려 높아질 수 있다는 것이다. 잘못 설계된 시스템과 지출 통제 장치 부재가 예상보다 많은 토큰 소비를 유발하는 주요 원인으로 꼽힌다.</p> <p contents-hash="a086e9bf995c9327164bc583da9fc4cf0d7e62a86f740bc19620c215a22978f0" dmcf-pid="p5Kb7S1yTF" dmcf-ptype="general">보고서는 "2028년까지 프런티어 모델의 완료 작업당 비용이 4배 이상 오를 것"이라고 예상했다. AI 벤더들이 수익성을 회복하는 과정에서 현재의 가격 보조가 줄어들면 기업이 생성형 AI를 활용할 수 있는 영역은 실질적 수익을 만드는 고부가가치 사용처로 좁혀질 수 있다는 전망이다.</p> <p contents-hash="66e29c12a4a47bc1a84b8d9f31c80629ff52ed47e38490939d25599fdf18a6ef" dmcf-pid="U19KzvtWvt" dmcf-ptype="general">실제 기업 현장에서는 예산 초과 사례가 잇따르고 있다. 가트너에 따르면 우버(Uber)는 AI 코딩 소프트웨어 예산 급증 이후 직원 1인당 월 1500달러의 토큰 사용 상한을 도입했다. 월마트(Walmart)도 소프트웨어 엔지니어링 조직에 AI 예산 게이트를 적용했다. 메타, 마이크로소프트, 세일즈포스에서도 유사한 예산 부담 사례가 보고됐다.</p> <p contents-hash="7d2dd8594c665753cab4891508c873333fe8d0494b544003de3c0b2b47e1a6b4" dmcf-pid="ut29qTFYh1" dmcf-ptype="general">AI 애플리케이션 벤더들도 구조적 압박에서 자유롭지 않다. 가트너는 이를 '햄스터휠(hamster wheel)' 문제로 표현한다. 경쟁력을 유지하려면 더 비싼 최신 모델을 계속 통합해야 하지만, 이를 자체 부담하면 손실이 커지고 고객에게 전가하면 가격 저항이 발생한다는 구조다.</p> <p contents-hash="02d8c27bf5ff21987b415f2c45c272a13f9395e454dbe3bfc917faad0d5b3240" dmcf-pid="7sXHyNOch5" dmcf-ptype="general">가트너가 소개한 사례에 따르면 AI 코딩 도구 커서(Cursor)는 매출 5억달러에 앤트로픽(Anthropic)에 6억5000만달러를 지불하며 마이너스 30% 마진을 기록했다. 이후 자체 모델과 인프라 구축에 나서면서 2025년 말 마진을 74%까지 개선한 것으로 전해졌다. 다만 이를 위해 35억달러 규모의 자금 조달과 지속적인 모델 학습 투자가 필요했다.</p> <p contents-hash="afeaaf31d11d6fdfb0d0d8011813fcb0ddbc2bf9f080e4b6f639dedf3d36cb9c" dmcf-pid="zOZXWjIkWZ" dmcf-ptype="general">마이크로소프트의 깃허브 코파일럿(GitHub Copilot)도 비용 구조 변화의 사례다. 마이크로소프트는 지난 6월 1일부로 깃허브 코파일럿을 용량 기반 과금으로 전환했다. 가트너는 이 같은 가격 정책 변화로 일부 헤비 유저의 비용이 평균 3~10배 증가했다고 추정했다. 앤트로픽도 클로드 엔터프라이즈 요금 체계를 사용량 기반으로 바꾸면서, 헤비 유저 비용이 두세 배 뛸 수 있다고 가트너는 봤다.</p> <p contents-hash="7a42bdbbb10d5c726809c06de358779b572c3285ce308e6b19ca914f917820af" dmcf-pid="qI5ZYACEhX" dmcf-ptype="general">AI 비용 상승의 배경에는 에너지 비용, 벤처캐피털 보조금 축소, 애플리케이션 벤더의 비용 전가가 있다. 딥시크나 구글 등이 훈련·추론 효율을 개선하고 있지만, AI 수요가 늘수록 전력과 데이터센터 등 핵심 투입 비용은 커질 수밖에 없다. 신형 추론 모델 개발 비용은 증가하는 반면, 프런티어 모델 기업의 영업이익은 여전히 압박을 받고 있다. 투자자들이 수익성을 요구하기 시작하면 시장 점유율 확보를 위한 가격 보조는 오래 지속되기 어렵다는 분석이다.</p> <p contents-hash="0ba92897a6054ae044cc530badf633b95777176c13db9aad7498e1e58446a694" dmcf-pid="BC15GchDTH" dmcf-ptype="general">이에 따라 기업은 토큰이 아니라 '완료 작업' 단위로 AI 경제성을 따져야 한다. 가트너는 토큰 소비량을 늘리는 방식의 사용 장려책이나 관련 대시보드를 폐기하고, 고가치 업무에만 고사양 모델을 배치해야 한다고 권고했다. 나머지 업무는 저렴한 모델, 캐싱, 소형 특화 모델 등을 활용해 비용을 낮춰야 한다는 것이다.</p> <p contents-hash="eccec3d120bd934cc1c412b1e5332a7d3db6296cadea558f76553e871a84cc50" dmcf-pid="bht1HklwSG" dmcf-ptype="general">현재 가격을 영구적인 것으로 착각해서도 안 된다. 기업은 현재의 가격표가 아니라 비용이 4배 오른 상황에서도 AI 투자가 성과를 낼 수 있는지 따져야 한다. 단기 가격 인하 이벤트나 정액형 요금제에 맞춰 세운 도입 전략은 사용량 기반 과금이 확대되는 순간 흔들릴 수 있다.</p> <p contents-hash="0b87d2dcd5c09dacf6717fcfc72086db561d2d125a148008c0e3ee96d9aebe46" dmcf-pid="KlFtXESryY" dmcf-ptype="general">모델 라우팅, 에이전트 재사용, 응답 캐싱, 파인튜닝 소형 모델, 지출 가드레일 설계 등을 아키텍처 단계에서부터 반영하는 것도 중요하다. 사후 비용 모니터링에서 사전 비용 차단으로 전환해야 한다는 의미다. 다만 가트너는 'AI FinOps' 시장이 아직 미성숙한 단계인 만큼, 현시점에서는 불완전한 솔루션에 의존할 수밖에 없다고 봤다.</p> <p contents-hash="af10a39c4fad865a7956d9e59284e9411f9c16d4d851f4b0cddab26a6e13cc87" dmcf-pid="9S3FZDvmhW" dmcf-ptype="general">AI 도구 자체보다 데이터·거버넌스·인재 기반에 투자해야 한다는 점도 강조된다. 가트너 조사에 따르면 AI에서 높은 ROI를 실현한 기업은 그렇지 못한 기업보다 데이터, 거버넌스, 인력 기반에 매출 대비 4배 더 많이 지출했다. AI 도구 투자액과 비교해도 이 같은 기반 투자 규모가 2배 이상 컸다.</p> <p contents-hash="d4b05d663e74b233f713dd4d47f81660a4a69c74fbd8585a784341f9e69eafd6" dmcf-pid="2v035wTsCy" dmcf-ptype="general">결국 AI 비용 폭증은 AI 도입의 실패 신호라기보다, 실험 단계가 끝나고 본격 운영 단계로 들어섰다는 신호에 가깝다. 이제 기업 경쟁력은 AI를 얼마나 많이 쓰느냐가 아니라, 비싼 모델을 어떤 업무에만 쓰도록 통제하느냐에서 갈릴 전망이다.</p> <p contents-hash="055ed2d9a35569c596e6f7ae18d69c479c7f88252e9416780416f63da9360114" dmcf-pid="VTp01ryOhT" dmcf-ptype="general">업계 관계자는 “토큰 비용과 에이전트 관리하는 C레벨급 직책이 새로 생기고 있다"며 “AI 도입 자체보다 사용량·비용·성과를 함께 관리하는 역량이 기업 경쟁력이 될 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 AI스페라 "공급망 해킹, 다양한 형태서 발생" 06-28 다음 앤트로픽 AI 수출 금지 일부 해제…‘규제의 역설’에 미국 기술 통제 실효성 논란[팩플] 06-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.