"토큰 얼마나 썼나" 한눈에…깃허브, AI 사용량 관리 기능 확대 작성일 06-22 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'코파일럿 사용량 지표 API'에 사용자별 AI 크레딧 사용량 시각화 추가</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GCUwTu4qoy"> <p contents-hash="95d5b46b7e99891c4dafcc3776226a8ab027ad684099dff2945c35aa63664f4f" dmcf-pid="Hhury78BaT" dmcf-ptype="general">(지디넷코리아=김미정 기자)인공지능(AI) 에이전트 확산으로 기업 토큰 소비가 증가하면서 사용량과 비용, 투자대비효과(ROI)를 함께 관리할 수 있는 기능 수요가 커지고 있다.</p> <p contents-hash="00eeb9dc6cadb540bb085b220ce33139bb74814e321940ab5c1334fea4c2f801" dmcf-pid="Xl7mWz6bkv" dmcf-ptype="general">22일 IT 업계에 따르면 깃허브는 사용자·작업·조직 단위로 AI 사용량과 비용을 파악할 수 있는 기능을 플랫폼에 도입했다. 최근 코딩 에이전트가 사용량 기반 과금 체계로 운영되는 만큼, 기업이 API 토큰 사용 한도를 설정하고 실시간 비용을 확인할 수 있어야 하기 때문이다.</p> <p contents-hash="0ba14c4b1c394955b5a397bc7d6be74bf3058f1620097ced1841c4f22ad7b3be" dmcf-pid="ZkXgmZztcS" dmcf-ptype="general">깃허브는 코딩 세션을 비롯한 작업, 사용자, 기업 단위에서 AI 사용 현황을 확인할 수 있는 기능을 강화하고 있다. 회사는 지난 19일 코파일럿 사용량 지표 API(Copilot Usage Metrics API)에 사용자별 AI 크레딧 사용량을 보여주는 'ai_credits_used' 필드를 추가했다.</p> <figure class="figure_frm origin_fig" contents-hash="511b9562fc79a277f774eeb3aadffb617b233d3aa4031ec1f61328be9c7cfb65" dmcf-pid="5EZas5qFAl" dmcf-ptype="figure"> <p class="link_figure"><img alt="깃허브는 사용자·작업·조직 단위로 AI 사용량과 비용을 파악할 수 있는 기능을 플랫폼에 도입했다. (사진=깃허브)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/22/ZDNetKorea/20260622101404550notl.png" data-org-width="638" dmcf-mid="qkE9RDvmaz" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/22/ZDNetKorea/20260622101404550notl.png" width="658"></p> <figcaption class="txt_caption default_figure"> 깃허브는 사용자·작업·조직 단위로 AI 사용량과 비용을 파악할 수 있는 기능을 플랫폼에 도입했다. (사진=깃허브) </figcaption> </figure> <p contents-hash="97eb7318bac9b31b5f6e197c7fb906d199d786f0e0aefd2a18038107dc30e57d" dmcf-pid="1D5NO1B3Ah" dmcf-ptype="general">해당 필드는 사용자가 하루 동안 소비한 전체 AI 크레딧 규모를 보여준다. 코파일럿 채팅과 코드 생성 등 사용자가 수행한 모든 코파일럿 활동에서 발생한 AI 크레딧 사용량을 합산한 값이다. 이 기능은 엔터프라이즈와 조직 단위 사용자 보고서에 적용된다.</p> <p contents-hash="41bac98af5e028b00559b19ba6d9ced46f7428cfec23e27db4c4ac4ae0eb4bdb" dmcf-pid="tw1jItb0aC" dmcf-ptype="general">관리자는 1일 단위(users-1-day)와 28일 단위(users-28-day) 보고서를 통해 사용자별 AI 크레딧 소비 현황을 확인할 수 있다. 사용량 기반 과금 체계에 대비한 비용 관리도 가능해진다. 일별 AI 크레딧 소비 패턴을 확인해 향후 비용 규모를 예측하고 예산 계획을 수립할 수 있다.</p> <p contents-hash="42b18016630181380bce0521fa458e4b35da95cbef610c72657fd12d6cd473c9" dmcf-pid="FrtACFKpkI" dmcf-ptype="general">마리오 로드리게즈 깃허브 최고제품책임자(CPO)는 최근 온라인 세미나에서 "우리 목표는 개발자가 API 토큰을 무조건 많이 소비하게 만드는 것이 아니다"며 "개발자 의도를 신뢰할 수 있는 소프트웨어로 전환하는 것"이라고 밝혔다.</p> <p contents-hash="50cf198491ef09cc538558f2edd468ebe4aafc3184d02db93fe233fe761387d8" dmcf-pid="3mFch39UAO" dmcf-ptype="general"><strong>깃허브 CPO "로컬 모델 전략·자동 모델 라우팅 필수"</strong></p> <figure class="figure_frm origin_fig" contents-hash="1456a1b5e392feea69286e0d938bf17e5ada350cee7f5639c7558c1d8a438ace" dmcf-pid="0s3kl02uAs" dmcf-ptype="figure"> <p class="link_figure"><img alt="로드리게즈 CPO는 비용 최적화 방안으로 로컬 모델 전략과 자동 모델 라우팅을 제시했다. (사진=깃허브 세미나 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/22/ZDNetKorea/20260622101405871dvyi.jpg" data-org-width="638" dmcf-mid="YGPGUQgRcW" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/22/ZDNetKorea/20260622101405871dvyi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 로드리게즈 CPO는 비용 최적화 방안으로 로컬 모델 전략과 자동 모델 라우팅을 제시했다. (사진=깃허브 세미나 캡처) </figcaption> </figure> <p contents-hash="fd27a40b9d3638540a44e321c6a0a2b62e89197ef6f39d96b27711bd8303731d" dmcf-pid="pO0ESpV7Nm" dmcf-ptype="general">로드리게즈 CPO는 비용 최적화 방안으로 로컬 모델 전략과 자동 모델 라우팅을 제시했다. 모든 작업에 프런티어 AI 모델을 사용하는 대신 업무 난이도와 목적에 따라 적절한 모델을 선택해야 한다는 설명이다.</p> <p contents-hash="1da39a071c01354a940023a43e0de4c046909cf0515dff0f16f04039384e7247" dmcf-pid="UIpDvUfzNr" dmcf-ptype="general">실제 깃허브는 모든 작업에 고성능 모델을 적용하는 대신 작업 난도와 목적에 따라 로컬 모델, 저비용 모델, 프런티어 모델을 적절히 배치하는 방식을 추진하고 있다.</p> <p contents-hash="afd7353711f7d11829e20abb5d6f8b3a1a53cea6458ccd021636644df3300240" dmcf-pid="uCUwTu4qow" dmcf-ptype="general">로드리게즈 CPO는 개발자가 자신의 키를 가져와 모델을 사용하는 BYOK 방식도 지원한다고 설명했다. 깃허브는 올라마(Ollama) 같은 로컬 모델 제공자를 통해 코파일럿과 외부 모델을 함께 활용할 수 있도록 지원하고 있다.</p> <p contents-hash="0d9f6b0d4e709da319548f6e72a617702cfa6fff7be66b1911d903552e3830a7" dmcf-pid="7hury78BND" dmcf-ptype="general">그가 이 같은 전략을 추진하는 이유로 플랫폼 신뢰, 거버넌스, ROI를 꼽았다. 기업이 AI 사용량과 비용을 예측·통제할 수 있어야 AI 코딩 도구를 대규모 개발 환경에 적용할 수 있다는 이유에서다.</p> <p contents-hash="7649cb0b0a74acb42f70bd30e771e0caaa8f0f2a1ef9a195af3656fedb9e0ca8" dmcf-pid="zl7mWz6bgE" dmcf-ptype="general">앞서 오픈AI도 '챗GPT 엔터프라이즈' 사용자 대상으로 크레딧 사용량 분석 기능과 업데이트된 지출 통제 기능을 공개했다. 이번 기능은 글로벌 관리자 콘솔에 챗GPT와 코덱스 사용량 정보를 통합 제공하는 데 초점 맞췄다. 관리자는 사용자·제품·모델별 크레딧 소비 현황을 세분화해 확인할 수 있다.</p> <p contents-hash="5b7a5fce926222b2894ffab97821eb7e7df62a0c117d73a07790eb787c78a6dd" dmcf-pid="qSzsYqPKgk" dmcf-ptype="general">오픈AI는 올해 초 사용자 지정 역할별 크레딧 사용 한도 기능을 도입한 바 있다. 이번에는 여기에 조직 단위 지출 통제 기능도 확대한 것이다.</p> <p contents-hash="7f8d58adb9c248de878836da4dd59315f104d570fd3238c212f4a16307bdbf21" dmcf-pid="BvqOGBQ9cc" dmcf-ptype="general">로드리게즈 CPO는 "깃허브 코파일럿 앱은 단순한 코드 작성 도구가 아니라 'AI 네이티브 엔지니어링 시스템'"이라며 "개발자는 앞으로 코드 한 줄 한 줄을 직접 작성하기보다 목표를 제시하고, AI 에이전트가 만든 결과를 검증하며, 품질과 아키텍처를 관리하는 역할을 맡게 될 것"이라고 강조했다.</p> <p contents-hash="e43167c4cda8f5a708d9a2d634b307f8faaa4c268e44ce6bfae7d3dd01a931e2" dmcf-pid="bUe1BdcnAA" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 AX 빨라질수록 조직 체계화는 숙제…"AI가 만든 오류·실수 부작용" 06-22 다음 20년간 IT 시스템 지킨 'MCCS'…맨텍솔루션, AI 시대 무중단 운영 이끈다 06-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
