토큰맥싱은 이제 끝...필요한 성능만큼만 AI 골라 쓰는 토크노믹스가 뜬다 작성일 06-16 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xbTCqNNdY9"> <figure class="figure_frm origin_fig" contents-hash="7fca92db565b76d21332a6b09c89a5c62e5b8a2d532cf6c19fb13374ea0abdf7" dmcf-pid="yrQfD00HHK" dmcf-ptype="figure"> <p class="link_figure"><img alt="/제미나이 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/16/chosun/20260616180138560cqux.jpg" data-org-width="2816" dmcf-mid="QRVBNZZvZ2" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/16/chosun/20260616180138560cqux.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /제미나이 생성 </figcaption> </figure> <p contents-hash="f38184a49c617d1660907ec74ad652094a0921ca292a15a1d054ba7cba5bef86" dmcf-pid="Wmx4wppX1b" dmcf-ptype="general">법률 서비스에 인공지능(AI)을 결합한 한 리걸AI 스타트업의 최고운영책임자(COO) A(43)씨는 매일 아침 출근하자마자 사내 개발자들이 전날 밤 사용한 ‘토큰’ 양부터 들여다본다. 클로드 코드나 챗GPT 코덱스 같은 코딩 생성 AI는 쓰는 만큼 요금이 매겨지는데, 방치하면 비용이 걷잡을 수 없이 불어나기 때문이다. 토큰을 과도하게 쓴 개발자는 따로 불러 개발 내용을 묻는다. A씨는 “놔두면 토큰 비용이 무한정 치솟고, 회사 일이 아닌 개인 사이드 프로젝트에 쓰는 경우도 걸러내야 한다”며 “적절한 수준의 AI를 알맞은 곳에 사용했는지를 확인한다”고 했다.</p> <p contents-hash="f74ac13cbaeda19bbeee45514b9110ce2f98ff8f9bffebd5220244cae36327d6" dmcf-pid="YsM8rUUZZB" dmcf-ptype="general">첨단 AI 에이전트 활용이 늘며 추론 비용이 급증하자 AI 사용에 따른 토큰 양을 적절하게 통제하고, 작업의 목적에 따라 적절한 AI 사용을 배정하는 ‘AI 사용 효율화’가 테크 업계의 주요 트렌드로 자리 잡고 있다. 토큰이란 AI가 글을 읽고 쓸 때 잘게 쪼개 처리하는 최소 텍스트 조각으로, AI 요금은 보통 100만 토큰당 가격이 매겨진다. 이 같은 업무에 맞는 AI 모델을 골라 적정 비용으로 쓰며 효율성을 높이는 것을 가리켜 ‘토크노믹스(토큰 경제학)’라는 말까지 나왔다. 테크 업체들은 그동안 개발자들에게 최대한 많은 토큰 사용을 장려하던 정책을 철회하고 첨단 AI와 그보다 성능이 떨어지는 AI를 적절히 섞어 쓰는 전략을 검토 중이다.</p> <p contents-hash="fd4172e2219b6e45392ec89e7ea843ac1dd721cf8cfd4451260c17aad2981660" dmcf-pid="GOR6muu5Yq" dmcf-ptype="general"><strong>◇토큰맥싱에서 후퇴</strong></p> <p contents-hash="04f4a0de1034bc72925444d5b99b078cd46b224c112975efe30ca0df923afd6d" dmcf-pid="HIePs771Gz" dmcf-ptype="general">작년부터 미 실리콘밸리에서는 최강 AI 모델을 사용해 토큰 양을 최대한 늘리는 ‘토큰맥싱(tokenmaxxing)’ 움직임이 컸다. 메타와 아마존에는 개발자들의 토큰 소비 순위표까지 등장하며 AI 사용을 독려했다. 하지만 AI 사용 비용이 급증하자 실효성 논쟁이 불거졌다. 샘 올트먼 오픈AI 최고경영자(CEO)도 “AI 사용 비용이 기업 경영진에게 엄청난 문제”가 됐다고 했다. AI의 발전으로 추론 단가 자체는 떨어지고 있지만, AI 사용량이 급증하며 지출이 폭증했기 때문이다. 리눅스 재단에 따르면 3년 전과 비교하면 현재 토큰 가격은 98% 감소했지만, 기업의 AI 관련 비용은 320% 증가했다.</p> <p contents-hash="56c509a3d0bd6cc97136027593c6f45867eeaa595fbf83df0282bc9344a30f4f" dmcf-pid="XCdQOzztH7" dmcf-ptype="general">실제로 우버는 엔지니어 5000여 명에게 클로드 코드를 전면 배포했다가 1년 치 코딩 예산을 4개월 만에 소진했다. 미 매체인 악시오스에 따르면 한 테크 기업은 한 달 클로드 요금만 약 5억달러(약 7600억원)가 나오기도 했다. AI 사용료가 너무 많이 나오자 테크 기업들은 토큰 사용 장려 정책을 하나둘씩 폐지하고 있다. 메타와 아마존은 과도한 토큰 사용 정책을 철회했고, 마이크로소프트도 일부 부서의 클로드 코드 라이선스를 6월 30일을 기점으로 종료한다고 공지했다. 국내 기업도 마찬가지다. 안랩은 6월부터 깃허브 코파일럿 사용량을 주당 1000크레딧으로 제한했고, 넷마블도 직책·팀별로 AI 사용량에 제한을 걸었다.</p> <p contents-hash="c61f1520fbae72414340c99cecd92e7ecdac0b826a8f99755c4f8eec23066db0" dmcf-pid="ZhJxIqqF5u" dmcf-ptype="general">AI 서비스를 제공하는 업체들도 늘어나는 컴퓨팅 수요에 따른 비용을 감당하지 못해 월 구독제에서 쓰는 만큼 부과하는 종량제로 과금 체계를 바꾸고 있다. 앤스로픽은 지난 9일 최상위 AI 모델인 오퍼스보다 윗 등급인 페이블5를 출시했는데, 100만 토큰당 입력 10달러, 출력 50달러의 종량제 과금을 하겠다고 밝혔다. 오퍼스 4.8 모델의 2배다. 마이크로소프트의 깃허브 코파일럿도 무제한 사용을 없애고 종량제로 요금제를 변경했다.</p> <p contents-hash="f8fe930d173e58b48532a04abfdad999d63a536764ca88d42e44636a1ee64026" dmcf-pid="5liMCBB3YU" dmcf-ptype="general"><strong>◇프런티어 AI와 일상 AI 이분화</strong></p> <p contents-hash="766e72aea48fe00f04d57f1dffb1df84bd962b50f9e7cad45bcd247e3c444f6f" dmcf-pid="1uCrpnnQHp" dmcf-ptype="general">이런 흐름 속에 테크 기업들은 무조건 최고 성능 AI를 쓰던 관성에서 벗어나 업무 난이도에 따라 AI를 골라 쓰는 ‘AI 배분’ 전략으로 눈을 돌리고 있다. 단순 업무에 비싼 AI를 쓸 필요가 없는 것이다. 예컨대 오픈AI의 GPT-5.5는 100만 토큰당 입력 시 5달러, 출력 시 30달러다. 반면 GPT-5.4는 입력 시 2.5달러, 출력 시 15달러로 절반 수준이다. 단순 질문이나 계산 등 평이한 작업에는 GPT-5.4를 쓰고 고차원적 업무에는 5.5를 쓰는 전략이다. 테크 업계 관계자는 “예전엔 최첨단 AI를 얼마나 많이 쓰느냐가 중요했다면 이제는 AI의 적절한 활용이 실제 비즈니스 가치로 얼마나 이어질 수 있는지를 따진다”고 했다.</p> <p contents-hash="5f81eb9e451dee4b861a2634c5f62ac6b9f3a607edd898c8b251142bce31f4e7" dmcf-pid="t7hmULLx50" dmcf-ptype="general">기업 내부에서 업무에 따라 AI를 선택하는 것뿐만 아니라 시장 전체적으로도 활용도에 따라 AI 선택이 달라질 것이라는 관측이 나온다. 테크 업계는 앞으로 최첨단 AI는 추가 비용을 감당할 수 있는 소수 기업과 특정 업무 영역만 사용하고, 대부분은 토큰 비용이 싼 일상 AI를 사용하는 구조가 고착화될 수 있다고 본다. 시타델증권은 이달 초 “프런티어 AI는 비용을 감당할 재무제표와 연구 역량, 응용처를 갖춘 좁은 기업군에 집중되고 나머지는 단순한 AI 모델을 쓰는 ‘AI의 이분화’가 벌어질 것”이라고 했다.</p> <p contents-hash="f793b091731510ae517f706fb2b55040bbaa724f0c28e9d88699264b85f0982c" dmcf-pid="FzlsuooM13" dmcf-ptype="general">브라이언 암스트롱 코인베이스 CEO는 “12개월에서 18개월 안에 전체 작업의 80%는 싼 AI 모델로 처리되고, 과학적 돌파구나 고차원 에이전트처럼 ‘지능 극대화’가 필요한 20% 작업만 최신 AI 모델로 처리될 것”이라고 했다. 사티아 나델라 마이크로소프트 CEO는 “가장 좋은 AI 모델을 선택하는 것이 핵심이 아니다”라며 “진정한 기회는 모델 위에 인간 자본과 토큰 자본이 함께 성장하는 학습 루프를 구축하는 데 있다”고 했다. 테크 업계 관계자는 “결국 어떤 업무에 어떤 AI 모델을 붙이고, 에이전트가 AI 모델을 몇 차례 호출하도록 설계하는 등 ‘토크노믹스적 관점’이 AI 활용의 성패를 가를 것”이라고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "AI 비서와 수천 번 대화한 아이, 정서 조작 위험"…'미성년 빗장'이 없다 06-16 다음 넥슨 이정헌 “AI는 도구일뿐…창작은 인간의 영역” 06-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
