알고 봤더니 AI에이전트, ‘전력 먹는 하마’…생성형 AI보다 137배 더 소모 작성일 07-05 39 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KAIST, AI 에이전트 서비스 위한 전력·비용 정량적 분석<br>질문 한 건당 약 136.5배 전력 소비...데이터센터 수요도 더 늘어</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YygrXeCEv1"> <figure class="figure_frm origin_fig" contents-hash="ae2cbf06f7731963976e2e1f11d5c86da9bc2383583cf636e63d55a80a985e59" dmcf-pid="GWamZdhDW5" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 에이전트는 생성형 AI보다 질문 한 건당 최대 136.5배 더 많은 전력을 사용하는 것으로 분석됐다. KAIST 제공." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/dt/20260705134119858vjcd.jpg" data-org-width="640" dmcf-mid="WtyF4Iu5lt" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/dt/20260705134119858vjcd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 에이전트는 생성형 AI보다 질문 한 건당 최대 136.5배 더 많은 전력을 사용하는 것으로 분석됐다. KAIST 제공. </figcaption> </figure> <p contents-hash="6e8f7be8f00dd73ed0f152f82177192da0e88d41487052bd4de034b132591750" dmcf-pid="HYNs5JlwhZ" dmcf-ptype="general"><br> 인공지능(AI)이 스스로 생각하고 행동하는 ‘AI 에이전트’가 질의응답형 ‘생성형 AI’보다 질문 한 건당 최대 136배 더 많은 전력을 소비하는 것으로 나타났다.</p> <p contents-hash="a96daa99e4e8f843c91fb01c94825e3409976af3e06ba077d7aad976d532068a" dmcf-pid="XGjO1iSryX" dmcf-ptype="general">AI 모델을 보다 똑똑하게 구현하는 경쟁을 넘어 적은 전력과 비용을 들여 효율적으로 활용할 수 있는 AI 기술 개발이 앞으로 중요해질 것이라는 전망이다.</p> <p contents-hash="1430011d0eb3cf25a37e96724684e5838ac792d675a155a9e48a99f07e347e59" dmcf-pid="ZHAItnvmyH" dmcf-ptype="general">KAIST는 유민수 전기및전자공학부 석좌교수 연구팀이 AI 에이전트가 실제 서비스 환경에서 얼마나 많은 계산 자원과 전력을 사용하는지 정량적으로 분석했다고 5일 밝혔다.</p> <p contents-hash="b4d3385ac438d7186dba316081037a69c83681f4e137562bef66c9691bcdb249" dmcf-pid="51DSpaYCTG" dmcf-ptype="general">최근 챗GPT와 같은 대형 언어모델(LLM)은 단순한 질문에 답하는 수준을 넘어 스스로 계획을 세우고 인터넷 검색이나 계산기, 코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 AI 에이전트로 빠르게 발전하고 있다.</p> <p contents-hash="5d069f36ec0bf2f7dd97603cb36b45b5129f7504625a87e8925e4b0ea22adf83" dmcf-pid="1twvUNGhhY" dmcf-ptype="general">AI 에이전트는 기존 단일 질의 기반 LLM 추론과 달리 다수의 모델 호출과 도구 실행을 반복하기에 데이터센터 자원 사용량과 전력 수요가 크게 늘어날 수 밖에 없다.</p> <p contents-hash="fd60bed7685c7cef36ac1f486fc93180ac5caa62834d5e388fa9362535c7df7d" dmcf-pid="tFrTujHlTW" dmcf-ptype="general">하지만 AI 에이전트 운영에 얼마나 많은 전력과 비용이 들어가는지는 거의 알려지지 않고 있다.</p> <p contents-hash="ab90d6e025e9dd8e308985ac6ec035277f2659a7bfcd7eecebe96f00cb072283" dmcf-pid="F3my7AXSTy" dmcf-ptype="general">연구팀은 AI 에이전트를 데이터센터 서버와 그래픽처리장치(GPU)가 처리해야 하는 새로운 형태의 작업인 ‘워크로드’로 정의하고 실제 실행 과정에서 발생하는 계산량과 에너지 소비를 분석했다.</p> <p contents-hash="2d6ffb01d35d47be179e34930f6a169a96233077c9e2186f519ecc297a446e60" dmcf-pid="30sWzcZvlT" dmcf-ptype="general">분석 결과, AI 에이전트는 LLM을 반복적으로 호출하면서 여러 외부 도구를 사용해 응답 시간이 크게 증가했다.</p> <p contents-hash="749a787f57bd426dbd52e59e8c877d1e99c8e1f40022cdc1c86d0c218859f869" dmcf-pid="0pOYqk5TCv" dmcf-ptype="general">AI 에이전트의 응답 시간은 최대 153.7배 증가했고 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 연산하지 않은 채 대기하는 것으로 분석됐다.</p> <p contents-hash="f53fc4b0d7b82623738b9df70831074615c90e7f6baa8e3d96a3d795694ec00c" dmcf-pid="pUIGBE1yyS" dmcf-ptype="general">AI가 더 복잡한 작업을 수행할수록 고가의 GPU를 충분히 활용하지 못하는 비효율이 발생하고 있다는 게 연구팀의 설명이다.</p> <p contents-hash="0030d04c92c66a0ac0a28b3060b11201b5d88c6d757db1f6d0d8ad8d97985303" dmcf-pid="UuCHbDtWyl" dmcf-ptype="general">AI 에이전트가 사용한 전력도 데이터센터 규모에서 분석했다. 현재 상용 AI 서비스 수준인 700억 개의 매개변수를 갖춘 대형언어모델 기반 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41와트시(Wh)를 사용했다.</p> <p contents-hash="9f5f10ac32bb83356a6e18d0dc0f64f3bd407282177ad86f88c6c3593150fccf" dmcf-pid="u7hXKwFYWh" dmcf-ptype="general">이는 기존 생성형 AI보다 최대 136.5배 높은 수준이다.</p> <p contents-hash="7373e4c1dc6707689d4bf47b87210a4d288c3bd39f0b2b9c10cf7eadc6bce560" dmcf-pid="7zlZ9r3GCC" dmcf-ptype="general">연구팀은 하루 137억 건의 AI 에이전트 요청이 발생하는 미래 환경을 가정해 데이터센터 전력 수요도 추산했다.</p> <p contents-hash="a17c683f7c1152fadfed841854b69f9b4cbe2251a8e215ab5b20d5cce3c6b230" dmcf-pid="zqS52m0HhI" dmcf-ptype="general">그 결과 약 198.9기가와트(GW)에 이르는 것으로 추정됐다. 이는 미국 전체 전력 소비량의 절반에 해당한다.</p> <p contents-hash="78ef7d0c9fb2ba44cadc56dc9052036f8baa794b01d4bc22f177dacfa9b8acd2" dmcf-pid="qBv1VspXSO" dmcf-ptype="general">연구팀은 AI 시대 경쟁력이 ‘더 똑똑한 AI’에서 ‘더 효율적인 AI’로 옮겨가고 있듯이 AI 모델만 발전시키는 것이 아니라 AI반도체, 데이터센터, 전력 인프라 등을 함께 최적화는 ‘공동 설계’가 필수적으로 요구될 것이라고 전망했다.</p> <p contents-hash="6d3a781b98f4eb4bfc42755b0734f7f2f5ca7b07f5bb034626f10ef18b486659" dmcf-pid="BbTtfOUZTs" dmcf-ptype="general">유민수 석좌교수는 “AI가 지능을 구현·유지하기 위해 얼마나 많은 전력과 비용이 필요한지 정량적으로 제시한 첫 사례”라며 “AI 에이전트 시대에서 최종 사용자가 AI 서비스 활용 비용을 대폭 절감하고 지속가능한 AI 인프라를 구축하기 위한 연구와 투자가 필수적”이라고 말했다.</p> <p contents-hash="7c87617f550a3d09d0bee715b4908e040a82fd373f1be4300b2b7a562487abff" dmcf-pid="bKyF4Iu5Wm" dmcf-ptype="general">이준기 기자 bongchu@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 핸드볼 여자주니어 세계선수권, 일본이 세르비아에 아쉬운 패배… 7·8위 결정전으로 07-05 다음 “AI가 다 해준다”는 착각…기업 인공지능 전환이 더딘 이유 07-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
