클라우드 시대 역설…24시간 GPU 돌리자니 다시 ‘소유’가 답? 작성일 07-12 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">카카오클라우드 IT 전문가 508명 설문…61.6% 도입 방식 검토·미정, 최대 장벽은 비용</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0CqGPf9UTy"> <figure class="figure_frm origin_fig" contents-hash="6e3cb93f499bf84185179e8e0cd3e10720b5ad0d8f25a5e0cb2c4a5945a5eee9" dmcf-pid="pXPUoJRflT" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075837158bsvt.jpg" data-org-width="640" dmcf-mid="tDZJylIkTG" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075837158bsvt.jpg" width="658"></p> </figure> <p contents-hash="948f4181dde970c004e5bdfd4f65c9dc7eef9247a5e045099ad59e934850b95e" dmcf-pid="UZQugie4vv" dmcf-ptype="general">[디지털데일리 이안나기자] AI 인프라를 놓고 기업들이 딜레마에 빠졌다. 클라우드로 그래픽처리장치(GPU)를 빌려 쓰자니 추론(인퍼런스) 트래픽에 따라 비용이 기하급수적으로 불어난다. 자체 구축(온프레미스)하자니 초기 투자와 운영 관리의 벽이 높다. AI 모델 대형화로 인프라 비용이 눈덩이처럼 커지면서 도입 방식 자체를 다시 짜야 하는 시점이 왔다.</p> <p contents-hash="ba9012aac2ec95dd82153285d417c5172ecf142de5de5564a0c0f5019e87e185" dmcf-pid="u5x7and8TS" dmcf-ptype="general">이 딜레마가 실제 수치로 확인됐다. 카카오클라우드를 운영하는 카카오엔터프라이즈가 IT 전문가 508명을 조사한 결과 기업 10곳 중 6곳은 GPU 도입 방식을 결정하지 못한 채 관망하고 있었다. 발목을 잡는 건 성능이 아니라 비용이었다. 회사가 대안으로 내놓은 건 소유와 구독을 결합한 ‘하이브리드’ 모델이다.</p> <p contents-hash="4bc40d98a2044b672d9a7173389143b2bf87ab76a1c28b81340f7ca029a17745" dmcf-pid="71MzNLJ6yl" dmcf-ptype="general">11일 업계에 따르면 카카오엔터프라이즈는 최근 이 같은 내용을 담은 ‘2026 AI 인프라 전략’ 백서를 발간했다. 설문은 지난해 9월17일부터 12월17일까지 클라우드 주간·델 테크 포럼 참가 기업을 대상으로 진행됐다. 356개 기업에서 IT 전문가 508명이 응답했다.</p> <p contents-hash="133f446491128cec1f17282c3d707fa821dae8f4ad81ad2c9d7add768e42bedf" dmcf-pid="ztRqjoiPWh" dmcf-ptype="general">조사에서 가장 주목되는 수치는 ‘대기 수요’ 규모다. 전체 응답자의 61.6%가 GPU 도입을 ‘검토 중’(30.9%)이거나 ‘미정’(30.7%)이라고 답했다. 주저하는 이유는 성능이 아니었다. 도입 장애 요인(복수응답) 1위는 ‘비용 부담’(38.6%·290명), 2위는 ‘비용 예측의 어려움’(20.8%·156명)이었다. ‘성능 우려’(8.9%·67명)보다 비용을 걱정하는 응답이 4배 이상 많았다.</p> <p contents-hash="b895b3da84c3d7d7ef36a221e661625ca769f8fa808b366e68040aa7ec8ca394" dmcf-pid="qFeBAgnQyC" dmcf-ptype="general">기업들이 결정을 미루는 배경에는 두 방식의 상충 관계가 있다. GPUaaS(서비스형 GPU)는 빠르게 도입하고 유연하게 확장할 수 있지만 비용 예측이 어렵다. 반대로 온프레미스는 비용을 안정적으로 관리할 수 있지만 초기 투자(CAPEX)와 전력·냉각 등 운영 장벽이 높다. 여기에 조직 내 엇박자도 있다. 엔지니어는 안정적인 성능을 원하지만 경영진은 비용 통제를 원한다. 이 간극이 GPU 도입 의사결정을 늦추는 요인으로 분석됐다.</p> <p contents-hash="8bbad14622cce5860f968c461f731ff60443a8ac0fab2264b12b34f4550821a8" dmcf-pid="B3dbcaLxlI" dmcf-ptype="general">선택을 가르는 기준은 사용 패턴이었다. GPU를 24시간 상시 가동하는 그룹에서는 온프레미스 선호(101명)가 GPUaaS 선호(25명)의 4배에 달했다. 상시 사용 기업에는 쓴 만큼 내는 종량제가 오히려 ‘비용 폭탄’이 되기 때문이다. 운영 비용(OPEX) 부담을 감수하더라도 GPU를 자산화해 안정적으로 쓰겠다는 선택이다.</p> <div contents-hash="c4490957559b514c0bd583312fce1924fcc2ca8c8028d6a8134c53b873fc0fe0" dmcf-pid="b0JKkNoMTO" dmcf-ptype="general"> 반대로 프로젝트성 단기 사용이나 일시적 수요 급증 패턴에서는 유연한 클라우드가 유리했다. 전력·냉각·항온항습·네트워크 등 운영 부담을 감안하면 구축형은 과잉 투자가 되는 탓이다. 결국 어느 한쪽이 정답이 아니라 사용 패턴에 따라 답이 달라진다는 게 이번 조사 결론이다. </div> <figure class="figure_frm origin_fig" contents-hash="54e596131077599d6a2c5e1d4c78d20c571370dca585164a7da3ea3d8ff73416" dmcf-pid="Kpi9EjgRhs" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075838427lafw.jpg" data-org-width="600" dmcf-mid="37GwUF5ThW" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075838427lafw.jpg" width="658"></p> </figure> <p contents-hash="361a53289b671726216b73cc2f0554802ca5f56b479dc571b8b608e8dbcd8edc" dmcf-pid="9Un2DAaeym" dmcf-ptype="general">카카오엔터프라이즈가 제시한 해법은 지난해 9월 선보인 ‘하이브리드 GPUaaS’다. 기본 워크로드용 GPU는 기업이 구매해 자산으로 소유한다. 대신 구매 과정부터 데이터센터, 전력, 통합 관리, 확장까지는 카카오클라우드 플랫폼이 전담한다. 추가 GPU나 차세대 GPU가 필요할 때만 카카오클라우드 GPUaaS를 종량제로 연계해 쓰는 구조다. 지난해 조세특례제한법 개정으로 국가전략기술로 지정된 AI 시설투자에 세액공제(15~25%)가 적용돼 소유 부담도 줄었다.</p> <p contents-hash="7a1e6286f18a21a947788f0d8b05d314ba3d46969a25b1c63ff5089b26e057f0" dmcf-pid="2O7W82b0Sr" dmcf-ptype="general">개발 환경과 운영 지원도 플랫폼에 통합했다. 머신러닝 워크플로우 구축 도구인 ‘카카오클라우드 쿠브플로우’를 쓸 수 있고 보안 관리와 24시간 상시 모니터링 등 전문 인력 지원으로 안정성을 확보하는 방식이다. 운영 역량은 이 모델의 관건이기도 하다.</p> <p contents-hash="58faabb40947aeccd8bb271c721c8ce1fc328066fccf49335785beac7253b5c5" dmcf-pid="VIzY6VKpWw" dmcf-ptype="general">설문에서도 ‘운영 인력·역량 부족’(82명)이 비용 다음가는 장벽으로 꼽혔다. 카카오클라우드는 지난해 국가 GPU 확보 사업에서 엔비디아 최신 GPU ‘B200’ 255노드 클러스터를 구축한 경험을 보유하고 있다. 해외에서도 AI 비용 부담에 클라우드 인프라를 자체 시설로 되돌리는 ‘클라우드 리패트리에이션(회귀)’ 논의가 확산되는 추세다. 소유와 구독의 균형을 찾는 흐름이 국내만의 현상은 아닌 셈이다.</p> <p contents-hash="483af6caf73b9a58cd3fe784507e74ea2617f86f7029deacdddff7482f0374ae" dmcf-pid="fCqGPf9UvD" dmcf-ptype="general">다만 GPU 세대교체 속도는 온프레미스 모델 변수로 꼽힌다. 엔비디아가 거의 매년 신제품을 내놓는 상황에서 GPU를 자산으로 소유하면 감가상각 부담을 고객이 떠안기 때문이다.</p> <p contents-hash="dbf314b84a26aea56c10ac1923a5dee49854b33a44596564663a45722ef03537" dmcf-pid="4hBHQ42uWE" dmcf-ptype="general">이에 대해 카카오엔터프라이즈 관계자는 “GPU 교체 주기가 생각보다 짧지 않고 아직도 (2020년 출시된) A100을 쓰는 기업이 많다”라며 “기존 GPU를 충분히 활용할 수 있다면 신제품이 나올 때마다 비싼 돈을 들여 살 필요 없이 최신 GPU가 필요한 시점에만 GPUaaS로 확장하면 된다”고 설명했다.</p> <p contents-hash="2c55da8574545ddb7e1de269e7d2b69556065fc1f83b79be2a8e5fc67f55c429" dmcf-pid="8lbXx8V7lk" dmcf-ptype="general">이재한 카카오엔터프라이즈 사업부문장은 “이번 설문조사를 통해 상시 GPU를 활용하는 기업은 비용에 대한 우려로 온프레미스 방식을 선호한다는 점을 확인했다”며 “클라우드의 유연성과 온프레미스의 비용 효율성을 결합한 하이브리드 GPUaaS가 가장 현실적인 대안이 될 것”이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 애플, 한때 동지였던 오픈AI에 소송 "뿌리부터 썩은 사상누각" 07-12 다음 발주 방식 몸살 앓은 KERIS 'K-에듀파인' 고도화 사업, 2173억 통합발주 강행 07-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
