[AI 인프라전⑤完] "필요할 때 GPU 못 구한다"…업계가 꼽은 AI 인프라 병목 작성일 07-03 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VYsDrPrNS3"> <p contents-hash="d56d426c9b4b8e78699d0b0fdd838e8a90d4cfb6178b42132ed64b412890133c" dmcf-pid="fGOwmQmjyF" dmcf-ptype="general"><strong>젠슨 황 엔비디아 CEO 방한 이후 국내 AI 데이터센터 경쟁은 GPU 확보전을 넘어 전력·냉각·운영권을 둘러싼 인프라전으로 번지고 있다. AI 팩토리의 승부처는 누가 더 많은 칩을 확보했느냐가 아니라, 그 칩을 꽂을 전력과 열을 뺄 냉각, 고객 워크로드를 안정적으로 운영할 역량에 있다. <디지털데일리>는 주요 기업 질의 답변, 현장 취재를 바탕으로 AIDC 2라운드의 병목과 사업모델 변화를 짚는다. <편집자></strong></p> <figure class="figure_frm origin_fig" contents-hash="b6ddfe7a23e4f43cd3dbcb92db0f5b360d3e05cff29ac3cfeb5ac7c4d1313e95" dmcf-pid="4HIrsxsAvt" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/03/552796-pzfp7fF/20260703055453370rnmn.jpg" data-org-width="640" dmcf-mid="2V6V4H4qS0" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/03/552796-pzfp7fF/20260703055453370rnmn.jpg" width="658"></p> </figure> <p contents-hash="84b8c8f34069c77219c0636b003d617ea2181b36c54f6bfc86df0a431c64c6c0" dmcf-pid="8XCmOMOcC1" dmcf-ptype="general">[디지털데일리 구아현기자] 국내 인공지능(AI) 업계의 인프라 병목이 단순한 GPU 부족 문제를 넘어 구조적 복합 위기로 번지고 있다. AI 모델 개발 기업들이 느끼는 인프라 병목은 GPU의 절대적 수량이 아니라 '원하는 시점에, 원하는 규모만큼, 감당할 수 있는 가격으로' 확보할 수 없다는 데 있었다. 여기에 공공·의료·금융 분야를 중심으로 한 데이터 활용 규제의 불명확성이 겹치면서 기업들은 인프라와 규제 두 방향에서 동시에 압박을 받고 있다.</p> <p contents-hash="c4c1cc2dc5c2079abe47725c023f8072f1313dc49d2bc37c3fb3d370f11950d4" dmcf-pid="6ZhsIRIkl5" dmcf-ptype="general">3일 <디지털데일리>가 AI 모델 개발 기업 5곳을 취재한 결과 업계는 국내 AI 인프라의 핵심 과제로 GPU 공급 규모와 가격 경쟁력, 온디맨드 접근성을 꼽았다.</p> <p contents-hash="eeac7bc841318e86434257f8b8b5e236f16166cf544c74355a0e5cae96790f4c" dmcf-pid="P5lOCeCETZ" dmcf-ptype="general">AI 기업들은 GPU 존재 여부보다 필요한 시점에 원하는 물량을 확보할 수 있는지를 기준으로 인프라를 선택한다.</p> <p contents-hash="cf280be19668d2075644bda7ee8ab48984d38458e92d9b119835e0fd06b95610" dmcf-pid="QWmEw6wayX" dmcf-ptype="general">업계가 가장 먼저 지목한 문제는 공급 규모다. 한 AI 기업 관계자는 국내외 클라우드 차이로 사용성이 아닌 '볼륨'을 꼽았다. 인프라는 많을수록 좋고 가용한 GPU 자원은 최대한 활용하는 구조라는 설명이다.</p> <p contents-hash="ccd1bfa132af9b0a446733ca3d24556c4372040689da56a1e7fec6b68bdd0902" dmcf-pid="xYsDrPrNhH" dmcf-ptype="general">AI 모델 개발 경쟁이 치열해지면서 GPU 한두 장 확보는 더 이상 경쟁력이 되지 않는다. 최신 대형언어모델(LLM)은 수백 장이 아닌 수천 장 단위 GPU 클러스터를 활용한다. 특정 시점에 얼마나 많은 GPU를 동시에 확보할 수 있는지가 모델 개발 속도와 성능을 좌우한다.</p> <p contents-hash="d6288f73c0f35ca5f43b63f135add2f4a605277e1fd5f0e168878f9b44ea5c6b" dmcf-pid="yR9qbvb0yG" dmcf-ptype="general">글로벌 클라우드 사업자들이 강점을 갖는 이유도 여기에 있다. AWS와 구글클라우드, 마이크로소프트 애저는 전 세계 리전에 대규모 GPU 클러스터를 구축해 놓고 있다. 특정 지역에서 물량이 부족해도 다른 지역 자원을 활용할 수 있다.</p> <p contents-hash="446b8a86af4d3f66720ac5746a179a54804e2a44ee5c51dce61d96b4e91f0718" dmcf-pid="We2BKTKpCY" dmcf-ptype="general">가격 문제도 반복적으로 언급됐다. 한 AI 스타트업은 현재 GPU 특화 해외 클라우드를 활용하고 있다. 동일 GPU 기준 일반 하이퍼스케일러보다 가격이 낮고 최신 GPU 확보도 빠르다는 이유에서다.</p> <p contents-hash="c16b1a4046363126eecc48cb3d48ffda15b2fd05d0fb47235e516af8356ff5c7" dmcf-pid="YdVb9y9UvW" dmcf-ptype="general">이 회사 관계자는 "국내 주요 클라우드 서비스 제공업체(CSP)는 최신 GPU를 장기 계약이나 구독 형태로 운영하는 경우가 많아 수요에 따라 탄력적으로 활용하기 어렵다"며 "필요할 때 바로 쓸 수 있는 환경에서 차이가 있다"고 말했다.</p> <p contents-hash="d99654aec237ab5c9568bb5348e8ee4b429d774a76fa65bedffeaa6c99dc83e6" dmcf-pid="GJfK2W2uyy" dmcf-ptype="general">가격 경쟁력도 중요하다. 다른 업계 관계자는 "국내 A100 요금이 해외 GPU 특화 클라우드의 H100 요금과 비슷하거나 오히려 높은 수준인 경우도 있다"고 설명했다.</p> <p contents-hash="03425fe85675f50f4c46529f239cb996994ad45d3cb46388859d26f232b208cc" dmcf-pid="Hi49VYV7WT" dmcf-ptype="general">AI 기업들에 GPU는 핵심 생산수단이다. 특히 추론 서비스가 확대될수록 컴퓨팅 비용은 서비스 원가와 직결된다. 같은 성능이라면 더 저렴하고 유연한 인프라를 선택할 수밖에 없는 구조다.</p> <p contents-hash="0a85e747e1ad30a9373a0454f982eb7b5a39c8a396e4ed709c3b4cd5148c23f4" dmcf-pid="Xn82fGfzvv" dmcf-ptype="general">또 다른 AI 기업 관계자는 해외 클라우드를 활용하는 배경으로 가격 경쟁력과 기술 지원을 꼽았다. 이 관계자는 "해외 사업자들은 초기 단계부터 적극적인 가격 조건을 제시하는 경우가 많다"며 "기술 지원도 실제 프로젝트 수행 수준으로 제공되는 경우가 있다"고 말했다.</p> <p contents-hash="226a05185b85e3f00fc1865c370bf4f027c8afdb241cd8238f2f3626eb6f8502" dmcf-pid="ZL6V4H4qCS" dmcf-ptype="general">일부 기업은 데이터 규제 역시 해결해야 할 과제로 지목했다. 한 AI 기업 관계자는 "GPU를 몇 배 더 늘려도 학습 데이터 자체가 묶여 있으면 의미가 없다"고 말했다.</p> <p contents-hash="d77be32ab3d359fc342d863084fa08fda101907ace68738ff1ed5d0e1f3c1396" dmcf-pid="5oPf8X8BTl" dmcf-ptype="general">공공·의료·금융 분야는 데이터 활용 범위에 대한 해석이 여전히 엇갈린다. 기업 입장에서는 규제 리스크를 우려해 데이터를 보수적으로 활용할 수밖에 없다.</p> <p contents-hash="d35f872b0b1a031db49a0cd0e66c6badb79e01ff56fe62ab44fc8cb34b59aaad" dmcf-pid="1gQ46Z6bhh" dmcf-ptype="general">업계에서는 AI 인프라 경쟁이 데이터센터 건설을 넘어 실제 활용 경쟁으로 이동하고 있다고 본다. GPU 적시 공급, 글로벌 수준의 가격 경쟁력, 데이터 규제 불확실성 해소가 국내 AI 인프라의 다음 경쟁력을 가를 전망이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 메모리 품귀에 가려진 CPU 부족 심화… 질주하는 인텔·AMD ‘이중 호황’ 국면 07-03 다음 황태자'는 떠났고, 닉스고는 돌아왔다…한국경마 상반기 결산 07-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
