GPU 20만개 품은 머스크의 ‘콜로서스’ 122일 만에 구축… AI 전쟁터 된 데이터센터 작성일 05-28 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">GPU 효율 높이는 AI 데이터센터 부상<br>모듈형 설계로 빨리 짓고 수랭식 냉각 활용<br>액체냉각·고밀도 GPU 클러스터 결합<br>AI 인프라 시장 주도권 경쟁 격화</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qTbTEXCEAK"> <figure class="figure_frm origin_fig" contents-hash="9e621ea711150554bc7f85149806a3f81061d8a574fb8254ec6f90f3b648ec98" dmcf-pid="ByKyDZhDgb" dmcf-ptype="figure"> <p class="link_figure"><img alt="xAI가 미국 테네시주 멤피스에 운영 중인 세계 최대 규모 AI 데이터센터 ‘콜로서스(Colossus)’./xAI 홈페이지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/28/chosunbiz/20260528060221936olkq.jpg" data-org-width="1200" dmcf-mid="z565CpYCa9" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/28/chosunbiz/20260528060221936olkq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> xAI가 미국 테네시주 멤피스에 운영 중인 세계 최대 규모 AI 데이터센터 ‘콜로서스(Colossus)’./xAI 홈페이지 </figcaption> </figure> <p contents-hash="f9e9ba728dcd14fae75f4751497c4d5971ad62b64f1e2aa66d67893f6ae239df" dmcf-pid="bW9Ww5lwAB" dmcf-ptype="general">인공지능(AI) 패권 경쟁이 GPT·제미나이·클로드 등 AI 모델 개발 중심에서 이를 안정적으로 구동하는 물리적 인프라로 옮겨가고 있다. 고성능 AI 모델이 있어도 연산 수요를 처리할 그래픽처리장치(GPU)가 부족하거나, 막대한 전력을 감당할 데이터센터가 없으면 현실에서 적용할 수 없기 때문이다. 이에 GPU를 최대 밀도로 돌리는 AI 특화 데이터센터, 이른바 ‘AI 팩토리’ 개발과 구축 경쟁이 미국 빅테크와 네오클라우드 기업을 중심으로 치열해지고 있다.</p> <p contents-hash="2acdd44db610b8b24349910873c8c4f7953aa90f7ad9e9979c17164b73665fad" dmcf-pid="KY2Yr1Sroq" dmcf-ptype="general">28일 업계에 따르면 최근 AI 인프라 시장에서는 AI 모델의 학습·추론에 필요한 GPU를 중심으로 설계된 AI 데이터센터가 각광받고 있다.</p> <p contents-hash="8aa37558f226e4311c9a980b71012b567f744d0f2517657e5fd23033f33d7e48" dmcf-pid="9GVGmtvmAz" dmcf-ptype="general">일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 xAI가 미국 테네시주 멤피스에 운영 중인 세계 최대 규모 AI 데이터센터 ‘콜로서스’가 대표적인 사례다. 콜로서스는 AI 학습에 최적화된 형태로 데이터센터 구조를 재설계했다는 점이 특징이다. 구글·아마존웹서비스(AWS)·마이크로소프트(MS) 등 기존 하이퍼스케일러(대규모 클라우드 기업)들이 운영하는 데이터센터는 다양한 업무를 처리하기 위한 범용 인프라라면, 콜로서스는 AI 전용 ‘AI 팩토리’에 가깝다. 이를 위해 xAI는 콜로서스의 GPU 집적도, 냉각 설계, 전력 공급 구조, 네트워크 구성 등을 범용 데이터센터와 다르게 설계했다.</p> <p contents-hash="c88aad8be559508be678a43f85a9d4a98484e608a218ab947d5a66f769f83461" dmcf-pid="2HfHsFTsg7" dmcf-ptype="general">일반적으로 데이터센터는 기획부터 완공까지 평균 2~3년이 걸리지만, xAI는 122일 만에 AI 칩(엔비디아 H100 GPU) 10만개를 탑재한 초대형 클러스터(서버 집합)를 구축했고, 이후 3개월 만에 GPU 규모를 20만개 수준으로 2배 확장했다고 밝혔다. xAI는 새 부지에 데이터센터를 짓는 대신 멤피스의 옛 일렉트로룩스 공장을 개조했고, 모듈형 설계를 적용해 데이터센터 구축 속도를 획기적으로 끌어올렸다. 모듈형 설계는 표준화된 GPU 서버·랙·냉각 시설·네트워크 장비 등 핵심 설비를 담은 장비를 레고 블록처럼 배치해 데이터센터를 빠르게 확장할 수 있도록 지원한다.</p> <p contents-hash="5d86556ef0d1ba0ed99de48af74ebd79be8ff504a8ba53a71962a04b5c59bb2d" dmcf-pid="VX4XO3yOju" dmcf-ptype="general">범용 데이터센터는 공기를 이용해 서버 열을 식히는 공랭식 냉각을 주로 사용해왔지만, 콜로서스는 냉각수를 순환시켜 GPU의 발열을 줄이는 수랭식 냉각(액체냉각)을 활용한다. 최신 GPU는 전력 소모와 발열이 심해 냉각 효율이 더 높은 액체냉각이 공랭식 냉각의 대안으로 부상하고 있다. 콜로서스의 액체냉각 랙(서버와 장비를 층층히 쌓아 보관하는 선반) 하나에는 GPU 서버 8대가 들어가며, 랙 하단에 배치된 냉각수 분배 장치(CDU)를 통해 AI 칩의 열을 직접 식히는 방식이다. 이를 통해 랙당 100kW 이상의 고밀도 전력 공급이 가능하도록 했다.</p> <p contents-hash="571959a54e543cf6903f18f5546a8fa120b90011a262bf091cc70fe437831029" dmcf-pid="fZ8ZI0WIcU" dmcf-ptype="general">xAI는 콜로서스에 이동식 가스터빈 수십대와 테슬라의 대형 배터리 ‘메가팩’을 설치해 전력 확보 문제도 해결했다. 현재 미국에서는 데이터센터 부지를 확보하더라도 전력망 연결 승인까지 3~5년 이상 대기해야 하기 때문에 부지 내에 직접 발전 설비를 갖춰 유연성을 확보한 것이다.</p> <p contents-hash="3f498ab75e2560b22cd20a7907405acc5ddbe38494164df32f014702b3405c0e" dmcf-pid="40R0Tq5Tkp" dmcf-ptype="general">AI 업계에서는 콜로서스의 특징인 고밀도 GPU 환경과 높은 냉각·전력 효율, 모듈형 설계 등이 기존 하이퍼스케일러보다는 네오클라우드에 가깝다고 평가한다. 코어위브, 크루소, 네비우스 등 주요 네오클라우드(AI 특화 인프라 기업)들도 GPU를 최대 밀도로 안정적으로 운영하는 환경과 효율적인 액체냉각, 빠른 구축 속도 등을 자사 AI 인프라의 강점으로 내세운다.</p> <p contents-hash="97020817c52492ececd810abf0df290b2ecdf0db320f5de9a7e15616c6c290d6" dmcf-pid="8pepyB1yA0" dmcf-ptype="general">국내 기업들도 이런 흐름에 발맞춰 AI 특화 데이터센터 사업을 키우고 있다. NHN클라우드는 AI 개발과 운영에 필요한 데이터센터·GPU·AI 소프트웨어를 한꺼번에 제공하는 서비스인 ‘NHN 팩토리X’를 최근 출시했다. 회사는 ‘팩토리X’가 기업이 확보한 GPU를 낭비 없이 최대한으로 활용할 수 있도록 지원한다고 강조했다. 김동훈 NHN클라우드 대표는 “GPU를 확보한 기업 중 피크타임 활용률이 85% 이상인 기업이 7%에 불과하다”며 “앞으로 AI 인프라를 얼마나 단단하고 효율적으로 운영하는지가 AI 시장에서의 성패를 좌우할 것”이라고 말했다.</p> <p contents-hash="71da79aa682e8700f07a1b7cdea03538ce6fe76d83d6fc064bd21c782af4d9a9" dmcf-pid="6UdUWbtWA3" dmcf-ptype="general">삼성SDS는 2031년까지 AI 데이터센터를 포함한 AI 인프라와 관련 인수·합병(M&A)에 10조원을 투입하기로 했다. 그 일환으로 현재 경북 구미에 60MW(메가와트) 규모 AI 데이터센터를 구축 중이다. SK텔레콤도 AWS 등과 손잡고 울산 지역에 대규모 AI 데이터센터를 건설 중이다.</p> <p contents-hash="97ee8362ce14245f610ca1191431c0d336b800b1e89242c731599f864e026964" dmcf-pid="PuJuYKFYgF" dmcf-ptype="general">AI 인프라 기업 엘리스그룹은 기존에 2년 이상 걸리던 데이터센터 건설 기간을 3~4개월로 단축할 수 있는 이동형 모듈식 데이터센터(PMDC) 사업을 확대하고 있다. 김재원 엘리스그룹 대표는 “AI 인프라 경쟁력은 GPU를 얼마나 많이 확보하는지가 아니라, 이를 얼마나 잘 활용하느냐에 달려있다”며 “아무리 좋은 GPU를 써도 맞춤형 스토리지 시스템 등 소프트웨어와 인프라를 갖추지 못하면 속도와 성능이 저하된다”고 말했다.</p> <p contents-hash="7b353773dfded0b4ff3b6aa5f84818216992849724e23e825e93c89d497fd25e" dmcf-pid="Q7i7G93Got" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 [UEM 중심 워크스페이스 전략 2편] 제로트러스트의 출발점은 '엔드포인트' - Omnissa Workspace ONE, 단일 플랫폼으로 답하다 05-28 다음 성과급이 갈라놓은 ‘하나의 삼성’… “사업부 협업 토대 무너졌다” 05-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
