"GPU만 늘려선 AI 못 돌린다"…韓 데이터 인프라 한계 경고 작성일 12-08 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">SSD서 막히는 입출력 병목 구조 반복…CXL 기반 메모리 풀링 해법 부각</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8q3niWhDgl"> <p contents-hash="f3ef114c0580ae254a37faacede1e8ea22028dc36a80b61644cab93364c37b1b" dmcf-pid="6B0LnYlwjh" dmcf-ptype="general">(지디넷코리아=전화평 기자)AI 경쟁이 세계적으로 격화되는 가운데, 한국이 핵심 경쟁 요소인 데이터 인프라에서 뒤처지고 있다는 지적이 나오고 있다. 막대한 투자가 GPU(그래픽처리장치) 확보에만 쏠리면서, 정작 AI 학습 성능을 좌우하는 메모리·데이터 경로(data pipeline) 개선에는 상대적으로 관심이 부족하다는 것이다. </p> <p contents-hash="59441553e82a48b1f400c2e6b8f7b9cb0a074e57d63f3d28077c5c68b8eb8bbf" dmcf-pid="P1W68skLgC" dmcf-ptype="general"><span>8일 반도체 업계 안팎에서는 AI 학습 과정에서 반복적으로 나타나는 병목 현상의 핵심 원인으로 ‘기존 서버 구조에 머문 데이터 인프라’를 꼽는다. AI 모델의 규모와 학습량은 기하급수적으로 증가하고 있지만, 데이터를 GPU로 충분히 공급하는 기반은 여전히 CPU 중심의 전통적 구조에 놓여 있다는 진단이다.</span></p> <p contents-hash="8b813b6dc6296126760b2c234612668fa452de2d8c22806c1ec8df4828e973fc" dmcf-pid="QtYP6OEokI" dmcf-ptype="general"><span>그 결과 GPU는 계산 능력을 모두 활용하지 못한 채 대기하고, 데이터베이스(DB)는 처리량 한계에 부딪히며 SSD는 입출력(I/O) 병목을 초래하는 현상이 시스템 전반에서 반복되고 있다.</span></p> <figure class="figure_frm origin_fig" contents-hash="98488526f0db1dfb5aee7502ab8bce30d83ee23fde3e283246a70f48d8ca5815" dmcf-pid="xFGQPIDgaO" dmcf-ptype="figure"> <p class="link_figure"><img alt="블랙웰 GPU를 공개한 젠슨 황 엔비디아 CEO. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165451898fsxe.jpg" data-org-width="640" dmcf-mid="VHKEk3XSaT" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165451898fsxe.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 블랙웰 GPU를 공개한 젠슨 황 엔비디아 CEO. (사진=지디넷코리아) </figcaption> </figure> <p contents-hash="3221eb3b8071812d64187b75a4921ffc6dc1719c553985d7abc7f0873c5817ea" dmcf-pid="ygeTvVqFAs" dmcf-ptype="general"><strong>GPU는 더 빨라졌지만…데이터는 따라가지 못해</strong></p> <p contents-hash="6a0aac6ad84de85d66dfa55a319276ebd92fe125f43cc4d234cd9adabff657b5" dmcf-pid="WadyTfB3cm" dmcf-ptype="general">현재 고성능 GPU는 초당 수 테라바이트(TB/s)급 대역폭을 제공하는 HBM(고대역폭 메모리)을 탑재하고 있다. 그러나 가장 최신 AI 반도체인 엔비디아 B200 용량이 192GB(기가바이트) 수준으로, GPT-4·5 같은 대형 모델이 요구하는 5~10TB 메모리양에는 턱없이 부족하다.</p> <p contents-hash="ec4e601aeb25992b1b07bb27849960c4e65a3ef334db9abd11a4c8db2d565f21" dmcf-pid="YNJWy4b0Ar" dmcf-ptype="general"><span>HBM 용량이 부족해지는 순간 GPU는 외부 메모리에서 데이터를 가져와야 한다. 이때 CPU 서버의 D램 용량은 충분하지 않고, 부족분은 SSD에서 읽어야 한다. SSD는 속도가 D램 대비 최대 1천배 느리다.</span></p> <p contents-hash="b693166c0bb836a8e412badf7dcb86ffe7295119870a7ce0eb2f9dcc9572b37b" dmcf-pid="GjiYW8KpNw" dmcf-ptype="general"><span>결국 GPU는 연산을 수행할 수 있어도 필요한 데이터가 제때 도착하지 않아 지연되는 시간이 길어진다. 업계 안팎에서 실제 GPU 평균 활용률이 35% 수준에 그친다는 평가가 나오는 이유다.</span></p> <p contents-hash="32784a4a42916b1df95d92e645419039ec902873fdc615f9ed1a353a65dba177" dmcf-pid="HAnGY69UjD" dmcf-ptype="general"><span>프라임마스 박일 대표는 “GPU가 쉬고 있는 이유는 알고리즘 때문이 아니라 데이터를 제때 공급받지 못해서다”라며 “AI 시대의 병목은 연산이 아니라 데이터 인프라에서 발생한다”고 지적했다.</span></p> <figure class="figure_frm origin_fig" contents-hash="b1ff5bbef3669e24e1a37431c7caf7b0059e74179cb2467900a23db5a0657dae" dmcf-pid="XcLHGP2ukE" dmcf-ptype="figure"> <p class="link_figure"><img alt="SK하이닉스, DDR5 D램 CXL (사진=SK하이닉스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165453216ovpt.png" data-org-width="639" dmcf-mid="fN7NaZyOcv" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165453216ovpt.png" width="658"></p> <figcaption class="txt_caption default_figure"> SK하이닉스, DDR5 D램 CXL (사진=SK하이닉스) </figcaption> </figure> <p contents-hash="d8fccd4a89c8c1d0688bec5b4a0d1cdf259cf07fc27924a0da9a5e8df35e32d3" dmcf-pid="ZkoXHQV7kk" dmcf-ptype="general"><strong>대안은 CXL 기반 ‘초대용량 메모리 풀링’</strong></p> <p contents-hash="22b7e4e1e6cd121f76343e9c5bb352a10ea1df3acdc96913bc96b25752851666" dmcf-pid="5EgZXxfzac" dmcf-ptype="general">이같은 병목을 해결하기 위한 기술로 전 세계에서 주목하는 것이 CXL(컴퓨트 익스프레스 링크)다. CXL은 고성능 서버에서 CPU(중앙처리장치)와 함께 사용되는 GPU 가속기, D램, 저장장치 등을 효율적으로 활용하기 위한 차세대 인터페이스다. 이를 활용하면 메모리를 모듈 단위로 확장하거나 여러 서버가 메모리를 풀 형태로 공동 활용할 수 있어, GPU가 데이터를 기다리는 시간을 크게 줄일 수 있다.</p> <p contents-hash="beffe17699470da67dded8b1c2ca351838b33460b40b8bb6fcb53b4de7a999c5" dmcf-pid="1Da5ZM4qgA" dmcf-ptype="general"><span>반도체 업계 관계자는 “GPU 성능을 아무리 높여도, GPU가 쉬지 않게 만드는 데이터 인프라가 받쳐주지 않으면 의미가 없다”며 “CXL 기반 메모리 확장은 앞으로 AI 인프라의 기본 전제가 될 것”이라고 말했다.</span></p> <p contents-hash="a93052abc84649d6b53dc1b319fb86eba55acfaac03afd31dd8d74bdf59844f9" dmcf-pid="twN15R8Baj" dmcf-ptype="general"><strong>CXL 시장 개화 더뎌...생태계 미성숙·비용 부담 등 이유</strong></p> <p contents-hash="841833ec775e8395255c1d652e7deb84130fa144d7d2a9b60aa1377fc82ee773" dmcf-pid="Frjt1e6baN" dmcf-ptype="general">업계에서는 CXL의 필요성에는 이견이 없지만, 실제 시장 도입은 예상보다 더디게 진행되고 있다고 평가한다.</p> <p contents-hash="9c66cc80559f0a5d05381eae7256db687415768b996e9e6b220896cb049ab774" dmcf-pid="3XvfVwjJga" dmcf-ptype="general"><span>가장 큰 이유는 생태계 미성숙이다. CXL을 활용하려면 CPU, 메모리 모듈, 스위치, 서버 운영체제, 소프트웨어 스택 등 전 영역에서 표준과 호환성을 확보해야 한다. 그러나 아직까지는 제조사별 구현 방식이 다르고, 서버 업체가 이를 통합해 안정적으로 제공하기까지 시간이 필요하다는 지적이 제기된다.</span></p> <p contents-hash="1361d2f35960ed71b87267493a44ffe3c1a40596d49ffe72a59301d5a0dc7f7c" dmcf-pid="0ZT4frAiNg" dmcf-ptype="general"><span>또 다른 걸림돌로는 비용 부담이 꼽힌다. CXL 메모리 확장 모듈은 초기 단계인 만큼 가격이 높고, 이를 활용하기 위한 서버 구조 변경에도 추가 비용이 발생한다.</span></p> <p contents-hash="a970f6e2a06e2e9d736510b6a86742e85acc28a8aa97e75910fa696d6a9211c4" dmcf-pid="p5y84mcnao" dmcf-ptype="general"><span>반도체 업계 관계자는 “GPU 구축에도 수십억 원이 들어가는데, 여기에 CXL 기반 메모리 풀링 시스템까지 갖추려면 기업 입장에서 비용 부담이 커진다”고 말했다.</span></p> <p contents-hash="e4bc351c2818d0f66320ca82706abf89747e10f11d5f6334a8cfb7c2e39bc0a8" dmcf-pid="U1W68skLAL" dmcf-ptype="general"><span>또한 기존 데이터센터와 다른 방식으로 리소스를 풀링해야 하기 때문에, 시스템 아키텍처와 OS를 깊이 이해한 전문 인력의 확보가 필요하다는 점도 확산을 늦추는 요소로 꼽힌다.</span></p> <figure class="figure_frm origin_fig" contents-hash="958a66e29598009cf5ec3de19d18338ec0ddf4eaf446cd5cb5f927fdee9577dc" dmcf-pid="utYP6OEogn" dmcf-ptype="figure"> <p class="link_figure"><img alt="가상화 시스템이 주로 쓰이는 데이터센터 (이미지=챗GPT)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165453553ylup.png" data-org-width="640" dmcf-mid="4dnGY69UaS" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/08/ZDNetKorea/20251208165453553ylup.png" width="658"></p> <figcaption class="txt_caption default_figure"> 가상화 시스템이 주로 쓰이는 데이터센터 (이미지=챗GPT) </figcaption> </figure> <p contents-hash="10ffa4946ba245fd17b4ee29cc88b538bcb7c9c107bec54725b2c514500a36e8" dmcf-pid="7FGQPIDgoi" dmcf-ptype="general"><strong>韓, GPU 쏠림 심각… 데이터 인프라 경쟁력 확보해야</strong></p> <p contents-hash="1deb2f207a3751e7a5d791cb6638976784455c79962b0a156c88eba3dcec1d00" dmcf-pid="z3HxQCwaaJ" dmcf-ptype="general">문제는 한국이 GPU 확보 경쟁에는 적극적이지만, AI 데이터 인프라 자체에 대한 투자와 전략은 상대적으로 부족하다는 점이다. 정부와 기업들이 경쟁적으로 GPU 클러스터 도입 계획을 발표하고 있지만, 정작 데이터 경로·메모리 확장·스토리지 I/O 개선 등 핵심 기반을 강화하려는 논의는 충분히 이뤄지지 않고 있다.</p> <p contents-hash="b3726495ee576fdccd0255f93357bc0eabc14c7f0a0dfc52eb44d21d9fcc44a6" dmcf-pid="q0XMxhrNod" dmcf-ptype="general"><span>이런 상태에서는 GPU 보드를 아무리 많이 도입하더라도 실제 학습 효율은 낮고, 전력 비용과 데이터센터 운영 부담만 증가하는 악순환이 반복될 수 있다는 우려가 나온다.</span></p> <p contents-hash="18f4b323463356366a394be70d8f71891081554e9d072ba29817d1d7b1ca735d" dmcf-pid="BpZRMlmjoe" dmcf-ptype="general"><span>박 대표는 “AI 주권을 이야기한다면 GPU보다 먼저 데이터 인프라 주권을 확보해야 한다”며 “GPU가 쉬지 않게 만드는 시스템이 진짜 AI 경쟁력”이라고 했다.</span></p> <p contents-hash="700f7bb09b03296e2b511e185b1a5cb1b53fbe8c3dd41ee1db12afd5ee3391ce" dmcf-pid="bU5eRSsAkR" dmcf-ptype="general">전화평 기자(peace201@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 “별짓 다 해도 소용없다” “이러다 다 뺏긴다” 넷플릭스 천하에 ‘죽을 맛’…무슨 일이 12-08 다음 [엠빅뉴스] 4년 만에 우승컵 들어 올린 챔피언이 사과 요구받은 사연^^ 12-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
