"클라우드 선 뽑고 4000억 파라미터 돌린다"… 책상 위 데이터센터 '델 프로 맥스 위드 GB10' 작성일 03-12 14 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[PLAY IT] "전통적 PC 아냐, 오직 AI를 위한 어플라이언스"… 72코어 CPU·128GB 통합 메모리로 무장</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="54oWmHKpSs"> <figure class="figure_frm origin_fig" contents-hash="4bdd02e4638a239bbc3a05e57706dcc6a4847ae802dbb993adfa347d121d2cb4" dmcf-pid="18gYsX9USm" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114243199vuoh.jpg" data-org-width="640" dmcf-mid="7lbONh0HhU" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114243199vuoh.jpg" width="658"></p> </figure> <p contents-hash="d912dbc3b364e02e772e370215ddd6efd82ffadd7e350f9d21f2a3bdefbf0aff" dmcf-pid="t6aGOZ2uvr" dmcf-ptype="general">[디지털데일리 김문기기자] 지난 11일 서울 강남구 역삼동 파이낸스센터에 위치한 한국 델 테크놀로지스 본사. 32인치 4K 모니터 앞에 펼쳐진 낯선 데스크톱 환경 속, 파이어폭스 웹브라우저에는 챗GPT나 제미나이를 닮은 거대언어모델(LLM) 입력창이 깜빡인다.</p> <p contents-hash="880f68723a509802fff00b5bac00b6d931e59cc9a83bef5739d160974c5e79c6" dmcf-pid="FPNHI5V7Cw" dmcf-ptype="general">"인텔 64비트 어셈블리 언어로 사칙연산을 진행하는 예제 코드를 작성하라."</p> <p contents-hash="54876472043025931fb150f58bca45abcae8c5e3dff266dd9b372c23adcff82a" dmcf-pid="3QjXC1fzWD" dmcf-ptype="general">까다로운 프롬프트를 입력하고 엔터를 누르자, 잠시의 머뭇거림도 없이 스무 줄 남짓한 정교한 어셈블리 코드가 화면에 쏟아지기 시작했다. 놀라운 점은 이 코드를 생성해 낸 주체가 인터넷 저 너머에 있는 거대한 클라우드 서버가 아니라는 것. 개발자의 책상 위에 놓인 단일 기기 안에서, 200억 개 매개변수(파라미터)를 가진 오픈소스 AI 모델 'GPT-OSS-20B'가 '로컬' 환경에서 토큰을 뱉어낸 결과물이다.</p> <div contents-hash="8b5c4492e3cb8fc4d1d33b63d5e01900d0bb7271cb9726b582756b04aef2531f" dmcf-pid="0Rk1S36bTE" dmcf-ptype="general"> 이날 델 테크놀로지스는 복잡한 인프라 구축이나 막대한 클라우드 과금 없이, 데스크 환경에서 즉각적으로 엔터프라이즈급 AI 워크로드를 처리할 수 있는 신제품 '델 프로 맥스 위드 GB10(Dell Pro Max with GB10)'을 직접 시연했다. </div> <figure class="figure_frm origin_fig" contents-hash="bb5b27a84ba0dc65c1ea78cd1896513390fa0d2f26cebbfece6b07cd8be942c6" dmcf-pid="peEtv0PKyk" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114244565lkoj.jpg" data-org-width="640" dmcf-mid="q5L3yUx2l0" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114244565lkoj.jpg" width="658"></p> </figure> <p contents-hash="6b437a87d8c5486c898c99de71431711196808deb97c10669b5cd3d2f10fa448" dmcf-pid="UdDFTpQ9Sc" dmcf-ptype="general"><strong>◆ 오직 AI 연산만을 위한 1페타플롭스 괴물</strong></p> <p contents-hash="7642b029182cdee79c05ee72f42a6a584a285a87e3004d40e10c8b9f90610a34" dmcf-pid="uJw3yUx2hA" dmcf-ptype="general">"이 제품은 전통적인 워크스테이션이 아니다. MS 오피스나 어도비 프로그램은 돌아가지 않으며, 윈도우 OS도 아예 설치할 수 없다. 오직 AI 모델 개발과 미세조정(파인튜닝), 추론이라는 단 하나의 목적만을 위해 뼈대부터 다시 설계된 'AI 시스템'이다."</p> <p contents-hash="55ef399200e5cd1204385604bc92d0aa59fe0132a05f5f63369b0734e8a8653f" dmcf-pid="7ir0WuMVSj" dmcf-ptype="general">윤우진 한국 델 테크놀로지스 이사는 델 GB10과 관련해 이같이 소개했다. 실제 GB10은 일반적인 데스크톱 PC가 아니다. 엔비디아가 데이터센터 중심이었던 AI 개발 환경을 개인 수준으로 확장하기 위해 내놓은 'GB10 그레이스 블랙웰 슈퍼칩'을 기반으로 한 AI 시스템이다. 72코어 Arm 아키텍처 기반의 '그레이스' CPU와 '블랙웰' GPU가 융합되어, 초당 1,000조 번의 연산을 의미하는 1페타플롭스(PFLOP)의 AI 처리 능력을 보여준다.</p> <p contents-hash="3741b6c3b9883b6a90ced72ed14d70794cd6aae521eeb2da3fde309305559bc4" dmcf-pid="znmpY7RfyN" dmcf-ptype="general">핵심은 '128GB LPDDR5x 통합 시스템 메모리'다. 기존 PC 환경에서 무거운 AI 모델을 돌리려면 24GB 수준의 그래픽 메모리(VRAM)를 가진 값비싼 하이엔드 GPU를 여러 장 꽂아야 했다. 하지만 델 프로 맥스 위드 GB10은 CPU와 GPU가 128GB 메모리 풀을 실시간으로 공유한다. 덕분에 단일 기기임에도 네트워크나 클라우드 연결 없이 최대 2,000억 개 매개변수의 초대형 LLM을 가뿐하게 메모리에 올려 구동할 수 있다. 여기에 업계 유일의 2TB 또는 4TB NVMe SSD 옵션을 지원해 방대한 AI 학습 데이터의 병목 현상마저 없앴다.</p> <p contents-hash="522f702955a98d27b5a06f441546af627ec506edeb5ebd3b9114e6ceedee18d3" dmcf-pid="qLsUGze4Ca" dmcf-ptype="general">또한 전원 버튼을 누르는 순간부터 즉시 코딩을 시작할 수 있는 소프트웨어 생태계가 미리 깔려있다. 우분투 리눅스 기반의 '엔비디아 DGX OS' 위에는 쿠다(CUDA) 컴파일러, 파이토치(PyTorch)와 텐서플로(TensorFlow) 같은 딥러닝 프레임워크는 물론, AI 워크벤치, 주피터랩, 독커(Docker)가 빠짐없이 채워져 있다.</p> <p contents-hash="e77d7e6bb275b4aa0c0e4d752d3e5e47dc511313cfcbcd182e3c9c950f6a523a" dmcf-pid="BoOuHqd8vg" dmcf-ptype="general">윤 이사는 "데이터센터의 공용 GPU 자원을 할당받기 위해 오랫동안 대기열표를 뽑고 기다려야 했던 개발자들에게, 내 책상 위에서 마음껏 파라미터를 튜닝할 수 있는 '나만의 AI 샌드박스'가 생기는 것"이라고 강조했다.</p> <div contents-hash="f9b3c088b8b5966324a252e49a17a6c63c5b95b467d181fd988c44dbc4fbb995" dmcf-pid="bS3e2iOcSo" dmcf-ptype="general"> 더불어 여기서 개발한 데스크톱 프로토타입은 '델 AI 팩토리(Dell AI Factory)' 포트폴리오를 통해 상위 모델인 GB300이나 파워엣지(PowerEdge) 데이터센터 서버로 코드 단 한 줄의 수정 없이 그대로 신속하게 배포할 수 있다. </div> <figure class="figure_frm origin_fig" contents-hash="889c32d2192f2f509df39e4055d2e1d549a8e2470e410e6f492b32cfd7be4ab8" dmcf-pid="Kv0dVnIkWL" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114245976mzbh.jpg" data-org-width="640" dmcf-mid="bRTR9JsAWF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114245976mzbh.jpg" width="658"></p> </figure> <p contents-hash="5e1fa247038c01af549a325bed47c317564c84a18648bd153a1e6d500b189b76" dmcf-pid="9TpJfLCETn" dmcf-ptype="general"><strong>◆ 망 분리 환경의 구원자</strong></p> <p contents-hash="491d59a436e9ad94374814dfd9423bec5555e5517b2ec4a9bb131df3a1237bce" dmcf-pid="2yUi4ohDWi" dmcf-ptype="general">델이 강조하는 부분은 네트워크 연결과 구독료라는 부담에서 벗어난 로컬 AI 환경을 지원한다는데 있다. 오랫동안 반복적인 AI 학습 실험을 진행해도 추가 과금이 발생하지 않는 일회성 자본 지출(CapEx) 모델이다. 인프라 구축 비용에 민감한 스타트업이나 대학 연구실에게는 고정 자산으로서 높은 가성비를 제공할 수 있다.</p> <p contents-hash="de6b5f87ae34e4fed755330565d0ea74204f6864115255fae2ed2a7394d98042" dmcf-pid="VWun8glwhJ" dmcf-ptype="general">로컬 AI 환경은 곧 높은 보안과 직결된다. 챗GPT 같은 퍼블릭 클라우드 AI에 기업의 핵심 코드를 입력했다가 지식재산권이 유출되는 사고가 빈번할 수 있다. 하드웨어 단에서 TPM 2.0을 지원하는 폐쇄망 시스템을 활용할 수 있다. 예를 들어 민감한 고객의 의료 기록이나 금융 데이터의 외부 반출이 법적으로 원천 차단된 헬스케어, 금융권, 공공 부문에서도 유출 걱정 없이 안심하고 자체 AI 모델을 학습시키고 고도화할 수 있다.</p> <div contents-hash="b3a645ade0fb02d996acb5920067395e81b38f94b39e165b940a6a0c39199e85" dmcf-pid="fY7L6aSrvd" dmcf-ptype="general"> 경쟁사 대비 델만의 차별점도 뚜렷하다. 공기 흐름을 극대화한 전면 베젤 디자인과 조용한 쿨링 시스템, 경쟁사(240W)보다 넉넉한 280W 전원 어댑터를 탑재해 장시간의 고부하 작업 시에도 쓰로틀링 없는 안정적인 시스템을 구현했다. </div> <figure class="figure_frm origin_fig" contents-hash="b0eb1d8bcccc5cda0b1cc24b0e68acbccd8475069aabba70f7c72f40624cb902" dmcf-pid="4GzoPNvmle" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114247357xcgd.jpg" data-org-width="640" dmcf-mid="Q9I7XBJ6hy" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114247357xcgd.jpg" width="658"></p> </figure> <p contents-hash="2b205c1bdcdd7cd0194ed62d38d2bc71b2712c1e462c99de2d2cbb756f94dd82" dmcf-pid="8HqgQjTsyR" dmcf-ptype="general"><strong>◆ 4000억 파라미터 '라마 3.1'도 가뿐히… 눈앞에서 증명된 라이브 데모</strong></p> <p contents-hash="c7d27affe1fa2fa22190e68b212868161f61380ded701499d0a089a7cb838a63" dmcf-pid="6XBaxAyOhM" dmcf-ptype="general">이같은 높은 성능 구현에도 불구하고 좀처럼 실제 구동장면을 목격하기 어려웠다. 시중에 나온 AI 시스템 대부분이 목업 수준이기 때문이다. 델의 이번 시연이 반가운 이유다.</p> <p contents-hash="78a44f78833b3a88c386aa5db260cf2fb550e71d2a85a1fab0c67993450290d8" dmcf-pid="P04Dnm5Thx" dmcf-ptype="general">첫 번째는 기업 사내용 챗봇 구현이었다. 로컬에서 구동되는 200억 파라미터 모델(GPT-OSS-20B)에 델 장비 매뉴얼 PDF를 주입(RAG)하자, AI가 즉시 문서 내 'LPDDR5x 메모리' 관련 구문을 정확히 발췌해 답변하는 모습을 보였다. 이어 5억 파라미터의 경량 모델(QWEN-2.5-0.5B)을 활용해 실시간으로 모델 파라미터를 미세조정하며 오차율(Loss) 그래프가 뚝뚝 떨어지는 장면도 연출했다.</p> <p contents-hash="607334006e2f75189441174b476a406c715c25bd4e5444fad07c299ffa9d535a" dmcf-pid="Qp8wLs1yTQ" dmcf-ptype="general">멀티모달 이미지 처리 능력도 놀랍다. 'FLUX1-dev-12B' 모델과 컴피UI(ComfyUI)를 활용해 4K 고해상도 이미지를 불러온 뒤, 피사체의 디테일은 살려두고 배경만 80년대 미국 만화 스타일이나 도심의 화려한 네온사인 풍경으로 바로 재생성해 냈다. 이 모든 과정이 클라우드 지연이나 작업물 유출 없이 불과 40여 초 만에 로컬에서 끝났다.</p> <div contents-hash="ea88d80f5c940629aa96d91a60e7e86f4a32a21f297a959c26eba774918eb316" dmcf-pid="xU6roOtWCP" dmcf-ptype="general"> 산업 현장(엣지)을 가정한 세 번째 데모에서는 비전 랭귀지 모델(VLM)인 'Cosmos-reason2-8B'가 눈에 띈다. 창고 내 CCTV 비디오 피드를 입력받은 AI는 실시간으로 영상을 분석해 "노란색 안전조끼를 입은 작업자가 지나갔다"며 즉각적인 객체 탐지 알람을 띄웠다. 수십 개의 모니터를 사람이 직접 감시해야 했던 제조 현장을 바꿀 수 있는 단초다. </div> <figure class="figure_frm origin_fig" contents-hash="354b52902aaf3a8596757be7cfa17b9cc9cb6a8ff06358ba343eee5df06b6732" dmcf-pid="yASbt2oMC6" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114248655sdqa.jpg" data-org-width="640" dmcf-mid="ZjlB19LxyO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/552796-pzfp7fF/20260312114248655sdqa.jpg" width="658"></p> </figure> <p contents-hash="515250fc4294ca081de33619df1db1843081a80aa76e1ef0af2dc1873ae25719" dmcf-pid="WcvKFVgRW8" dmcf-ptype="general">특히, '기기 간 클러스터링'도 관심사다. 초저지연 네트워킹 기술인 엔비디아 커넥트X-7(ConnectX-7) 케이블을 통해 두 대의 델 프로 맥스 위드 GB10 장비를 물리적으로 연결했다. 통신 테스트 결과, 이론상 한계치(25GB/s)에 육박하는 21GB/s의 속도로 두 기기의 128GB 메모리가 하나의 256GB 풀(Pool)로 논리적 결합을 이뤄냈다.</p> <p contents-hash="ecdfcf1483f1fbf5b2656cc1e282d3f687926f6abf32e033397523396fb9950e" dmcf-pid="YkT93faeT4" dmcf-ptype="general">광대한 메모리 공간 위에 메타(Meta)의 4,000억 파라미터 초대형 모델 '라마 3.1 405B(Llama-3.1-405B)'를 양자화(INT4)해 로딩했다. 프롬프트를 입력하자 두 대의 시스템 유틸라이제이션 지표가 동시에 치솟으며, 단일 디바이스로 측면에서의 묵직한 엔터프라이즈급 AI 모델이 주르륵 토큰을 뱉어냈다.</p> <p contents-hash="4c36eb9100e27a2cb88984cc26b5dd8b80f86fab0ebb5e64dd778dddc13cc7f7" dmcf-pid="GEy204NdSf" dmcf-ptype="general">김진효 메이머스트 이사는 "GB10은 펌웨어부터 OS, AI 스택까지 모든 것이 버티컬하게 맞춤 구성된 일체형 장비"라며 임의 수정보다는 제공된 프리 인스톨 생태계의 온전한 활용을 권장했다.</p> <p contents-hash="285f363f941dd91b15c7f4a516f8a4571251d1813d6bdccd19938235bfc40910" dmcf-pid="HDWVp8jJWV" dmcf-ptype="general">윤우진 이사는 "현재 대규모 데이터를 다루는 주요 게임 개발사 등 일부 기업들이 이 제품을 파일럿으로 도입해 치열한 내부 테스트를 진행 중"이라며 "로컬 개발 환경에서의 독보적인 효용성과 높은 만족도가 확인되면 실제 도입으로 빠르게 확산될 가능성이 매우 높다"고 강한 자신감을 내비쳤다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 "위기가 곧 기회, AI 시대 OLED 뜬다"…디스플레이협회, 특별법 제정 추진 03-12 다음 쿵푸 로봇, 쇼 아니었다···피지컬 AI가 '무술'부터 배우는 이유 03-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
