[현장] "GPU 개수 경쟁 끝났다"…엔비디아가 제시한 '수직 통합' AI 인프라 작성일 02-26 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">정구형 엔비디아 팀장, '앱부터 전력까지' 5개 레이어 유기적 설계 강조</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Wcd8enyOAo"> <p contents-hash="a48ee89dd36536c82ca343137e277b801472251ee1934bfe325566c558fe805f" dmcf-pid="YkJ6dLWIcL" dmcf-ptype="general">(지디넷코리아=남혁우 기자)<span>"그래픽처리장치(GPU) 몇 장을 도입할지 경쟁하는 시대는 지났습니다. 이제는 기업 전체 구조를 다시 설계하는 단계로 들어섰습니다."</span></p> <p contents-hash="ab974d253fa0459ee344d79de42b416d559e5e1f75c11ade281caf77a7750681" dmcf-pid="Gxb0B2kLkn" dmcf-ptype="general">정구형 엔비디아 코리아 팀장은 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 애플리케이션부터 데이터센터, 전력까지 아우르는 차세대 AI 인프라 청사진을 제시했다.</p> <p contents-hash="4c87ef31d7311d6498c06968cfe31afd0f0b45be559d2959c49e40169cae8c1a" dmcf-pid="HMKpbVEoai" dmcf-ptype="general">정 팀장은 AI 인프라를 ▲애플리케이션 ▲모델 ▲AI 플랫폼 ▲가속 컴퓨팅 인프라 ▲데이터센터, 에너지 인프라 등 5개 레이어로 구분해 설명했다. 그는 "AI는 한 층만 잘 만든다고 완성되지 않는다"며 "애플리케이션부터 전력까지 수직 통합 관점에서 설계해야 한다"고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="d475edc78e810d181b8ced15081edfdc0ec6bab0ae64da0859bb75e9777eea4d" dmcf-pid="XR9UKfDgaJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="정구형 엔비디아 팀장(사진=남혁우 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/26/ZDNetKorea/20260226151931416ulao.jpg" data-org-width="640" dmcf-mid="QwdzV6mjNN" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/26/ZDNetKorea/20260226151931416ulao.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 정구형 엔비디아 팀장(사진=남혁우 기자) </figcaption> </figure> <p contents-hash="00eecd7a94bef704960b019083e7fc4a1dfe33c663d7971b37fde5be06333237" dmcf-pid="Ze2u94waAd" dmcf-ptype="general">가장 위에는 기업이 실제로 사용하는 업무용 AI 애플리케이션과 에이전트가 있다. 그 아래로는 대형 언어모델 등 모델 레이어, 이를 학습·배포·운영하는 플랫폼 레이어가 이어진다. 이어 GPU, CPU, 네트워킹, DPU 등으로 구성된 가속 컴퓨팅 인프라가 이를 떠받친다. 마지막으로 대규모 전력과 냉각을 감당하는 데이터센터, 에너지 인프라가 기반을 이룬다.</p> <p contents-hash="905ca31f99efee2d68b7ec995543d2290ab4719b43f51b5feec53524ac264387" dmcf-pid="5dV728rNke" dmcf-ptype="general">정 팀장은 "AI 경쟁은 이제 GPU 수량이 아니다"며 "이 5개 레이어를 얼마나 유기적으로 설계하느냐의 문제"라고 강조했다.</p> <p contents-hash="1f88b6b9e4759e7ad6d0df4882a0a15332913001b87c2cb7c75faa083aa2b330" dmcf-pid="1JfzV6mjoR" dmcf-ptype="general">엔비디아 내부 사례도 공개했다. 그는 <span>단순히 요약된 답을 제시하는 것이 아니라 어떤 문서의 어느 부분을 참고했는지까지 추적 가능하도록 설계했다는 것을 강조했다. </span></p> <p contents-hash="5bff6ea65ab6b70e7c1e2e20ca0e395ec2f062035aa01974520b82cb068d7a3b" dmcf-pid="ti4qfPsAkM" dmcf-ptype="general">정 팀장은 "우리도 사내에서 에이전틱 AI를 적극 활용하고 있다"며 "컨플루언스, 셰어포인트 등 내부 협업 시스템과 직접 연동해 답변의 근거를 함께 제시하는 구조를 구축했다"고 설명했다.</p> <p contents-hash="bd3c26fba9d75572340de4d3cb00ab9a5ce6d0b9a86ad96312603eac6bfaa6fb" dmcf-pid="Fn8B4QOcNx" dmcf-ptype="general">이 같은 내부 적용을 통해 제품 개발과 의사결정 속도가 빨라졌다고도 밝혔다. 반복적으로 확인해야 했던 기술 문서, 설계 변경 이력, 사내 정책 자료 등을 에이전트가 즉시 찾아 제시하면서 업무 시간이 단축됐다는 설명이다.</p> <p contents-hash="241975b62b7aed24e699a78753893aee2200e8c8243dc30f3f8516d1b4a46f3b" dmcf-pid="3L6b8xIkNQ" dmcf-ptype="general">정 팀장은 "엔터프라이즈 환경에서는 정확도만큼이나 '출처 투명성'이 중요하다"며 <span>"이를 통해 개발자와 엔지니어가 정보 검색에 쓰는 시간을 줄이고 실제 설계와 검증에 더 집중할 수 있게 됐다"고 말했다.</span></p> <p contents-hash="9d6169eb37b3bdcf8db7c6da6817c90558d455fa1d4914291549cc07b4401fc7" dmcf-pid="0oPK6MCEjP" dmcf-ptype="general">엔비디아는 이러한 시행착오와 운영 경험을 정리해 '엔터프라이즈 AI 팩토리 디자인' 가이드로 공개했다. 가이드에는 에이전트 설계 방식, 내부 데이터 연동 구조, 플랫폼 구성, 인프라 선택 기준 등 기업이 AI를 도입할 때 고려해야 할 기술적 의사결정 요소가 담겼다.</p> <p contents-hash="b1f273653af54f13907492eeaf88050c3ec7abd63442786adc8c8e1e63b2570e" dmcf-pid="pgQ9PRhDa6" dmcf-ptype="general">모델 전략에 대해서는 오픈소스 기반 접근을 강조했다. 시스템 구조가 얼마나 개방돼 있는고 실제 서비스에서 얼마나 효율적인지가 실제 업무 성능을 좌우하기 때문이다.</p> <p contents-hash="126aa36080bf5f10c66e4029b77b65271e90958b330d3811a633ffe2ed836595" dmcf-pid="Uax2Qelwo8" dmcf-ptype="general">그는 오픈 모델 제품군인<span> '네모트론3'를 언급하며 "성능 지표뿐 아니라 서빙 효율 측면에서도 의미 있는 진전을 이뤘다"며 "기업이 자체 모델을 고도화할 때 충분히 고려할 수 있는 기반이 될 것"이라고 설명했다.</span></p> <figure class="figure_frm origin_fig" contents-hash="d2a396790d311e8ba6bdaab573be5af7365a3a2e5de7499b1fc02a7741252be8" dmcf-pid="uNMVxdSra4" dmcf-ptype="figure"> <p class="link_figure"><img alt="엔비디아 정구형 팀장은 엔비다아가 진행 중인 인프라 구축 사업을 소개했다(사진=남혁우 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/26/ZDNetKorea/20260226151932663hkay.jpg" data-org-width="640" dmcf-mid="yLNdac1yag" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/26/ZDNetKorea/20260226151932663hkay.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 엔비디아 정구형 팀장은 엔비다아가 진행 중인 인프라 구축 사업을 소개했다(사진=남혁우 기자) </figcaption> </figure> <p contents-hash="77018a87ae4ba7b38da516a5868859dea22f43402b602c8185b16daa525fbd7a" dmcf-pid="7e2u94waNf" dmcf-ptype="general">하드웨어와 인프라 설계 방향도 구체적으로 제시했다. 그는 차세대 GPU 아키텍처 기반 랙 단위 통합 설계를 소개하며 "수십 개 GPU를 하나의 도메인처럼 묶어 동작시키는 구조가 표준이 되고 있다"고 말했다. </p> <p contents-hash="44b0c00cafd1fa28c2d63c35aa5077e3ecbef5b3d30e6ed0ed2393901ed9b322" dmcf-pid="zdV728rNcV" dmcf-ptype="general">이어 "고속 네트워킹과 DPU를 결합해 서버, 스토리지, 네트워크를 유기적으로 연결해야 진짜 AI 인프라가 완성된다"고 강조했다.</p> <p contents-hash="3f6bea388f003d8d80d679f2af2138ddf1a9604b123251dd731e2f4dc595d917" dmcf-pid="qJfzV6mjg2" dmcf-ptype="general">데이터센터와 에너지 이슈에 대해서도 언급했다. 정 팀장은 "AI 인프라의 끝은 결국 전력"이라며 "기가와트급 데이터센터 시대가 이미 시작됐다"고 말했다. 이어<span> "디지털 트윈 기반 설계를 통해 가상 환경에서 충분히 검증한 뒤 실제 구축에 들어가야 시행착오를 줄일 수 있다"고 설명했다.</span></p> <p contents-hash="f3ce737f0b9c9f742005605223a967f946e6d05cc66ac418cc59f34ddfadfaee" dmcf-pid="Bi4qfPsAN9" dmcf-ptype="general">그러면서 "AI 인프라는 장비 조합의 문제가 아니라 애플리케이션에서 에너지까지 하나로 이어진 설계 철학의 문제"라며 발표를 마무리했다.</p> <p contents-hash="4b4e301b6618db34e432dad8563746bb5511e9821175903f0c269edc89132ecc" dmcf-pid="bn8B4QOcoK" dmcf-ptype="general">남혁우 기자(firstblood@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 처치 곤란했던 폐가전, 스티커 없이 무료 배출하는 방법 02-26 다음 “AI와의 공존 전략 필수…'지능의 조화'가 미래 경쟁력” 02-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
