엔비디아 GB300, '역대급' 에이전틱 AI 성능 기록 작성일 06-16 39 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AA-에인전트퍼프 벤치마크 결과 공개…H200 플랫폼 대비 20배 이상 성능</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FhRBtYYCaV"> <figure class="figure_frm origin_fig" contents-hash="7cc18ee8bee0afeffdbb0f6e44ec924ab4229f1bacddc1c34cfa8826683f03c3" dmcf-pid="3lebFGGhN2" dmcf-ptype="figure"> <p class="link_figure"><img alt="(사진=엔비디아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/16/552809-WkUXVfQ/20260616093959944czdw.jpg" data-org-width="875" dmcf-mid="tM1CcLLxof" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/16/552809-WkUXVfQ/20260616093959944czdw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (사진=엔비디아) </figcaption> </figure> <p contents-hash="6413d8247b79262edc98f9363221eb2d245e1f6a92476b6ee55f4ffe546b884c" dmcf-pid="0SdK3HHlA9" dmcf-ptype="general">[더구루=홍성일 기자] 엔비디아(Nvidia) 블랙웰(Blackwell) 아키텍처 기반 인공지능(AI) 가속기 'GB300'이 역대급 에이전틱 AI 성능을 기록했다. 엔비디아는 GB300 시스템이 대규모 에이전트 세션을 동시에 실행할 수 있는 역량을 가지고 있다고 설명했다. 블랙웰 AI 가속기가 역대급 성능을 보여주면서 향후 출시될 '베라 루빈(Vera Rubin)' 플랫폼에 대한 기대감이 커지고 있다. </p> <p contents-hash="de662af23fe6b429997424b72927b5737303e5d2a0c1f95d44b351a990de6744" dmcf-pid="pvJ90XXSjK" dmcf-ptype="general">16일 업계에 따르면 엔비디아는 GB300의 'AA-에인전트퍼프(AA-AgentPerf)' 벤치마크 결과를 공개했다. 엔비디아는 GB300 시스템이 기존 H200보다 20배 이상 강한 에이전틱 AI 성능을 보여줬다고 소개했다. GB300은 엔비디아의 그레이스(Grace) 중앙처리장치(CPU)와 블랙웰 그래픽처리장치(GPU)가 결합된 AI 가속기 플랫폼이다. </p> <p contents-hash="e5b66deaf9a57d1edf300f9dc399053e20d962beba30a160de81511d999af73b" dmcf-pid="UTi2pZZvkb" dmcf-ptype="general">GB300을 측정한 AA-에인전트퍼프는 AI 분석기관인 아티피셜 아날리시스(Artificial Analysis)가 에이전틱 AI 성능을 측정하기 위해 출시한 새로운 벤치마크다. 이번 결과도 엔비디아가 해당 벤치마크를 이용해 첫번째로 측정한 내용이었다. </p> <p contents-hash="3d1c6ba8ecdec7f180180c86e555b490f1ff32c8917fc6523931be75176dc1d8" dmcf-pid="uynVU55TaB" dmcf-ptype="general">AA-에인전트퍼프는 단일 AI가속기 시스템이 얼마나 많은 에이전트를 동시에 지원할 수 있는지 측정한다. 실제로 테스트 과정에서 수천 개의 에이전트가 동시에 요청을 보내 성능을 확인한다. </p> <p contents-hash="b63ef5c66a9d7b4d90e8ce6db3cd01b870113be8b9ad14397baa1c78e1843838" dmcf-pid="7WLfu11ykq" dmcf-ptype="general">아티피셜 아날리시스에 따르면 해당 벤치마크는 에이전트의 요청을 받았을 때 AI가속기의 △첫 번째 토큰 생성 시간 △토큰 출력 속도 등을 측정한다. 첫 번째 토큰 생성 시간은 말그래도 요청을 보낸 시점부터 첫 토큰이 출력될 때까지의 지연시간을 측정하는 것이며, 출력 속도는 첫 토큰 이후 출력되는 토큰 수를 말한다. 이렇게 측정된 데이터가 설정된 SLO(Service Level Objective, 성능 서비스 수준 목표)을 충족했을 때 제대로 처리됐다고 평가한다. </p> <p contents-hash="ff3492daf757bcdc5fb919c8451641b885a2204c6bbd7e9bd0dd89266cd5a4a5" dmcf-pid="zSwJ4BB3kz" dmcf-ptype="general">엔비디아는 'GB300 NVL72' 플랫폼에서 '딥시크 V4 프로(DeepSeek V4 Pro)'을 구동해 테스트를 진행했다. 테스트 결과 GB300 NVL72는 MW당 6만1400개의 에이전트를 동시에 활성화하는데 성공했다. 즉 1MW 전력을 넣었을 때 6만1400개 에이전트AI가 벤치마크가 제시한 SLO를 충족했다는 의미다. 반면 H200은 2600개에 그쳤다. GPU 당으로는 GB300이 57.5개, H200이 1.4개로 40배 이상 성능차이를 보여줬다. </p> <p contents-hash="82a092430d53cb7f679ebd9b574f29a6071aa75c4ed606e271de913a26f16c14" dmcf-pid="qvri8bb0o7" dmcf-ptype="general">엔비디아는 향후 출시될 베라루빈 플랫폼이 더 강력한 성능을 낼 것으로 기대하고 있다. 특히 기존 그레이스 CPU의 성능을 뛰어넘는 베라 CPU가 적용되는 만큼 효율성이 극대화될 것으로 보고있다. </p> <p contents-hash="5b4b2f8b7da915b6b0f532bc62fa77f8e142f44cdf5b5979fbd3d3c2c8a250aa" dmcf-pid="BTmn6KKpju" dmcf-ptype="general">엔비디아 측은 "AA-에인전트퍼프는 하드웨어와 소프트웨어가 통합됐을 때 얼마나 획기적인 성능 향상을 이끌어낼 수 있는지 보여준다"며 "차세대 플랫폼은 50페타플롭스(PFLOPs)에 달하는 연산 능력과 베라 CPU를 통한 지연시간 감소로 극대화된 성능을 보여줄 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © THE GURU의 모든 콘텐츠(영상·기사·사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.</p> 관련자료 이전 AI·IoT·탄소난방 융합…겨울철 골프장 카트도로 융설·그린 결빙 막는다 06-16 다음 755명 몰린 '넥슨 메월드 아카데미' 개강…25.2대 1 경쟁률 06-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
