'추론' 35번 언급한 젠슨 황…그록3 앞세워 AI칩 새 판 짠다 작성일 03-17 39 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">엔비디아, AI칩 주문액 1조달러 전망<br>AI 발전 초기 학습 비중 컸지만<br>에이전트 나오며 추론 수요 급증<br>황 CEO "변곡점이 도래했다"<br>'베라 루빈' 플랫폼에 그록3 탑재<br>GPU와 역할 나눠 처리량 35배↑</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uIoNeqe4yP"> <figure class="figure_frm origin_fig" contents-hash="62234caaa1775e14c235a1b42a55d002364e37ee21fa23b9a81b81e41eaefbad" dmcf-pid="7CgjdBd8l6" dmcf-ptype="figure"> <p class="link_figure"><img alt="< ‘아틀라스’ 앞에서 연설 > 젠슨 황 엔비디아 최고경영자(CEO)가 16일(현지시간) 미국 새너제이의 ‘GTC 2026’에서 보스턴다이내믹스의 휴머노이드 로봇 ‘아틀라스’가 포함된 로봇들을 선보이며 피지컬 인공지능(AI)에 대해 발표하고 있다. AP연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/ked/20260317174706058mwib.jpg" data-org-width="1066" dmcf-mid="pF0uZmZvTx" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/ked/20260317174706058mwib.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> < ‘아틀라스’ 앞에서 연설 > 젠슨 황 엔비디아 최고경영자(CEO)가 16일(현지시간) 미국 새너제이의 ‘GTC 2026’에서 보스턴다이내믹스의 휴머노이드 로봇 ‘아틀라스’가 포함된 로봇들을 선보이며 피지컬 인공지능(AI)에 대해 발표하고 있다. AP연합뉴스 </figcaption> </figure> <p contents-hash="fa4cd135b7dc53b12f3da9b724e33c108bed7779e2ac6d08e755ca0a3c220aab" dmcf-pid="zhaAJbJ6W8" dmcf-ptype="general">“인공지능(AI)이 생각하려면 추론해야 합니다. 행동하기 위해서도 추론해야 합니다. AI 추론의 변곡점(inflection)이 도래했습니다.”</p> <p contents-hash="48dd1f9e51bb8138e77ce2b056ca54553ab5d8d1e4ead9692e90c4233149ca4a" dmcf-pid="qlNciKiPS4" dmcf-ptype="general">AI칩은 데이터를 넣어 모델의 틀을 짜는 ‘학습’과 이를 실제 작업에 쓰는 ‘추론’ 두 가지 용도로 쓰이고 있다. 학습 비중이 컸던 AI 초기에서 벗어나 이제 추론이 주목받는 가운데 젠슨 황 CEO는 16일(현지시간) 두 시간에 걸친 ‘GTC 2026’ 기조연설에서 ‘추론(inference)’을 35번이나 언급했다.</p> <p contents-hash="1d1e2b8a718c02321ddf6d6c25d467fb58716efc049fa06462d03bbfc5725dbf" dmcf-pid="BSjkn9nQWf" dmcf-ptype="general"><strong><span> ◇ 2029년 추론 수요, 학습의 2배</span></strong></p> <figure class="figure_frm origin_fig" contents-hash="1d351f20e86fc2a736c475b12cb8bdd98cf17df02c5a3820b9fd13e5fc711333" dmcf-pid="bvAEL2LxSV" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/ked/20260317174707314fmhl.jpg" data-org-width="300" dmcf-mid="UVOhEMEoWQ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/ked/20260317174707314fmhl.jpg" width="658"></p> </figure> <p contents-hash="04c01017ed9f3f0ff65bba52d38a75d68fc9c6e08f4167767fd67d5ceda5f990" dmcf-pid="KTcDoVoMT2" dmcf-ptype="general">이날 젠슨 황 CEO는 오는 10월까지 자사 AI칩 주문액을 작년 같은 자리에서 예측한 수치의 두 배인 1조달러(약 1500조원)로 전망하고 있다고 밝혔다. 핵심 동력은 추론용 칩이다. 그는 “지난 2년간 업무에 필요한 컴퓨팅 수요가 1만 배 늘었고 사용량은 아마 100배 정도 증가했을 것”이라고 설명했다.</p> <p contents-hash="cc6d9c7cf3e7cc49de40a9b5488d805dccbdd1f616e060776dbcbda71e5f2639" dmcf-pid="9ykwgfgRl9" dmcf-ptype="general">시장에서는 추론 수요가 학습을 이미 뛰어넘었다는 분석이 나온다. 가트너는 지난해 추론용 AI칩 시장이 학습용을 넘어섰고, 2029년에는 추론 수요가 학습의 두 배에 달할 것으로 내다봤다. AI에이전트의 등장 때문이다. 사용자 질문에 응답하는 챗봇과 달리 AI에이전트는 문서 작업·코딩 등을 자율적으로 처리함에 따라 더 많은 반복 작업을 한다.</p> <p contents-hash="269592195027b1fd33d121044ff3914c5bf284541748bb8908f06ad34b0d4ea9" dmcf-pid="2WEra4aeCK" dmcf-ptype="general">엔비디아의 그래픽처리장치(GPU)는 학습 성능에서 비교 대상이 없지만 추론 효율은 상대적으로 떨어진다는 게 업계의 평가다. 추론의 수요가 커지면서 구글, 아마존 등이 텐서프로세싱유닛(TPU)과 트레이니엄 등이 주문형반도체(ASIC)를 직접 개발하고 나선 상황이다. 이들은 추론 작업 시 엔비디아의 최신 GPU 대비 높은 전력효율을 내세워 엔비디아의 시장 지배력을 위협하고 있다.</p> <p contents-hash="410f36e185a73622ecddae43e39ab429c90945ddc76eedfa66bd495b91c3b36d" dmcf-pid="VhaAJbJ6Sb" dmcf-ptype="general"><strong><span> ◇ GPU와 LPU ‘이도류’ 갖춰</span></strong></p> <p contents-hash="1c5e7d22db889555013877b1a994228d4d1468bbfa0b5fef3df2ea994dee2dcc" dmcf-pid="flNciKiPyB" dmcf-ptype="general">엔비디아가 이날 ‘그록3 언어처리장치(LPU)’를 공개한 이유다. 엔비디아는 지난해 12월 스타트업 그록의 핵심 인력과 기술을 200억달러(약 30조원)에 사들였다. 이후 3개월 만에 다른 빅테크의 도전에 맞붙을 제품을 내놓은 것이다.</p> <p contents-hash="c1d07e51468fdf52fde85941473e83209268d68b183fedea42632f1fbf28c48b" dmcf-pid="4Sjkn9nQCq" dmcf-ptype="general">그록3 LPU는 추론에 특화된 AI칩이다. 특히 GPU 대비 데이터 지연(레이턴시)이 적다는 것이 강점으로 꼽힌다. 엔비디아 AI가속기 베라 루빈은 연산을 담당하는 GPU 루빈과 메모리를 저장하는 6세대 고대역폭메모리(HBM4) 사이를 데이터가 오가면서 병목 현상이 발생한다. 반면 그록3 LPU는 연산 반도체 내부에 정적랜덤액세스메모리(SRAM)을 적용해 지연을 최소화했다. 짧은 데이터 전송 거리는 전력 효율성도 높인다. 그록은 엔비디아에 인수되기 전 2세대 LPU가 GPU보다 전력 효율이 10배가량 높다고 주장했다.</p> <p contents-hash="b5ae4a91032395d7f88a42f47e655542c9bc9230b8bfd9c231b429fff4d60888" dmcf-pid="8vAEL2LxTz" dmcf-ptype="general">엔비디아는 GPU의 강력한 연산 능력과 LPU의 속도 및 효율성을 결합한다는 계획이다. 그록3 LPU 256개를 장착한 랙 ‘LPX’를 베라루빈 플랫폼에 결합한다는 것이다. 젠슨 황 CEO는 “파라미터(매개변수)가 조(兆) 단위인 최고급 AI모델 추론 처리량을 35배 향상하고, 지연 시간을 절반으로 줄일 수 있다”고 강조했다.</p> <p contents-hash="b99537d222dfde8f75100613d7e645f65bfb61b6c5e6e5373a7b0bffc45ddeaa" dmcf-pid="6TcDoVoMh7" dmcf-ptype="general"><strong><span> ◇ 삼성·SK하이닉스 부스도 방문</span></strong></p> <p contents-hash="98efb17bec1134e4f7a1e2f39a0835737dd772913e3be62c8407bf8ed1829952" dmcf-pid="PykwgfgRTu" dmcf-ptype="general">젠슨 황 CEO는 기조연설 뒤 새너제이 컨벤션센터에 마련된 삼성전자와 SK하이닉스 전시장을 연이어 방문했다. 우선 찾은 삼성전자 부스에는 경기 평택 공장에서 생산되는 그록3 LPU와 베라 루빈에 들어가는 HBM4 등이 전시됐다. 젠슨 황 CEO는 조상연 DSA 총괄 부사장과 만나 양사 관계에 대해 “훌륭한 파트너십”이라며 “삼성은 세계 최고”라고 치켜세웠다. 그록3 LPU와 HBM4 등에 서명한 그는 “가자(Go) 삼성”이라고 외쳤다.</p> <p contents-hash="2aa1812c4e100e4de15e9b0b422e202e4e546eee5601827577fb7c40db89eb42" dmcf-pid="QWEra4aeTU" dmcf-ptype="general">이어 SK하이닉스 부스에서는 최태원 SK그룹 회장과 환담하며 “당신들이 자랑스럽다”고 덕담했다. 하이닉스 HBM4와 서버용 저전력메모리 모듈 ‘소캠2(SOCAMM2)’가 장착된 엔비디아 베라 루빈 AI가속기 시제품에 ‘젠슨♡SK하이닉스’라고 영어로 적어 넣었다.</p> <p contents-hash="a93976201f841bfea0913ab8e524a0d23b9b7711aa926b63fb420b96264a2d71" dmcf-pid="xYDmN8NdWp" dmcf-ptype="general">실리콘밸리=김인엽 특파원</p> <p contents-hash="e66a41156421250f35c26921816f224d4eedb016a2018c16b062b50051458255" dmcf-pid="yRqK0l0HT0" dmcf-ptype="general"><strong><span>▶</span>AI 학습과 추론</strong></p> <p contents-hash="14ee980c7cc2f9f810799c9f78c9dddff66ad08cccc2697d9f57cc808eb9cf31" dmcf-pid="WeB9pSpXW3" dmcf-ptype="general">학습은 대량의 데이터를 인공신경망에 투입해 AI 모델을 형성하는 과정. 추론은 학습된 AI 모델을 통해 응답을 생성하는 과정.</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 "GPU 한계 넘자" 국민성장펀드 50조 결집 …韓 AI반도체 판 키운다(종합) 03-17 다음 "엄마의 꿈은 '홍카라스'!"… 홍정우, 김명관과 U-12 남자복식 첫 우승 03-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
