마이크론 “AI 성능 병목은 메모리”…칩 90%가 메모리[핫칩스2026] 작성일 08-24 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">핫칩스 2026서 ‘메모리 월 악화’ 경고<br>“컴퓨트 3배 뛸 때 대역폭 2배도 못 따라가”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="z81RwWQ9yr"> <figure class="figure_frm origin_fig" contents-hash="d78141383efa89e72e4a7739f1b447678ee96f1603e250efbcca1e90a87f8d3f" dmcf-pid="qZD0PatWlw" dmcf-ptype="figure"> <p class="link_figure"><img alt="라구 스리라마네니 마이크론 펠로가 23일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학회 ‘핫칩스’에서 발표하고 있다. [사진=원호섭 특파원]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/mk/20260824080305182bbhp.png" data-org-width="700" dmcf-mid="7jmuMA0HTm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/mk/20260824080305182bbhp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 라구 스리라마네니 마이크론 펠로가 23일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학회 ‘핫칩스’에서 발표하고 있다. [사진=원호섭 특파원] </figcaption> </figure> <div contents-hash="df41be380d41f1a62f0766cfb4fdd9ae6599c3d53e812547328d458f887fbf95" dmcf-pid="B5wpQNFYlD" dmcf-ptype="general"> “메모리 월(memory wall)은 여전히 존재한다. 오히려 더 나빠지고 있을지도 모른다.” </div> <p contents-hash="bafc90f6d3ac9531b47b27c32186817055c2d142e8a4fc1afe102cefc301123a" dmcf-pid="b1rUxj3GSE" dmcf-ptype="general">라구 스리라마네니 마이크론 펠로(HBM 설계 아키텍처)는 23일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학회 ‘핫칩스 2026’에서 이같이 말했다. 메모리 월은 계산을 맡는 반도체는 갈수록 빨라지는데 데이터를 실어 나르는 메모리가 그 속도를 따라가지 못해 생기는 병목을 뜻한다. 인공지능(AI) 시대에 접어들며 이 병목이 좁혀지기는커녕 오히려 더 벌어지고 있다는 것이다.</p> <p contents-hash="8dea5109326690f00f74b4f794ef7b44dd8b9979218b73a4e8150c223e16f864" dmcf-pid="KtmuMA0HCk" dmcf-ptype="general">스리라마네니 펠로에 따르면 AI 가속기의 계산 성능은 2년마다 약 3배씩 빨라지지만 데이터를 공급하는 HBM(고대역폭메모리)의 속도는 같은 기간 2배에도 못 미친다. 아무리 빠른 계산 장치를 붙여도 재료를 실어 나르는 통로가 좁으면 결국 그 통로 속도에 발이 묶이는 셈이다. 그는 “계산과 메모리의 경계를 허무는 새로운 설계가 이 벽을 넘는 한 가지 길이 될 것”이라고 내다봤다.</p> <p contents-hash="cd75e69e13bd3ee9f6904438bc7ab29714a6b5ad735dfcf3804109ae0634c08c" dmcf-pid="9Fs7RcpXCc" dmcf-ptype="general">스리라마네니 펠로는 GPU 두 개와 12단 HBM4 여덟 개를 하나로 합친 최신 패키지를 예로 들며 이 안에 쓰인 반도체 면적의 약 90%가 메모리라고 밝혔다. 계산을 맡는 GPU보다 메모리가 차지하는 면적이 8배 넘게 크다는 얘기다. 그는 “HBM은 우표 한 장보다 크지 않은 크기 안에 설계와 공정, 포장 기술이 모두 맞물려야 하는 가장 까다로운 제품”이라고 표현했다.</p> <p contents-hash="ad5a6b9fdcc8154770ba362b7b318d8e10351bc73d9519fe85c3a0a87f487be8" dmcf-pid="23OzekUZTA" dmcf-ptype="general">메모리가 이렇게 자리를 많이 차지하는 구조는 공급 부담으로 되돌아온다. 같은 용량을 만든다고 할 때 HBM은 일반 D램(DDR5)보다 약 3배 많은 반도체 원판(웨이퍼)을 잡아먹는다. 그만큼 같은 공장에서 찍어낼 수 있는 양이 줄어든다는 뜻이다. 스리라마네니 펠로는 “이 격차가 세대가 올라갈수록 더 벌어지고 있다”며 “속도가 빨라지고 칩이 커지고 쌓는 층수가 높아질수록 필요한 반도체 면적도 함께 늘기 때문”이라고 설명했다.</p> <p contents-hash="ac0b494df24e38db1b7a7377516a798967253f22c08d78219f1eaff650e9ee7b" dmcf-pid="V0IqdEu5yj" dmcf-ptype="general">열 문제도 갈수록 발목을 잡는다. 데이터를 주고받는 속도가 빨라지면서 이제는 발열이 설계에서 가장 먼저 고려해야 할 조건이 됐다고 그는 덧붙였다. HBM은 D램을 여러 층으로 쌓은 구조인데 열이 가장 많이 나는 맨 아래층의 열이 냉각 장치가 있는 맨 위까지 모든 층을 뚫고 빠져나가야 한다. D램은 뜨거워지면 오작동이 잦아진다. 그는 이제 열을 먼저 계산하고 그에 맞춰 구조를 짜는 단계에 이르렀다며 액체로 식히는 냉각이나 칩을 더 얇게 붙이는 방식 같은 기술이 해법으로 떠오르고 있다고 설명했다.</p> <p contents-hash="3557c7c30fe9d2031ae4571fc34c93fe64a32fa743736781b20bdce0f311779d" dmcf-pid="fpCBJD71SN" dmcf-ptype="general">이런 숙제들은 마이크론이 최근 양산을 시작한 6세대 HBM4에 담겨 있다. HBM4는 데이터가 오가는 통로와 저장 구역을 앞 세대의 두 배로 늘려 한 번에 처리하는 데이터 양을 크게 키웠다. 큐브 하나가 초당 2.8테라바이트(TB)의 데이터를 실어 나른다. 마이크론은 이 제품을 엔비디아의 차세대 AI 칩 ‘베라 루빈’에 공급하고 있다.</p> <p contents-hash="8ff6bd49fefb52dd683b6d9b52f6ebd7be8e70e24160e3fec273db598a9886f5" dmcf-pid="4UhbiwztTa" dmcf-ptype="general">이날 발표는 최근 메모리 시장의 만성적인 공급 부족과도 맞닿아 있다. HBM이 반도체 생산능력을 빠르게 빨아들이면서 삼성전자와 SK하이닉스, 마이크론 등 메모리 3사는 만든 물량을 비싼 값에 파는 호황을 맞고 있다. 마이크론과 SK하이닉스는 올해는 물론 2027년 물량까지 사실상 다 팔린 상태다. SK하이닉스 경영진은 이 공급 부족이 2030년 이후까지 이어질 수 있다고 내다봤다. 스리라마네니 펠로는 “HBM이 냉각과 포장, 설계, 소재 등 여러 분야가 함께 풀어야 하는 문제”라며 “이 AI 혁명을 이어가려면 서로 다른 영역이 한데 모여 혁신해야 한다”고 말했다. [실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 “美는 100% 주는데, 한국은 50%”... 삼전 110조 주주환원이 적다고? 08-24 다음 NeoImmuneTech Hits Limit-Up for Second Day on U.S. Biotech Deal[K-Bio Pulse] 08-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
