AI 메모리 새 해법 찾는 반도체 업계..."HBM만이 답 아니다" 작성일 07-09 3 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">퀄컴은 LPDDR6 기반 '고대역폭 연산', 인텔은 'XBM' 특허 출원</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PG9B7dhDAc"> <p contents-hash="95640e4b3c794df5776cc65b378a96585ea7baaa58f7bc3ca62dde62b1cc102a" dmcf-pid="QH2bzJlwjA" dmcf-ptype="general">(지디넷코리아=권봉석 기자)AI 가속기 성능을 좌우하는 핵심 요소가 연산 능력뿐 아니라 메모리 대역폭으로 옮겨가면서 고대역폭메모리(HBM)은 AI 시대의 필수 부품으로 자리 잡았다. <span>거대언어모델(LLM)의 학습과 추론 과정에서는 초당 수 테라바이트(TB)에 이르는 메모리 대역폭이 요구되기 때문이다.</span></p> <p contents-hash="9ca4b9bb26b01950e72adcf5e8d5341299e3d223781df9f323092781fdb0df45" dmcf-pid="xXVKqiSrjj" dmcf-ptype="general">엔비디아 블랙웰 울트라(GB300), AMD 인스팅트 MI350 등 최신 AI GPU 대부분은 200GB 이상의 HBM을 탑재하고 있으며, 구글의 텐서처리장치(TPU) 역시 HBM을 활용한다. 그러나 높은 성능만큼 치러야 하는 대가도 크다.</p> <figure class="figure_frm origin_fig" contents-hash="57502d0d481d117eb3f033080615670fab64cb5a097628dadf68920fdaa40889" dmcf-pid="yJImDZ6bAN" dmcf-ptype="figure"> <p class="link_figure"><img alt="SK하이닉스 HBM4E 12단 샘플. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165448629bypt.jpg" data-org-width="640" dmcf-mid="944EAYV7A2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165448629bypt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> SK하이닉스 HBM4E 12단 샘플. (사진=지디넷코리아) </figcaption> </figure> <p contents-hash="883a364659d360a3f7ae37d55bd56acd2d6ac2b1e59ea8a401b9ed991bfb2317" dmcf-pid="W3Q8VNGhoa" dmcf-ptype="general">HBM은 여러 개의 D램 다이를 수직으로 적층한 뒤 GPU나 AI 가속기와 연결하는 구조여서 제조 공정이 복잡하고 생산 단가가 높다. 여기에 첨단 패키징 공정과 실리콘 인터포저까지 필요해 생산량 확대에도 한계가 있다.</p> <p contents-hash="9cb3d95c2827af95bbf057f95d7a8ba199b27b7bd2a81148f56e8224cf0c7c42" dmcf-pid="Y0x6fjHlAg" dmcf-ptype="general"><strong>퀄컴 "LPDDR6 메모리와 가속기를 보다 가까이"</strong></p> <p contents-hash="36c64940e2f88105ae608f64587dcbbca2616b1dbdf9ce9d1a922885712ca2f2" dmcf-pid="GpMP4AXSoo" dmcf-ptype="general">글로벌 반도체 기업들이 HBM 의존도를 낮추기 위한 새로운 해법을 찾기 시작했다.</p> <p contents-hash="657c36e595aa8f7f1d680aa8e71666e5b91557708ff769d5aca4dd3858cf8fbd" dmcf-pid="HURQ8cZvNL" dmcf-ptype="general"><span>퀄컴은 지난 6월 말 인베스터 데이에서 추론용 AI 가속기 'AI250'에 HBM 대신 LPDDR6 메모리를 활용하는 '고대역폭 연산(HBC)' 구조를 적용할 것이라고 밝혔다.</span></p> <figure class="figure_frm origin_fig" contents-hash="0ae16f17626de6488b2defe9ffffa8f0dceb8ac5d17f88d5613de907b8c0eaff" dmcf-pid="Xuex6k5Tjn" dmcf-ptype="figure"> <p class="link_figure"><img alt="퀄컴이 제시한 '고대역폭 연산(HBC)' 개념도. (사진=퀄컴)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165448846zykz.jpg" data-org-width="640" dmcf-mid="2onvhUJ6c9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165448846zykz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 퀄컴이 제시한 '고대역폭 연산(HBC)' 개념도. (사진=퀄컴) </figcaption> </figure> <p contents-hash="e1f5065eefccfb1a1e9d45ea4342ebcd4c3b81facfba54f723273b4da67798fa" dmcf-pid="Z7dMPE1yAi" dmcf-ptype="general">LPDDR은 스마트폰과 노트북 등에 사용되는 저전력 메모리다. HBM보다 메모리 대역폭은 낮지만 가격 경쟁력이 높고 공급도 안정적이라는 장점이 있다.</p> <p contents-hash="883df139961696f62297b94fcd046a3023cd286f91c862d7f369074022b6d504" dmcf-pid="5zJRQDtWgJ" dmcf-ptype="general"><span>퀄컴은 메모리의 성능보다 시스템 구조를 바꾸는 방식을 선택했다. 절대적인 메모리 속도보다 데이터 이동 효율을 높여 AI 추론 성능을 끌어올리겠다는 접근이다.</span></p> <figure class="figure_frm origin_fig" contents-hash="b0436f5e204f0ed2fd8dba595eada75e6c49cfdf6e5b5bb7b6859f9e1f37d5e2" dmcf-pid="1qiexwFYAd" dmcf-ptype="figure"> <p class="link_figure"><img alt="연산을 담당하는 가속기 바로 위에 LPDDR 메모리를 쌓아올려 대역폭을 확보한다. (사진=퀄컴)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165449078ecpn.jpg" data-org-width="640" dmcf-mid="f2m0t6wajb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165449078ecpn.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연산을 담당하는 가속기 바로 위에 LPDDR 메모리를 쌓아올려 대역폭을 확보한다. (사진=퀄컴) </figcaption> </figure> <p contents-hash="c6e958567d56fa99ce4b2bd3f59be556504adc2111c23ed9aa8a7d5eeadd9094" dmcf-pid="tBndMr3Gae" dmcf-ptype="general">HBC는 AI 가속기 등 연산 유닛을 D램 바로 아래 배치하는 2.5차원 구조를 적용해 데이터 이동 거리를 최소화했다.</p> <p contents-hash="4e1ae27d4bd5117326ea05bdf28812b9256a10c74355c9a6b03df3442b62d1d9" dmcf-pid="FbLJRm0HaR" dmcf-ptype="general"><span>이를 통해 복잡한 배선 구조와 발열, 전력 소모를 줄이면서 HBM 없이도 높은 메모리 효율을 확보한다는 전략이다.</span></p> <p contents-hash="212b1bd54e9f70fcb841f7e67d959315bf32fa47d6e1d1af09bed332ee464e75" dmcf-pid="3KoiespXAM" dmcf-ptype="general"><strong>인텔, 실리콘 인터포저 없앤 'XBM' 특허 출원</strong></p> <p contents-hash="8c39d5193fd8d6d41364f25882b10866626ca585248932ec24b974671043211b" dmcf-pid="09gndOUZgx" dmcf-ptype="general">현재 HBM은 GPU나 AI 가속기와 연결하기 위해 '실리콘 인터포저'를 사용한다. 인터포저는 HBM과 프로세서를 초고속으로 연결하는 핵심 부품이지만, 대면적 실리콘을 사용해야 하는 만큼 패키징 비용을 높이는 대표적인 요인으로 꼽힌다.</p> <figure class="figure_frm origin_fig" contents-hash="fe91755da197c348595434a36ccf06bdec05c97963b65ee25790e7a74f464b3a" dmcf-pid="p2aLJIu5oQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="HBM 내부 구조(사진=AMD)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165450381buij.png" data-org-width="638" dmcf-mid="8VMOr1Q9gq" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165450381buij.png" width="658"></p> <figcaption class="txt_caption default_figure"> HBM 내부 구조(사진=AMD) </figcaption> </figure> <p contents-hash="388160e74f626ecde6a91cdbbfc47ad1b6bc308f4a5f5989476eff3c8b745373" dmcf-pid="UVNoiC71oP" dmcf-ptype="general">인텔은 최근 공개된 특허에서 '크로스배치 메모리(XBM)'라는 새로운 메모리 구조를 제안했다. 실리콘 인터포저 대신 칩렛 연결 표준인 UCIe를 이용해 메모리와 프로세서를 연결하는 방식을 제시했다.</p> <p contents-hash="0efeb19c063a9128e6f9a5d15c5fed7480db0c190ea2e5d673df5e0fef12bf79" dmcf-pid="ufjgnhztN6" dmcf-ptype="general"><span>HBM 대체 대신 HBM이 안고 있는 높은 패키징 비용과 제조 난도를 구조적으로 개선하려는 시도로 해석된다.</span></p> <figure class="figure_frm origin_fig" contents-hash="b04abc173d3a369376410bf9f9dc2061fb1dcfa6b4875de1599b8d36d82d04fb" dmcf-pid="74AaLlqFN8" dmcf-ptype="figure"> <p class="link_figure"><img alt="인텔이 특허 출원 서류에 제시한 XBM(크로스배치 메모리) 단면도. (사진=인텔)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165451630ebvz.jpg" data-org-width="480" dmcf-mid="4bF5H2AigD" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165451630ebvz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인텔이 특허 출원 서류에 제시한 XBM(크로스배치 메모리) 단면도. (사진=인텔) </figcaption> </figure> <p contents-hash="c280b5126020445c8ac6c92f5f90f77243a60ab8c54ae3c85aa792d432d8ad7f" dmcf-pid="zXVKqiSrN4" dmcf-ptype="general">여기에 배선층 상부에 트랜지스터를 배치하는 백엔드 트랜지스터 기술을 적용해 동일 면적에서 집적도를 높이고 데이터 이동 경로를 줄이도록 설계했다.</p> <p contents-hash="6d2723cd1021e8b9ea48fadeec7b40c63a486fda8dca830eb6e29feedbdda163" dmcf-pid="qZf9Bnvmaf" dmcf-ptype="general">또 메모리 일부에 결함이 발생하더라도 자동으로 우회하는 자체 복구(Self Repair) 기능도 포함했다. 다층으로 적층되는 메모리 특성상 생산 수율을 높이고 제조 비용을 낮추기 위한 설계로 풀이된다.</p> <p contents-hash="22813e0598a76b0c426bcc094f769c6c06e2a710b9b5eb474f162a85ac102c46" dmcf-pid="B542bLTscV" dmcf-ptype="general"><strong>'HBM 우선'에서 '메모리 효율' 경쟁으로</strong></p> <p contents-hash="fd78488c57c1322c981848b4e54d325c34475b35c97147ba274e02484b350d98" dmcf-pid="b18VKoyOc2" dmcf-ptype="general">인텔은 메모리 구조 자체를 바꾸려 하고, 퀄컴은 연산 유닛과 메모리의 배치를 최적화하는 길을 선택했다. 접근 방식은 다르지만 두 회사가 지향하는 바는 같다. AI 성능을 좌우하는 메모리 대역폭을 비용효율적으로 늘리며 전력 소비를 낮추는 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="f56bbc01925847e352f991447803ad5830999905ef9c4eaa93da70febfa88f4f" dmcf-pid="Kt6f9gWIA9" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 추론에 특화된 퀄컴 AI200/250 시스템반도체. 올 하반기부터 공급 예정이다. (사진=퀄컴)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165452967hbit.jpg" data-org-width="640" dmcf-mid="8tswkH4qjE" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165452967hbit.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 추론에 특화된 퀄컴 AI200/250 시스템반도체. 올 하반기부터 공급 예정이다. (사진=퀄컴) </figcaption> </figure> <p contents-hash="a2a7d3a7f1e9d93d4457f5dc6565c530944402fea6fade9018c8482a9cbee0a5" dmcf-pid="9FP42aYCNK" dmcf-ptype="general">특히 AI 시장의 중심이 대규모 모델 학습에서 추론으로 이동하면서 이러한 변화는 더욱 빨라질 것으로 전망된다.</p> <p contents-hash="9ccf099e4b80633cf7da3ca63d2bdb68c8df3eeb9a06b5754246236d07cb20cd" dmcf-pid="23Q8VNGhab" dmcf-ptype="general"><span>추론용 AI는 클라우드 데이터센터뿐 아니라 기업 서버와 AI PC, 엣지 시스템 등 훨씬 다양한 환경에 적용된다. 모든 시스템에 고가의 HBM을 탑재하는 것은 비용 효율 측면에서 현실적인 선택이 아니기 때문이다.</span></p> <figure class="figure_frm origin_fig" contents-hash="fac6550f0a3b477f3e80e9bfe5080282c39e6baa68e63b269db88f98dd70a95e" dmcf-pid="V0x6fjHlAB" dmcf-ptype="figure"> <p class="link_figure"><img alt="히트파이프 블록을 더해 냉각 성능을 향상시킨 삼성전자 HBM5 시제품. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165454295rhix.jpg" data-org-width="640" dmcf-mid="6yEAaTKpck" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/ZDNetKorea/20260709165454295rhix.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 히트파이프 블록을 더해 냉각 성능을 향상시킨 삼성전자 HBM5 시제품. (사진=지디넷코리아) </figcaption> </figure> <p contents-hash="023547186265a2c949b47f5532cd4889a167f50992565a881756159d4316d2f9" dmcf-pid="fpMP4AXSAq" dmcf-ptype="general">HBM은 당분간 AI 메모리의 주류 지위를 유지할 가능성이 높다. 다만 AI 시장의 중심이 추론으로 이동하고 비용 효율이 새로운 경쟁력으로 부상하면서 HBM 의존도를 낮추기 위한 시도는 더욱 다양해질 전망이다.</p> <p contents-hash="d3c9943a732a3be43302d69648fdb01947c7381e9f1999960e9609bd707e8c02" dmcf-pid="4URQ8cZvkz" dmcf-ptype="general">권봉석 기자(bskwon@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 태니엄·넷앱 맞손…"미토스 대응 풀스택 AI 보안 제공" 07-09 다음 윤호중 행안장관, 국정자원 대구센터 점검…민간 클라우드 협력 논의 07-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
