AI반도체 성능 갈수록 HBM이 좌우 … K메모리에는 '천운' 작성일 02-09 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI반도체 진화의 방향은<br>3~4년 내 AI칩 공급난 대비<br>머스크 '테라 팹' 건설 예고<br>GPU·HBM·패키징 한곳서<br>삼성전자, 로직·메모리 생산<br>TSMC 장악한 패키징도 가능<br>AI반도체 주도권 잡을 기회</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7pm237PKho"> <figure class="figure_frm origin_fig" contents-hash="37c124f87b11ca1b2af1f04d6dbf9de37857975911c77128f4516146b6de7c68" dmcf-pid="zuOfpqx2vL" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/09/mk/20260209180113117wiwu.jpg" data-org-width="1000" dmcf-mid="ubg0yXqFvg" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/09/mk/20260209180113117wiwu.jpg" width="658"></p> </figure> <p contents-hash="6d393829275d41bdbe8b4f1684d9806c69fb932eb29cb52d017d913c47ee7cbe" dmcf-pid="q7I4UBMVln" dmcf-ptype="general">"향후 3~4년 안에 발생할 가능성이 높은 제약 요인을 제거하기 위해 테슬라 테라 팹을 건설해야 한다. 이는 매우 큰 규모의 로직·메모리·패키징을 모두 포함하는 국내 생산시설이다."</p> <p contents-hash="771a19b70c0dff496ba4667023cdccf72bac7b93457a81ff965919b89c609b93" dmcf-pid="BzC8ubRfSi" dmcf-ptype="general">지난달 28일 세계 최대 전기차 회사 테슬라 실적발표 콘퍼런스콜에서 일론 머스크 최고경영자(CEO)가 한 말이다. 이 발언은 크게 보도되지 않았지만 우리 반도체 산업과 테크업계의 이목을 끌었다. 자신의 목표를 달성하기 위해서는 주요 기술을 내재화하는 것도 두려워하지 않는 머스크가 '반도체 팹'을 직접 만들겠다는 언급을 최근 반복해서 하고 있기 때문이다. 전기차 기업 테슬라, 우주기업 스페이스X, 인공지능 기업 xAI를 하나로 묶을지도 모르는 머스크의 다음 도전 목표가 'AI(인공지능) 반도체'일 가능성이 높아지고 있다.</p> <p contents-hash="8b6b27580cd585060294a4ea66ecc56d3b019761463cd0f279def866b9e7fbaf" dmcf-pid="bqh67Ke4lJ" dmcf-ptype="general">머스크 CEO 말대로 지금의 AI 반도체는 로직 반도체, 메모리 반도체, 첨단 패키징 기술의 설계와 제조가 한데 집약된 제품이다. 우리가 AI 데이터센터라고 부르는 거대 인프라는 사실 이 'AI 반도체'를 지원하기 위한 '들러리'라고 해도 과언이 아니다.</p> <p contents-hash="b058d27c48222f75515a41868b198ce982c81e204278f92380b8d1e7b0f27bd0" dmcf-pid="KBlPz9d8Cd" dmcf-ptype="general">연산을 담당하는 로직 반도체(CPU·GPU 등)와 기억을 맡는 메모리 반도체(D램·낸드플래시 등)는 현재 컴퓨터의 기본인 '폰 노이만 구조'가 등장할 때부터 이미 개념적으로 구분돼 있었다. 하지만 상업적으로 두 영역이 나뉜 것은 인텔이 1970년 상용 D램을 출시하면서다. 이때부터 D램은 표준에 맞게만 만들면 어떤 중앙처리장치(CPU)와도 함께 사용할 수 있는 범용 제품이 됐다. 비유하자면 로직 반도체는 반도체라는 체스판의 왕이고 메모리 반도체는 여왕이었다.</p> <p contents-hash="bf3fd5aaafbed085d34ee2bc285b4926db81b7d6352be8a37e5fe69086aa611e" dmcf-pid="9bSQq2J6Ce" dmcf-ptype="general">이렇게 분리된 로직 반도체와 메모리 반도체가 다시 한몸처럼 가까워진 것은 약 45년이 지난 2016년 엔비디아가 내놓은 AI 가속기 테슬라 P100이 등장하면서였다. 우리가 'AI 반도체'라고도 부르는 'AI 가속기'의 기본적인 형태가 이때 완성됐다.</p> <p contents-hash="e5c98d98888848979b9876519c506e630a606c303419fee6ccb1a8ad8b69c91f" dmcf-pid="2KvxBViPlR" dmcf-ptype="general">우리가 사용하는 AI는 매개 변수가 수십억~수조 개에 이른다. 이를 만들기(학습시키기) 위해 행렬 곱셈과 덧셈을 수조 차례 반복해야 한다. 학습뿐 아니라 만들어진 AI를 사용하는 데에도 행렬 계산을 해야 한다.</p> <p contents-hash="4d969c29ece4f1064b544ed7b4ead20b9854ca1cb7331a5fb6059d30fda03870" dmcf-pid="V9TMbfnQTM" dmcf-ptype="general">여기에 특화된 병렬 연산에 강한 로직 반도체가 바로 엔비디아의 그래픽처리장치(GPU)다. 그런데 이 로직 반도체에 막대한 데이터를 제공하고 연산 속도를 높이기 위해서는 데이터를 잠시 보관해놓는 '메모리' 크기도 중요하다. 하지만 모델이 커짐에 따라 늘어난 로직 반도체의 연산능력을 메모리의 데이터 제공 속도가 따라오지 못했다. 이것이 이른바 '메모리 월'이다.</p> <p contents-hash="6c170e22ce9602c4725157c8f02c508b1a53a9ab3b82442f916b3ee4b4457462" dmcf-pid="f2yRK4Lxyx" dmcf-ptype="general">예컨대 부산에 있는 창고에서 서울 공장으로 보내는 자재의 양을 늘리기 위해 창고를 서울 공장 바로 옆에 지었다. 그리고 창고를 1층이 아니라 아파트처럼 높게 쌓은 후 아파트에 엘리베이터를 만들었다. 이 창고가 D램을 수직으로 쌓고 TSV(Through Silicon Vias)라는 전극으로 관통시켜서 만든 게 고대역폭메모리(HBM)다.</p> <p contents-hash="1d2ae220580024ef0bacb6c2265f90334cf5a33c1f0892c4b5a567896a846220" dmcf-pid="4VWe98oMvQ" dmcf-ptype="general">하지만 HBM과 GPU를 붙여놓는 것만으로 끝이 아니다. 두 반도체의 아랫부분을 연결해서 마치 하나의 반도체처럼 작동할 수 있게 패키징해야 하는데 이것이 TSMC의 CoWoS(Chip-on-Wafer-on-Substrate)다. 첨단 패키징이라고 불리는 기술로, 이것이 없으면 AI 반도체는 완성되지 않는다. 머스크가 '로직·메모리·패키징'을 모두 강조하는 이유다.</p> <p contents-hash="810d1b0a1075018e715cedbd319856c8ab0f5e664cc5b6a087e4b37d732ffb66" dmcf-pid="86Xn4xjJvP" dmcf-ptype="general">2022년 챗GPT 등장 이후 세상의 중심이 AI가 되면서 AI 반도체에 돈이 몰려들었다. 지난 6일 기준 엔비디아, TSMC, 삼성전자, SK하이닉스가 전 세계 기업 시가총액 1위, 6위, 15위, 26위가 된 근거다. 이렇게 돈이 쏠리면서 기존 구조에 도전하는 새로운 기업들이 나오고 있다.</p> <p contents-hash="0b203f23c76d0a98071c623964e022e09e7ac071bc290f0004995967ba79b4fd" dmcf-pid="6PZL8MAiv6" dmcf-ptype="general">GPU의 가장 큰 도전자는 엔비디아 GPU를 사용하는 빅테크 고객들이다. 구글이 만든 로직 반도체인 TPU, 아마존이 개발한 트레이니움이 대표적이다. 테슬라가 삼성 파운드리 테일러 공장에서 생산하는 AI6도 엔비디아 GPU와 경쟁할 수 있는 제품이다. 우리 AI 반도체 기업 리벨리온과 퓨리오사도 이런 거인들의 틈새를 노린다.</p> <p contents-hash="a21e550eddede405dbd7708f92d281ca3b94682853044584ed41110e3cf6acd9" dmcf-pid="PQ5o6Rcnh8" dmcf-ptype="general">HBM의 도전자는 다른 메모리다. 기술적 난도가 높은 HBM은 가격이 비싸고 삼성전자·SK하이닉스·마이크론 단 3개 회사만이 만들 수 있다. 하지만 HBM이 아닌 다른 일반 메모리를 쓰면 HBM의 지배력을 낮추고 AI 반도체 가격을 떨어뜨릴 수 있다. 스마트폰에 쓰이는 LPDDR과 그래픽카드에 사용하는 GDDR을 활용하려는 시도가 엔비디아를 비롯해 GPU 기업들에서 나온다. 우리 AI 반도체 기업 하이퍼엑셀도 LPDDR을 사용하는 LPU라는 AI 반도체를 만들고 있다.</p> <p contents-hash="8302b9b96176fd848b0d74a0ec4dbee6445c94aa643f8a5331eab315e19ca9b6" dmcf-pid="Qx1gPekLS4" dmcf-ptype="general">TSMC의 CoWoS는 가장 도전자가 없는 시장이다. 전 세계 최첨단 로직 반도체의 90%를 TSMC에서 생산한다. TSMC가 메모리 반도체 기업들이 보낸 HBM을 받아서 GPU와 함께 패키징하기 때문에 이 시장에서 TSMC가 최강일 수밖에 없다. 유일한 도전자가 삼성전자다. 삼성전자는 메모리를 만들 수 있고 로직 반도체 위탁생산(파운드리)도 할 수 있으며 제조된 메모리와 로직 반도체를 패키징할 수 있다. AI 반도체가 필요한 엔비디아와 빅테크 기업이 설계도를 삼성전자에 보내기만 하면 삼성전자는 한곳에서 'AI 반도체'를 턴키 형태로 완성해줄 수 있다는 의미다.</p> <p contents-hash="c965f10c011b41ac7c5da92efbe5564a088c23464c4c3141ad0166b3ca50078b" dmcf-pid="xMtaQdEoWf" dmcf-ptype="general">[이덕주 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 '3조 클럽' 크래프톤, 성장동력 입증 숙제 안았다…창사 첫 현금 배당(종합) 02-09 다음 ‘AI 저작권 침해’ 빅테크에 유리한 판결 이어져...메타 vs 작가들 재판 가보니 02-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
