"GPU 지능 결정은 메모리"…SK하이닉스, 3D 적층·CXL 풀링 승부수 작성일 08-25 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[반도체레이다] 주영표 SK하이닉스 부사장, 에이전틱 AI 메모리 시장 정조준</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3BmobOKpWm"> <figure class="figure_frm origin_fig" contents-hash="c216b36c820ab4aa3d2e8c308e3798f91499f6a3a8e61fe0261a37b978147ab7" dmcf-pid="0I4UC6hDSr" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825115456049oyxr.jpg" data-org-width="640" dmcf-mid="FtDizrqFWs" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825115456049oyxr.jpg" width="658"></p> </figure> <p contents-hash="457fbd239ea34ef1b1c77a1b463fa3df83380f60f57953cacb9100ba62531226" dmcf-pid="pC8uhPlwhw" dmcf-ptype="general">[디지털데일리 김문기 기자] SK하이닉스가 에이전틱 인공지능(Agentic AI) 시대를 대비하기 위해 성능, 에너지 효율, 자원 활용 등 3대 차세대 AI 메모리 혁신 전략을 공개했다.</p> <p contents-hash="163beea79f6fd94aa248e425e68553ba8ad6dd7c3511ad31ecd92f802d28bc71" dmcf-pid="Uh67lQSryD" dmcf-ptype="general">주영표 SK하이닉스 부사장은 25일 서울 삼성동 코엑스 컨벤션센터에서 열린 '델 테크놀로지스 포럼(DTF) 2026' 기조연설 무대에 올라 대규모언어모델(LLM)과 추론형 AI의 확산에 따른 메모리 반도체 아키텍처의 구조적 변화를 짚었다.</p> <p contents-hash="f24b1d95f85ff7f96a7d2f2f29fceee6347014f053270b6e95bcd23d5fa86957" dmcf-pid="ulPzSxvmhE" dmcf-ptype="general">주영표 부사장은 "반도체 기업은 미래를 준비하는 데 많은 시간이 소요되기 때문에 최소 1년에서 2년 앞을 내다보고 기술을 준비하고 있다"라며 "2022년 생성형 AI 서비스가 처음 등장한 이후 프론티어 AI 모델 구동을 위해 테라바이트(TB) 단위의 메모리 용량과 초당 4.4TB 이상의 대역폭이 필수가 됐다"라고 설명했다.</p> <p contents-hash="400d051b130793f27899144618382238ada8af49a7d2a28a080c4afb09f57670" dmcf-pid="7SQqvMTsTk" dmcf-ptype="general">주 부사장은 "과거에는 막대한 자원을 투입해 모델을 사전 학습시키는 데 집중했으나, 오픈AI나 딥시크와 같은 추론형 모델이 등장하면서 추론 단계에서 지속적으로 키-값(KV) 캐시를 생성하고 재활용하며 지능을 확보하는 구조로 패러다임이 전환됐다"라며 "에이전트 AI 시대로 진입하면서 화면을 보며 챗봇과 대화하는 수십 토큰(Token/s) 수준을 넘어 코딩 에이전트나 엔터프라이즈 멀티 에이전트 구동을 위해 개인별로 초당 수백에서 수천 토큰 이상의 초고성능 처리가 요구되고 있다"라고 말했다.</p> <p contents-hash="b117076d307067153bd188da18d4b895f4d2df3a8f7a69526380b5de9688fa00" dmcf-pid="zvxBTRyOyc" dmcf-ptype="general">그는 에이전틱 AI 시대의 하드웨어 병목 현상을 해소하기 위한 3대 핵심 축으로 ▲단위 면적당 대역폭을 극대화하는 성능(Performance) ▲데이터 이동에 소모되는 전력을 최소화하는 에너지 효율(Energy Efficiency) ▲고가의 메모리와 GPU 유휴 시간을 줄이는 자원 활용도(Resource Utilization)를 꼽았다.</p> <p contents-hash="fb90f836e4719d6eaa3c7c745e80efc2ca2612f1a847b957ae9901b98476c859" dmcf-pid="qTMbyeWIlA" dmcf-ptype="general">성능 개선 측면에서 주 부사장은 기존 고대역폭메모리(HBM)의 물리적 한계를 극복하기 위한 수직 적층 기술을 제시했다.</p> <p contents-hash="25b5b454b69a476cddd775f70bf6f144ad96ce110291331ce7c98496bd195db6" dmcf-pid="ByRKWdYCSj" dmcf-ptype="general">주 부사장은 "컴퓨터 아키텍처 관점에서 지능과 시스템 성능은 중앙처리장치(CPU), 그래픽처리장치(GPU), 신경망처리장치(NPU) 등 연산기가 결정한다고 보지만 AI 시스템에서는 메모리가 공급하는 대역폭이 전체 시스템 성능을 결정하는 핵심 변수"라고 강조했다.</p> <p contents-hash="855b8e3bab4c7cc14a7ba1bf5e7527701ff0b6d606b77261abe5ad6f9291322c" dmcf-pid="bWe9YJGhWN" dmcf-ptype="general">이어 "GPU 다이 주변에 HBM을 평면 배치하는 기존 2.5D 방식은 칩의 가장자리 면적 제한으로 인해 GPU 연산 성능 향상 속도에 맞춰 메모리 대역폭을 비례 확장하는 데 기하학적 한계가 발생한다"라며 "이를 해결하기 위해 로직 칩 상단에 메모리를 직접 쌓는 3D 수직 적층 기술을 개발 중이며, 이를 통해 수십 TB/s 이상의 초고대역폭을 구현할 것"이라고 설명했다.</p> <p contents-hash="f5c42f0a5347c9b63509bb3acd136ad116ac6ddbbd07846e0fbf335b0d5dc675" dmcf-pid="K5o61atWha" dmcf-ptype="general">다만 "발열이 심한 GPU 위에 메모리를 적층할 때 발생하는 열 문제는 델 테크놀로지스와 같은 시스템 및 인프라 파트너와 협력해 냉각 솔루션을 고도화해 나갈 것"이라고 덧붙였다.</p> <p contents-hash="e3c8c913a5afabe30117fd22a5812634ca55228d99f7d9df121aed3a9d19b6b0" dmcf-pid="91gPtNFYlg" dmcf-ptype="general">에너지 효율 분야에서는 데이터 이동 거리 단축을 핵심 과제로 꼽았다.</p> <p contents-hash="57c0c881c4e425b92fe49d36004f44b098651d973f07286d07c5c1d6459fa9d3" dmcf-pid="2taQFj3Gho" dmcf-ptype="general">주 부사장은 "반도체 공정이 미세화되더라도 실제 연산보다 메모리로부터 데이터를 연산기 앞까지 가져오는 과정에서 소모되는 전력이 훨씬 크다"라며 "프로세싱인메모리(PIM) 연구 경험을 바탕으로 디램(DRAM) 공간을 최대한 확보하면서 어드밴스드 패키징 기술을 통해 데이터 이동 에너지를 최소화하는 방향으로 기술을 최적화하고 있다"라고 밝혔다.</p> <p contents-hash="1290e7b0254346881b0bc175ff5386dc8ef72d092762279e29f3250628cb7085" dmcf-pid="VFNx3A0HTL" dmcf-ptype="general">자원 활용도 개선을 위해서는 컴퓨트익스프레스링크(CXL) 기반의 풀드 메모리(Pooled Memory) 아키텍처를 도입했다.</p> <p contents-hash="8a1f9f37b5d03f903eb7c1eccbdc2362464daca2342da65c5347de234fbb040b" dmcf-pid="f3jM0cpXWn" dmcf-ptype="general">그는 "프롬프트를 처리하는 프리필(Prefill) 머신과 답변을 생성하는 디코드(Decode) 머신 간에 방대한 KV 캐시를 이동시키는 동안 양쪽 머신의 GPU가 대기 상태에 머무르는 자원 낭비가 발생한다"라며 "독립된 풀드 메모리를 시스템에 추가해 프리필이 끝난 데이터를 저장하고 즉시 다음 연산을 수행하게 함으로써 시스템 전체의 연산 효율과 비용 효율을 대폭 끌어올릴 수 있다"라고 설명했다.</p> <p contents-hash="9bda4cab29b216be8c65d4f5e813283433f4b08fd4cda4bfcc204f603d5df8a9" dmcf-pid="40ARpkUZWi" dmcf-ptype="general">주 부사장은 "SK하이닉스는 HBM1부터 HBM4까지 혁신을 이어오며 풀스택 AI 메모리 크리에이터를 지향하고 있다"라며 "델 테크놀로지스를 비롯한 글로벌 시스템 파트너들과 연구개발부터 사업화까지 장기적 협력을 지속해 차세대 AI 인프라 생태계를 완성하겠다"라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 스마트링 1위 오우라 한국 상륙…손가락 위 '작은 전쟁' 시작됐다 08-25 다음 ‘폴더블의 힘’ 삼성, 애플 제치고 세계 1위 전망 08-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
