김정호 KAIST 교수 “미래 AI 핵심은 메모리” 작성일 03-15 3 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zpva1s1yIa"> <figure class="figure_frm origin_fig" contents-hash="c08dc941adcffda36c6f9b76683766a9288a1ee2c38f8e146e352b8c51e1b74f" dmcf-pid="qUTNtOtWDg" dmcf-ptype="figure"> <p class="link_figure"><img alt="전자신문이 주최한 제1회 e프런티어 조찬 라운지가 13일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열렸다. 김정호 KAIST 교수가 키노트 발표를 하고 있다. 박지호기자 jihopress@etnews.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/15/etimesi/20260315160328367luje.jpg" data-org-width="700" dmcf-mid="7rBWP0PKIN" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/15/etimesi/20260315160328367luje.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 전자신문이 주최한 제1회 e프런티어 조찬 라운지가 13일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열렸다. 김정호 KAIST 교수가 키노트 발표를 하고 있다. 박지호기자 jihopress@etnews.com </figcaption> </figure> <p contents-hash="5ea6a501c638277029060ed5b1971e1c91ececb617220e6f90ce2707b4dbad4b" dmcf-pid="BuyjFIFYro" dmcf-ptype="general">“최근 인공지능(AI)은 텍스트만 다루는 초거대언어모델(LLM)을 넘어 이미지와 영상, 음악과 음성까지 동시에 이해하고 생성하는 '멀티모달' 모델로 진화하고 있습니다. 또 스스로 이해하고 판단하는 '에이전틱 AI'로 발전 중입니다. 방대한 양의 데이터를 가까이 두고 빠르게 처리할 수 있는 기술이 매우 중요해지고 있어 앞으로 AI 컴퓨팅은 메모리가 중심이 될 것입니다.”</p> <p contents-hash="df760aec635a75434120b41813ecad0b8573ed86133e814c8b0cff9152150fad" dmcf-pid="b7WA3C3GEL" dmcf-ptype="general">김정호 KAIST 전기 및 전자공학부 교수는 미래 AI 성능은 메모리 반도체가 좌우할 것이라고 강조했다. 13일 전자신문이 주최한 e프런티어 조찬 행사에 연사로 나서 '메모리 센트릭' 시대 도래를 전망했다.</p> <p contents-hash="e98d7e59e93a37887789dfc6b989f8badd208d70167a28a08d94b951c8d953a3" dmcf-pid="KXmeyAyOIn" dmcf-ptype="general">김 교수는 AI 필수 반도체로 꼽히는 고대역폭메모리(HBM)의 기본 구조와 개념을 창안한 세계적 석학이다. 지난 20년 동안 HBM 관련 설계 기술을 주도해 왔으며 2010년부터 HBM 상용화 설계에 직접 참여하고 있다.</p> <p contents-hash="a4b8b3b48e110dc56ec9e28577091646294e417db0b2e85d1e3e78605c1bbb40" dmcf-pid="9ZsdWcWIDi" dmcf-ptype="general">그는 “PC 시대에는 중앙처리장치(CPU), 스마트폰 시대에는 저전력이 핵심이었다면 AI 시대에선 메모리가 핵심”이라며 “HBM이 속도를 결정할 것이고,용량은 HBF가 담당하게 될 것”이라고 말했다.</p> <p contents-hash="0bc92aad2effdf9ba261dc63566efc8aacb3987f0de41dc28b4ddfabe8637e50" dmcf-pid="25OJYkYCsJ" dmcf-ptype="general">HBF는 비휘발성 메모리인 낸드 플래시를 수직으로 쌓아 용량을 극대화한 메모리다. 여러 개의 D램을 수직으로 쌓은 HBM과 개념이 유사하다.</p> <p contents-hash="e84c5e837816fb87dde7b128ac1200c82baae1c3f685c5409f94f8361e58684e" dmcf-pid="V1IiGEGhId" dmcf-ptype="general">HBF의 최대 장점은 '대용량'이다. 데이터처리 속도를 극대화한 HBM보다 10배까지 용량 확장이 가능하고 가격은 저렴해 HBM의 비용과 용량 문제를 해결할 메모리 기술로 꼽힌다.</p> <p contents-hash="db52931edcf0a9daa78ce31b97bde85c162303928edf12e6424eadb32f617d61" dmcf-pid="ftCnHDHlse" dmcf-ptype="general">김 교수는 현재 GPU에 HBM 탑재가 필수적인 것처럼 HBF 역시 핵심 AI 메모리로 부상할 것이라고 강조했다. 그러면서 오는 2038년부터는 HBF 수요가 HBM을 넘어설 것이라고 내다봤다.</p> <p contents-hash="38ea07b8950168177725e0970c15e9cd60e01bda04ee630162f9adcd50b29e42" dmcf-pid="4FhLXwXSDR" dmcf-ptype="general">그는 “CPU·GPU·메모리가 하나의 베이스 다이 위에서 유기적으로 결합하는 메모리 중심 컴퓨팅(MCC) 아키텍처가 완성되면 필요한 HBF 물량은 더욱 늘어날 것”이라고 말했다.</p> <p contents-hash="99a2cbb18d63705843ce6232d7e76a0973fe52c6ddae7fefcd61cf0a257139ee" dmcf-pid="83loZrZvDM" dmcf-ptype="general">AI 에이전트 서비스에서는 사용자의 과거 답변 등 기존 데이터를 기억해 대화의 맥락을 이어가는 것이 중요하다. 여기에 필요한 것이 장기 기억 역할을 하는 '키밸류'(KV) 캐시 메모리다.</p> <p contents-hash="7d9c48d84d339c4cedefe0013b43bfb644f99cdc467e70bdfbac969ac824493d" dmcf-pid="60Sg5m5TIx" dmcf-ptype="general">현재 구조에서는 GPU에 탑재된 HBM이 이 역할을 맡고 있다. 그러나 추론 영역 확대로 HBM의 본래 목적인 연산에 써야 할 용량이 부족해지면서, 메모리 병목현상이 발생하는 문제가 나타나고 있다.</p> <p contents-hash="ce137d1c1170879bae3887079a33e338239dba052e2b8c63d863b9bfbb1abba9" dmcf-pid="Ppva1s1yDQ" dmcf-ptype="general">그는 “HBM이 방 안의 서고처럼 가까이 있어 필요한 정보를 빠르게 꺼낼 수 있다면, HBF는 도서관의 거대한 서가와 같다”며 “미래 AI 칩은 속도를 담당하는 HBM과 용량을 담당하는 HBF가 공존하는 형태가 될 것”이라고 말했다.</p> <p contents-hash="943bc1c79ede84ac0196fcbeea819886cf0a20f0be8c41996a8003115280833d" dmcf-pid="QUTNtOtWEP" dmcf-ptype="general">윤건일 기자 benyun@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 5G특화망, 피지컬 AI 핵심 인프라로 부상...연내 120개 목표 조기달성 가시화 03-15 다음 "깊이 사과" 십센치, 싱가포르 공연하고도 전액 환불한 이유 03-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
