"AI 추론 병목 해결사"…샌디스크, HBM 한계 넘는 HBF 기술 발표 작성일 05-08 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="429ptCztyh"> <figure class="figure_frm origin_fig" contents-hash="8a049489be592cb4bf2d6613c66e35470bb201bbcf83b918da5b5b11bb322010" dmcf-pid="8V2UFhqFCC" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/08/552796-pzfp7fF/20260508093451746nqoc.jpg" data-org-width="640" dmcf-mid="fr5vCgYChl" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/08/552796-pzfp7fF/20260508093451746nqoc.jpg" width="658"></p> </figure> <p contents-hash="03396130003d5628c3f315daa6f27bd73cfbee3b18408cdf98e1da47e279becb" dmcf-pid="6fVu3lB3SI" dmcf-ptype="general">[디지털데일리 김문기기자] 샌디스크가 인공지능(AI) 데이터센터와 엣지 컴퓨팅 환경의 메모리 병목 현상을 해결하기 위해 설계된 새로운 메모리 아키텍처인 '고대역폭 플래시 메모리(HBF)'를 선보였다.</p> <p contents-hash="9ad3d35740288c7e3438c10e3527d1b6f12718ecbd6b49c654dda5301e44303a" dmcf-pid="P4f70Sb0vO" dmcf-ptype="general">알퍼 일크바하르(Alper Ilkbahar) 샌디스크 최고기술책임자(CTO)는 8일(현지시간) AI 추론 워크로드에 최적화된 고대역폭 플래시 메모리(HBF)를 통해 기존 고대역폭 메모리(HBM)와 동적임의접근메모리(DRAM)의 용량 및 비용 한계를 극복한다는 전략을 공개했다.</p> <p contents-hash="0298bc4a5db1b0ba1f83acddce4f38980effe0ca1bac64ea239bc0cc2730fe36" dmcf-pid="Q84zpvKpls" dmcf-ptype="general">HBF는 샌디스크의 비익스 나인드(BiCS NAND) 설계 기술과 CMOS 본디드 어레이(CBA) 웨이퍼 기술을 활용해 재설계됐으며, 비휘발성 저장 매체로서 전원 차단 시에도 데이터를 유지하고 높은 동작 온도에서도 안정성을 제공하는 것이 특징이다.</p> <p contents-hash="83fdba673df858b12dfd378b2346873519ecba316ee0732d73f215d56458d5a6" dmcf-pid="xP6Buy2uSm" dmcf-ptype="general">이 솔루션은 기존 나인드 플래시 대비 병렬 처리와 로직 미세화, 맞춤형 적층 기술을 도입해 지연 시간을 단축하고 읽기 대역폭을 향상시켰다. 이를 통해 대형언어모델(LLM)이 DRAM에 근접한 속도로 데이터를 처리할 수 있도록 지원하며, 대규모 KV 캐시를 지원해 AI 추론의 정확도를 높인다. 특히 물리적 공간과 전력 공급이 제한적인 엔터프라이즈 데이터센터 및 엣지 AI 환경에서 높은 비용 효율성을 제공한다.</p> <p contents-hash="228c9c469905511f969788aa8030db7cc6be03e0e1e4ca374ff98755dd72373f" dmcf-pid="yvSwcxOcyr" dmcf-ptype="general">시장의 변화도 HBF 도입의 필요성을 뒷받침하고 있다. 현재 데이터센터의 약 7분의 1 수준인 AI 워크로드 처리 환경은 2030년 약 70%까지 확대될 전망이다. 엣지 AI 애플리케이션 매출은 2020년대 말까지 약 665억 달러에 달할 것으로 예상된다. 샌디스크는 HBM 대비 높은 용량과 집적도를 갖춘 HBF가 스마트폰 등 엣지 디바이스의 실시간 의사결정 능력을 고도화하고 중소규모 기업의 도메인 특화 모델 미세 조정을 지원할 것으로 내다봤다.</p> <p contents-hash="e1b569f709ba5795644be5381ffc942a6d80a490b5e78ac1540f6afc74e5fb05" dmcf-pid="WTvrkMIkhw" dmcf-ptype="general">일크바하르 CTO는 "DRAM의 용량 확장은 정체된 반면 AI 추론을 위한 대용량 메모리 수요는 지속적으로 증가하고 있다"며 "이제는 예측을 수행하고 결과를 생성하는 대규모 추론 모델을 관리하기 위해 데이터센터 및 엣지 메모리의 구조를 재고해야 할 시점"이라고 말했다.</p> <p contents-hash="ec8b2fe484b3597cababfe16c6cf8f34518f09bdcf85f66f0729f6ef9fe4d13c" dmcf-pid="YyTmERCEyD" dmcf-ptype="general">이어 "HBF는 HBM 대비 용량 면에서 뚜렷한 우위를 가지면서도 AI 추론에 필요한 높은 처리량을 동시에 충족한다"며 "확장 가능한 차세대 시스템 메모리로서 성능 병목을 줄이고 최신 데이터센터 및 엣지 네트워크 환경에서 AI 애플리케이션의 인사이트 도출 속도를 가속화하는 데 기여할 것"이라고 전했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 감염병 대응 달라진다…항생제 내성 관리·결핵 검진 지원 법제화 05-08 다음 [놀라운 우주] 5000광년 밖 ‘우주 달팽이’의 기지개 05-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
