"데이터센터를 하나의 거대한 컴퓨터로"…KAIST-메타, 초거대 AI 병목 현상 해법 찾았다 작성일 09-09 53 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">보도기사</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FgW8NZwaUX"> <p contents-hash="6a8d38ceb3163453f12ed347e18144bc399fe3756c76f93996ec94d43ca41050" dmcf-pid="3aY6j5rN3H" dmcf-ptype="general">KAIST, 메타와 손잡고 차세대 AI 데이터센터 청사진 제시<br>데이터센터 전체를 '하나의 거대한 칩'으로</p> <figure class="figure_frm origin_fig" contents-hash="87e02e02a9e9a265b6c562ad5198808df3f8bff6fef8c45b9fba6f337c719f8b" dmcf-pid="0k5RD0CE3G" dmcf-ptype="figure"> <p class="link_figure"><img alt="기존 네트워크 기반 구조와 단일 칩형CXL 패브릭의 아키텍처 관점 비교" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/551724-22lyJQR/20260909140308976vfyr.jpg" data-org-width="1000" dmcf-mid="1YtdrUlwU5" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/551724-22lyJQR/20260909140308976vfyr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 기존 네트워크 기반 구조와 단일 칩형CXL 패브릭의 아키텍처 관점 비교 </figcaption> </figure> <p contents-hash="10041c5bfa947f11ed3ddeaf6be28865dcb3178a190c95a211244972baf37a73" dmcf-pid="pE1ewphDUY" dmcf-ptype="general"><br>KAIST 전기및전자공학부 정명수 교수 연구팀과 교원창업기업 '파네시아'가 글로벌 빅테크 메타(Meta)와 공동 연구를 통해 차세대 인공지능(AI) 데이터센터의 혁신적인 설계 구조를 발표했습니다. 이번 성과는 대학에서 축적된 기초 연구가 교원 창업을 거쳐 상용 반도체 기술로 진화하고, 나아가 글로벌 기업과의 공동 연구로 확장된 대표적인 사례가 될 전망입니다. </p> <p contents-hash="bec8a210a9a3aeb729c4f2d33b5ad4a5eb49ddbc3ae66d84c14af69d10c4dc6e" dmcf-pid="UDtdrUlw0W" dmcf-ptype="general">이번 연구 결과는 국제 학술지 '네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering, NREE)'에 9일 게재됐습니다.</p> <p contents-hash="8ec592790cb33854d6ef1564c7e909e9e227cc91582247e12e90e848e06edb31" dmcf-pid="uwFJmuSrFy" dmcf-ptype="general">◆ 초거대 AI 시대, 병목 현상을 넘어서다</p> <p contents-hash="7d080bd3b3b41328343ce29617e8dd2a047fb6fecb7166c4f7bed20eeeef9c00" dmcf-pid="7r3is7vm7T" dmcf-ptype="general">생성형 AI와 초거대 AI의 급격한 발전으로 수백에서 수천 개의 AI 가속기를 동시에 동원하는 연산 환경이 보편화되고 있습니다. 그러나 단순한 가속기 증설이 곧바로 성능 향상으로 이어지지는 않습니다. </p> <p contents-hash="488caba5206ab10baf47cae6ce36049ef791d44b3fa590d2423b203df6e94096" dmcf-pid="zm0nOzTspv" dmcf-ptype="general">다수의 작업자가 줄을 서서 물건을 전달할 때 한 사람만 지체돼도 전체 공정이 마비되는 것처럼, 개별 반도체의 성능뿐만 아니라 수많은 가속기와 메모리를 얼마나 지연 없이 연결하느냐가 데이터센터의 핵심 경쟁력으로 작용합니다.</p> <p contents-hash="b7a7498199a7fb1cb354eed5aa74066127051632c52b4f619b23ebb29784ab41" dmcf-pid="qspLIqyO0S" dmcf-ptype="general">정명수 교수 연구팀과 파네시아·메타 공동 연구진은 이 한계를 극복하기 위해 CXL(Compute Express Link) 기술을 도입했습니다. CXL은 CPU, AI 가속기, 메모리를 초고속으로 연결하여 자원을 공유하는 국제표준 기술입니다. </p> <p contents-hash="983d0f08777921b69f41da10123c8c6fceb089e5ec62614c8a2b74b3202e5df9" dmcf-pid="BOUoCBWI3l" dmcf-ptype="general">연구진은 이 기술을 데이터센터 전체 규모로 확장하여, 서버 간의 경계를 허물고 CPU와 가속기, 메모리를 긴밀하게 묶어 데이터센터 전체가 하나의 거대한 컴퓨터처럼 구동하는 구조를 제안했습니다.</p> <div contents-hash="bfef872215123003a54a465df43788ee585e5c5cf3c140836b61446e170817d8" dmcf-pid="bIughbYCzh" dmcf-ptype="general"> 기존 엔비디아의 NVLink나 UALink 등이 주로 랙(rack) 내부 연결에 집중했던 것과 달리, 이번에 제시된 구조는 CPU와 메모리까지 CXL로 포괄하며 그 적용 범위를 데이터센터 전체로 넓혔습니다. 그 결과 하나의 연결 영역 안에서 최대 960개의 가속기를 연동할 수 있게 되었는데, 이는 현행 NVLink 기반 랙 시스템 대비 약 13배에 달하는 초대형 규모입니다. </div> <figure class="figure_frm origin_fig" contents-hash="ec48110cab284907dd8bc4e499de78199d31f157fedf8e86815411e4cd47056e" dmcf-pid="KC7alKGh7C" dmcf-ptype="figure"> <p class="link_figure"><img alt="이번 연구 성과를 요약한 이미지(AI 생성 이미지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/551724-22lyJQR/20260909140309136cyxw.jpg" data-org-width="1000" dmcf-mid="tVdTuo9UzZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/551724-22lyJQR/20260909140309136cyxw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이번 연구 성과를 요약한 이미지(AI 생성 이미지) </figcaption> </figure> <div contents-hash="5a02cd957a7fd1fdd152865bafbccd3572fb0b433827c535e0f30c8c2967bc18" dmcf-pid="9OUoCBWI3I" dmcf-ptype="general"> <div> <br>◆ 초저지연과 압도적인 운영 유연성 확보 <br> <br>데이터 이동에 소요되는 시간 역시 기존 네트워크 기반 구조의 마이크로초(μs) 단위에서 수백 나노초(ns) 수준으로 대폭 단축됐습니다. AI 연산 과정에서는 미세한 지연 시간의 누적도 전체 성능 저하로 직결되기 때문에 이러한 초저지연 특성은 결정적인 강점입니다. <br> <br>아울러 CPU, 가속기, 메모리를 개별 자원 형태로 유기적으로 연결함으로써 결함이 발생한 부품만 신속하게 교체하거나 유휴 자원을 필요한 곳에 동적으로 재배치하는 유연한 인프라 운영이 가능해집니다. <br> <br>이번 연구는 AI 데이터센터의 기본 단위를 개별 '서버'에서 '데이터센터 전체'로 확장하는 새로운 패러다임을 제시했다는 평가를 받습니다. <br> <br>정명수 KAIST 전기및전자공학부 교수 겸 파네시아 대표는 "AI가 거대해질수록 개별 가속기의 성능만큼 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다"며 "이번 연구는 CXL을 기반으로 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 동작시키는 차세대 AI 인프라의 방향을 제시했다는 데 의미가 있다"고 말했습니다. </div> </div> <p contents-hash="bb11cf950a8fdc4572f3ba194641bc65af86e3faa1255945b9fb60dc3ff56eb9" dmcf-pid="2IughbYC3O" dmcf-ptype="general">(사진=KAIST) </p> <p contents-hash="60fd5d8845c42dea20fc4ddbf93f51bd817bab7f6ef33c2f333d616f09a37289" dmcf-pid="VC7alKGh7s" dmcf-ptype="general">조형준 취재 기자 | brotherjun@tjb.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © TJB </p> 관련자료 이전 우주청, 항공 기체부품 실증 기반구축 사업 본격화 09-09 다음 삼성·SK와 짓는 '스타게이트 코리아'…오픈AI "예상보다 시간 걸려" [일문일답] 09-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.