조강원 모레 대표 “엔비디아 아니어도 된다···AMD 등 경쟁자에도 기회 열려” 작성일 09-09 67 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">“추론 시대, 데이터센터가 AI모델도 제공<br>개별 칩 의존도 낮아지고 가성비는 올라가<br>국가 데이터센터도 특정 벤더 종속 피해야”<br>모레, 토큰팩토리 위한 운영체제 SW 확산<br>일본 스타트업과 서비스···추가 고객 확장도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BlgzA1mjyN"> <figure class="figure_frm origin_fig" contents-hash="f5e5a79fcbff8d05980d503858093f0b14b353aa9d2a6d8e3680efbcb4b2710e" dmcf-pid="bSaqctsAla" dmcf-ptype="figure"> <p class="link_figure"><img alt="조강원 모레 대표" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/mk/20260909165102413tosu.jpg" data-org-width="700" dmcf-mid="qbSdW41yWj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/mk/20260909165102413tosu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 조강원 모레 대표 </figcaption> </figure> <div contents-hash="f12e2f130877c6acb6e4ec5db3976956dd304482db76f101a848c9651958042d" dmcf-pid="KHDfs7vmvg" dmcf-ptype="general"> 추론을 위한 인공지능(AI) 인프라 수요가 급증하는 가운데, 기업들이 시장의 절대 강자인 엔비디아의 그래픽처리장치(GPU) 외에 다른 공급사의 칩도 활용하기 위한 노력이 활발해지고 있다. </div> <p contents-hash="189e400ec5a2ca37405a4570d923e703a075a6b8dad9ad0e49ba646f40186303" dmcf-pid="9Xw4OzTsWo" dmcf-ptype="general">다양한 반도체를 함께 활용하며 작업을 분담해 AI 추론 과정의 비용 절감과 성능 향상을 함께 달성할 수 있기 때문이다.</p> <p contents-hash="6b5cc21c3f9befb67230be3fe779f475e61794a1ff1759264189de91d6be5b6f" dmcf-pid="2Zr8IqyOvL" dmcf-ptype="general">여러 종류의 반도체를 함께 쓰는 ‘이기종 컴퓨팅’용 소프트웨어(SW)를 개발하는 모레의 조강원 대표는 최근 매일경제신문과 만나 “이제 기업들은 단일 서버의 성능이 아닌 여러 서버를 묶은 클러스터에 집중하고 있다”라며 “서로 다른 GPU를 섞어서 작업을 잘 분담한다면 전체적인 성능 향상을 기대할 수 있다”고 설명했다.</p> <p contents-hash="3924baae3284837b414735b6967b85aab11de9c4b89207c47484ca64c6aa5b39" dmcf-pid="V5m6CBWIhn" dmcf-ptype="general">모레는 엔비디아 GPU와 AMD, 텐스토렌트 등 서로 다른 반도체를 하나의 클러스터로 묶어 AI 추론을 돌리는 소프트웨어를 개발한다. 회사는 이를 ‘토큰 팩토리 OS’라고 부른다. AI의 최소 처리 단위 ‘토큰’을 생산하는 AI 데이터센터를 위한 운영체제라는 의미다.</p> <p contents-hash="6d95058254e0a9505815e4a33629a42f8202d2522703111235be0e5f23d5fdf8" dmcf-pid="f1sPhbYCli" dmcf-ptype="general">조 대표는 “이전에는 기업들이 AI 데이터센터를 활용할 때 GPU를 임대한 다음 자체적으로 소프트웨어를 올려 사용했다면, 이제는 데이터센터가 소프트웨어와 모델까지 제공하고 기업들은 응용 프로그램 인터페이스(API)만 받아 활용한다”라며 “엔비디아가 제공하는 소프트웨어 생태계의 해자가 약해지면서, AMD와 같은 다른 시장 플레이어에도 기회가 열리기 시작했다”라고 설명했다.</p> <p contents-hash="077e6c497dedd260c1fdbb4db5b469400ee675fe7b77071f78ee345182ce7b50" dmcf-pid="4tOQlKGhlJ" dmcf-ptype="general">엔비디아 GPU만 활용해 AI 인프라를 구성할 수 있는 상황에서 왜 다른 반도체를 함께 써야할까.</p> <p contents-hash="ea1a5988dee8c3b549e0f09646a5322be5808f0fd951529beb0713ae7309152b" dmcf-pid="8FIxS9Hlyd" dmcf-ptype="general">조 대표의 설명에 따르면 우선 다른 반도체는 엔비디아 GPU 대비 성능 대비 가격이 낮다. 여기에 추론 작업의 성격을 나눠 배분하면 추가 이득을 기대할 수 있다. 조 대표는 “엔비디아는 연산에 강하고 AMD는 고대역폭메모리(HBM)를 많이 넣어 메모리 대역폭이 좋다”라며 “메모리 대역폭이 필요한 작업은 AMD로, 계산이 많이 필요한 단계는 엔비디아로 보내면 같은 칩만 쓸 때보다 최대 60%까지 성능이 올라간다”라고 말했다.</p> <p contents-hash="0aa99cf5a1039a3153d37eeb86a8fd4629c64292b680126ef586c4f7b8e2fe23" dmcf-pid="63CMv2XSye" dmcf-ptype="general">실제로 AI 추론은 이용자가 넣은 문장을 해석하는 단계(프리필)와 답변을 만들어내는 단계(디코드)의 연산 특성이 다르다. 조 대표는 “하나의 반도체가 그 모든 작업을 다 잘할 수는 없다”라며 “엔비디아가 잘한다는 것도 평균적인 작업을 놓고 봤을 때 그렇다는 의미”라고 설명했다.</p> <p contents-hash="ba29ddb532e949d30f544db880046d28e0c7b481a94f77654bf17ad3e59c8c2e" dmcf-pid="P0hRTVZvSR" dmcf-ptype="general">물론 이처럼 서로 다른 반도체를 작업에 맞게 할당하고 최적화하려면 이를 구현하는 솔루션이 필요하다. 조 대표의 모레가 개발하는 토큰 팩토리 OS가 파고드는 지점이다.</p> <p contents-hash="9e9e56348fb2e8ae69765257aa562fc1c45dfdbeb21ac0e4b5363b7634e2ade7" dmcf-pid="QlgzA1mjhM" dmcf-ptype="general">이어 조 대표는 국가 차원의 AI 인프라에 대해서도 “국가 데이터센터가 특정 벤더에 락인(종속)되는 것은 좋은 방향이 아니다”라며 “나중에 어떤 벤더가 오든 한국에 유리한 조건을 제시할 수 있도록, 여러 칩 벤더와 언제든 협업할 수 있는 구조로 정책이 가야 한다”고 강조했다.</p> <p contents-hash="779b204b52bcd97634a528a0aae4f6a35783cc2253a96c41857c5200252bd5d8" dmcf-pid="xSaqctsAlx" dmcf-ptype="general">과학기술정보통신부 또한 AMD와 업무협약을 맺고, 국내 신경망처리장치(NPU) 기업을 육성하는 등 여러 반도체를 조합해 활용하는 개방형 AI 컴퓨팅에 투자하고 있다.</p> <p contents-hash="0585e946dfdd978064c21436258125144652c9fe548a771d37808d3d4e398521" dmcf-pid="y63Duo9UCQ" dmcf-ptype="general">한편 국내 신경망처리장치(NPU) 활성화에 대해 조 대표는 “민간에서 쓰게 하려면 ‘국산 NPU를 써라’가 아닌 ‘엔비디아가 아니어도 된다’는 메시지가 더 중요하다”라며 “그렇게 되면 다양한 반도체들이 공정하게 경쟁하게 되고, 그때 NPU가 진정한 가치를 증명하면 채택될 것”이라고 설명했다.</p> <p contents-hash="590ff55e0cc60e24363b49c9b11e168098f25df3783cc73e90b59ba9e09550ab" dmcf-pid="WP0w7g2uhP" dmcf-ptype="general">모레는 이미 해외에서 상용 사례를 만들고 있다. 올해 4월부터 일본의 토큰 팩토리 스타트업인 AI앤드(AI&)와 협력해 엔비디아와 AMD GPU를 묶은 통합 클러스터를 운영하고 있다. 조 대표는 “올해 안에 서너 곳의 토큰 팩토리를 우리 소프트웨어로 돌릴 수 있을 것”이라며 “주요 토큰 팩토리 고객사 다섯여곳을 확보한다면 흑자 전환도 기대할 수 있다”고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 GPU 갯수 대신 '전력'으로 판단…AIDC 법적 가이드라인 윤곽 09-09 다음 카카오모빌리티 서울자율차, 강남서 1.3만km 질주…레벨4 상용화 '성큼' 09-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
