AI추론, 이젠 성능 아닌 원가 싸움 … 韓 NPU기업들에 새 기회 작성일 08-24 27 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AMD와 'AI 동맹' … 가성비 앞세워 틈새시장 노려<br>비싼 고성능 칩 의존땐 낭패<br>최적의 칩 조합 방식 급부상<br>한국, AMD와 AI인프라 협력<br>추론 특화 국산 NPU 연계한<br>CPU·GPU 등 조합 전략 모색<br>국내 AI기업 공급망 진출 기회</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HV0mIzcnSE"> <figure class="figure_frm origin_fig" contents-hash="002e51dc3531a0a438f3729ffcdc800eff78c4856d7c065282a3036f2166960b" dmcf-pid="XfpsCqkLyk" dmcf-ptype="figure"> <p class="link_figure"><img alt="배경훈 부총리 겸 과학기술정보통신부 장관(왼쪽)이 지난달 23일 미국에서 리사 수 AMD CEO와 만나 인공지능(AI) 반도체 업무협약을 맺었다. 사진은 리사 수 CEO가 AMD의 AI PC용 프로세서 '라이젠 AI 맥스'가 탑재된 기기 '헤일로'에 대해 설명하고 있는 모습. 과기정통부" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/mk/20260824175704608laei.jpg" data-org-width="1000" dmcf-mid="YqrPMC2uCw" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/mk/20260824175704608laei.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 배경훈 부총리 겸 과학기술정보통신부 장관(왼쪽)이 지난달 23일 미국에서 리사 수 AMD CEO와 만나 인공지능(AI) 반도체 업무협약을 맺었다. 사진은 리사 수 CEO가 AMD의 AI PC용 프로세서 '라이젠 AI 맥스'가 탑재된 기기 '헤일로'에 대해 설명하고 있는 모습. 과기정통부 </figcaption> </figure> <p contents-hash="f12e428f7e306be6d9fa0263f48c479aaf040288195a1979b8d2a65e7da23edb" dmcf-pid="Z4UOhBEovc" dmcf-ptype="general">지난달 23일(현지시간) 미국 샌프란시스코 모스콘센터. 과학기술정보통신부와 AMD가 서명한 인공지능(AI) 협력 양해각서(MOU)에는 넉 달간의 협의 끝에 들어간 핵심 문구가 있다. AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU)를 국산 신경망처리장치(NPU)와 연계해 AI 인프라스트럭처를 구축한다는 내용이다. 이 조항은 MOU의 첫 번째 협력 과제로 올랐다. 이튿날 이재명 대통령의 '샌프란시스코 AI 선언'으로 이어진, 샌프란시스코 AI 외교의 포문을 연 자리였다.</p> <p contents-hash="775c4640497d9406625226f348402a9b02161a4a51f6c4a4915f39a265b046df" dmcf-pid="58uIlbDgvA" dmcf-ptype="general">이 한 줄이 함의를 갖는 이유는 AI 인프라를 구매하고 구축하는 방식이 바뀌고 있어서다. 그동안은 엔비디아 GPU에 소프트웨어와 네트워크, 서버·랙까지 하나로 묶는 방식이 대세였다. 하지만 AI의 무게중심이 학습에서 추론으로 확장되며 기류가 달라졌다. 연산 성격에 맞춰 칩을 골라 쓰는 편이 비용 면에서 유리해서다. 이런 변화는 한국에 기회다. 글로벌 공급망 진입로가 마땅치 않았던 국산 NPU가 AI 인프라의 한 축을 차지할 공간이 열리기 때문이다.</p> <p contents-hash="033d5656d7c83d75cc4d6b90d9147f49042e545b783894b81dc77ca280037f65" dmcf-pid="167CSKwaSj" dmcf-ptype="general">◆추론이 바꾼 원가…단일 칩의 한계</p> <p contents-hash="29d64af0447b031c54a8e22dcdcb477cddf3fcce3a8b74813244a83316bb6596" dmcf-pid="tPzhv9rNlN" dmcf-ptype="general">시장조사기관 마케츠앤드마케츠에 따르면 글로벌 AI 추론 시장 규모는 지난해 1062억달러에서 2030년 2550억달러로 커진다. 비용의 무게중심도 모델을 한 번 학습시키는 데서 이용자가 쓸 때마다 반복 발생하는 추론으로 옮겨간다. '토큰당 비용'이 수익성을 가르는 지표가 된 이유다. 학습과 추론은 요구하는 연산량과 메모리, 지연 시간이 다르다. 추론에 맞지 않는 고성능 칩을 모든 작업에 투입하면 전력과 자원이 샌다. 업계 표현을 빌리면 소 잡는 칼로 닭을 잡는 격이다.</p> <p contents-hash="a3cad599a4d815cc3b6b41d4e9d5d85c72813ce3eaf31532d291d0a7f9b5f553" dmcf-pid="F7HjktnQva" dmcf-ptype="general">대응은 두 갈래다. 구글은 지난 4월 학습·추론에 각각 특화한 8세대 텐서처리장치(TPU)를 공개했고, 오픈AI는 추론 전용 칩 '할리페뇨'로 GPU 대비 비용을 절반으로 낮췄다. 과기정통부는 이를 '칩을 구매하던 데서 최적의 칩 사양을 스스로 정의·개발하는 구조적 전환'으로 분석한다. </p> <p contents-hash="24e1dd325a9d953eac1c47a06bb433202c6e2cbb0a830751de5f23e541967466" dmcf-pid="3zXAEFLxlg" dmcf-ptype="general">자체 칩을 만들 여력이 없는 곳에는 두 번째 길이 있다. CPU·GPU·NPU를 작업별로 조합하고 데이터처리장치(DPU)·컴퓨트익스프레스링크(CXL) 등 병목 해소 기술을 더하는 '이기종 아키텍처'다.</p> <p contents-hash="4c19b5db79d16bf2ff104a918955392ba839916bb7f5d102fc7ea8a95d39de68" dmcf-pid="0qZcD3oMyo" dmcf-ptype="general">편리함에는 대가가 따른다. 특정 공급자의 칩과 소프트웨어에 시스템이 묶이면 갈아타는 비용이 커지는 '벤더 록인'이다. 정부 안팎에서는 대안이 충분했다면 'GPU 몇만 장을 사겠다'가 아니라 '이 성능을 이 예산에 구현할 사업자를 고르겠다'는 협상이 가능했으리라는 지적이 나온다.</p> <p contents-hash="a98ff3452edf3deac232f177bc328aa66e79cd050b49c39836ba61c7b6d6a9e2" dmcf-pid="pB5kw0gRvL" dmcf-ptype="general">시장도 움직인다. 과기정통부는 엔비디아의 AI 가속기 점유율이 2024년 87%에서 올해 상반기 75~80%로 낮아진 것으로 추정한다. 다만 자체 칩을 설계할 여력이 있는 빅테크와 달리 대부분 기업엔 검증된 대안이 없다. AMD와 국산 NPU가 노리는 틈이 여기다.</p> <figure class="figure_frm origin_fig" contents-hash="9c4898b22277b370cac0964142601dde51a99ae742f0296f347f966f0c7a9d2a" dmcf-pid="Ub1ErpaeWn" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/mk/20260824175705905iqel.jpg" data-org-width="500" dmcf-mid="Go6ZtRyOCD" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/mk/20260824175705905iqel.jpg" width="658"></p> </figure> <p contents-hash="fd6879e2b02846e939995d7003005419c82989d97072e67a12ce49894336531b" dmcf-pid="uKtDmUNdWi" dmcf-ptype="general">◆개방이 만든 틈…韓 기업 실력 입증</p> <p contents-hash="6b6204af9dcd691f3eec898ed57e39a557a17a0fd688cd3345cbb8dd0e7f2bba" dmcf-pid="79FwsujJlJ" dmcf-ptype="general">후발 주자인 AMD가 택한 카드는 '개방'이다. 쿠다(CUDA)에 대응하는 오픈소스 소프트웨어 ROCm을 운영하고, GPU 간 연결도 개방형 표준 UA링크를 쓴다. 국내 기업이 비집고 들어갈 공간이 여기에 있다. 망고부스트는 자체 개발한 DPU를 얹은 AMD 서버로 엔비디아 B200 대비 3년 총소유비용(TCO)을 30%, 약 660만달러 낮췄다. 김장우 망고부스트 대표는 "폐쇄형 스택에서는 손댈 수 없는 DPU와 네트워크, 커널 계층까지 열려 있어 전 계층을 함께 최적화할 수 있었다"고 말했다. 모레는 소프트웨어만으로 성능을 뒤집었다. 자사 추론 소프트웨어를 적용하자 AMD MI355X의 토큰 생성량이 초당 207개에서 800개로 늘었다. 같은 조건의 엔비디아 B200은 309개였다. 조강원 모레 대표는 "칩 사양은 달성 가능한 상한을 규정할 뿐, 실제 얻어지는 성능은 소프트웨어가 결정한다"고 말했다.</p> <p contents-hash="7a98edbed8922332048033e702f710968b0b17485b3442d4a0c6b00767e49418" dmcf-pid="z23rO7AiTd" dmcf-ptype="general">협력의 동력은 양측 필요가 맞물렸다는 데 있다. AMD는 국내에 대규모 구축 레퍼런스가 없고, 국내 NPU 기업들은 글로벌 데이터센터에서 작동했다는 레퍼런스가 절실하다. 어느 한쪽만 아쉬운 관계가 아니라는 점이 협상의 조건을 만들었다. 논의는 지난 3월 리사 수 AMD 회장 겸 최고경영자(CEO)의 방한 이후 본격화됐다. 정부가 공들인 대목은 '국산 NPU 연계' 조항이었다. </p> <p contents-hash="7b3905a36caa8d97d811f6eb12140ca6c2113c8fa42664db23ad77eb4fadcedb" dmcf-pid="qV0mIzcnle" dmcf-ptype="general">통상 '파트너 기업' 같은 포괄적 표현으로 정리되지만, 협약문에는 '한국산 NPU(Korean Domestic NPUs)'가 그대로 담겼다. AMD가 국가과학AI연구소(NAIS)를 지원하고 국내에 연구거점(CoE)을 세우는 방안, 허깅페이스에 소버린 AI 플랫폼을 만드는 방안도 들어갔다.</p> <p contents-hash="cc87dd32b5deafc12c8de962ec91eb876befe281bb49a897b6011212ce37414e" dmcf-pid="BfpsCqkLTR" dmcf-ptype="general">◆엔비디아 대체 아닌 새판 편입</p> <p contents-hash="f260f19bd5b094d5e342904ae0d76787aa87a0d93eac858002a5d72f1db58d20" dmcf-pid="b4UOhBEolM" dmcf-ptype="general">정부는 이번 협력을 '탈(脫)엔비디아'로만 읽는 것을 경계한다. 엔비디아를 AMD로 바꾸자는 것이 아니라 판이 옮겨가는 만큼 생태계 초기에 국산 NPU를 넣자는 것이다. AMD의 올해 1분기 데이터센터 매출은 57억8000만달러였지만 엔비디아는 752억달러였다. '대체'를 말하기엔 이르다.</p> <p contents-hash="81eddc332bcc188116fd0ce98ad79e009a36a024f6b782bb3a82480013967537" dmcf-pid="KPzhv9rNlx" dmcf-ptype="general">지금이 기회인 것은 시장 변화와 국내 기술의 준비 시점이 겹쳤기 때문이다. 정부가 2020년부터 AI 반도체 연구개발(R&D)과 실증을 지원한 결과, 국내 NPU 기업들은 상용화·양산 단계에 들어섰다. 올해 AI 예산은 9조9000억원으로 지난해의 약 3배다. 과기정통부는 'K엔비디아 육성'을 내걸고 2030년까지 국산 NPU를 해외 GPU 대비 2배 이상의 전력 효율을 갖춘 서버로 키우고, 공공 사업에 우선 활용해 초기 구매자가 되겠다는 구상이다.</p> <p contents-hash="fb260999927b651b1beedea9563c27e9a424b2e9636641dd404838961ad01dbd" dmcf-pid="9QqlT2mjvQ" dmcf-ptype="general">관건은 속도다. 이기종 컴퓨팅의 표준과 레퍼런스가 굳어진 뒤엔 후발 주자가 들어갈 공간이 좁아진다. 정부가 내년 AMD와 국내 기업이 참여하는 실증을 검토하는 것도 이 때문이다. 지난 6년이 국산 NPU를 '만드는 시간'이었다면 이제는 세계 시장에서 '쓰이게 만드는 시간'이다. MOU에 새겨진 '국산 NPU'라는 한 줄이 실제 공급망의 한 자리가 될지는 앞으로의 실증과 상용화에서 판가름 난다. </p> <p contents-hash="e74337e58c8b99b3f027a4cf92940af4ed58e0f9e9059bf6f3b1a33cd1582a08" dmcf-pid="2xBSyVsAyP" dmcf-ptype="general">이기종(異機種) 아키텍처</p> <p contents-hash="3e252d34aefcc8c02ab7edbeb13cb37b3375c9d7b1762708fa615560ba5fe513" dmcf-pid="VMbvWfOch6" dmcf-ptype="general">하나의 칩으로 모든 AI 작업을 처리하는 대신 작업 성격에 맞는 여러 칩을 조합해 쓰는 방식.</p> <p contents-hash="1bb1cee6f26508e9867e205b1527ca81f5159d763da3fc8af35e2400fac9506b" dmcf-pid="fRKTY4Ikh8" dmcf-ptype="general">[김대기 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 LG전자도 AI·로봇 인재 찾아 미국 명문대로 08-24 다음 KT, 전사 IT 재편…업무시스템서 AI 에이전트까지 싹 바꾼다 08-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
