“한국 AI 반도체 골든타임 3년…AMD와 설계 단계부터 같이 짜야” 작성일 08-30 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">매경·과기정통부 공동기획<br>‘AI 반도체 대전환’ 좌담회<br>NPU 글로벌 공급망 올라탈 골든타임<br>내년 이기종 실증이 최대 분수령<br>표준 굳어진 뒤엔 진입 이미 늦어<br>칩 아닌 시스템 통합이 진짜 승부처<br>PIM·뉴로모픽 차세대 투자도 병행을</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VKWcl9rNWr"> <figure class="figure_frm origin_fig" contents-hash="6daade0dce9ca18c1ce7bac7bf9ba92370c6fd58c24f423743cebcd3f50e3e36" dmcf-pid="f2GEvVsAvw" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난 18일 서울 중구 매경미디어센터에서 열린 ‘AI 반도체 대전환’ 좌담회에서 강지훈 퓨리오사AI 최고연구책임자(CRO), 김장우 망고부스트 대표, 오윤제 정보통신기획평가원 PIM인공지능반도체사업단장, 이도규 과학기술정보통신부 정보통신정책실장, 유회준 KAIST 교수, 조강원 모레 대표, 문경선 AMD코리아 상무(왼쪽부터)가 기념촬영을 하고 있다. 이충우 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/30/mk/20260830180302883ghvt.png" data-org-width="700" dmcf-mid="2pviDpaelm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/30/mk/20260830180302883ghvt.png" width="658"></p> <figcaption class="txt_caption default_figure"> 지난 18일 서울 중구 매경미디어센터에서 열린 ‘AI 반도체 대전환’ 좌담회에서 강지훈 퓨리오사AI 최고연구책임자(CRO), 김장우 망고부스트 대표, 오윤제 정보통신기획평가원 PIM인공지능반도체사업단장, 이도규 과학기술정보통신부 정보통신정책실장, 유회준 KAIST 교수, 조강원 모레 대표, 문경선 AMD코리아 상무(왼쪽부터)가 기념촬영을 하고 있다. 이충우 기자 </figcaption> </figure> <div contents-hash="0ec0569787d135de854b45f17068691449129c57334cf1114144a1d22e51adb6" dmcf-pid="4VHDTfOcWD" dmcf-ptype="general"> 인공지능(AI) 인프라의 판이 바뀌고 있다. 그래픽처리장치(GPU) 한 종류로 데이터센터를 채우던 시대가 저물고, 중앙처리장치(CPU)와 GPU, 신경망처리장치(NPU)를 함께 얹는 이기종(異機種) 구조로 무게 중심이 옮겨가는 중이다. AI 에이전트가 퍼지면서 기업 한 곳이 쓰는 토큰의 양이 이전과 비교할 수 없이 늘었다. 이제 승부처는 모델을 얼마나 잘 만드느냐가 아니라, 쏟아지는 추론 요청을 얼마나 싸고 적은 전력으로 처리하느냐다. </div> <p contents-hash="643cf5f5098e1921747b0b93bb435056c5647eb6bb777412cad92bc66c52ce1f" dmcf-pid="8fXwy4IkTE" dmcf-ptype="general">한국은 지난 7~8년 간 집중 지원을 통해 NPU부터 메모리, 데이터처리장치(DPU), 서버, 네트워크, 오케스트레이션 소프트웨어까지 ‘개방형 컴퓨팅 스택’을 국내 기업만으로 꾸릴 수 있는 나라가 됐다. 지난 7월 23일 과학기술정보통신부와 AMD가 미국 샌프란시스코에서 ‘개방형 AI 인프라 생태계 구축 양해각서(MOU)’를 체결한 것도 이런 배경에서다. 정부가 특정 글로벌 기업과 직접 협약을 맺은 것도, 첫 번째 협력 과제에 ‘국산 NPU(Korean Domestic NPUs)’라는 표현이 그대로 들어간 것도 흔치 않은 일이다.</p> <p contents-hash="550f401cacea2496bcb77b7c72697f479be77822f06fff21be15ccb0793fc1d5" dmcf-pid="64ZrW8CEWk" dmcf-ptype="general">배경훈 부총리 겸 과기정통부 장관은 최근 AI 기업 간담회에서 “AI 시장은 아직 만들어지지 않았고 우리가 그것을 개척해야 한다”고 말했다. 문제는 시간이다. 표준과 레퍼런스는 한 번 굳으면 성능이 더 좋아도 뒤집기 어렵다. AI 업계가 엔비디아의 개발 플랫폼 ‘쿠다(CUDA)’에서 이미 겪은 일이다.</p> <p contents-hash="24195dbd62a98b6abdac9474883617bc4b79277dbc2aeb579a1fd329727d18e5" dmcf-pid="P85mY6hDhc" dmcf-ptype="general">매일경제는 과기정통부와 함께 지난 18일 서울 중구 매경미디어센터에서 ‘AI 반도체 대전환’을 주제로 전문가 좌담회를 열고 국산 AI 반도체의 글로벌 진입 해법을 모색했다. 이도규 과기정통부 정보통신정책실장, 문경선 AMD코리아 상무, 김장우 망고부스트 대표, 조강원 모레 대표, 강지훈 퓨리오사AI 최고연구책임자(CRO), 오윤제 정보통신기획평가원(IITP) PIM인공지능반도체사업단장, 유회준 KAIST 교수가 참석했다. 이하는 일문일답.</p> <p contents-hash="a5193575c8fd0512e1b6cd9d3fe2fbc1e6150627810582349fefd197affcdbe6" dmcf-pid="Q61sGPlwTA" dmcf-ptype="general">— 한국과 AMD의 협력은 어떤 의미인가.</p> <p contents-hash="785cabe452b6bb6e5bf4e024c0eac5584242f33d852dd14a9c411d12ecc27af9" dmcf-pid="xPtOHQSrCj" dmcf-ptype="general">▶이도규 실장 = AMD의 CPU·GPU를 국산 NPU와 연계한다는 조항은 정부가 먼저 제안했고, MOU의 첫 번째 협력 과제로 담겼다. 글로벌 기업과의 협력은 통상 인재 양성이나 연구센터 설립처럼 부담이 적은 영역에서 출발한다. 우리가 요구한 것은 하나였다. 협력의 첫 항목이 인프라여야 하고, 국산 NPU가 AMD의 CPU·GPU 같은 시스템 안에서 실제로 동작하는 그림이 선언이 아니라 문안으로 남아야 한다는 것이었다. 여기서 말하는 연계는 같은 랙에 나란히 놓겠다는 뜻이 아니라 인터커넥트와 소프트웨어 스택 수준에서 맞물린다는 뜻이고, 그렇게 돼야 비로소 국산 NPU가 글로벌 아키텍처의 구성요소가 된다.</p> <p contents-hash="097835f24bcd3c83fe97680afe32991e42fb2e739551d63ec19e69e30d6d3120" dmcf-pid="yvo2dT6bhN" dmcf-ptype="general">지난 3월 리사 수 AMD 회장 방한 이후 체결까지 넉 달이 걸렸고, 열여섯 시간 시차 탓에 실무진은 한밤중과 새벽에 화상회의를 이어갔다. 다만 이번 MOU를 특정 기업을 배제하자는 의미로 읽지는 말아주셨으면 한다. 공급선이 다양해져야 협상력이 생긴다는 뜻이다. 그동안 국산 AI반도체는 ‘지원해야 할 대상’이었지 글로벌 아키텍처의 ‘구성요소’로 논의된 적이 없었다. 그 자리를 문서로 확보한 것이 가장 큰 성과다.</p> <p contents-hash="fd00af39acdb173ee6aad4f814974fd8114303cb4d702729897dd9bf4907c89c" dmcf-pid="WTgVJyPKTa" dmcf-ptype="general">▶문경선 상무 = AMD 입장에서도 흔치 않은 협력 형태다. 국산 NPU 연계 과제는 원래 서너 번째에 있던 것을 첫 번째로 끌어올리는 작업이 필요했다. AMD가 주목한 한국의 강점은 세계 최고 수준의 메모리 경쟁력, 제조·로봇·모빌리티·조선·방산 등 피지컬 AI를 적용할 산업 기반, 스타트업부터 대학까지 연결된 생태계 세 가지다. 대규모 선행 하드웨어 투자가 없는 상태에서 우수연구센터(CoE) 설립을 선투자로 결정한 것은 아시아 최초이자 매우 이례적인 사례다.</p> <p contents-hash="91107a42aeffed65985c33ecd20b66f16a2069f997da0c29d135162589f81891" dmcf-pid="YGA6oHRflg" dmcf-ptype="general">▶강지훈 CRO = 국내 AI반도체 산업을 키우는 길은 국산 기술만으로 닫힌 생태계를 만드는 것이 아니라, 우리 기술을 글로벌 CPU·GPU·소프트웨어 생태계와 연결해 고객이 선택할 수 있는 개방형 시스템을 만드는 것이다. AMD와는 이미 제품 수준에서 협력하고 있다. 현재 판매 중인 자사 NPU 8장 구성의 서버 제품에도 AMD CPU가 탑재돼 있고, 현재 양사의 기술 협력을 데이터센터 시스템 수준으로 넓히는 논의를 진행 중이다.</p> <p contents-hash="3525ec7b3a81c549b0623365ffed33acadf83743594c41db91c1032eebce7ca3" dmcf-pid="GHcPgXe4yo" dmcf-ptype="general">— 기회의 창은 얼마나 열려 있다고 보나.</p> <p contents-hash="92c5c4ede733e9bb22f755fa7ef8c22f591d973d89108f2897c2ecb4f4811e8c" dmcf-pid="HXkQaZd8WL" dmcf-ptype="general">▶유회준 교수 = 3년이다. 2029~2030년까지다. 근거는 세 가지 사이클이다. AI반도체는 설계 착수부터 양산까지 최소 2~3년이 걸려 오늘 착수한 칩이 나오는 시점이 2028~2029년이다. 창이 3년 뒤에 닫히는 것이 아니라, 3년 뒤에 도착할 배의 표를 지금 끊어야 한다는 뜻이다. 데이터센터의 가속기 교체·증설 주기도 3~4년이어서 지금 사이클을 놓치면 다음 기회는 2030년대다. 무엇보다 이기종 컴퓨팅 개방형 진영의 API와 커널 인터페이스가 바로 지금 정해지고 있다. 인터페이스는 한 번 굳으면 성능이 더 좋아도 바꾸지 못한다는 것을 쿠다가 증명했다. 3년 안에 레퍼런스를 만들지 못하면 그 다음 30년은 없다.</p> <p contents-hash="ac8fa0860aee22f7e133c787b33f6882dbeda7c3eda58bcd56d92d62b32e9c79" dmcf-pid="XZExN5J6ln" dmcf-ptype="general">▶오윤제 단장 = 정부가 7~8년간 선제적·지속적으로 투자한 사례는 흔치 않다. 차세대 지능형반도체가 7년 차, PIM(지능형 메모리) 사업이 5년 차, K클라우드가 2년 차다. 그 결과 NPU 기업들이 매출과 수출을 내고 있다. AMD는 엔비디아의 아성에 도전할 수 있는 사실상 유일한 상대가 돼가고 있어 서로의 니즈가 맞는 시기가 지금이다.</p> <p contents-hash="d6b5eec69a33fe4c4038a7938df378c18c38199ca88baba868dd4d15e40b9064" dmcf-pid="Z5DMj1iPhi" dmcf-ptype="general">— 그렇다면 무엇이 발목을 잡고 있나.</p> <p contents-hash="925ed8aa6c7cc4a889237aae5f7ee9a47c553618837d1549ac28f093638a6597" dmcf-pid="51wRAtnQyJ" dmcf-ptype="general">▶김장우 대표 = 현실은 그리 넉넉하지 않다. 우리는 계속 NPU나 소프트웨어처럼 특정 부품을 얘기하는데 엔비디아도, AMD도 요즘은 시스템 전체를 꾸리려 한다. 시스템이 통째로 묶이면 벤더 종속이 생기고 아무리 좋은 부품이 있어도 넣을 자리가 없어진다. 컴퓨터는 계산하고 저장하고 통신하는 물건인데 우리가 잘하는 것은 ‘저장’이다. 통신을 남이 쥐고 있으면 들어갈 수가 없다. AMD가 문을 열어줄 때 해야 한다. AMD가 힘을 더 얻어 엔비디아처럼 되면 그때는 안 열어준다. 진정한 소버린 AI는 소버린 AI ‘시스템’을 확보해야 가능하다.</p> <p contents-hash="622837dde13d1ad15ad3d10168d6f0376ba9cfaefcfff0c7a210e5fdf200e720" dmcf-pid="1trecFLxWd" dmcf-ptype="general">지금 실증은 대부분 NPU 중심으로 설계돼 있다. 부품을 실제로 꽂아 성능이 나오게 만드는 시스템 최적화 쪽에도 자리가 필요하다.</p> <p contents-hash="af80696968c4abb40d7fa3050c71e8d79a3b0ebcf2dbd3b9109b1a7f440f5e21" dmcf-pid="tFmdk3oMTe" dmcf-ptype="general">▶조강원 대표 = 다만 국내에 A도, B도, C도 있으니 몽땅 묶어 한 번에 커다란 것을 만들자는 접근은 잘 작동하지 않는다. 글로벌 1·2위 업체의 칩을 섞는 것조차 해보면 난관이 많다. 두 개를 통합하는 것만 해도 실제로는 대단히 어려운 일이다. 작은 통합이라도 여러 조합으로 시도하고 실패해봐야 인터페이스가 정의되고 요소 기술의 성숙도가 맞춰진다. 그렇게 쌓인 경험이 있어야 나중에 더 큰 통합도 가능해진다.</p> <p contents-hash="99a3f52fee7bbd37ee96cb64d0216d6a817c7925e74753e302f14ad95220329b" dmcf-pid="F3sJE0gRSR" dmcf-ptype="general">— 내년 실증은 어떤 형태여야 성공인가.</p> <p contents-hash="7faa55584844a8c20a98d2133007bd67b8771e0d8bc30069d32c0cf9a411add6" dmcf-pid="30OiDpaeCM" dmcf-ptype="general">▶김장우 대표 = 성패는 어떤 칩을 넣느냐가 아니라 ‘누가 아키텍처를 그리느냐’에 달려 있다. 이기종 인프라의 성능은 칩 단품이 아니라 네트워크·스토리지·소프트웨어까지 묶인 시스템 전체에서 결정되기 때문에, 이번 실증은 시스템 업체가 주도하는 형태여야 한다. NPU가 단독으로 얼마의 성능을 내는가보다 실제 데이터센터 아키텍처 안에서 어떤 성능과 비용을 내는가가 검증돼야 의미가 있다.</p> <p contents-hash="b99f2b3caea33846b3bc325e48929c8128a4e71cfa3127feabe51cf85767f77f" dmcf-pid="0LBYUo5TCx" dmcf-ptype="general">▶조강원 대표 = 기존 GPU와 국산 NPU를 1대1로 늘어놓고 비교하는 방식은 의미가 적다. GPU와 NPU가 어떻게 분업해 데이터센터 전체의 경제성을 얼마나 높였는지를 실증해야 글로벌 고객에게 소구할 수 있다.</p> <p contents-hash="488adb677a088659f81b53b7522e96cf8d1bdd18b1a6b0a14776a3c79e24cc1a" dmcf-pid="pobGug1yyQ" dmcf-ptype="general">▶유회준 교수 = 실증은 시연이 아니라 실제 사업이 돼야 한다. 벤치마크가 아니라 실서비스여야 하고, 실제 트래픽을 받고 장애와 복구까지 경험해야 레퍼런스가 된다. 국산 NPU도 GPU 옆에 얹어보는 수준이 아니라 주 연산기로 배치해야 한다. 전력당 성능과 총소유비용(TCO)은 제3자가 검증할 수 있는 숫자로 공개해야 한다.</p> <p contents-hash="1f576f2b0774de51aa198f8338255844f385bd9ce4bf234158172bf364420276" dmcf-pid="UgKH7atWlP" dmcf-ptype="general">▶강지훈 CRO = 실증이 시범 사업으로 끝나지 않고 실제 상용 서비스로 이어져야 한다. 이기종 인프라는 칩 두 종류를 한 장소에 꽂는 것만으로 완성되지 않는다. 공통 테스트베드와 소프트웨어 오케스트레이션, 운영도구, 무엇보다 초기 수요가 함께 필요하다. 반도체·서버·네트워크·클라우드·수요기관이 공동의 사업 목표를 두고 참여해야 생태계 전체의 실증이 된다.</p> <p contents-hash="579f69eda73b44787797d66efcee8e4190c07b5a4e6058b57cf84d7c67a93fba" dmcf-pid="ua9XzNFYS6" dmcf-ptype="general">▶오윤제 단장 = 단계적으로 가야 한다. 1단계는 AMD의 CPU·GPU와 국산 NPU 간 소프트웨어 연동 검증, 2단계는 실제 서비스 워크로드에 적용하는 파일럿, 3단계는 결과를 객관적 지표로 공개하고 소프트웨어 자산을 ROCm·UALink 등 개방형 생태계에 반영하는 것이다. IITP는 9월 중 출범할 IITP-AMD 운영위원회를 중심으로 과제를 구체화할 계획이다.</p> <p contents-hash="c2717dc0a82914e93db07b4d675acd935fbff04a24c707f270b429868ea19c8b" dmcf-pid="7N2Zqj3GT8" dmcf-ptype="general">▶이도규 실장 = 정부는 내년 신규 예산사업으로 대규모 실증을 준비하고 있다. 확산은 정부가 사줘서 일어나는 것이 아니라 민간이 사고 싶어져야 일어난다. 정부가 할 일은 그때까지 시간을 벌어주고 판단할 근거를 만들어주는 것이다.</p> <p contents-hash="29b0d00a336e0dc2af4f65ddd7a9126aa66b7223f345c31005433362f903fcff" dmcf-pid="zjV5BA0HW4" dmcf-ptype="general">— 3년 뒤 국산 AI 반도체는 어디에 있어야 하나.</p> <p contents-hash="7b31c696960947f7eaddc6560c80e45636c8b57c9fa3b6a65fe3c3a293eb431d" dmcf-pid="qAf1bcpXTf" dmcf-ptype="general">▶유회준 교수 = 엔비디아를 대체하겠다는 목표는 현실적이지도, 필요하지도 않다. 목표는 GPU와 함께 가는 옆자리다. 2029년에 “전력과 비용이 문제라면 한국 NPU를 먼저 검토한다”가 세계 어느 데이터센터에서나 당연한 선택지가 돼 있어야 한다. 동시에 칩 다음의 칩도 준비해야 한다. 다음 세대는 메모리가 주도적으로 계산하는 구조로, PIM이 먼저고, 그 다음이 뉴로모픽이다. PIM은 메모리 1·2위 기업을 동시에 보유한 한국이 구조적으로 유리한 사실상 유일한 트랙이다.</p> <p contents-hash="479817004bfac74c995e8614c5ccb3a8e016bf9ae76b90e5a61a01e9bc4c7e0d" dmcf-pid="Bc4tKkUZCV" dmcf-ptype="general">다만 가장 취약한 곳은 소자도 회로도 아닌 그 위층, 즉 아키텍처와 소프트웨어다. PIM 칩을 만들어도 그것을 불러 쓰는 표준 명령 체계와 컴파일러·런타임(실행 환경)이 없으면 아무도 쓰지 않는다. 2029년경 확정될 지능형 메모리 표준에 우리 아키텍처가 반영되지 못하면 메모리는 우리가 만들고 그 안에 들어갈 지능은 남이 설계하는 구조가 굳어진다. 세계 최고의 메모리를 만들면서도 AI 메모리 표준에서는 배제되는 역설이 가장 우려스럽다.</p> <p contents-hash="261f976e3d7bbd24a7920a6867bfc0d2752949210041f3de89dccecfaa4591f2" dmcf-pid="bk8F9Eu5l2" dmcf-ptype="general">▶강지훈 CRO = 세계 어디서든 대규모 추론 인프라를 구축할 때 자연스럽게 검토되는 솔루션이 되는 것이 목표다. 엔비디아 GPU와 동일한 조건에서 비교했을 때 자사 NPU 레니게이드(RNGD)는 사용자당 서비스 수준 목표를 만족시키며 전력당 약 1.8~2배 많은 동시 사용자를 처리했다. 다만 개발자 문제는 ‘국산이니까 써달라’로 풀리지 않는다. 개발자는 자기가 쓰는 프레임워크가 그대로 도는가, 경제성이 더 좋은가, 문서와 지원이 충분한가를 본다. 개방형 생태계 안에서 그것이 증명되면 개발자 이전은 선택의 결과로 일어난다.</p> <p contents-hash="debbba3f1b125ec47f13de07941a817d8943af3d2df25ca8090451cb8b2de6d0" dmcf-pid="KE632D71T9" dmcf-ptype="general">▶조강원 대표 = AI 데이터센터는 다양한 칩을 섞어 쓰는 이종 아키텍처로 갈 것이다. 한 가지 칩이 모든 작업에서 항상 최선일 수는 없기 때문이다. 국산 NPU도 엔비디아를 완전히 대체하겠다는 목표보다, 글로벌 업체들이 새 데이터센터를 지을 때 칩 목록에 자연스럽게 포함되는 방향을 지향해야 한다.</p> <p contents-hash="9dbd36dde6d771494f1d351a497228ba8c186d88e9bfaafde0307695ba3a193c" dmcf-pid="9DP0VwztSK" dmcf-ptype="general">▶김장우 대표 = 특정 기업을 성능으로 이긴다는 목표는 현실적이지 않다. 특정 워크로드에서, 시스템 전체로 묶었을 때 비용 대비 성능이 확실히 앞서는 선택지가 돼 있어야 한다. 그 길은 국내 시스템·소프트웨어 역량이 함께 성장할 때 열린다.</p> <p contents-hash="99d7a7231fc77976ef7ea8239c93b3c49b9ec3c61c915a4199027f5a87f1eb2e" dmcf-pid="2mMu8sb0vb" dmcf-ptype="general">▶문경선 상무 = AMD는 3년 뒤 한국의 NPU 기업들이 ‘국내 대체재’가 아니라 글로벌 AI 인프라의 핵심 플레이어로 자리매김하기를 기대한다. 정부와 산업계, 학계가 협력한다면 한국은 AI 소비국이 아니라 AI 플랫폼과 AI반도체를 수출하는 국가로 도약할 수 있다.</p> <p contents-hash="a9a52f4511a414e9f04026438e1efd92344ea7bea48b04a9a11a25f3e80df171" dmcf-pid="VsR76OKphB" dmcf-ptype="general">▶이도규 실장 = 이번 기회에 한국 AI 반도체가 글로벌 아키텍처의 핵심 구성요소로 도약해야 한다. MOU는 어디까지나 선언이다. 문서에 적힌 한 줄을 실제로 돌아가는 시스템으로 만드는 것, 그것이 남은 과제다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 한국 위협하는 중국 메모리 08-30 다음 8주년 맞은 에픽세븐…신촌에서 열린 '영속의 계승제' 08-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
