'넥스트 AI칩' NPU 개발 전쟁…엔비디아 'GPU 천하' 무너질까

작성일 09-03

<div id="layerTranslateNotice" style="display:none;"></div> DEEP INSIGHT '엔비디아칩' 대항마 개발에 사활 건 빅테크·스타트업 설계 파트너 바꾼 구글 NPU 속도전 10만개 유닛 배치 8세대 TPU 공개 적은 전력으로 더 빨리 많이 연산 AI데이터센터 전력문제 해결 가능 메타, TSMC와 2세대 칩 내년 양산 AI칩 시장 87% 독점한 엔비디아 전용 SW 제공하는 '풀스택 전략' 연구자들 손쉽게 AI프로그램 개발 하드웨어는 AMD도 성능 좋지만 풀스택 경쟁력에서 격차 벌어져 韓, 토종 스타트업들도 경쟁 가세 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Uz0MfQloCh">
 글로벌 반도체업계에선 25년 만에 전쟁이 벌어지고 있다. 그래픽처리장치(GPU)라는 비밀 병기로 2000년 인텔의 중앙처리장치(CPU)에 도전한 엔비디아가 이번엔 인공지능(AI) 특화 칩 ‘인공신경망처리장치’(NPU) 진영의 강력한 도전에 직면했다. AI산업의 두뇌가 CPU→GPU→NPU 흐름으로 가고 있다는 것이 NPU 진영의 논리다. 하지만 반도체 전문가들은 엔비디아가 오랫동안 구축한 생태계가 단숨에 무너질 가능성은 거의 없다는 반론을 내놓는다.
 <figure class="figure_frm origin_fig" contents-hash="a0708aff4b9b744ad06aa01adf057a7249beb6595f97d32d84e86dc522814050" dmcf-pid="7BUe8MvayI" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/ked/20250903170552726qrni.jpg" data-org-width="1200" dmcf-mid="00MlrC9HCS" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/ked/20250903170552726qrni.jpg" width="658">
 </figure>
  NPU, ‘행렬연산’ AI에 특화
 <figure class="figure_frm origin_fig" contents-hash="8f01b45640dc24f4c980d1836ceb34d304f32a17c074b8e7c81e945aab19d849" dmcf-pid="qK7JPeyjvs" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/ked/20250903170553989lssr.jpg" data-org-width="284" dmcf-mid="pmEZTHMUTl" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/ked/20250903170553989lssr.jpg" width="658">
 </figure>
 구글은 글로벌 NPU 진영의 선봉장이다. 엔비디아의 GPU를 가장 많이 구매하는 고객이면서 동시에 반(反)엔비디아 깃발을 가장 높이 들고 있다. 최근 구글은 8세대 텐서프로세싱유닛(TPU) 개발을 위해 대만 미디어텍과 손잡았다. 7세대까지 협력 파트너였던 미국의 칩 설계 기업 브로드컴이 아니라 대만 업체를 선택했다는 것이 구글의 진정성을 뒷받침한다고 전문가들은 분석했다.
 구글은 올해 TPU 7세대인 아이언우드를 공개했다. GPU 안에서 AI 연산에 불필요한 부분을 걷어내고 10만 개 이상의 연산유닛(MAC)을 격자 구조(systolic array)로 배치한 것이 특징이다. 이미 구글은 자체 데이터센터 상당 부분에 TPU로 구성된 서버를 장착한 것으로 알려졌다. 반도체업계 전문가는 “전형적인 칩 모양과 너무 다르다는 평가를 들은 1세대 TPU와 달리 7세대부터는 공격적인 투자와 연구개발(R&amp;D)로 성능을 대폭 끌어올리고 있다”고 설명했다.
 메타 역시 지난해 MTIA라는 2세대 AI 칩을 공개했다. 내년 대만 파운드리(반도체 수탁생산) 회사 TSMC를 활용해 본격적으로 양산할 것이라는 전망이 있다. 메타는 여전히 브로드컴과 협력 중이다. 미국의 견제를 받고 있는 중국 빅테크 알리바바도 지난달 말 자체 AI 칩 개발을 완료하고 ‘탈(脫)GPU·탈엔비디아’ 노선을 분명히 하고 있다.
 AI 칩 스타트업의 활약도 눈부시다. 국내에선 리벨리온과 퓨리오사AI가 선두 주자다. 리벨리온은 올해 네 개의 NPU 칩을 한 개 기판 위에 올린 ‘리벨 쿼드’를 발표했다. 박성현 리벨리온 대표는 “엔비디아 블랙웰 칩과 맞먹는 빅 칩(Big Chip) 성능을 갖췄다”고 자신했다. 또 다른 토종 AI 칩 회사 퓨리오사AI는 2세대 칩인 레니게이드(RNGD)를 발표했다.
 독특한 구조로 주목받는 칩도 있다. 미국의 AI 칩 스타트업 그로크다. 통상 AI 칩에서 쓰는 고대역폭메모리(HBM), D램이 아니라 S램을 다수 장착한 언어처리장치(LPU)를 만든 것이 특징이다. 세레브래스라는 회사는 아예 300㎜(12인치) 웨이퍼에서 단 하나의 거대한 칩인 ‘웨이퍼스케일엔진’(WSE)이라는 이름의 칩을 선보이기도 했다.
 NPU와 GPU의 가장 큰 차이는 연산 방식이다. AI는 방대한 데이터를 학습해 수십억~수천억 개 내부 규칙(파라미터)을 만든다. 그다음은 확률 게임이다. 누군가 질문을 던지면 이렇게 최적화한 파라미터로 연산을 한 다음 가장 그럴듯한 결과값(토큰)을 도출해 답변을 제공한다.
 이 과정에서 AI 칩은 파라미터가 모인 ‘행렬’을 연산한다. 이때 GPU는 행렬을 조각 단위로 쪼개 병렬 연산한다. NPU는 이 거대한 행렬 전체를 한꺼번에 계산한다. GPU가 책을 읽을 때 한 줄씩 읽는다면 NPU는 한 쪽 전체를 한꺼번에 읽는 셈이다.
 NPU 회사들은 행렬 연산을 파라미터 묶음 단위로 연산할 수 있기 때문에 폭증하는 AI 데이터를 GPU보다 더 많이, 더 빨리, 더 적은 전력으로 연산할 수 있다고 강조한다. 최근 데이터센터업계에서 화두로 떠오른 전력 문제를 해결할 연산기가 될 수 있다는 주장과 연결된다.
  풀스택 SW로 맞서는 엔비디아
 강력한 도전에도 불구하고 엔비디아의 위상은 더욱 공고해지는 추세다. 시장조사업체 세미컨덕터인텔리전스에 따르면 지난해 세계 AI 반도체 시장에서 엔비디아는 87.3% 점유율로 압도적인 1위를 차지했다. 연간 실적 역시 불어나고 있다. 2025년 상반기 매출과 영업이익은 각각 908억500만달러(약 126조3700억원), 500억7800만달러(약 70조원)를 기록했다. 2023년 연간 실적을 간단히 뛰어넘었다.
 엔비디아의 무기는 강력한 하드웨어다. 칩 내부에 NPU와 비슷한 구조인 ‘텐서코어’가 내장돼 있다. 텐서코어 역시 AI 모델의 행렬 연산에 최적화할 수 있도록 연산 유닛이 격자로 배치된 것이 특징이다. 업계 관계자는 “엔비디아 GPU가 곧 NPU라고 봐도 무방하다”고 설명했다. 게다가 엔비디아가 구축한 소프트웨어 생태계는 철옹성이라고 불릴 정도로 강력하다. AI 전문가들은 “NPU 업체가 하드웨어 활용도를 엔비디아만큼 높일 수 있을지 의문”이라고 말하는 것도 이런 배경에서다. AI 칩은 혼자서 연산하지 않는다. HBM, CPU 등 다른 칩과 호환이 잘 돼야 AI 연산 중에도 ‘노는 연산 유닛’ 없이 100% 동작할 수 있다. 마치 오케스트라에서 여러 악기가 모여 웅장한 소리를 내는 ‘오케스트레이션’이 극대화되는 것과 같다.
 이를 위해 엔비디아는 ‘풀스택’ 소프트웨어 전략을 쓴다. 이미 대중에 잘 알려진 소프트웨어 쿠다(CUDA)는 소프트웨어의 일부다. AI 연구자가 짠 코드가 쿠다와 GPU로 연결되기까지의 가교(프레임워크 최적화), 여러 GPU가 각자의 정보를 빠르게 공유할 수 있는 ‘NCCL’ 같은 라이브러리는 물론, 이 소프트웨어가 쾌적하게 작동할 수 있도록 만든 규격인 인피니밴드·NV링크 등이 마치 한 몸처럼 움직인다. 업계 관계자는 “하드웨어만 놓고 보면 경쟁사 AMD의 GPU도 엔비디아 제품 성능을 뛰어넘을 수 있지만 풀스택 소프트웨어에서 승부가 갈린다”고 분석했다.
  토종 NPU 회사, 똘똘 뭉쳐야 산다
 아직까지 엔비디아의 힘을 꺾을 AI 반도체 업체는 나타나지 않았다. 그러나 토종 NPU 회사인 리벨리온, 퓨리오사AI 등에도 기회는 있다. 세계 각국 정부가 탈엔비디아 기조 아래 소버린 AI(국가 자립 인공지능) 정책을 추진하고 있어서다. 리벨리온은 이 흐름에 맞춰 지난달 사우디아라비아에 단독 법인을 설립했다. 사우디 아람코 및 중동 AI 기업과 파트너십을 확장하기 위한 포석이다.
 AI 데이터를 활용한 추론 시장이 갈수록 커지고 있다는 점도 기회다. 엔비디아가 완전히 장악하지 못한 전도유망한 추론 분야로는 에지 디바이스, 자율주행 등이 꼽힌다. 이 분야 외에도 챗GPT 출현 때처럼 업계에서 예상 못한 완전히 혁신적인 서비스가 등장할 가능성도 여전히 있다. 업계 관계자는 “새로운 AI 서비스에 최적화할 수 있도록 소프트웨어를 부단히 개발해야 한다”고 강조했다. 엔비디아의 인력과 노하우에 맞서기 위해 반드시 인력을 양성하고 생태계를 조성해야 한다는 지적도 나온다. 마치 중국의 AI 생태계가 똘똘 뭉쳐 엔비디아 칩 규제에 맞서는 것처럼 한국 역시 모든 AI 업체가 힘을 모아 대체재 개발을 성공시켜야 한다는 주장에 힘이 실리고 있다.
 강해령 기자 hr.kang@hankyung.com
 </section> 
 </div> 
 Copyright © 한국경제. 무단전재 및 재배포 금지.

이전

항공전자도 가상화 SW 시대…대한항공, 실시간·안정성·확장성 모두 잡아

09-03
다음

기안84, ‘나혼산’ 스핀오프 ‘극한84’ 출연…마라톤 도전

09-03

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

'넥스트 AI칩' NPU 개발 전쟁…엔비디아 'GPU 천하' 무너질까

멤버랭킹

관련자료

멤버랭킹