“GPU 대체하는 다층형 AI 인프라”…구글이 쏘아올린 AI 반도체 지각변동 작성일 04-24 23 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">GPU 대비 압도적인 학습·추론 비용 효율<br>TPU 이어 CPU 활용성도 높여<br>인텔 “AI 인프라 내 CPU 사용비율 급증”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KTYR2MHlgS"> <figure class="figure_frm origin_fig" contents-hash="292792ae118b518ed7fae18ce76685b55c4c055f41724595054b15306998cf92" dmcf-pid="9yGeVRXSkl" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 클라우드는 지난 22일(현지시각) 미국 라스베이거스에서 연례 기술 콘퍼런스 ‘구글 클라우드 넥스트 2026’을 열고 8세대 TPU를 공개했다. (왼쪽부터) AI 학습용 칩 'TPU 8t'와 추론용 칩 'TPU 8i' 모습. /구글 클라우드 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/24/chosunbiz/20260424132036130jesx.jpg" data-org-width="5000" dmcf-mid="BbvPB6yOjT" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/24/chosunbiz/20260424132036130jesx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 클라우드는 지난 22일(현지시각) 미국 라스베이거스에서 연례 기술 콘퍼런스 ‘구글 클라우드 넥스트 2026’을 열고 8세대 TPU를 공개했다. (왼쪽부터) AI 학습용 칩 'TPU 8t'와 추론용 칩 'TPU 8i' 모습. /구글 클라우드 제공 </figcaption> </figure> <p contents-hash="3cee61458f1764921560d474dd10d92f269b175c24794d9d423e509700d72acb" dmcf-pid="2WHdfeZvNh" dmcf-ptype="general">구글이 지난 22일(현지시각) 새롭게 개발한 8세대 텐서처리장치(TPU)를 공개하며 인공지능(AI) 반도체 시장의 균형이 흔들리고 있다. 그동안 AI 반도체 시장을 독점해온 엔비디아의 그래픽처리장치(GPU) 중심 구조에서 벗어나 특화 칩(ASIC)·CPU·클라우드까지 결합된 ‘다층형 아키텍처’로 패러다임이 이동하고 있다는 평가다.</p> <p contents-hash="d59f4c4a421a1a1b37a95cbe2a5bcce4dafdca6f026c39f1c01ba0ec38c01086" dmcf-pid="VYXJ4d5TAC" dmcf-ptype="general"><strong>◇GPU의 비효율성 제거한 新개념 AI 반도체</strong></p> <p contents-hash="83a81d1a0637af48b93b04bf5cb988f2e39d41cbff185fede89e3407acb9242b" dmcf-pid="flTQbPWIAI" dmcf-ptype="general">최근 구글은 8세대 TPU를 공개하면서 학습용과 추론용 칩을 분리해 지속적으로 자체 개발 AI 반도체 비중을 확장한다는 전략을 공식화했다. 특히 추론 전용 TPU는 대규모 AI 서비스에서 핵심인 지연시간(latency) 감소와 비용 효율성을 극대화하는 데 초점을 맞췄다.</p> <p contents-hash="0b4209c3c7300e7497106b7303e1d6d4d7da36402c1989f799fc4c3ef4063fbc" dmcf-pid="4SyxKQYCjO" dmcf-ptype="general">AI 인프라 구축이 과거 ‘모델 학습’ 중심에서 ‘실시간 추론’ 중심으로 이동하면서 범용 GPU만으로는 효율적인 대응이 어렵다는 인식이 확산되고 있다. 실제 TPU는 특정 워크로드에서 GPU 대비 최대 4배 수준의 가격 대비 성능을 제공하고, 전력 효율도 크게 앞서는 것으로 알려졌다.</p> <p contents-hash="a252888e67408348aae9740a4b78a06532e9fd48d74a0ccf86443ce0ba1a1421" dmcf-pid="8vWM9xGhks" dmcf-ptype="general">이러한 변화는 단순한 성능 경쟁을 넘어, AI 인프라 설계 철학 자체의 전환을 의미한다. 엔비디아 GPU는 그래픽 처리에서 출발해 AI까지 확장된 ‘범용 가속기’다. 반면 TPU는 처음부터 딥러닝 연산에 최적화된 ASIC이다. 이 차이는 점점 AI 데이터 시장의 투자 효율 관점에서 점점 더 중요한 요소로 부각되고 있다.</p> <p contents-hash="c39ce5fb624c227badf5a33e68648983e3198c76c0c089f557b9832702c20b0b" dmcf-pid="6TYR2MHlNm" dmcf-ptype="general">AI 모델은 규모가 커질수록 데이터 이동·전력 소비·비용 구조가 핵심 경쟁력이 되면서 특정 작업에 최적화된 칩이 유리하다. 실제로 TPU는 GPU 대비 최대 80%까지 비용 절감 효과가 있는 것으로 분석되며 일부 기업들은 GPU 클러스터를 TPU로 전환해 추론 비용을 크게 낮추고 있다.</p> <p contents-hash="ec3e56a3f6823fa2060e0881553359d82bfa8b459950faab65746dec3cc2b4c0" dmcf-pid="PyGeVRXSjr" dmcf-ptype="general"><strong>◇S램 증설로 ‘메모리 병목’ 돌파... 엔비디아와 닮은꼴 전략</strong></p> <p contents-hash="9cfc7ca9f53c5c21677c0dffa85f2b002ffbe2a870647548a6093d6fde3abcd5" dmcf-pid="QWHdfeZvNw" dmcf-ptype="general">8세대 TPU 설계의 백미는 데이터 병목 현상을 잡기 위해 칩 내부의 초고속 저장 공간인 S램(SRAM) 용량을 전작 대비 3배 키운 점에 있다. 연산기 바로 옆에서 데이터를 주고받는 ‘초고속 서랍’인 S램은 외부 메모리(HBM) 이동 시간을 극단적으로 줄여준다. 구글은 연산 능력보다 데이터 통로의 효율이 중요해진 AI 트렌드에 맞춰 비싼 단가에도 S램 대폭 증설이라는 정공법을 택했다.</p> <p contents-hash="7eb63a8ee4053c2135f34b4f59cbd43abe91e10b3f7f8276f6ab46e65140354d" dmcf-pid="xYXJ4d5TgD" dmcf-ptype="general">S램은 별도 부품이 아닌 설계 단계에서 내부에 배치되는 핵심 자산(IP)이다. 구글은 브로드컴과 밑그림을 그리고 TSMC 최신 공정으로 칩을 찍어낸다. 덩치가 큰 S램을 3배 늘린 것은 파운드리 미세 공정력을 한계까지 활용해 데이터 효율을 극대화했다는 의미다. 이는 엔비디아가 ‘블랙웰’에서 캐시 메모리를 늘린 전략과 궤를 같이하며, AI 반도체 승부처가 ‘메모리 최적화’로 넘어왔음을 시사한다.</p> <p contents-hash="549e265bf3585ce90d8fe7b1614870f125d5820ff6c592fd342a5dbd352eb70d" dmcf-pid="yRJXhHnQgE" dmcf-ptype="general">1152개 칩을 광회로 스위치(OCS)로 묶어 메모리 용량을 7배 확장한 설계도 주목할 대목이다. 시스템 레벨에서 거대모델의 병목을 해결한 것이 이번 TPU의 핵심 경쟁력이다. 이는 한국 메모리 업계에도 기회와 도전을 동시에 던진다. HBM 채용량은 늘어났으나 칩 내부 S램 비중이 높아지는 만큼, 삼성전자와 SK하이닉스도 칩 설계와 더 밀착된 ‘커스텀 HBM’ 등 고도화된 기술 대응이 필요할 전망이다.</p> <p contents-hash="839b91eda2b5031726f4468ab67930d664bcde4648dce6e74ec448f346e57cd1" dmcf-pid="WeiZlXLxok" dmcf-ptype="general"><strong>◇CPU 사용량 증가로 다시 기회 잡은 인텔 </strong></p> <figure class="figure_frm origin_fig" contents-hash="30b3d0685718060c27ba255f9c6ce5485e01c69e2638b6a541b561bc484894a0" dmcf-pid="Ydn5SZoMjc" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난해 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 '모바일 월드 콩그레스(MWC) 2025'를 찾은 관람객들이 인텔 부스를 방문해 AI 기술 등을 체험하고 있다. /뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/24/chosunbiz/20260424132037608fprr.jpg" data-org-width="2700" dmcf-mid="bmHdfeZvov" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/24/chosunbiz/20260424132037608fprr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지난해 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 '모바일 월드 콩그레스(MWC) 2025'를 찾은 관람객들이 인텔 부스를 방문해 AI 기술 등을 체험하고 있다. /뉴스1 </figcaption> </figure> <p contents-hash="f1771eb8c040b732879a0305b27bff1b709cb125efbf5a94d49508efa99e2d56" dmcf-pid="GJL1v5gRgA" dmcf-ptype="general">AI 인프라 내 CPU 수요도 더 커질 가능성이 높다. 구글은 이번 TPU 시스템에 자체 설계 CPU를 함께 탑재하며 CPU를 단순 보조 연산 장치가 아닌 ‘AI 오케스트라의 지휘자’로 재정의했다. 수많은 AI 에이전트가 동시에 작동하는 환경에서는 작업 스케줄링, 데이터 흐름 관리, 시스템 제어 등을 담당할 범용 프로세서가 필수적이기 때문이다.</p> <p contents-hash="cd01cc82d43f355870cd1ed6bc02eee8f637b2ee9e659eec88b6abfe1b0c2077" dmcf-pid="HiotT1aeAj" dmcf-ptype="general">인텔은 올해 1분기 실적 컨퍼런스 콜에서 AI 데이터센터에서 GPU와 CPU의 사용 비중이 과거 1:8 수준에서 최근에는 1:4 수준으로 변화하고 있다고 강조했다. 향후에는 1:1 또는 GPU보다 많이 탑재될 가능성을 거론하기도 했다. 립부 탄 인텔 CEO는 “AI 처리가 추론으로 이동하는 상황에서 작업 조율과 제어, 다양한 에이전트와 데이터 관리 측면에서CPU가 더 효율적”이라고 설명했다.</p> <p contents-hash="f96cbf83154a98521e92a2b9eaac594a0aa00ff6a9d90a8700b642ecb1c4aaab" dmcf-pid="XngFytNdkN" dmcf-ptype="general">한편 구글의 이 같은 전략이 탈(脫) 엔비디아 흐름을 가속화할 것으로 보인다. 현재 AI 가속기 시장에서 엔비디아는 여전히 80~90% 점유율을 차지하고 있다. 하지만 TPU 확산이 본격화하고 다른 빅테크 역시 자체 서비스에 최적화한 맞춤형 AI 반도체, CPU 활용을 극대화할 경우 엔비디아 매출의 최대 10%까지 잠식할 수 있다는 전망도 나온다.</p> <p contents-hash="c3a5e60531921493364877b88f4da2e00dc50ffe019aa3d5d2c98a17982eae8e" dmcf-pid="ZLa3WFjJoa" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 "잘 갔지?"…구성환, 무지개 다리 건넌 꽃분이에 마지막 인사 04-24 다음 '갤S26' 오래 쓸수록 안다…스냅드래곤 8 엘리트 5세대의 진가 04-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
