[IT백과] GPU 공장 아냐…엔비디아의 'AI 팩토리'란 작성일 06-19 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZYkHGKKpvA"> <div contents-hash="04c8ce408baacffeec5fd818c2f45aae800837cce3676f32a45bdd965de74939" dmcf-pid="5GEXH99Ulj" dmcf-ptype="general"> <strong>정보기술(IT) 영역에 관한 모든 지식을 압축해 풀이합니다. IT산업에 꼭 필요한 용어들을 소개하고, 살펴보면 좋을 쟁점들도 정리합니다. IT가 처음인 입문자라면 혹은 동향을 알고 싶은 전문가라면, 디지털데일리 'IT백과'를 참고하세요. <편집자주></strong> </div> <figure class="figure_frm origin_fig" contents-hash="ac7366877efc5000615bf6bee7cddc242ba3f9ef256dd9c0db85aed31acac84f" dmcf-pid="1HDZX22uhN" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/19/552796-pzfp7fF/20260619104521291ikfs.png" data-org-width="640" dmcf-mid="XZAYWBB3lc" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/19/552796-pzfp7fF/20260619104521291ikfs.png" width="658"></p> </figure> <p contents-hash="97c5d38969fad7112133078de0a734de29feb74c0f588690153d3255b67e1742" dmcf-pid="tXw5ZVV7Ta" dmcf-ptype="general">[디지털데일리 정혜승기자] 엔비디아가 최근 SK그룹과 손잡고 인공지능(AI) 팩토리 구축에 나선다고 밝히면서 'AI 팩토리'라는 개념이 주목받고 있다.</p> <p contents-hash="f07a9517983af01914f8053e3b43fd1e0756433fcfff907138a4e1347852e1a6" dmcf-pid="FZr15ffzlg" dmcf-ptype="general">AI 팩토리는 단순한 데이터센터를 넘어 AI가 활용하는 핵심 자원인 '토큰(Token)'을 대규모로 생성·처리하는 차세대 AI 인프라를 의미한다.</p> <p contents-hash="3658b1184e91dbc3d59179175f506ff2d566054ef93a3d63621e1c23f0138025" dmcf-pid="35mt144qSo" dmcf-ptype="general">토큰은 AI가 텍스트·이미지·음성 등 데이터를 처리하기 위해 나누는 기본 단위다. 인간이 문장을 읽으며 단어 단위로 의미를 파악하듯 AI도 토큰 단위로 데이터를 이해하고 연산한다.</p> <p contents-hash="2d932f1e0a764bb2e3d9a73b02911e8669d2b514cb584891bd2df54f846f47b8" dmcf-pid="01sFt88BCL" dmcf-ptype="general">예를 들어 AI는 단어를 어근과 접미사, 문자 조각 등으로 나눠 처리한다. 영어 단어 '어둠(darkness)'과 '밝음(brightness)'은 공통 접미사 '-ness'를 포함하고 있어 의미적 연관성을 학습하는 데 활용될 수 있다. 이처럼 토큰은 언어를 숫자로 변환해 AI가 단어 간 관계와 맥락을 이해하도록 돕는 기본 단위다.</p> <p contents-hash="abd429a4333ff7d3412a3e1f6d783018e706fd6a9192b8d991dff1c64b49f716" dmcf-pid="ptO3F66bln" dmcf-ptype="general">최근 AI 산업에서는 토큰 생산 능력이 곧 경쟁력으로 평가받고 있다. 젠슨 황 엔비디아 CEO는 지난 3월 미국에서 열린 GTC 2026에서 "엔비디아의 토큰당 비용은 세계에서 가장 낮다"고 강조했다.</p> <p contents-hash="b7da0d276d0775864278bc0346c86a7b15cd38a1fca0e21fc1908ad59b8ab941" dmcf-pid="UvNyTzztWi" dmcf-ptype="general">같은 비용으로 더 많은 AI 연산 결과를 생산할 수 있다는 의미다. 이제는 GPU의 성능 자체보다 얼마나 많은 토큰을 얼마나 낮은 비용으로 생성할 수 있는지가 AI 인프라 경쟁력을 가르는 핵심 지표로 떠오르고 있다.</p> <p contents-hash="a055a22f7b785622a9429bb45a415dc480c6b3bc331d61e258a62d22ed37082c" dmcf-pid="uTjWyqqFTJ" dmcf-ptype="general">황 CEO는 그동안 "우리는 GPU를 만드는 것이 아니라 팩토리를 만들고 있다"고 수차례 강조해왔다. 데이터센터를 단순히 전기를 소비하는 시설이 아니라 토큰을 생산해 경제적 가치를 창출하는 생산시설로 바라봐야 한다는 의미다.</p> <p contents-hash="990d1e379edb072a0d5c607dfdf6c0e7488a82d16820eea515515265f34ae4d3" dmcf-pid="7yAYWBB3Cd" dmcf-ptype="general">기존 데이터센터는 서버와 저장장치, 네트워크 장비 등을 운영하는 범용 인프라였다. 반면 AI 팩토리는 AI 모델 학습과 추론에 최적화된 데이터센터다. 중앙처리장치(CPU)를 포함하면서도 그래픽처리장치(GPU)를 핵심 연산 자원으로 활용해 대규모 AI 연산을 수행한다.</p> <p contents-hash="eac7ebf943fd7ae62378e9a8b4e67f0258ccbc3657e37b21f119320de190ef79" dmcf-pid="zWcGYbb0Ce" dmcf-ptype="general">사실상 겉보기에는 서버를 꽂는 선반 모양의 랙(rack)을 쌓아놓은 형태로 큰 차이가 없으나, 전력과 데이터를 투입해 다양한 업무를 처리하는 것이 기존 데이터센터라면 AI 팩토리는 토큰, 즉 AI 서비스의 결과물을 구성하는 기본 단위를 대량 생성·처리하는 데 특화된 시설에 가깝다. 엔비디아가 이를 '팩토리(공장)'라고 부르는 이유다.</p> <p contents-hash="32a654215327314f8dfe001f3501305f25803c7524a3f116cb02f210a193b87c" dmcf-pid="qYkHGKKpWR" dmcf-ptype="general">토큰 생산은 사용자의 입력을 처리해 새로운 토큰을 생성하고 이를 바탕으로 답변, 이미지, 코드 등 결과물을 만들어내는 과정을 의미한다. AI 팩토리가 처리할 수 있는 토큰의 양과 속도가 곧 AI 서비스의 생산성과 수익성을 좌우하는 셈이다.</p> <p contents-hash="5b50688e9eb6246e80cf5be545c21fd8e5ad342fa4877566ad548ce239e6292b" dmcf-pid="BGEXH99UyM" dmcf-ptype="general">엔비디아는 현재 전 세계에서 AI 팩토리 구축을 추진하고 있다. 황 CEO는 지난 8일 서울 SK 서린빌딩에서 "전 세계적으로 더 많은 AI 팩토리를 원하는 수요가 있다"며 "한국에도 더 많은 데이터센터와 AI 팩토리가 필요하다"고 말했다.</p> <p contents-hash="773a49e7b541547023ef416b697ef91523da39895cae9d2617ed8a96fe9b1c8e" dmcf-pid="bHDZX22uWx" dmcf-ptype="general">SK그룹과 협력하는 엔비디아는 2027년 국내에서 첫 AI 팩토리를 가동한 뒤 향후 기가와트(GW)급 규모로 확장할 계획이다. AI 팩토리는 엔비디아의 AI 인프라 플랫폼 DSX를 기반으로 구축되며, SK텔레콤은 AI 학습·추론·데이터 처리에 특화된 클라우드 서비스를 담당할 예정이다.</p> <p contents-hash="11952fe1118f2f34a807abe70d3751817b3f845a8e3b4425cd65d163ff5693a2" dmcf-pid="KXw5ZVV7yQ" dmcf-ptype="general">SK는 이번 협력이 특정 계열사 차원이 아닌 그룹 차원의 전략이며, 엔비디아와 공동 연구개발(R&D)도 함께 추진한다고 밝혔다.</p> <p contents-hash="1493715aca826196a29043d7c9ab829f50ea4c95d418968cc537f2617832143c" dmcf-pid="9Zr15ffzTP" dmcf-ptype="general">최태원 SK그룹 회장은 "세계적 규모의 인프라를 구축할 것이며 한국에만 국한되지 않을 것"이라며 "더 많은 파트너가 AI 생태계에 참여할 수 있도록 전체 생태계를 안정화하는 방향으로 협력을 이어갈 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 AI 환각 줄이고 정확도 78% 높였다…KAIST, 차세대 DB 기술 개발 06-19 다음 티빙 '개인정보 유출'에도 이용자 증가…'체류시간'은 감소 06-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.