xPU 통합 제어부터 AI 개발·운영까지… 이노그리드 ‘TAFA’ 아키텍처 [AI 플랫폼③] 작성일 06-18 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">이기종 연산 자원, 하나의 풀처럼 관리 <br>인프라부터 서비스 운영까지 연결</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yrzFtmmjLf"> <p contents-hash="f52d363c5e49eef92235905bf2edf9eb83da8d91d3da3d0adb4289c85d2fa7c4" dmcf-pid="Wmq3FssARV" dmcf-ptype="general">생성형 인공지능(Generative AI) 확산으로 그래픽처리장치(GPU) 등 고성능 연산 자원 확보가 AI 도입의 기본 조건으로 자리 잡고 있다. 하지만 AI를 실제 서비스로 구현하려면 연산 자원 확보를 넘어 개발·배포 환경, 비용 관리, 운영 자동화, 이기종 자원 제어까지 함께 갖춰야 한다. AI 인프라 시장의 변화와 GPU 투자 이후 필요한 운영 플랫폼, AI 서비스화 과제, 통합 제어 기술의 방향을 3회에 걸쳐 살펴본다. [편집자 주]</p> <div contents-hash="72b76e6c05c91bb0f8a9f7df6e8aab7ea3a7ae63cc65e52fe52e9cb2224bf5e4" dmcf-pid="YsB03OOcn2" dmcf-ptype="general"> 인공지능(AI) 서비스 운영은 하나의 연산 자원만으로 해결되지 않는다. 일반 애플리케이션 실행과 데이터 처리에는 중앙처리장치(CPU)가 기본 연산 자원으로 쓰이고, 모델 학습에는 그래픽처리장치(GPU)가 핵심 역할을 한다. 특정 추론 업무에서는 신경망처리장치(NPU)를 활용해 전력 효율과 추론 비용을 낮출 수 있다. 장기적으로는 양자처리장치(QPU)가 최적화와 시뮬레이션, 특수 연산 영역에서 AI 인프라와 결합할 가능성도 거론된다. AI 서비스는 GPU, NPU, CPU, QPU 등 다양한 연산 자원(xPU)을 함께 다루는 방향으로 확장되고 있다. </div> <figure class="figure_frm origin_fig" contents-hash="0ecf0253deb11774d634c25801bbd06421ba7b1abd89eec28dd7898f9724f4a7" data-idxno="445442" data-type="photo" dmcf-pid="GObp0IIkR9" dmcf-ptype="figure"> <p class="link_figure"><img alt="GPU, NPU, CPU, QPU 등 다양한 연산 자원(xPU)을 함께 다뤄야 하는 AI 서비스는 운영과 관리가 주요해지고 있다. / 챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/18/552810-SDi8XcZ/20260618060039478cplg.png" data-org-width="1280" dmcf-mid="QdXvSooMR8" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/18/552810-SDi8XcZ/20260618060039478cplg.png" width="658"></p> <figcaption class="txt_caption default_figure"> GPU, NPU, CPU, QPU 등 다양한 연산 자원(xPU)을 함께 다뤄야 하는 AI 서비스는 운영과 관리가 주요해지고 있다. / 챗GPT 생성 이미지 </figcaption> </figure> <p contents-hash="985d517447a85f5d465f3162e62488c40804cd2acc4afa13ad1b7797807e0bd0" dmcf-pid="HIKUpCCEMK" dmcf-ptype="general">GPU 확보가 AI 도입의 출발점이었다면, xPU 기반 연산 자원과 클라우드·개발환경·운영체계를 한곳에서 제어하는 일이 다음 과제가 되고 있다. AI 서비스가 실제 업무로 확산될수록 여러 자원을 업무 성격에 맞게 배정하고, 사용량과 비용을 관리하는 운영 구조가 필요해진다.</p> <p contents-hash="0711abc3e7c4ae568577b634995aa61d5f65a1057731ff42cb05853fb469f02f" dmcf-pid="XC9uUhhDRb" dmcf-ptype="general">문제는 자원이 다양해질수록 운영 복잡성도 커진다는 점이다. 기업은 온프레미스와 퍼블릭 클라우드, 프라이빗 클라우드, 베어메탈 서버, 가상머신(VM), 컨테이너 환경을 함께 쓴다. 여기에 GPU와 NPU, CPU가 섞이면 자원 배분, 권한 관리, 사용량 추적, 장애 대응, 비용 관리가 복잡해진다. GPU를 확보해도 이를 어떤 업무에 우선 배정하고, 어느 시점에 회수하며, 비용을 어떻게 통제할지 정하지 못하면 AI 서비스 운영은 어려워진다.</p> <p contents-hash="d9758399566293891241ab80cc03bd83a468d1faecdfb033de6fa226e734c047" dmcf-pid="Zh27ullweB" dmcf-ptype="general">권경민 이노그리드 최고기술책임자(CTO)는 "AI 인프라는 단순히 GPU를 많이 확보하는 문제를 넘어섰다"며 "여러 연산 자원과 클라우드 환경, AI 개발·배포 체계를 하나의 플랫폼으로 연결하고 제어하는 구조가 필요하다"고 말했다.</p> <p contents-hash="254b7ad5a357d9fc81a79032422249c66bc162bb30afbd97c27ccb0d85c2b4e4" dmcf-pid="5Uadeuu5dq" dmcf-ptype="general"><strong>xPU 기반 AI 인프라, AI CMP·AI PaaS가 핵심</strong></p> <p contents-hash="f7e0d47964e37e72036877fb1883712b546e93e7f44b625e562cae95ef1d7e69" dmcf-pid="1uNJd771Jz" dmcf-ptype="general">xPU 기반 AI 인프라에서는 AI 클라우드 관리 플랫폼(AI CMP)과 서비스형 AI 플랫폼(AI PaaS)의 역할이 커진다. AI CMP는 여러 클라우드와 인프라 자원, GPU 사용량, 운영 상태, 비용을 관리한다. AI PaaS는 개발자가 AI 서비스를 만들고 학습·배포·운영할 수 있는 실행 환경을 제공한다.</p> <p contents-hash="d464b49e52333c9643d0211f03d62dd65d3acc7d73309fed54d327959cc33431" dmcf-pid="t7jiJzztd7" dmcf-ptype="general">두 계층은 역할이 다르지만 따로 움직이기 어렵다. AI CMP가 자원과 정책, 비용을 관리하고, AI PaaS가 개발·배포 환경을 제공해야 AI 서비스를 실제 운영 환경으로 옮길 수 있다. 여러 연산 자원을 배정·회수하고, 개발 환경과 운영 환경을 연결하는 구조가 필요한 이유다.</p> <p contents-hash="49228d9b8104fc4f2fffcf559659cedfc3faece7bbc6a4136ea3f1d742d4b7c6" dmcf-pid="FzAniqqFLu" dmcf-ptype="general">AI 플랫폼 경쟁력은 운영 자동화 영역으로도 확장된다. AI 운영 자동화(AIOps)는 로그와 성능 데이터를 분석해 장애 징후를 파악하고 운영 대응을 돕는다. 비용 최적화(FinOps)는 고가의 GPU 자원과 외부 모델 호출 비용을 추적해 낭비를 줄이는 데 초점을 맞춘다. ML옵스(MLOps)는 모델 학습, 배포, 성능 모니터링, 재학습 과정을 관리한다. LLM옵스(LLMOps)는 프롬프트, 검색증강생성(RAG), 답변 품질, 환각, 민감정보 노출, 모델 호출 비용을 다룬다.</p> <p contents-hash="a69e5514f33cf8384b3cc19c10055e5c085e6c6199a9c7e148c020570b10306e" dmcf-pid="3qcLnBB3RU" dmcf-ptype="general">결국 AI 플랫폼은 인프라 관리 도구나 개발 도구 하나로 해결되는 문제가 아니다. 연산 자원, 클라우드, 데이터, 모델, 애플리케이션, 배포, 보안, 비용을 함께 관리하는 통합 구조가 필요하다. AI 인프라의 과제가 GPU 확보에서 xPU 기반 통합 운영으로 넓어지는 이유다.</p> <p contents-hash="db982f5467c4f8d8c5882c8d4cca5150a62ac2bee4aee27b7abf0776e5ed984d" dmcf-pid="0BkoLbb0dp" dmcf-ptype="general"><strong>이노그리드, 'From xPU to AI Platform' 전략 제시</strong></p> <p contents-hash="bbe3b3c3cd080b6a5d823c573b881319935787d5ce23edad63e064b65568fb6a" dmcf-pid="pbEgoKKpM0" dmcf-ptype="general">국내 클라우드 솔루션 기업들도 이런 변화에 맞춰 AI 플랫폼 전략을 강화하고 있다. 이노그리드는 기술 슬로건으로 'From xPU to AI Platform'을 제시했다. GPU, NPU, CPU 등 이기종 연산 자원을 묶고, 이를 AI 서비스 개발·배포·운영 플랫폼으로 확장하겠다는 구상이다.</p> <p contents-hash="7ebd7511e01186d84271d86b6f2fe6f6b8a7360c77394ebccdfda17007d9de5f" dmcf-pid="UKDag99Ui3" dmcf-ptype="general">김명진 이노그리드 대표는 "클라우드 사업은 단순 영업이나 자본 투입만으로 성장하기 어렵고, 기술 기반 경쟁력을 갖춰야 한다"고 말했다. 이노그리드가 AI 플랫폼 전략을 클라우드 운영 기술과 제품 고도화의 연장선에서 설명하는 이유다.</p> <p contents-hash="99913cb7a5ff8039030f6403c65bf8765150f71d3099ca1076acd82f45793c2a" dmcf-pid="u9wNa22unF" dmcf-ptype="general">이노그리드 전략의 핵심은 xPU 인프라부터 AI 서비스까지 하나의 운영 체계로 연결하는 데 있다. 회사는 오픈스택 기반 인프라 서비스(IaaS), 쿠버네티스 기반 플랫폼 서비스(PaaS), 클라우드 관리 플랫폼(CMP), 데브옵스(DevOps) 솔루션까지 보유한 풀스택 클라우드 기술을 바탕으로 AI 플랫폼 기능을 강화하고 있다. 이노그리드는 이 전략을 구현하는 핵심 구성으로 ▲자원 추상화 ▲통합 실행 환경 ▲AI 컨트롤 플레인 ▲GPU 서비스화(GPUaaS)를 제시했다.</p> <p contents-hash="ad064294e3b9db7366e199c537df52f1b875bcf1c284d4203170003e2b678bdf" dmcf-pid="72rjNVV7it" dmcf-ptype="general">자원 추상화는 GPU, NPU, CPU 등 서로 다른 연산 자원을 개별 장비 단위가 아니라 하나의 자원 풀처럼 다루는 방식이다. 통합 실행 환경은 가상머신(VM), 컨테이너, AI 서비스 실행 환경을 쿠버네티스 기반 흐름으로 묶어 개발·배포·운영 단절을 줄이는 구조다. AI 컨트롤 플레인은 인프라와 AI 서비스 전반의 운영 상태, 비용, 정책, 자동화 기능을 한곳에서 제어하는 계층이다. GPUaaS는 GPU를 고정 자원으로 할당하는 대신 필요한 업무에 맞춰 서비스처럼 배정·회수하고, 스케줄링과 사용량 관리를 지원하는 방식이다.</p> <div contents-hash="2f6c06b8ae3ddd8ad6267e8b002f2a237dc81c0deae16a8c3d11bbd146f0a707" dmcf-pid="zVmAjffzM1" dmcf-ptype="general"> '신뢰 기반 AI 패브릭 아키텍처(TAFA·Trusted AI Fabric Architecture)'는 이 같은 구성을 하나의 구조로 묶은 이노그리드의 AI 플랫폼 아키텍처다. TAFA는 xPU 자원, 오픈스택 기반 인프라, GPU 서비스 계층, 데브옵스, AI PaaS, AI CMP를 하나의 구조로 연결한다. 분산된 AI 인프라와 개발·배포 환경을 따로 운영하지 않고, 자원 배정부터 모델 개발, 서비스 배포, 운영 상태와 비용 관리까지 하나의 플랫폼 체계에서 다루는 데 초점을 맞춘다. </div> <figure class="figure_frm origin_fig" contents-hash="00def167394bca5dc8aad75a26a0db6cdd13c52a1d9ad1d78ef5e43a6b9718d9" data-idxno="445441" data-type="photo" dmcf-pid="qfscA44qL5" dmcf-ptype="figure"> <p class="link_figure"><img alt="'신뢰 기반 AI 패브릭 아키텍처(TAFA·Trusted AI Fabric Architecture)' / 이노그리드" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/18/552810-SDi8XcZ/20260618060040883yynb.jpg" data-org-width="1280" dmcf-mid="x2ZTvggRe4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/18/552810-SDi8XcZ/20260618060040883yynb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> '신뢰 기반 AI 패브릭 아키텍처(TAFA·Trusted AI Fabric Architecture)' / 이노그리드 </figcaption> </figure> <p contents-hash="faabcc0761ef2b0b3da28098e23a108bafbce16f5a24d8fc707353a7482f5af1" dmcf-pid="B4Okc88BdZ" dmcf-ptype="general">권경민 CTO는 "기존 AI 환경에서는 개발, 학습, 배포가 분리돼 있고 GPU 자원 활용에도 한계가 있다"며 "이노그리드는 AI 개발부터 운영까지 전 과정을 엔드투엔드로 실행·관리하는 구조를 개발했다"고 말했다.</p> <p contents-hash="4f2dc40171fcd7fec57e183db557985903c86da5395e684b1b83201e770e5193" dmcf-pid="b8IEk66bMX" dmcf-ptype="general">이노그리드의 제품군도 이 전략에 맞춰 배치된다. '오픈스택잇(Openstackit)'은 오픈스택 기반 인프라 환경을 제공한다. 'SE클라우드잇(SECloudit)'은 쿠버네티스 기반 실행 환경과 GPU 서비스 계층을 담당한다. 'ML옵스잇(MLOpsit)'은 모델 학습과 배포, 성능 모니터링 등 모델 운영 과정을 관리한다. '데브옵스잇(DevOpsit)'은 AI 서비스 변경과 배포 과정을 자동화한다. CMP '탭클라우드잇(TabCloudit)'은 여러 클라우드와 인프라 자원, 운영 상태, 비용을 관리하는 AI CMP로 확장된다.</p> <p contents-hash="5fb08117d3619a396e1739cb9702d3fb606fde6c23f982b55c760bc15203451e" dmcf-pid="K6CDEPPKMH" dmcf-ptype="general">이노그리드의 제품 전략은 AI 인프라, 클라우드, 개발 환경, 운영 체계를 따로 두지 않고 하나의 플랫폼으로 묶는 데 초점을 맞춘다. 개발자는 필요한 실행 환경을 신청해 쓰고, 운영자는 자원 사용량과 배포 상태, 비용, 장애 상황을 추적할 수 있어야 한다. AI 서비스가 늘어날수록 이런 통합 관리 체계는 선택 사항이 아니라 운영 조건에 가까워진다.</p> <p contents-hash="0cc5d1cb3eec197b54f3df7d189780a9623dc4c120cc6dc046135237360b8747" dmcf-pid="99wNa22udG" dmcf-ptype="general">향후 국산 AI 클라우드 플랫폼 생태계 역시 이 방향으로 확장될 가능성이 크다. 정부와 공공기관, 기업이 GPU와 AI 인프라 투자를 늘리는 상황에서 단순 장비 공급만으로는 AI 활용 성과를 담보하기 어렵다. AI 서비스를 안정적으로 운영하려면 이기종 연산 자원과 클라우드, 데이터, 개발·배포 환경을 연결하는 플랫폼 역량이 필요하다.</p> <p contents-hash="914e6973a940cfcee4ff40f3c5c77ee9a0ea9a71c42c57263a9e57b281f5aea7" dmcf-pid="22rjNVV7JY" dmcf-ptype="general">권경민 CTO는 "AI 인프라의 과제는 GPU 확보를 넘어 xPU와 AI 플랫폼을 함께 다루는 방향으로 확장되고 있다"며 "국산 AI 클라우드 플랫폼도 인프라와 서비스 운영을 함께 지원하는 생태계로 발전해야 한다"고 말했다.</p> <p contents-hash="d227fec0d8f794f401ab4a8d527d2bf8694aad8696e965a049a4a9d9c4efbf19" dmcf-pid="VVmAjffznW" dmcf-ptype="general">정종길 기자<br>jk2@chosunbiz.com</p> </section> </div> <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p> 관련자료 이전 다가온 차기 전기차 배터리 수주, K-배터리 경쟁 돌입 [배터리레이다] 06-18 다음 크아도 접는 넥슨 쇠더룬드식 개혁...희미해지는 김정주의 꿈 06-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
