오케스트로 "AI 도입 최대 장벽은 GPU 비용"

작성일 07-17

<div id="layerTranslateNotice" style="display:none;"></div> 클라우드 환경에서의 AI 활용방안 설문 결과 발표…프라이빗 클라우드·AI 전환 강조 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="4tXO0Tqyaw">
 (지디넷코리아=한정호 기자)인공지능(AI) 수요가 빠르게 증가하는 가운데 기업들이 도입을 주저하는 가장 큰 이유로 그래픽처리장치(GPU) 등 인프라 구축 비용이 꼽혔다.
 17일 오케스트로는 이같은 내용을 담은 '클라우드 환경에서의 AI 활용방안' 설문 결과를 발표했다. 지난달 진행된 이번 설문에는 클라우드 서비스를 사용하는 기업·공공기관 종사자 6천615명이 참여했다.
 설문 결과에 따르면 AI 도입 시 가장 큰 제약 요인은 GPU 등 기술 도입 비용(23.5%)이었다. 이어 전문 인력 부족(22.6%), 데이터 보안 우려(14.4%)가 뒤를 이었다.
 <figure class="figure_frm origin_fig" contents-hash="e490588059134ecf59773611b7748731f6a7534112bd588eb235321cd924e62d" dmcf-pid="QlOgTEXDoc" dmcf-ptype="figure">
 <img alt="오케스트로 '클라우드 환경에서의 AI 활용방안' 설문 결과 (사진=오케스트로)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/17/ZDNetKorea/20250717160849569hzjy.jpg" data-org-width="450" dmcf-mid="f4Ww1hUljr" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/17/ZDNetKorea/20250717160849569hzjy.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 오케스트로 '클라우드 환경에서의 AI 활용방안' 설문 결과 (사진=오케스트로)
 </figcaption>
 </figure>
 AI 도입은 초기 구축비도 크지만 사용량 기반의 과금 구조로 인해 장기적인 총소유비용(TCO) 부담이 크다. 여기에 AI 학습과 운영에 활용되는 핵심 데이터가 외부 클라우드에 저장되면서 보안 우려도 높아지고 있다.
 비용과 보안이라는 이중 부담 속에서 퍼블릭 클라우드 기반 AI 환경의 한계가 분명해지면서 내부 데이터를 활용한 프라이빗 AI 환경이 대세로 자리잡고 있다는 게 오케스트로 측 설명이다.
 AI에 대한 기대 역시 현실적인 해법에 집중됐다. 비용 최적화와 실시간 보안 대응이 각각 20.7%로 가장 높았고 장애 원인 분석(17.1%)과 성능 병목 해소’(15.9%)가 뒤를 이었다. 이러한 기대는 기업이 실제 겪고 있는 클라우드 운영 과제와도 맞닿아 있는 것으로 나타났다.
 응답 기업들은 ▲비용 최적화(22.7%) ▲보안 관리(19.1%) ▲장애 대응(15.2%)을 주요 과제로 꼽았으며 가장 많은 시간을 투입하는 작업 역시 ▲비용 분석 및 최적화(22.7%) ▲모니터링 및 장애 대응(19.5%) 순으로 나타났다.
 운영상의 과제는 기업 규모에 따라 뚜렷한 차이를 보였다. 대기업은 보안 관리와 비용 분석에 중견기업은 인프라 구성과 모니터링에 중소기업은 비용 최적화에 집중하는 것으로 조사됐다. GPU 투자 여력에서도 격차가 컸다. 중견기업은 월 500만~2천만원대(33.3%)에 몰렸고 대기업은 월 1억원 이상(34.5%)에 집중됐다.
 클라우드 인프라 구조도 점점 더 복잡해지고 있는 것으로 확인됐다. 이번 설문에서 전체 응답 기업의 49.1%가 멀티 또는 하이브리드 클라우드를 사용 중이라고 답했다. 이들 중 60.2%는 3개 이상의 클라우드를 동시에 운영 중인 것으로 조사됐다.
 이처럼 점점 복잡해진 환경 속에서 오케스트로는 퍼블릭과 프라이빗은 물론 멀티‧하이브리드까지 아우르는 통합 관리 솔루션 '오케스트로 CMP'를 앞세워 사업 확장에 나서고 있다. GPU 인프라 비용과 AI 도입 장벽을 낮추기 위한 '클라우드 포 AI' 전략도 추진 중이다.
 기업들이 AI 도입에서 가장 큰 부담으로 느끼는 GPU 인프라 문제에 대해 오케스트로는 서버 가상화 솔루션 '콘트라베이스'를 해법으로 제시하고 있다. 고성능 연산이 요구되는 AI 환경에서는 GPU 자원을 효율적이고 안정적으로 활용하는 것이 핵심이다.
 아울러 생성형 AI 챗봇 '클라리넷'과 지식 검색 플랫폼 '오보에(G-AIDSP)'를 통해 인프라 운영 자동화부터 정보 탐색까지 아우르는 AI 환경을 제공하고 있다.
 김범재 오케스트로 대표는 "GPU 인프라 도입에 대한 부담과 데이터 보안에 대한 우려가 여전한 상황에서 운영 효율성과 자동화를 중심으로 한 실질적인 AI 도입 전략이 중요해지고 있다"며 "복잡한 클라우드 환경에서도 고객이 비용과 보안 걱정 없이 AI를 안정적으로 도입할 수 있도록 적극 지원하겠다"고 말했다.
 한정호 기자(jhh@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

오케스트로 "AI 도입 최대 장벽은 GPU 비용"

멤버랭킹

관련자료

멤버랭킹