단순 AI 도입은 이제 그만 … 韓기업 'AI 거버넌스' 확립 고민해야 작성일 06-29 18 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">엄수창 데이터독코리아 지사장</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GNDMpl5TTd"> <figure class="figure_frm origin_fig" contents-hash="1fd5a8bde60a11e6947be054bf89cddc7ba4fb387f6d2ec80ab306ec16a73225" dmcf-pid="HjwRUS1ySe" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/mk/20260629163005938evgp.jpg" data-org-width="1000" dmcf-mid="Y7JByACEyJ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/mk/20260629163005938evgp.jpg" width="658"></p> </figure> <p contents-hash="b10e51e8ca1d2c164ec339e3394e3d2e9cea0aa9e4af3ddcd8e44e789cf91ae0" dmcf-pid="XAreuvtWCR" dmcf-ptype="general">인공지능(AI)을 도입하는 과정에서 기업들이 마주하는 과제들은 유사하다. 사내에서 활용하는 AI가 잘못된 답변을 내놓는 상황은 물론이고 그 상황이 AI 모델 때문인지, 프롬프트 때문인지 파악하기도 어렵다. 무분별한 AI 활용으로 토큰 사용량이 폭증하는 상황도 기업 입장에서는 문제다.</p> <p contents-hash="cc022e8ed2127a37cb632eac6485805f8b51c47d9d8ea0a7952206d1b5679a3e" dmcf-pid="ZLA6tOGhWM" dmcf-ptype="general">엄수창 데이터독코리아 지사장은 최근 매일경제와 인터뷰하면서 'AI 거버넌스'의 중요성을 강조했다.</p> <p contents-hash="9d34d5214365d1f8e92011a0193d154bef38f1e44266cd39cb5d759973633388" dmcf-pid="5ocPFIHlyx" dmcf-ptype="general">데이터독은 클라우드 환경에서 기업들이 자사의 정보기술(IT) 인프라스트럭처를 전반적으로 관찰하고 보호할 수 있는 솔루션을 제공하는 기업이다. 클라우드와 AI 시대의 '관제탑' 역할을 정체성으로 내세운다.</p> <p contents-hash="84c8504e5342efbf4194892099658c81c6da7b19304aeea4cdddbf8d270adc47" dmcf-pid="1gkQ3CXSvQ" dmcf-ptype="general">엄 지사장은 "AI 도입 후 어떤 결과가 나오는지 기업들이 추적하기 어려운 상황이다. 장애가 발생한다면 그것이 모델 단의 문제인지, 인프라 장애인지를 알 수가 없다"고 설명했다.</p> <p contents-hash="4df19356f2d2dc255a6955d17503f1d14cb03ca9d41f94935f7971d4c7466394" dmcf-pid="taEx0hZvCP" dmcf-ptype="general">이 같은 흐름은 AI 도입으로 인해 한층 복잡해진 인프라 환경 때문이다. 데이터독이 올해 펴낸 AI 엔지니어링 현황 보고서를 보면 AI를 쓰는 기업은 10곳 중 7곳이 3개 이상의 거대언어모델(LLM)을 병행해 활용하고 있으며, 에이전트가 늘면서 AI 사용량 또한 기하급수적으로 증가하고 있다. 이로 인해 기업들은 비용 통제 불가, 장애 원인 파악의 어려움, 보안 위험 증가 등의 상황을 맞닥뜨리게 된다.</p> <p contents-hash="d57df2c0062142ffda552f72b4e6d5c1d128437d55170ca21636a6b8086735eb" dmcf-pid="FNDMpl5Tl6" dmcf-ptype="general">엄 지사장은 "기업들은 업무마다 요구되는 AI가 다르고, 한 모델에 의존할 수 없다 보니 다양한 모델을 선별해 사용하고 있다"면서 "동시에 병행 복잡성은 굉장히 높아지는 구조"라고 말했다.</p> <p contents-hash="a6815c1afbde3f989acc9773462eac79c306c6c5d3a560f3871bac881a1dc446" dmcf-pid="3jwRUS1yv8" dmcf-ptype="general">이를 위해 AI 거버넌스를 먼저 확립하는 것이 안정적인 AI 사용을 위해 필수적이라는 설명이다. 엄 지사장은 "한국 기업들은 AI 도입에만 집중하고 성과를 어떻게 낼지는 고민을 못하는 단계였다"며 "도입 과정에서 AI를 운영 과정에 녹이는 'AI옵스(AIOps)' 등을 신경 써야 한다"고 조언했다.</p> <p contents-hash="dd3e1df8ae42219ca88da4f1080ad32dffb162b1c41230b4de47d9cfd8c9552f" dmcf-pid="0AreuvtWS4" dmcf-ptype="general">데이터독 또한 이 같은 기업들의 니즈를 반영해 자사 솔루션을 고도화하고 있다. 에이전틱 AI가 보편화되는 시대에 발맞춰 AI 모델의 성능과 비용, 보안을 실시간 추적하고 에이전틱 환경 운영을 지원하는 솔루션을 제공하는 것이 대표적이다.</p> <p contents-hash="14668bd507fd3d8ddbaeff26225cf1bc9128cc715d9ce616be404a758cfb5b82" dmcf-pid="pcmd7TFYlf" dmcf-ptype="general">올해 1분기에는 분기 매출이 전년 대비 32% 성장하며 분기 최초로 10억달러를 돌파하기도 했다. AI 도입에 따른 인프라 모니터링에 대한 수요가 그만큼 빠르게 커지고 있음을 보여주는 대목이다.</p> <p contents-hash="9f8cfa8e90e6e264490c554ca1847d0d52cfe9cb5d52ad14b3f74dadfba675fe" dmcf-pid="UksJzy3GvV" dmcf-ptype="general">엄 지사장은 "모니터링 등 분야별로는 경쟁사가 있지만, 데이터독은 통합 플랫폼을 제공한다는 것이 강점"이라며 "데이터독의 솔루션에 AI를 도입해 제품 품질을 고도화하면서 고객의 AI 운영을 위한 솔루션을 제공하는 것이 우리의 전략 방향"이라고 강조했다.</p> <p contents-hash="a40d35131d98355aebe2e2dcb202f029abafbe1b97c4822e31ffaeae4fa960dd" dmcf-pid="uEOiqW0Hh2" dmcf-ptype="general">데이터독이 인프라 관리에 특화된 AI 모델인 '토토'를 자체 개발하는 것도 이러한 맥락이다. 토토는 데이터독 솔루션에 적용돼 시계열 데이터를 기반으로 이상 상황을 예측하는 역할을 한다. 엄 지사장은 "기존 LLM은 텍스트를 이해하고 추론해 생성한다면, 토토는 예측 모델"이라고 설명했다.</p> <p contents-hash="9a0a680aa54d8ff68c0c6bc5f0e2a3c18e83d2b05acd5433f38ec31e5e450b1b" dmcf-pid="7wCLbGUZS9" dmcf-ptype="general">한편 데이터독은 한국에서의 사업도 빠르게 확장하고 있다. 아모레퍼시픽, GS리테일, 크래프톤, 신세계인터내셔날 등이 주요 고객사다. 크래프톤의 경우 게임 개발과 운영 과정에서의 거버넌스 강화를 위해 데이터독 솔루션을 활용하고 있다.</p> <p contents-hash="696cfbad46a4d86a9b2ec4df302529f3255420a25734a51eb176df5858260f8a" dmcf-pid="zrhoKHu5yK" dmcf-ptype="general">엄 지사장은 "구체적인 데이터 공개는 어렵지만 고객 수와 매출 측면에서 본사의 성장률보다 한국 성장률이 더 높다"고 밝혔다. </p> <p contents-hash="fcad944d4b0daab7715d0b03e596273ca134ed89589e064864777d596c869c69" dmcf-pid="qmlg9X71Wb" dmcf-ptype="general">[정호준 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 [부고] 김순희 한국여자프로골프협회 수석부회장 부친상 06-29 다음 美 프론티어 AI '사실상 인허가'…“자체 모델 확보 주력해야” 06-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.