"파일럿 그만, 전사로 스케일하라"…델 테크놀로지스가 제시한 AI 확산 전략은? 작성일 08-25 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">직원 10%가 토큰 90% 소비…"AI 비용, 변동비로 관리해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WFiS3A0HS3"> <figure class="figure_frm origin_fig" contents-hash="879907c8b42ce6a83eee8fb35b78a278909576a800c2bf6b56d3c2733b371bc0" dmcf-pid="Y3nv0cpXvF" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825142502006uivz.jpg" data-org-width="640" dmcf-mid="xtIuPWQ9Tp" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825142502006uivz.jpg" width="658"></p> </figure> <p contents-hash="ee2d191e0f66b75870853f2e68e3099d190a96ba9b7bb7e8678ea9e391d0cb0e" dmcf-pid="G0LTpkUZSt" dmcf-ptype="general">[디지털데일리 박재현기자] <strong>"20년, 30년 넘게 이어온 업무 방식에 AI만 얹는 게 가장 나쁜 선택이다. 이 기회를 제대로 살리면 지금까지 상상하지 못한 일도 해낼 수 있다."</strong></p> <p contents-hash="fd4574f2874b5c2788bb65a6e9f8b6799619a50ed204b1525e0ba5615bd7ff0a" dmcf-pid="HpoyUEu5C1" dmcf-ptype="general">(Matt Dunfee) 델 테크놀로지스 본사 수석부사장이 25일 서울 코엑스에서 열린 '델 테크놀로지스 포럼 2026'에서 이 같이 말했다. AI 투자를 전사 차원 성과로 확산시키기 위해선 경제성과 인프라, 조직 운영 방식을 함께 재설계해야 한다는 설명이다.</p> <p contents-hash="036374e35620344edac9536519fc168dfa212c233d9e7d366f2fe53097d90bbd" dmcf-pid="XQhzxGMVS5" dmcf-ptype="general">김경진 한국 델 테크놀로지스 회장은 이날 환영사에서 "AI는 더 이상 선택이 아닌 일상이다. 최근 대학가에는 AI가 작성한 답안지를 걸러내는 일이 가장 큰 화두"라면서 "3년 전 같은 포럼에서 생성형 AI 시대의 개막을 알렸다면, 이제는 AI 투자 비용과 전력 소비를 낮추면서 업무 효율을 끌어올리는 방법이 중요해졌다"고 말하며 화두를 던졌다.</p> <p contents-hash="d421bfb89e418b7dde3742e5fdc8e99aa6d2f7bd7b4f2ad05dce667f6cdd91dd" dmcf-pid="ZxlqMHRfSZ" dmcf-ptype="general"><strong>◆파일럿에 머무는 AI, 원인은 두 가지</strong></p> <p contents-hash="3b877dfcabdfbd85da74e8cf2bcd01f862491de6de9a4890e1a13ca810f9f582" dmcf-pid="5MSBRXe4CX" dmcf-ptype="general">행사의 포문을 연 유상모 델 테크놀로지스코리아 사장은 국내 기업의 AI 준비 상황을 수치로 짚었다. 유 사장이 공유한 조사결과에 따르면, 응답자의 72%는 AI를 지원할 준비가 안 된 IT 인프라를 갖고 있다고 답했다. AI 도입을 제안받을 때부터 보안 포함을 요구한다는 응답도 73%에 달했다. 인프라도, 보안도 준비가 안 된 상태에서 AI 확산이 진행되고 있다는 것으로 풀이된다.</p> <p contents-hash="651b7b3f138b737a42d043a10a0691929be591240bd8dbc012e659a66cb6ea38" dmcf-pid="1RvbeZd8WH" dmcf-ptype="general">기업들이 AI 투자에서 반복적으로 겪는 난관은 두 가지로 요약됐다. 우선 조직의 핵심 경쟁력에 AI를 먼저 투입해야 하는데 실험과 파일럿 단계에 머무는 경우가 많다는 점이다. 투자 성과를 실제 매출로 연결할 운영 모델로의 전환이 뒤따르지 못한다는 점도 난관으로 지적됐다.</p> <figure class="figure_frm origin_fig" contents-hash="6813f843f602d8094774f82805ce17bd71fe6363ccc52d902112fcf98439b24e" dmcf-pid="teTKd5J6CG" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825142503297ptuk.jpg" data-org-width="640" dmcf-mid="y6PrGiHlh0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/25/552796-pzfp7fF/20260825142503297ptuk.jpg" width="658"></p> </figure> <p contents-hash="de955e130ad6ba6a4739eace12245503255da914a1adf5e2951abf060f85badd" dmcf-pid="Fdy9J1iPvY" dmcf-ptype="general">에이전트 확산은 이러한 문제를 심화시키는 요인으로 꼽혔다. 맷 던피 부사장은 에이전트를 생산성, 위생·관리, 조정, 전문가, 컨시어지 등 다섯 단계로 나눠 설명했다. 단순한 업무를 맡는 생산성 에이전트는 도입과 관리가 상대적으로 쉬운 반면, 완전 자율에 가까운 전문가·컨시어지 단계로 올라갈수록 기업이 관리해야 할 에이전트 수가 수백, 수천 개로 불어난다는 점이다. 결국 자동화 수준이 높아질수록 관리 부담도 함께 커지는 구조라는 설명이다.</p> <p contents-hash="752e20d031fc37054f30ba5bb1e3b0cbe4a470cfc3e5db8de269e9de72c1c19f" dmcf-pid="3JW2itnQSW" dmcf-ptype="general">에이전트가 늘어날수록 토큰 소비량도 함께 불어난다. 던피 부사장은 델 테크놀로지스 내부에서도 직원의 10%가 전체 토큰 사용량의 90%를 소비하고 있다고 밝혔다. 지금은 일부 직원의 집중 사용으로 감당하고 있지만, 같은 사용 패턴이 전체 직원으로 확대되면 지금의 AI 활용 방식은 비용 면에서 감당하기 어려워진다는 게 그의 진단이다.</p> <p contents-hash="885b0ecd7269b7a6b413c5e25c886a8e71a33edded91c42e184b7b3654958168" dmcf-pid="0iYVnFLxCy" dmcf-ptype="general">토큰 단가는 계속 내려가지만 사용량이 그보다 빠르게 늘고 있어, AI 비용을 고정비가 아닌 변동비로 관리해야 한다고 강조했다.</p> <p contents-hash="2d6d0990d5c7cfed3ddcdd49eea464574417d4207bb6ace2081718f13dbee22e" dmcf-pid="pqAXBsb0CT" dmcf-ptype="general">해법으로는 작업별 모델 선택 전략이 제시됐다. 같은 작업도 온프레미스 소형 모델로 처리하면 비용이 몇 달러에 그치지만 클라우드 대형 모델로 돌리면 같은 작업에 수백 달러가 든다. 맷 던피 부사장은 에이전트 유형별로 어떤 모델을 어디서 돌릴지 판단하는 프레임워크를 자체적으로 쓰고 있다고 소개했다.</p> <p contents-hash="7679f1298bf99bf95aa501425d1c2985b5efc2cfe3a711f72f81746388001242" dmcf-pid="UBcZbOKpyv" dmcf-ptype="general">데스크톱에서 먼저 실험해 토큰 소비량을 파악한 뒤 스케일 여부를 결정하라는 권고도 이어졌다.</p> <p contents-hash="d1352f21b4f3a4aa865f58a8c6c330031975e741d53f891178e1f11a8b8d222f" dmcf-pid="ubk5KI9UvS" dmcf-ptype="general"><strong>◆AI 팩토리부터 니모클로까지…델 테크놀로지스의 해법</strong></p> <p contents-hash="871cd8afe004ef5ca42fd869dd75fddd39516cd98ff119e042666135693c1d5c" dmcf-pid="7KE19C2uCl" dmcf-ptype="general">델 테크놀로지스는 이러한 해법을 구현하는 제품군도 함께 공유했다. 우선 AI 팩토리는 단일 제품이 아니라 에이전트를 구동하는 플랫폼으로 재정의됐다. 손바닥 크기 기기부터 액체냉각 하이퍼스케일 랙까지, 지난 5년간 연구개발 자원을 여기에 집중했다는 설명이다. 현재 5000곳이 넘는 기업 고객이 이 위에서 신약 개발부터 산업 자동화, 금융 서비스까지 다양한 워크로드를 운영 중이다.</p> <p contents-hash="946894ed9e0079e4d26fa2a654d15b8f46390a9ec6446069424ae0fffbb7a3c8" dmcf-pid="z9Dt2hV7vh" dmcf-ptype="general">이 플랫폼을 떠받치는 핵심 요소로는 데이터 플랫폼이 꼽혔다. 에이전트가 늘어날수록 여러 곳에 흩어진 데이터를 모으고 정리하는 작업이 병목이 되기 때문이다. 델 테크놀로지스는 데이터 인프라와 소프트웨어, 엔비디아 라이브러리를 결합해 이 준비 과정을 단축하는 것을 목표로 하고 있다.</p> <p contents-hash="80f92cfeb93018929c860c2f4c0c17c13a733b30913a44f6cf5f185c472030c2" dmcf-pid="q2wFVlfzhC" dmcf-ptype="general">맷 던피 부사장은 실제 실험은 개인 단위에서 먼저 시작하라고 권고했다. 이를 위해 경량 에이전트 도구 '니모클로'를 소개했다. 소형 모델은 로컬에서, 대형 모델은 클라우드에서 구동하는 하이브리드 방식으로, CPU에서도 돌아가 고가 인프라 없이 개인이나 부서 단위에서 먼저 써볼 수 있다는 설명이다. </p> <p contents-hash="ea3307edf218b35702ed2033c328a48d8cc701c72d3b5d321a678b697d92d7ad" dmcf-pid="BVr3fS4qSI" dmcf-ptype="general">한편 오전 기조연설에 이어 오후에는 AI, 모던 데이터센터, 모던 워크플레이스 등 3개 트랙에서 총 25개의 브레이크아웃 세션이 진행됐다.</p> <p contents-hash="3e18116c7aa474dd0d43a51836d2f93d1e7ebd01ddd63f14ba4c56fe5e31f9d8" dmcf-pid="bfm04v8BCO" dmcf-ptype="general">AI 트랙에서는 엔터프라이즈 환경에서 대규모 에이전틱 AI를 운영할 때 발생하는 토큰 비용과 리스크를 통제하고 성능을 극대화하는 전략이 소개됐다. 개념 검증(PoC) 단계에서 실제 프로덕션 환경으로 AI를 안전하게 확장하는 방법론과 델 AI 팩토리, 델 AI 데이터 플랫폼 기반의 올인원 AI 플랫폼 구축 방안도 다뤄졌다.</p> <p contents-hash="092422649375ca70f68f2e6580c191d23cdd5aefb62d123b5c31cbf41ca377f2" dmcf-pid="K4sp8T6bTs" dmcf-ptype="general">모던 데이터센터 트랙에서는 하이브리드 클라우드 환경에서 비즈니스 연속성과 신뢰성을 보장하는 인프라 구축 방안이 다뤄졌다. 사이버 공격이나 장애 발생 시 신속하게 복구하는 사이버 복원력 확보 전략도 함께 소개됐다.</p> <p contents-hash="82416bf4f4f08b6555540beeb82473a99a96dc5a7f9ec2fd567d0eb2fc7a30ba" dmcf-pid="9eTKd5J6Sm" dmcf-ptype="general">모던 워크플레이스 세션에서는 AI 기반 업무환경을 중심으로 PC·디바이스 관리, 생산성 향상, 보안 등 미래형 업무환경 구축 방안이 조명됐다. 델 데스크사이드 에이전틱 AI로 기업 환경에서 AI 에이전트를 구동하는 방법도 함께 선보였다.</p> <p contents-hash="9f1c6accf0c1784994216b088e8601c46bd1a2911bd3b9267b4f018278acd73d" dmcf-pid="2dy9J1iPCr" dmcf-ptype="general">이날 행사에는 AMD, 인텔, 마이크로소프트, 엔비디아 등 글로벌 파트너사와 다올TS, 코오롱베니트, 메가존클라우드, 삼성SDS, 에스씨지솔루션즈, SK하이닉스 등 국내 기업, 총판사 및 협력사 등 총 43개사가 스폰서로 참여했다. 전시 부스와 브레이크아웃 세션에서 자사 솔루션을 직접 소개했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 비둘기 속도로 보내는 ‘초저속 메신저’ 뜬다…Z세대 ‘슬로우 테크’ 열풍 왜 [팩플] 08-25 다음 배경훈 "AI 모델은 국가 안보"…독자 AI 글로벌 톱티어 도전 08-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.