에이전틱 AI 시대, 고성능 AI의 새 자리 ‘데스크사이드’ [테크리포트] 작성일 08-24 40 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">델, 클라우드와 온디바이스 사이 성능·비용 간극 공략 <br>워크스테이션 기반 AI 에이전트 구축·확장 지원</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KM0raI9URP"> <p contents-hash="0625e030de3151de3c92662f80a826ceadd5a50fdfb919209c827b942783977a" dmcf-pid="9RpmNC2uJ6" dmcf-ptype="general">인공지능(AI)이 답변하는 시대에서 직접 일을 하는 시대로 넘어가고 있다. '에이전틱 AI'가 사용자의 지시를 받아 계획을 세우고 여러 작업을 연속 수행하면서 AI 활용 범위는 크게 넓어졌지만, 그만큼 토큰과 연산량도 폭증하고 있다. 문제는 결국 비용이다.</p> <div contents-hash="940a4cfd0c16fe20f685d5fa26f5780d1d664904162a4761750675752425c8cc" dmcf-pid="2eUsjhV7R8" dmcf-ptype="general"> 이에 클라우드와 온프레미스, 온디바이스 AI를 작업 특성에 맞게 조합하는 '하이브리드 AI'가 대안으로 떠오른다. 델 테크놀로지스(이하 델)는 여기서 한발 더 나아가 데이터센터와 온디바이스 사이의 성능·비용 간극을 메우는 '데스크사이드' 영역을 제시했다. '델 데스크사이드 에이전틱 AI(Dell Deskside Agentic AI)'를 통해 에이전틱 AI 시대의 비용과 성능, 데이터 통제 문제를 동시에 풀겠다는 전략이다. </div> <figure class="figure_frm origin_fig" contents-hash="eb54887c1b8bf55257b790fab37ee595e01f52eeaaf8efc5ffa5b58e9fb19a46" data-idxno="450731" data-type="photo" dmcf-pid="VduOAlfzM4" dmcf-ptype="figure"> <p class="link_figure"><img alt="'델 프로 맥스 위드 GB300'을 사용한 '데스크사이드 에이전틱 AI' 환경 / 델" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072004035wxjm.jpg" data-org-width="600" dmcf-mid="qdaWOXe4LM" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072004035wxjm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> '델 프로 맥스 위드 GB300'을 사용한 '데스크사이드 에이전틱 AI' 환경 / 델 </figcaption> </figure> <p contents-hash="198d2570256cebcc202133028ac8d11ee16bbb53803ab534c15662ffb849f992" dmcf-pid="fJ7IcS4qRf" dmcf-ptype="general"><strong>에이전틱 AI 시대, AI 환경 다변화 고려해야</strong></p> <p contents-hash="d80f4be78cfbd1f62eb194c33f53cdf952942c2d2d2661be45b9f21bcc33edf7" dmcf-pid="4izCkv8BLV" dmcf-ptype="general">기존 생성형 AI에서 에이전틱 AI로의 변화는 AI의 역할이 사람의 질문에 답하는 '보조'에서 직접 작업을 수행하는 '실행'으로 확장하고 있다. AI가 하나의 작업을 온전히 수행하려면 지시를 분석해 목표와 계획을 세우고 필요한 도구를 호출하며 여러 단계를 자율적으로 거쳐야 한다. 에이전틱 AI는 AI 모델과 도구가 각 단계의 결과를 다음 단계의 입력으로 넘기며 연속적으로 작업을 수행하는 형태로 만들어진다. </p> <p contents-hash="1084d03420a0d8759e084e6a6fc5fb0b6c004ebf2153391a79e050163e879e13" dmcf-pid="8nqhET6bJ2" dmcf-ptype="general">이에 '작업'을 기준 단위로 보면 에이전틱 AI는 기존 대화형, 생성형 AI보다 수 배에서 수십 배까 많은 연산 자원을 요구할 수 있다. 기존 생성형 AI에서는 개별 작업에 해당하던 수십 번의 추론이 연속적으로 이어져 하나의 최종 결과를 도출하기 때문이다. 여기에 정확도를 높이기 위한 각 작업별 심층 추론이나 반복 검증까지 더해지면 토큰 사용량은 더 크게 늘어난다.</p> <p contents-hash="f3fafb1e39590750d6198f9b4e1daa345923065f4a47b68d81335cb386630cb2" dmcf-pid="6LBlDyPKi9" dmcf-ptype="general">에이전틱 AI가 본격화되면서 토큰 사용량 폭증에 따른 비용 부담도 현실화되고 있다. 글로벌 시장에서는 코드 생성에 에이전틱 AI를 활용하던 기업이 1년치 IT 예산을 몇 달만에 AI 서비스 비용으로 소진했다는 사례도 나오고 있다. AI 서비스의 토큰당 비용은 지속적으로 낮아지고 있지만, 에이전트가 여러 단계의 추론과 검증을 반복하면서 실제 작업 한 건에 필요한 토큰은 오히려 늘어날 수 있다. 여기에 AI가 작업을 제대로 수행하지 못했을 때 발생하는 '실패 비용'까지 고려하면 클라우드 기반 AI의 경제성을 단순히 토큰 단가만으로 판단하기 어렵다. </p> <p contents-hash="60d5d91e0e1c444cf1ddd51d469c6c6b5f64022fb652aa6c3b194c825b6dee0b" dmcf-pid="PobSwWQ9MK" dmcf-ptype="general">에이전틱 AI의 '경제성'은 클라우드와 온프레미스 중 어느 한 쪽만 선택해서는 확보하기 어렵다. 클라우드에서 서비스형 거대 모델을 이용하면 초대형 최신 모델을 위한 인프라 구축과 운영, 모델 개발과 유지보수 부담 없이 사용한 만큼 비용을 지불하면 된다. 토큰당 가격도 지속적으로 낮아지고 있다. 반면 에이전트의 실행 경로와 작업량을 사전에 정확히 예측할 수 없어 통제에는 한계가 있다. 여기에 기업의 데이터가 회사 밖의 '데이터센터'로 나가기 어려운 경우에는 클라우드 기반 AI 서비스 자체를 이용하기 힘들 수도 있다.</p> <p contents-hash="9debf517189e224fa8a22ed2edf23cfe4d1fcbb48bec8ec24260ab8562748a0b" dmcf-pid="QgKvrYx2Rb" dmcf-ptype="general">온프레미스만 사용하는 것도 정답은 아니다. 온프레미스 구축은 모델과 데이터, 비용에 대한 통제권을 확보할 수 있다는 점이 장점이다. 하지만 데이터센터급 AI 인프라를 직접 구축하려면 상당한 시간과 비용이 들고, 유지보수 부담도 크다. 프론티어급 AI 모델을 구동하기 위한 인프라는 초기 투자 비용이 막대하고, 상대적으로 작은 인프라에서 사용할 수 있는 소규모 모델은 성능 측면에서 사용자의 기대에 미치지 못할 수 있다.</p> <div contents-hash="aedc04d986d9cee031e55c6958287bc14eb4589790049a5a5f3cadaf68b0d335" dmcf-pid="xa9TmGMVnB" dmcf-ptype="general"> 현실적인 대안은 두 접근법을 함께 활용하는 것이다. 특정 환경 하나에 의존하기보다 온디바이스와 온프레미스, 클라우드에 위치한 다양한 모델을 필요에 따라 활용하는 '하이브리드' 형 접근법이다. 사용자가 작업을 지시하면 오케스트레이터가 성능과 비용 효율을 고려해 적절한 위치의 모델과 기술을 선택해 작업을 수행하는 방식이다. 빠른 반응이 필요한 작업은 사용자 가까이에서 처리하고 대규모 추론이 필요한 작업은 클라우드를 이용하는 식이다. 이는 에이전트 작업 내에서도 상황에 따라 선택적으로 활용될 수 있다. </div> <figure class="figure_frm origin_fig" contents-hash="149b87e4fe59713fb675fdd90bc33a656242109cf73d2b14deedf27d5fccf08e" data-idxno="450732" data-type="photo" dmcf-pid="y9YgMA0HRq" dmcf-ptype="figure"> <p class="link_figure"><img alt="델의 '데스크사이드 에이전틱 AI' 기술 구성 / 델" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072005300oqce.jpg" data-org-width="600" dmcf-mid="Bd6Dosb0dx" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072005300oqce.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 델의 '데스크사이드 에이전틱 AI' 기술 구성 / 델 </figcaption> </figure> <p contents-hash="e54f2e7083fbe64d9b088fe4951919295f679d8222202d27203345454b5c6582" dmcf-pid="W2GaRcpXdz" dmcf-ptype="general"><strong>클라우드와 온디바이스 사이 메우는 '데스크사이드'</strong></p> <p contents-hash="b90b0c7452f6dfcc8842a92580f2c0f004e1f39b59cc26d851b28aae917f1140" dmcf-pid="YVHNekUZn7" dmcf-ptype="general">이러한 '하이브리드'형 접근법에서 현재 현실적인 문제는 클라우드와 온디바이스 사이의 성능 격차가 크다는 점이다. 클라우드에서 제공되는 최신 대형 모델은 조 단위 파라미터 규모에 이르지만 개인이 일상적으로 사용하는 온디바이스 AI 모델은 대체로 100억~300억 파라미터 수준이다. 일부 작업에서는 성능에 한계가 있을 수 있고, 개인 PC는 AI 외에도 다양한 업무를 동시에 처리해야 해 모든 자원을 AI에 집중하기도 어렵다.</p> <p contents-hash="df13fae51b2a2d6b80789d47b9fbc514db446da34f12b59522379386fe549403" dmcf-pid="GfXjdEu5Mu" dmcf-ptype="general">이러한 상황에서 클라우드와 온디바이스 사이를 메울 수 있는 것이 '데스크사이드' 영역이다. 일반적인 PC부터 고성능 워크스테이션까지를 아우르는 데스크사이드는 사용자의 책상이나 팀 단위 사무실에 배치해 개인 또는 소규모 팀의 에이전트 수요를 처리할 수 있도록 설계된 로컬 AI 인프라다. 온디바이스만 활용할 때보다 높은 성능을 제공하고, 클라우드만 사용할 때보다 비용을 줄일 수 있으며, 온프레미스나 엣지 데이터센터보다는 설치와 운영 부담도 낮출 수 있다.</p> <p contents-hash="ff11d1ac5f096d21b678c04ab9272fa8920a583d61dd503f85c0cc89b6656aee" dmcf-pid="H4ZAJD71iU" dmcf-ptype="general">이 '데스크사이드' 환경은 기존의 데스크톱 PC나 워크스테이션의 폼팩터를 활용한다. 즉, 데이터센터를 위한 랙마운트 서버 등과 달리 랙 캐비닛 등의 설치 공간에 대한 배려가 필요 없다. 책상 위나 옆, 아래 공간에 PC처럼 놓고 쓰는 것도 충분히 가능하다. 다룰 수 있는 모델 크기도 PC보다 커서, PC에서는 다루기 까다로운 300억 이상부터 데이터센터 급인 1조 파라미터 급 모델까지도 수월하게 다룰 수 있고, 비용이나 운영 난이도도 데이터센터급 GPU 서버와는 비교하기 힘들 정도로 접근이 쉽다.</p> <p contents-hash="786c50dbaab8c4a02a926c95c959566126dfc6cbc7e35af6eac21dd62d5e6033" dmcf-pid="X85ciwztnp" dmcf-ptype="general">하이브리드 AI 환경에 데스크사이드를 추가했을 때 가장 큰 장점은 '비용 효율'이다. 기존에는 온디바이스 AI가 처리하지 못해 클라우드로 보내야 했던 에이전트 작업 가운데 상당 부분을 데스크사이드에서 처리함으로써 클라우드 사용량을 줄일 수 있다. 델이 제시한 조사 결과에 따르면 데스크사이드 영역의 투자 효율에 대해, 퍼블릭 클라우드 API 대비 2년간 토큰 비용을 최대 87% 절감하고, 빠르면 3개월 만에 투자비를 회수할 수 있다. </p> <p contents-hash="8d02e59b2bf48a0fabdb91d9e8b5cf617fec9422106c6eaf627e50dd9820db49" dmcf-pid="Z61knrqFn0" dmcf-ptype="general">데스크사이드 AI 환경은 조직 내 민감한 데이터를 AI와 결합하는 데도 도움을 준다. 데이터를 외부로 보내지 않고 조직 내부에서 처리할 수 있어 보안 부담을 낮추는 동시에 내부 데이터에 기반한 AI 활용도를 높일 수 있다. 상시 구동하는 에이전트 워크로드도 추가 비용 부담 없이 지속적으로 운영할 수 있어, AI 에이전트를 적용할 수 있는 업무 범위를 확대하는 데 도움이 된다. 결과적으로 AI 도입과 실험, 실제 업무 적용 속도를 높이는 기반이 될 수 있다.</p> <div contents-hash="525ee7cc9641b574b2224d19ef53ffbbb27b9cfcf33356b655ed28c259b49f1a" dmcf-pid="5PtELmB3i3" dmcf-ptype="general"> 델은 데스크사이드 AI 영역이 클라우드 기반 AI를 대체하는 게 아닌 보완하는 역할이라고 설명한다. 델의 '데스크사이드 에이전틱 AI'는 모든 AI를 로컬에서 처리하는 것이 아니라, 업무 특성과 목적에 따라 AI의 실행 위치를 클라우드, 온프레미스 서버, 온디바이스 AI로 나누는 하이브리드 AI 전략의 일환이다. 중요한 점은 AI 모델이 운영되는 위치가 아니라 AI로 원하는 목적을 달성할 수 있느냐다. '데스크사이드'는 온프레미스보다 구축 부담을 낮추고, 클라우드 대비 비용 효율을 높이면서 온디바이스보다 성능이 좋은, 서로의 빈자리를 메우는 존재다. </div> <figure class="figure_frm origin_fig" contents-hash="d79e2524fd7da24553de5af7bc080b1c2e4d1ad2bfd5b8e0a1793716c95b9a06" data-idxno="450733" data-type="photo" dmcf-pid="1QFDosb0RF" dmcf-ptype="figure"> <p class="link_figure"><img alt="'델 데스크사이드 에이전틱 AI'의 근간인 델 프로 맥스 워크스테이션들 / 권용만 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072006548vbrl.jpg" data-org-width="600" dmcf-mid="bmilDyPKnQ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/552810-SDi8XcZ/20260824072006548vbrl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> '델 데스크사이드 에이전틱 AI'의 근간인 델 프로 맥스 워크스테이션들 / 권용만 기자 </figcaption> </figure> <p contents-hash="1f1e0189c40ff5c62d60d1cc4ad753ed0bd74de89b92d8936992da93b97acdc6" dmcf-pid="tx3wgOKpLt" dmcf-ptype="general"><strong>책상 옆에서 함께 쓰는 '델 데스크사이드 에이전틱 AI'</strong></p> <p contents-hash="8ddc47bd9da613fd2282855a387071f2a0bff0696304099377c348ce9f64ac08" dmcf-pid="FM0raI9UM1" dmcf-ptype="general">델이 제시하는 '데스크사이드 에이전틱 AI'는 소규모 그룹이 에이전틱 AI를 도입해 활용할 수 있도록 구성된 솔루션이다. '데스사이드 에이전틱 AI'는 델의 '델 프로 프리시전 AI 워크스테이션' 제품군과 엔비디아의 '네모클로(NemoClaw)' 스택, 크라우드스트라이크 팔콘 보안 솔루션을 결합해 하드웨어와 보안 런타임, AI 모델, 보안 통제를 하나의 검증된 스택으로 구성했다. 이를 통해 IT 조직이 각각의 구성 요소를 직접 조합하는 부담을 줄이고 빠르게 환경을 구축해 일관되게 관리할 수 있도록 했다.</p> <p contents-hash="80787b91b26587fb8fc3e38c949a50fec6674d6b17c7bfe589ea08bfbdc5e3d3" dmcf-pid="3RpmNC2uR5" dmcf-ptype="general">델 '데스크사이드 에이전틱 AI'의 또 다른 장점은 '델 AI 팩토리(Dell AI Factory with NVIDIA)'와 연결한 확장성이다. 엔비디아 GPU를 탑재한 워크스테이션과 엔비디아 AI 소프트웨어 스택을 사용하는 '데스크사이드 에이전틱 AI'는 델 AI 팩토리에 통합돼, 팀 단위에서 사용하던 AI 환경을 온프레미스 데이터센터까지 확장할 수 있다. 하드웨어에서 소프트웨어 스택까지 긴밀하게 연결되는 보안체계를 제공하는 점도 차별점이다.</p> <p contents-hash="9a1f04b75db3c1d75fc54aedd9ee6f3fc08454fef05443ce9ae0ed36bce2661f" dmcf-pid="0eUsjhV7iZ" dmcf-ptype="general">델은 이 '데스크사이드 에이전틱 AI'에서 즉시 활용할 수 있는 세 가지 솔루션도 제시했다. '데스크사이드 코드 어시스턴트(Code Assistant)'는 코드 작성과 개발 업무를 수행하는 AI 에이전트를 데스크사이드 환경에 구축해 사내 코드 베이스와 개발 문서를 외부로 보내지 않고 활용할 수 있게 했다. </p> <p contents-hash="15a27e1b20f175bcd8ce73d2e47125992ae88beadbc3706ed82102f0e635846c" dmcf-pid="pFmPbRyOeX" dmcf-ptype="general">'데스크사이드 리서치 어시스턴트(Research Assistant)'는 대학, 연구소 등이 대규모 데이터셋과 연구 논문을 내부에서안전하게 처리하면서도 클라우드 비용과 데이터 반출을 낮출 수 있도록 설계됐다. '데스크사이드 프라이빗 어시스턴트(Private Assistant)'는 프라이빗 AI 에이전트를 격리된 환경에서 운영해 민감 데이터 보호가 중요한 의료, 공공, 방산 등의 환경에서 활용할 수 있다.</p> <p contents-hash="436c634ff4da11d39c49ae95ddc4b2aeb017afbf76a55fc8652c8b54f2b8274b" dmcf-pid="U3sQKeWILH" dmcf-ptype="general">델의 '데스크사이드 에이전틱 AI'는 델의 워크스테이션 제품군을 기반으로 탐색에서 확장, 오케스트레이션까지 에이전틱 AI 구축 단계별 환경을 제공한다. 새로운 아이디어를 빠르게 실험하고 에이전트 프로토타입을 검증하는 '탐색' 단계에서는 '델 프로 프리시전 9 T2(Dell Pro Precision 9 T2)'나 '델 프로 맥스 위드 GB10(Dell Pro Max with GB10)'가 적합하다. 이 제품들은 300억~2000억 파라미터 규모의 언어 모델을 로컬에서 실행할 수 있어 부서 단위 실험과 초기 검증에 효과적이다.</p> <p contents-hash="8320f7067dde334bb0ee9031211847190d68976c558b147f0d37ad372dc8712d" dmcf-pid="u0Ox9dYCeG" dmcf-ptype="general">에이전트를 실제 업무로 '확장'하는 단계에서는 더 높은 수준의 컴퓨팅 성능과 안정적 운영, 보안, 관리 체계가 요구된다. 델은 이 단계에서 '델 프로 프리시전 9(Dell Pro Precision 9) T4'와 같은 타워형 워크스테이션 제품군을 제시한다. 델의 타워형 워크스테이션 제품군은 고성능 프로세서와 복수의 그래픽카드를 장착해 수천억 파라미터 규모의 모델을 내부에서 구동하면서 에이전트 작업을 처리할 수 있도록 구성했다.</p> <p contents-hash="506d75dfb1c6aeabc44f89246a3d59ca2150d3d09792d6c24fd13bc56ece586c" dmcf-pid="7pIM2JGhnY" dmcf-ptype="general">에이전틱 AI 활용이 확대돼 여러 에이전트가 협업하는 멀티에이전트 워크플로우의 오케스트레이션 단계에 이르면 데이터센터급 성능이 요구된다. 델은 이 단계에서 최대 1조 파라미터 규모의 언어 모델을 지원하는 '델 프로 맥스 위드 GB300(Dell Pro Max with GB300)' 또는 '델 프로 프리시전 9 T6'을 제시한다. 이 제품들은 대규모 모델 활용과 장시간 이어지는 에이전트 실행을 안정적으로 처리하면서 데이터센터의 서버급 성능을 일상의 데스크톱 환경에서 편리하게 활용할 수 있도록 한 것이 특징이다. </p> <p contents-hash="82365ea2eedd10585cf7483e3836e05e1bf9e6d54c84dc1e50094f03e1a6f5a3" dmcf-pid="zUCRViHlMW" dmcf-ptype="general">권용만 기자<br>yongman.kwon@chosunbiz.com</p> </section> </div> <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p> 관련자료 이전 “없는 전기까지 사들인다”...AI가 불붙인 핵융합 투자, 한국도 첫발 08-24 다음 개통부터 보이스피싱까지…곳곳에 노인 노리는 ‘덫’ [통신 소외 고령층②] 08-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
