"모델 성능은 대동소이"…오픈소스 AI 경쟁력 가르는 열쇠로 떠오른 '운영' 역량 작성일 09-07 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">도입비, 써드파티 조합, 기술지원 등 문제도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QvUF71mjTV"> <figure class="figure_frm origin_fig" contents-hash="17fd652cac65313729baf11dfad14e54811ad6eb347cbbe0f9104fa5eb4ca587" dmcf-pid="xTu3ztsAh2" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/552796-pzfp7fF/20260907150416138bqsf.png" data-org-width="640" dmcf-mid="9ekNDg2uSM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/552796-pzfp7fF/20260907150416138bqsf.png" width="658"></p> </figure> <p contents-hash="0f4f3d22c0ace7ba292d58e826c8ed4483a1c3ef3789854c84a7ea8b4ce8d74a" dmcf-pid="yQcaEo9Uy9" dmcf-ptype="general">[디지털데일리 박재현기자] 오픈소스 AI 모델을 쓸 수 있는 여건이 넓어지고 있다. 오픈소스 모델 성능이 상용 모델과 비슷한 수준까지 올라왔고, 정부 역시 개발 중인 독자 파운데이션 모델을 오픈소스로 공개한다. 관건은 그 다음이다. 확보한 모델을 어떻게 배포하고 관리할지가 새로운 과제로 떠올랐다.</p> <p contents-hash="88943684aefa269a2b8f38204ca7b9ae43bd55d7461b71f0ab3fcf87da1938b4" dmcf-pid="WxkNDg2uWK" dmcf-ptype="general">오픈소스 모델과 상용 모델의 성능 격차는 이미 좁혀졌다. 금융권 업계 관계자에 따르면, 오픈소스 모델 성능이 상용 모델과 비슷한 수준까지 올라왔다. 상용 모델을 굳이 도입하지 않아도 오픈소스 모델로도 내부에서 사용하기에 충분한 성능을 보인다는 설명이다.</p> <p contents-hash="6f6a4cf86940604cfd0b00d804bca8ef4d5d87cd0d4f7cf273371be49c4cae73" dmcf-pid="YMEjwaV7Tb" dmcf-ptype="general">최근 딥시크는 오픈소스 사상 최대 규모 LLM을 내놓으며 여러 벤치마크에서 GPT-4o를 넘어섰다고 밝혔다. 메타 라마, 알리바바 큐원도 계속 버전을 갱신하며 오픈소스 진영 기반을 떠받치고 있다.</p> <p contents-hash="52ed78f20b2c31f72e39426912a6b8e5ba454ccaa2966982720e676da236bf75" dmcf-pid="GRDArNfzvB" dmcf-ptype="general">정부는 오는 8월 자체 개발 모델을 오픈소스로 전면 공개한다. 과학기술정보통신부가 개발 중인 '독자 AI 파운데이션 모델(독파모)'을 허깅페이스에 푸는 방식이다. 이미 구축된 '범정부 초거대 AI 공통기반'에도 구글 젬마, 메타 라마 같은 오픈소스 모델이 삼성SDS '패브릭스', 네이버클라우드 '클로바 스튜디오 포 거브'와 나란히 얹혀 있다. 중앙부처와 지자체는 모델 구매 비용 없이 이들 모델을 골라 쓸 수 있다.</p> <p contents-hash="11a5822dffb4faf807e596716554ac0f543ee98c1754571acec0c9252f160620" dmcf-pid="Hewcmj4qSq" dmcf-ptype="general">다만 도입 비용까지 공짜인 것은 아니다. IT서비스 기업 관계자에 따르면, 공공기관이 오픈소스 sLLM을 직접 구축하려면 서버·스토리지·백업 같은 부속 인프라에 1억원가량이 든다. 특히 AI·ML옵스 엔지니어를 최소 2명 두는 데 연간 2억~3억원이 추가된다. 초기 구축비 8억원 안팎, 연간 운영비 3억~5억원 수준이라는 전망도 나온다.</p> <p contents-hash="6185e7f1bb7d218a64d3c4d2521fab7ad604f6032145e12527d140aed0aab8ab" dmcf-pid="XmZY1yjJlz" dmcf-ptype="general">비용 외에도 써드파티 조합도 복잡하다. 기업 AI 인프라는 단일 제품이 아니라 오픈모델과 파이토치 같은 개발도구, vLLM 같은 추론 엔진, 쿠버네티스와 각종 배포·점검 도구가 결합된 형태다.</p> <p contents-hash="cc0c0aefbe0b3205107a78fac1153f515fd2845e5d7f070a20a9c29104348d2c" dmcf-pid="Zs5GtWAiS7" dmcf-ptype="general">오픈모델은 추론 엔진이나 프로그램 묶음을 업데이트하면 GPU 드라이버, 컨테이너 환경, 쿠버네티스 버전과 충돌할 수 있다. 장애가 나도 모델과 애플리케이션, 인프라 중 어디서 문제가 시작됐는지 바로 가려내기 어렵다.</p> <p contents-hash="4fce644e3b48f4261878cebc52455259e910f4835d81fb30f2ededeb9f16a6b2" dmcf-pid="5O1HFYcnWu" dmcf-ptype="general">오픈소스마다 업데이트 주기와 기술지원 방식이 다르다는 점도 운영을 어렵게 하는 요인이다. 상용 AI 제품과 같이 계약된 창구가 있는 게 아니라, 각 프로젝트 커뮤니티가 언제 어떤 버전을 내놓을지 예측하기 어렵다. 장애가 났을 때 누구에게 문의할지, 언제까지 지원이 이어질지도 기업이 스스로 챙겨야 한다.</p> <p contents-hash="ceffbee9a6480e92e74291bf388f64b770bdda4b91fedb264e306fe4366d35ce" dmcf-pid="1ItX3GkLhU" dmcf-ptype="general">결국 이런 부담을 감당할 수 있느냐가 AI 경쟁력을 가르는 기준이 되고 있다. 어떤 모델을 확보했느냐가 아니라, 확보한 모델을 안정적으로 검증하고 배포하고 유지할 수 있느냐의 문제다. 모델이 상향평준화될수록 이 격차는 더 벌어질 가능성이 크다.</p> <p contents-hash="375b434183f4ff7f3afb7deb0fe85c2309ee0d1de7cd0d02a8a71766bb250e82" dmcf-pid="tCFZ0HEovp" dmcf-ptype="general">공공기관과 금융권 정보화 사업 발주도 모델 구매에서 구축·운영 사업으로 무게중심이 옮겨가는 흐름이다.</p> <p contents-hash="5b466ffbde24950175996d171d57d3a8e6fcd38bb97fcb6cb5653f9bb1a940f5" dmcf-pid="Fh35pXDgW0" dmcf-ptype="general">앞으로 기업용 AI 시장의 경쟁 구도도 어떤 모델을 파느냐보다, 그 모델을 얼마나 안정적으로 검증하고 운영해줄 수 있느냐를 놓고 갈릴 전망이다.</p> <figure class="figure_frm origin_fig" contents-hash="738db791536ed502542bb14b9eefbe2799fd7b8d1e7c39b596c5b81b221e1b85" dmcf-pid="3l01UZwaW3" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/552796-pzfp7fF/20260907150416389fcvm.jpg" data-org-width="640" dmcf-mid="PJmEOc6bvf" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/552796-pzfp7fF/20260907150416389fcvm.jpg" width="658"></p> </figure> <p contents-hash="3451f71007d0732ff7431299f88b91aecdd8cb4126479ab6e853c4314f211e48" dmcf-pid="0Sptu5rNCF" dmcf-ptype="general">이러한 상황에서 오픈소스 모델 운영 전략을 논의하는 자리가 마련된다. 과학기술정보통신부가 주최하고 정보통신산업진흥원과 <디지털데일리>가 공동 주관하는 '오픈테크넷 서밋 2026'이 오는 9월15일 서울 양재동 엘타워 그레이스홀에서 열린다. 'AI 시대 오픈소스 거버넌스·보안·표준 혁신'을 주제로 AI 도입부터 검증, 운영, 확산까지 필요한 기업 전략을 다룬다.</p> <p contents-hash="ffdae8b139d2bf9072653ee22c1063fbcda850d6590affe32b2702be12d3df09" dmcf-pid="pvUF71mjyt" dmcf-ptype="general">오전 세션에서는 감정한 깃랩 솔루션 아키텍트가 안전한 에이전틱 오케스트레이션 플랫폼 구축 방안을 발표한다. 오진석 메가존클라우드 전무는 공격 도구로 활용되는 오픈 AI에 대한 방어 전략을, 김제민 삼성전자 빅데이터센터 파트장은 삼성전자의 에이전틱 AI 도입과 운영 혁신 여정을 소개한다.</p> <p contents-hash="70f84a7fbe56175806fd0c6c6aa2c8c63fa839c0b37eb69c15aaee063db94d0a" dmcf-pid="UCeQJ6FYl1" dmcf-ptype="general">오후에는 A·B 트랙으로 나뉜다. A트랙에서는 윤종원 스패로우 최고기술책임자(CTO)가 AI 시대 소프트웨어 신뢰성 확보 전략을, 고우주 나무에이엑스 최고AI책임자(CAIO)가 오픈소스 LLM의 효율적인 공유·배포 방안을 발표한다. 이진현 맨텍솔루션 전무는 AI 네이티브 인프라의 조건과 구축 전략을 다룬다.</p> <p contents-hash="f8dcebdab2686eee65822c1e8c4d7847d2000b9292e6e4b53d854f3beae10d2e" dmcf-pid="uhdxiP3GW5" dmcf-ptype="general">B트랙에서는 이창원 오라클 상무가 AI 시대 엔터프라이즈 자바와 오픈소스 플랫폼 운영 전략을 발표한다. 김지섭 뤼튼테크놀러지스 CoS는 AI 전환의 현실적 과제를, 박제호 GS네오텍 시큐리티 리드는 오픈소스 취약점의 공급망 보안 대응 전략을 공유한다.</p> <p contents-hash="6619450f1a643055a0ac4daeca53b8f58bc4f6ea5411fa19eb40ab2e668648c5" dmcf-pid="7lJMnQ0HyZ" dmcf-ptype="general">이어 이주영 NHN클라우드 개발랩장의 소규모 오픈모델 활용 방법론, 정영진 링크알파(LinqAlpha) 엔지니어의 AI 코딩 에이전트 시대 시프트레프트 보안 전략, 이서연 클라우드브로 공동창업자·CSO의 오픈소스 검증·도입 플레이북 발표가 진행된다. 손석호 한국전자통신연구원(ETRI) 전문위원은 신뢰할 수 있는 에이전틱 AI 시스템 구축을 위한 클라우드 네이티브 오픈소스 기술 동향을 소개한다.</p> <p contents-hash="eb733d9ffbbe4b599648e2490ae20a66a1ac64a3fb4d54fd2d1167c47b78dcee" dmcf-pid="zSiRLxpXCX" dmcf-ptype="general">사전 등록은 디지털데일리 홈페이지를 통해 가능하다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 "6시간 반 걸리던 보고서가 1시간 만에"… 영림원, '직원표 AI'로 ERP 혁신 가속 09-07 다음 네이버, 사우디 데이터센터 ‘첫 손님’…AI 사업 확대 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
