"환각 잡고 보안 챙겼다"…로컬 AI·오픈소스, 행정 AX '자립 모델' 됐다 작성일 06-29 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">서울 광진구·경남 양산시·광주광역시·경기 남양주시 등 자체 AI 적용 확대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1X4qtESryI"> <figure class="figure_frm origin_fig" contents-hash="5cc8e208cae93f828162f4451980b74ed6e0b227257bb23e1700a38da7b013fb" dmcf-pid="tZ8BFDvmTO" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/552796-pzfp7fF/20260629090734458dplc.png" data-org-width="640" dmcf-mid="ZQGhEfJ6lh" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/552796-pzfp7fF/20260629090734458dplc.png" width="658"></p> </figure> <p contents-hash="7e17dca549e285197cedbf6f60ca8d26f63da1e3748af2ef867dac70a6452f29" dmcf-pid="F56b3wTsls" dmcf-ptype="general">[디지털데일리 박재현기자] 지방자치단체의 AI 도입이 실제 행정 업무 적용 단계로 진입했다. 막대한 예산과 망분리 규제라는 현실적 제약을 자체 개발과 온프레미스 환경으로 돌파하는 사례가 잇따르고 있다. 외부 클라우드 API 의존을 낮추면서 보안과 행정 효율을 동시에 잡겠다는 전략이다.</p> <p contents-hash="3d76dd3d5a70b6cc36d7ee9a421d05d154a8378a5786dd37934cec8cb7969878" dmcf-pid="31PK0ryOTm" dmcf-ptype="general">최근 열린 공공 AI 박람회 지방정부 AI 혁신사례 공유 네트워크 포럼에서는 이 같은 내용이 공유됐다.</p> <p contents-hash="e6c704f79736e1595388118c1a118c9bc800bd6033d88f202f65f8a60a8e49af" dmcf-pid="0tQ9pmWIhr" dmcf-ptype="general">지방 정부에서는 유휴 장비 재활용과 오픈소스 언어모델 조합이 예산 절감의 핵심 수단으로 자리잡고 있다. 실제로 경상남도 양산시는 내구연한이 초과된 미사용 서버 5대에 GPU 8대를 설치하고, 오픈소스 언어모델을 결합해 온프레미스 AI 시스템 '메모 마인드(MemoMind)'를 구축했다. 추가 예산 투입은 없었다.</p> <p contents-hash="2daf6667d880d08bc6e6f48a431f25bd85e0bf6cc9589cc25119a9917b42a70f" dmcf-pid="p3MVuOGhvw" dmcf-ptype="general">광주광역시는 로컬 소형언어모델(sLLM)과 검색증강생성(RAG) 기술을 결합한 자체 AI 지식관리시스템을 도입했다. 내부 행정 문서를 외부 서버로 전송하지 않는 구조여서 데이터 유출 경로 자체를 차단했다. 특히 복잡한 관외출장 여비 정산 시스템 'AI 여비몬'도 별도 예산 없이 내부 인력이 직접 개발했다. UI 자동화 도구와 논리 설계 기술을 연계한 결과, 건당 30분이 걸리던 정산 업무가 3분으로 줄었다.</p> <p contents-hash="4b26ff773a4bfb4d5ca2b11467ef600c7ad3d598c1c2d13e457606e8acf34222" dmcf-pid="U0Rf7IHlSD" dmcf-ptype="general">남양주시는 AI 관련 예산 0원으로, 신설 부서 주도의 내부망 올인원 AI 플랫폼을 6개월 만에 구축했다. 이 플랫폼은 보고서 초안 작성, 차트 구성, 숏폼·카드뉴스 제작 등을 지원한다. 현재 50개 부서에서 1200명이 사용 중이다.</p> <p contents-hash="5c5dddc98256bf54aace718be63b27d84ae6836ed2e53220a4238ce1d5b0a4d6" dmcf-pid="upe4zCXSyE" dmcf-ptype="general">남양주시는 직접 개발 외에 선택지가 없었다. 시판 솔루션은 GPT와 차별성이 없다고 판단해 걸렀고, 외주는 구축비 4~6억원에 연 유지비 3~4천만원이 소요돼 예산 자체가 없는 상황에서 불가 판정이 났다. 직접 개발을 추진했고 보안성 검토에만 전체 개발 노력의 80%를 쏟았다. 국정원 체크리스트를 한 줄씩 통과시켰고, 외부로 나가는 구간은 담당자에게 직접 설명하는 방식으로 승인 받았다.</p> <figure class="figure_frm origin_fig" contents-hash="65bfacbc99c54d4a40a38225f67be7188bbec86b3ccfad719b007e3180803f1a" dmcf-pid="7Ud8qhZvWk" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/552796-pzfp7fF/20260629090735762pilj.png" data-org-width="640" dmcf-mid="50x2UsYCSC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/552796-pzfp7fF/20260629090735762pilj.png" width="658"></p> </figure> <p contents-hash="6e52fd0f47bb3c6b7dc9d9f0253ee8999520d7fca7b6068ba43852f0a2dddd4c" dmcf-pid="zuJ6Bl5TTc" dmcf-ptype="general">서울 광진구 소속 실무자는 HWP·PDF 문서를 AI 처리에 적합한 마크다운 형식으로 변환하는 'KorDoc'과 법령·판례를 직접 조회하는 'Korean Law MCP'를 자체 개발했다. 생성형 AI의 환각(Hallucination) 현상을 막기 위해 모호한 확률 기반 답변 대신, 원문 조문과 인용 위치를 명시한 결과만 행정 업무에 활용한다.</p> <p contents-hash="ab99dda56764e26b48ab127c6b87aef6bf6803eb1ad5878c8443034f9c953408" dmcf-pid="q7iPbS1yCA" dmcf-ptype="general">AI 절감 시간을 성과로 인정하는 KPI 재설계가 자립 모델의 마지막 과제로 떠오르고 있다. 기술을 도입하고도 절약한 시간에 새 업무를 덧씌우면 혁신은 업무 과중으로 끝난다. 지자체들은 프롬프트 최적화·서식 개발·검색 흐름 구축 같은 실무 노하우를 조직 지식 자산으로 쌓고, 특정 담당자에게 쏠리지 않도록 톱다운 확산 체계를 병행하는 방향을 모색 중이다.</p> <p contents-hash="1ce0c22570923408e6c5d039901ad73e638b8829d7802479c6175592b89930cc" dmcf-pid="BznQKvtWSj" dmcf-ptype="general">예산도 외부 클라우드도 없이 만들어낸 지자체 AI 자립 사례들은 지방정부형 AX의 실행 모델로 자리잡고 있다. 규제·보안·예산이라는 세 제약을 온프레미스 자체 개발로 동시에 돌파했다는 점에서, 빅테크 의존 없이도 행정 AI 전환이 가능하다는 것을 실증한 셈이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 삼쩜삼, 전사 AI 전환 속도…개발·비개발 경계 낮춘 ‘AI 위크’ 열어 06-29 다음 [주간 클라우드 동향/6월④] AI 데이터센터 전력 경쟁…아마존 선두, 구글 추격 가속 06-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
