서울시, 자체 LLM 구축 완료…생성형 AI 기반 '챗봇 2.0' 가동 작성일 05-11 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fSei3ADgEY"> <figure class="figure_frm origin_fig" contents-hash="714d65839fdb64522df65403d18d01b25e31fcf586bfa1db7142ee1c383eb4d1" dmcf-pid="4vdn0cwaEW" dmcf-ptype="figure"> <p class="link_figure"><img alt="서울시가 구축한 '챗봇 2.0' 직원용 AI 행정 지원 서비스의 업무매뉴얼 기반 질의응답 화면 (서울시 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/11/etimesi/20260511132508494xobb.png" data-org-width="659" dmcf-mid="1mce1acnOB" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/11/etimesi/20260511132508494xobb.png" width="658"></p> <figcaption class="txt_caption default_figure"> 서울시가 구축한 '챗봇 2.0' 직원용 AI 행정 지원 서비스의 업무매뉴얼 기반 질의응답 화면 (서울시 제공) </figcaption> </figure> <p contents-hash="b8aa59042f2d213d9a1a55936e2be3c0fa8e7e1f7972203a7b139ffd116fa4e7" dmcf-pid="8TJLpkrNmy" dmcf-ptype="general">서울시가 공무원 업무 지원부터 시민 상담까지 생성형 인공지능(AI)을 기반으로 통합한 '챗봇 2.0' 운영을 시작하며, 업무 수행 방식을 AI 기반으로 전환하는 '서울형 AI 행정 모델' 구축에 나섰다.</p> <p contents-hash="97647c118ddee3c0a87f470b153401a7e2c481f15422b38bb95e071723e3be16" dmcf-pid="6yioUEmjmT" dmcf-ptype="general">서울시는 생성형 AI를 행정 전반에 적용한 챗봇 2.0을 이달부터 본격 운영한다고 11일 밝혔다.</p> <p contents-hash="2978a14655571ec83104d5a2a51690eae82a4db1e054fc786aa61f6649aa0a41" dmcf-pid="Pm8QHnaeOv" dmcf-ptype="general">챗봇 2.0은 서울시 행정망 내부에 구축한 대규모언어모델(LLM)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다.</p> <p contents-hash="2ebbd59e14a09d6b82d451df47a9d0a98f763f8e8580395bdd346c5310a6e1a4" dmcf-pid="Qs6xXLNdwS" dmcf-ptype="general">지난해 9월 사업 착수 이후 약 6개월간 개발과 단계적 시범운영을 거쳐 응답 정확도와 사용자 편의성을 중심으로 서비스 완성도를 높였다.</p> <p contents-hash="abd4a2bf2366446615ee7b054118c8202a4974b640ba3fd32f3192083418782e" dmcf-pid="xOPMZojJDl" dmcf-ptype="general">서울시는 보안이 요구되는 행정 환경을 고려해 상용 및 오픈소스 기반 언어모델 2종(엑사원4.0 32b, GPT-OSS 120b)을 활용해 행정망 내부에 자체 LLM을 구축했다. 이를 기반으로 질의응답, 문서 생성·요약·분석 등 다양한 AI 행정 지원 기능을 제공한다.</p> <p contents-hash="031ca3bab3d633f9170c7975d3277a3621b5998420ae9aac0f4a406f810ff896" dmcf-pid="y2vWitpXDh" dmcf-ptype="general">270종의 행정 업무매뉴얼을 기반으로 검색증강생성(RAG) 체계를 구축해 자연어 질의 시 근거 기반 답변과 출처를 함께 제공한다. 'My 챗봇' 기능을 통해 부서·개인별 업무자료까지 연계한 맞춤형 검색이 가능하고 보도자료, 민원 답변 등 문서 작성을 지원하는 'AI 템플릿' 기능도 제공한다.<br></p> <figure class="figure_frm origin_fig" contents-hash="250ac122652d42f13c944efb35488c7703d26e549fc008c59f4a350a83656ea9" dmcf-pid="WVTYnFUZIC" dmcf-ptype="figure"> <p class="link_figure"><img alt="서울시 '챗봇 2.0' 시스템 개념도 (서울시 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/11/etimesi/20260511132509764llmj.png" data-org-width="700" dmcf-mid="t9B5NuB3mq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/11/etimesi/20260511132509764llmj.png" width="658"></p> <figcaption class="txt_caption default_figure"> 서울시 '챗봇 2.0' 시스템 개념도 (서울시 제공) </figcaption> </figure> <p contents-hash="f3d8fe3d0daf37eae60aed21ad8d3ddedb53192d9bc66e93cb7be78a50dc7c3a" dmcf-pid="YfyGL3u5DI" dmcf-ptype="general">서울시는 보안성과 활용성을 동시에 확보하기 위해 자체 LLM과 외부 생성형 AI 서비스를 병행하는 '이원화 운영체계'를 구축했다.</p> <p contents-hash="342610c8add0d4fba796166ee4ff5d3ae7a1a10cacd02cb920c579933157fab3" dmcf-pid="G4WHo071DO" dmcf-ptype="general">보안이 필요한 업무는 내부 행정망에서 운영되는 자체 LLM이, 정보 검색과 아이디어 도출 등 일반 업무는 외부 상용 생성형 AI 서비스인 '서울AI챗'이 담당하는 구조다.</p> <p contents-hash="c256b18a1979bf7699ca20b1d40467968310e4c42fe57d408dee363c0b3885ec" dmcf-pid="H8YXgpztrs" dmcf-ptype="general">시민용 챗봇 '서울톡'도 생성형 AI를 적용해 고도화했다. 시나리오 기반 챗봇의 한계를 보완하기 위해 'AI에게 물어보기' 기능을 도입해 서울시 누리집과 외부 웹 검색을 연계한 최신 정보를 제공한다. 예를 들어 “이번 주말 광화문 행사”를 질문하면 공연·축제·행사 정보를 종합해 최신 일정 기준으로 안내한다.</p> <p contents-hash="72d8fe4de42eba1954c8fadfb3f81d7efafaa3b6c29ec44667e926497fe1effe" dmcf-pid="X6GZaUqFEm" dmcf-ptype="general">서울시는 챗봇 2.0을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획이다. AI 에이전트는 내부 시스템과 연계해 필요한 정보를 조회하고, 문서 작성·자료 정리 등 반복 업무를 스스로 수행하는 방식으로 운영된다. 이를 통해 AI를 단순 질의응답을 넘어 실제 업무를 지원하는 단계로 확대한다는 구상이다.</p> <p contents-hash="2a9436aae3cb19c989fd8e4db0180414e7360affdf5aea07acb44957930f25d8" dmcf-pid="ZPH5NuB3Or" dmcf-ptype="general">강옥현 서울시 디지털도시국장은 “챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것”이라며 “지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속화하겠다”고 말했다.</p> <p contents-hash="ca3e6c7bb202748bc725af24c13f2a7ed5c93f1aa0cff2745f558d21855b157a" dmcf-pid="5QX1j7b0Iw" dmcf-ptype="general">정현정 기자 iam@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 '고유가 피해지원금' 2차 지급 오는 18일 시작…비수도권 최대 25만원 05-11 다음 유희관, 지예은 열애설에 “초조했다”… 왜? 05-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
