[단독] “범죄 AI 에이전트 막아라”…정부, 과학치안 중장기 전략 세운다 작성일 09-07 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">■ 지능형 범죄 대응체계 구축 돌입<br>딥페이크 넘어 全영역 AI 악용 우려<br>경찰 R&D 전수 분석해 로드맵 마련<br>예방·수사·피해자 보호 전주기 지원<br>범부처 통합 대응단 신설도 팔걷어</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Yjza5nb0yy"> <figure class="figure_frm origin_fig" contents-hash="28cd47ee383435e015ca936568ec8247b54a7e5d98908ce59351caab00200c00" dmcf-pid="GAqN1LKpTT" dmcf-ptype="figure"> <p class="link_figure"><img alt="3월 10일 정부서울청사에서 열린 인공지능(AI) 딥페이크 탐지 분석 모델 시연회에서 박남인 국립과학수사연구원 연구관이 선거유세 현장 가짜뉴스 탐지 기술을 시연하고 있다. 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/seouleconomy/20260907174929851koez.jpg" data-org-width="1200" dmcf-mid="yQNZRYcnvY" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/seouleconomy/20260907174929851koez.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 3월 10일 정부서울청사에서 열린 인공지능(AI) 딥페이크 탐지 분석 모델 시연회에서 박남인 국립과학수사연구원 연구관이 선거유세 현장 가짜뉴스 탐지 기술을 시연하고 있다. 연합뉴스 </figcaption> </figure> <p contents-hash="250203d118c0426a33b5617e9b89c5c80356dd9fc3a374c9c52f6ba978deb01a" dmcf-pid="HcBjto9Uhv" dmcf-ptype="general">빠르게 고도화되는 인공지능(AI) 기반 범죄에 대응하기 위해 정부가 국가 과학치안 전략을 수립한다. AI가 딥페이크·딥보이스 등 제작에 쓰이는 것을 넘어 피해자 탐색부터 기밀 정보·금전 유도까지 범죄 전 과정에 악용될 우려가 커지고 있어서다. 정부는 AI 기반 신종 범죄에 대응하기 위한 연구개발(R&D) 사업을 전수 분석해 중장기 전략을 마련한다는 계획이다.</p> <figure class="figure_frm origin_fig" contents-hash="b0dbae58a714b8ae85402e3d33cfce8801cad171ccb09d0c56dad90c137ad117" dmcf-pid="XkbAFg2uSS" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/seouleconomy/20260907174931175fmgu.jpg" data-org-width="1200" dmcf-mid="WdHPCf5TvW" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/seouleconomy/20260907174931175fmgu.jpg" width="658"></p> </figure> <p contents-hash="b444a04a06a31da983cbe73b53076ef3447db64a253221c9bba3a82b28519286" dmcf-pid="ZEKc3aV7ll" dmcf-ptype="general">7일 과학기술정보통신부 및 대통령 직속 과학기술자문회의에 따르면 정부는 조만간 과학치안 체계 구축 및 국가 전략 수립을 위한 연구에 나설 예정이다. 경찰법 제33조 및 치안 분야 과학기술 진흥에 관한 규정에 따라 경찰청이 5년마다 치안 분야 과학 기술 진흥 종합계획을 수립 중이지만 이것만으로는 AI 기반 범죄를 효과적으로 막는 데 한계가 있다고 본 것이다.</p> <p contents-hash="45e52dd35ddd0be7f58991dbdefff3af0a312a33735ed705eac8be1480f9c4e9" dmcf-pid="5D9k0Nfzlh" dmcf-ptype="general">정부 관계자는 “경찰청의 기존 계획은 R&D와 단년도 실무 사업이 전체적으로 들어 있는 굵직한 형태인데 경찰청의 R&D는 국방 분야와 비교하면 예산·조직 등이 조금 약한 측면이 있다”며 “신종 범죄가 AI, 다크웹 등 기술을 매개로 지능화·비대면화되고 있는 만큼 R&D에 초점을 맞춰 중장기적인 관점의 로드맵을 제시할 필요가 있다”고 설명했다. 실제로 경찰청에 따르면 대표적인 AI 기반 범죄인 ‘성폭력처벌법상 허위영상물(딥페이크) 편집·반포 등’ 범죄 발생 건수는 2023년 168건에서 2024년 550건, 지난해 1300건 등으로 급증했다.</p> <p contents-hash="737a793c5a835363d54d4ce6550b460e0900b44db31f77c19017eeea24a66fda" dmcf-pid="1cBjto9UWC" dmcf-ptype="general">문제는 AI가 단순히 구체적인 명령을 처리하는 데 그치지 않고 스스로 범죄를 행하는 데까지 발전할 수 있다는 점이다. 유엔마약범죄사무소(UNODC)는 지난해 보고서를 통해 “최소한의 노력으로 배포가 가능한 악성 웹사이트와 이메일 템플릿이 패키징된 피싱 키트가 판매되고 있다”며 “인도네시아에서 운영하는 ‘16샵(shop)’ 키트의 경우 약 60달러(약 8만 원)에 다크웹에서 판매돼 43개국 7만 명 이상 피해자가 발생했고, 15만 개가 넘는 피싱 도메인이 생성됐다”고 지적했다. 웜(Worm)GPT, 프로드(Fraud)GPT, 나이테온(Nytheon) AI 등 역시 피싱 범죄에 최적화된 서비스형 소프트웨어(SaaS) 해킹 도구로 알려졌다.</p> <p contents-hash="4580a5d653156445fd4807794487e24c94e3d174415d4bf34f1c7cee708757c9" dmcf-pid="tkbAFg2uTI" dmcf-ptype="general">미국 AI 기반 정보·위협 감시 업체 오버워치데이터의 공동 창립자 겸 최고기술책임자(CTO) 자라 페루말은 지난해 7월 미 하원 사법위원회 소위원회에 출석해 “에이전트 AI는 사이버 범죄 분야에서 새로운 트렌드가 되고 있다”며 “고정된 스크립트를 따랐던 기존 봇과 달리 AI 에이전트는 사기 수법에 대한 대략적인 설명만 주어지면 에이전트는 단계별 과정을 파악하고 필요에 따라 방식을 조정해 기존 시스템보다 탐지하기 더 어렵고 더 오래 지속되는 방식으로 범죄를 행할 것”이라고 경고했다. 글로벌 AI 에이전트 시장이 지난해 78억 4000만 달러(약 11조 원)에서 2030년 526억 2000만 달러(약 71조 원)로 급성장할 것으로 전망되는 가운데 AI 에이전트가 범죄에까지 활용되는 셈이다.</p> <p contents-hash="fa30b0934cf94e2d7f68a7b50d5f332fa954c6403bbe04236a141e7a26064731" dmcf-pid="FEKc3aV7vO" dmcf-ptype="general">이에 정부는 다크웹 마약 수사, 관계성 범죄 예측 플랫폼 등 생성형 AI가 등장한 이후 국내에서 추진된 신종 범죄 대응 R&D 사업을 전수 분석할 계획이다. 일선 현장에서 필요로 하는 기술을 파악한 뒤 해당 수요 기술이 현재 얼마만큼 고도화됐는지 분석하고 R&D 수요·공급 분석에 기반한 국내 R&D 사각지대도 진단하기로 했다. 과학기술자문회의는 이를 통해 예방부터 수사, 피해자 보호까지 전주기 대응 및 통합 지원 체계를 마련하고 내년 상반기께 국가 과학치안 전략을 수립한다는 목표다.</p> <p contents-hash="0a55b4151e45f8a881c393a45396a45aaccc2fa31e17b339d7a8e85634f412f6" dmcf-pid="3D9k0Nfzhs" dmcf-ptype="general">한편 정부는 AI 범죄에 대응할 조직도 통합 운영한다는 방침이다. 앞서 정부는 올해 6월 AI 범죄 대응 범부처 협의체를 출범한 데 이어 AI 범죄 대응을 총괄하는 AI 범죄 통합 대응단 신설을 추진하고 있다. 방송미디어통신위원회 관계자는 “통합 대응단은 범부처 종합 대응 계획 수립 및 이행 관리, 부처 간 협업·역할 조정, 민관 협력, 사회적 이슈 발생 시 신속 대응 체계 가동 등 AI 범죄 대응 컨트롤 타워 역할을 수행할 것”이라고 말했다.</p> <p contents-hash="201fb5d872df6543b3299ec2b294910597928d1cef58ee0bb9dc676c35086ead" dmcf-pid="0w2Epj4qvm" dmcf-ptype="general">조윤진 기자 jo@sedaily.com</p> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 "조마조마한 모습 끝낸다"…기계연 휴머노이드 '카이로스' 내년 V1 완성 09-07 다음 美·中 보안AI 날아가는데…韓은 ‘거북이걸음’ 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
