가짜 늑구 사진에 경찰도 속는 AI 시대...허위정보 대응책은 작성일 04-28 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[디지털 트러스트⑤] 제도 공백에 이용자 교육·플랫폼 책임 강화 한 목소리</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QbEgwgYCoF"> <p contents-hash="382f2d710cd5a7bd9890d2b25bda053a72519ce00ef2664fd183d19714b5ce6c" dmcf-pid="xKDaraGhAt" dmcf-ptype="general">(지디넷코리아=박서린 기자)지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 ‘디지털 신뢰’를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주]</p> <p contents-hash="1bc34941f74854e97bb89ef8d8f61cfa0e0335af325b3196c8e249fe7e4d96d0" dmcf-pid="ymq3b3e4j1" dmcf-ptype="general">AI 기반 콘텐츠 생성 기술이 고도화되면서, 사실 여부를 구별하기 어려운 정교한 가짜뉴스가 빠르게 확산되고 있다. 허위 정보가 공권력 대응까지 왜곡하는 사례가 이어지지만, 이를 직접 규제할 수 있는 법적 장치는 여전히 제한적이다. 제도 공백 속에서 이용자 교육과 함께 플랫폼 책임을 강화해야 한다는 지적이 커지고 있다.</p> <p contents-hash="dfaebe70ccfa95db833300629a1ffcb667d86d55963c093effe2b9e9a8c060cf" dmcf-pid="WsB0K0d8j5" dmcf-ptype="general">실제 현장에서는 AI로 생성된 이미지와 정보가 수사와 행정 대응에 혼선을 주는 사례까지 발생하며, 허위 정보 확산이 단순 온라인 문제를 넘어 사회적 비용으로 이어지는 양상이다.</p> <p contents-hash="9c7dec0d60461b885447b914b19ecf507acd0e27fdf1b727f1669b353aadd191" dmcf-pid="YObp9pJ6aZ" dmcf-ptype="general">최근 대전경찰청 사이버수사대에 따르면, 대전 오월드를 탈출한 늑대 ‘늑구’ 포획에 혼선을 줬던 가짜 사진 유포자 40대가 지난 24일 경찰에 붙잡혔다. 그는 사파리 철조망을 빠져 나간 늑구가 오월드 네거리 인근 거리를 배회하는 모습이 담긴 가짜 사진을 만들어 유포한 혐의를 받고 있다. 인공지능(AI)을 활용해 만들어진 가짜 사진은 재난 문자 송출과 수색에까지 영향을 미치면서 수사에 혼선을 초래했다.</p> <p contents-hash="3b5fb513c6e995ffe553b3d9cd72dd47817b432726d32e267d32de3cdefe7d20" dmcf-pid="GIKU2UiPgX" dmcf-ptype="general">AI를 활용한 가짜 사진에 몸살을 앓는 곳은 공권력뿐만이 아니다. 최근에는 AI로 부하 직원과 연인관계인 것처럼 제작한 사진을 사회관계망서비스(SNS) 프로필에 올린 구로구 소속 공무원이 재판에 넘겨지는 사례도 있었다.</p> <figure class="figure_frm origin_fig" contents-hash="dbb3dc53011a73f5b5ec7bd01fa4f9ee096a47f27bcbde34db9905f1ab0a56d7" dmcf-pid="HC9uVunQNH" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 만든 가짜뉴스. (사진=클립아트코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095011115svdk.jpg" data-org-width="640" dmcf-mid="XhdicivmNd" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095011115svdk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 만든 가짜뉴스. (사진=클립아트코리아) </figcaption> </figure> <p contents-hash="e4b827f30f79a9f0d3d3db5bf319606d7f9e48f5b541ebef987a36a64b323d6c" dmcf-pid="Xh27f7LxNG" dmcf-ptype="general"><span>이처럼 손쉽게 AI를 이용해 가짜 사진을 만들어 유포하는 경우가 만연해지고, 행정력 낭비로 번지면서 피해는 고스란히 약자의 몫으로 돌아가고 있다. ‘2025년 디지털성범죄 피해자 지원 보고서’에 따르면 피해자 1만637명을 대상으로 조사한 결과, 연령별 디지털성범죄 피해율은 1020세대가 전체의 77.6%, 성별로 보면 여성이 75.4%를 차지한 것으로 나타났다.</span></p> <p contents-hash="99c6feab8f06e3cbe1d59b8c22d260dd4063091dccaf19290e36ff66c09aca23" dmcf-pid="ZlVz4zoMjY" dmcf-ptype="general"><strong>빛처럼 빠른 가짜뉴스 유포 속도…검증 과정은 부재</strong></p> <p contents-hash="a8ad39e88d4ad5a9e4f84f1dc61cda17052575901d88ea67a3cc702aad45df29" dmcf-pid="5Sfq8qgRkW" dmcf-ptype="general">AI 생성물에 기반한 가짜뉴스의 피해 범위가 큰 이유는 유포 속도에 있다. 가짜뉴스는 사실 확인을 거치지 않은 채 SNS와 인터넷 커뮤니티를 통해 퍼져 끊임없이 확대·재생산된다. 검증 과정에 부재한 상황에서 허위 정보를 제한하는 형사 규정이 제한적이라 이를 막기는 쉽지 않은 것이 현실이다.</p> <p contents-hash="2f84a761e39af6399aefc804d62c5911d172aa53ee9dbdb585fae65c0d05dd9b" dmcf-pid="1v4B6Baegy" dmcf-ptype="general">유튜브 등 주요 플랫폼은 허위정보 유포만으로는 가입자 정보를 제공하지 않는 경우가 있어 게시자 특정에 어려움이 발생하며, 명예훼손 등 별도의 혐의를 병행해야 신원을 알 수 있다. 미국의 디스커버리 제도를 통해 신원을 확보한 유튜버 ‘탈덕수용소’가 대표적이다. 디스커버리 제도는 한국 내 소송을 위한 가해자 특정의 필요성을 민사 절차로 소명해 법원을 통해 직접 소환장을 발부받는 형식으로 진행된다.</p> <p contents-hash="e5e9a59d160d187fee821cc23a658fbe26a970303aa889411bda413b8b98c2c8" dmcf-pid="tT8bPbNdaT" dmcf-ptype="general">그동안에는 사실적시 명예훼손이나 모욕죄를 범죄로 보지 않는 미국 법제 특성상 정보 제공이 거부되거나 신원 확보에 장기간이 소요됐다.</p> <figure class="figure_frm origin_fig" contents-hash="524e70646849b8869d3f0093b27a34a57a0424abeb8939e776cec22013bac9ba" dmcf-pid="F2rjsjXSAv" dmcf-ptype="figure"> <p class="link_figure"><img alt="가짜뉴스. (사진=클립아트코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095012373gsyd.jpg" data-org-width="638" dmcf-mid="ZlMeNehDge" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095012373gsyd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 가짜뉴스. (사진=클립아트코리아) </figcaption> </figure> <p contents-hash="dbcb92ceedb6f3bec21585c7ba1ca66642d3c25817609e8baf76c8fd1f9b3e45" dmcf-pid="3VmAOAZvgS" dmcf-ptype="general"><span>또 허위정보 자체를 직접 처벌하는 형사 규정이 제한적이라는 점도 걸림돌이다. 2010년 헌재 위헌 결정 이후 후속 입법이 이뤄지지 않고 있다. 경찰이 플랫폼 사업자에게 직접 삭제 및 차단을 요청할 수 있는 범죄도 디지털 성범죄에 한한다.</span></p> <p contents-hash="940fc4566ec4ab31e1a92d4a61520bc25899a2ec5f68b26ca7f7b0c8ee12adee" dmcf-pid="0fscIc5Tkl" dmcf-ptype="general"><strong>AI 기본법 등 현행법 허점에…플랫폼 책임 소재 대두</strong></p> <p contents-hash="6748e5fec8041b1b92dee145bb49352990a14b830c321bbdfd09c7883237fbaf" dmcf-pid="p4OkCk1yAh" dmcf-ptype="general">AI 생성물이 실제가 아니라는 점을 명확히 알 수 있도록 생산물 워터마킹 삽입 등을 규정한 ‘AI 기본법’이 올해 초 시행됐지만, 아직은 역부족이라는 말이 나온다. AI를 활용해 만든 생산물에 곧바로 워터마크가 적용되더라도 편집을 통해 제거 가능하기 때문이다.</p> <p contents-hash="3847715dae11813a6d976593a2d2d71454c051e613e38bc48a980ffcdcfb1bff" dmcf-pid="U8IEhEtWjC" dmcf-ptype="general">전문가들은 AI 툴에 대한 접근성 확대와 알고리즘에 대한 검증 동기 약화가 원인으로, 자정능력 함양과 플랫폼에 대한 책임소재 강화가 병행돼야 한다고 입을 모은다.</p> <p contents-hash="5f2a485c48341067e9ae5bb459551aac720673beea5b1484038c029bb31ac4ed" dmcf-pid="u6CDlDFYkI" dmcf-ptype="general">김옥태 한국방송통신대학교 미디어영상학과 교수는 “AI를 활용해 신빙성 있어 보이는 가짜 사진을 만들 수 있는 툴의 접근성이 높아진 것이 원인”이라며 “청소년을 시작으로 이용자 교육을 병행하면서 (가짜 뉴스 제재에 대한) 제도 도입에 신중을 기해야 한다. 가짜 뉴스가 플랫폼을 통해 퍼지기에 이들에게 책임을 부과하는 방식이 최선일 것”이라고 말했다.</p> <p contents-hash="effa1b232f4bf3e3cc726ac29b72ea8358b5c8822ba61d6ac55bcd0c8e5783ba" dmcf-pid="7PhwSw3GgO" dmcf-ptype="general">이재길 한림대 미디어스쿨 교수는 “현재의 미디어 환경에서는 가짜뉴스의 진위를 파악할 동기가 존재하지 않는다는 점이 가장 큰 문제”라면서 “SNS의 추천 알고리즘은 이용자 개개인의 입맛에 맞는 정보, 기존에 익숙하고 이용자의 가치관에 부합하는 정보만 골라서 제공한다. 이런 정보는 진위 여부를 검토하지 않고 그대로 받아들이는 경향이 있다”고 설명했다.</p> <p contents-hash="affd881f701ddedd4c3dff9c57874c07bc3278b07c8b6e694b4599e965e43db0" dmcf-pid="zQlrvr0HNs" dmcf-ptype="general">이어 “이용자들의 행동을 제한하는 규제가 얼마나 실효성이 있을지에 대한 의문이 남는다”며 “기계적으로나 기술적으로 문제가 되는 콘텐츠를 플랫폼에서 퇴출시키는 방안이 마련돼야 한다”고 강조했다.</p> <figure class="figure_frm origin_fig" contents-hash="40c452afa6a9c10c85937268229e85c52ae3c25fd5496659640d21dac2b9f41a" dmcf-pid="qxSmTmpXkm" dmcf-ptype="figure"> <p class="link_figure"><img alt="QR코드 스캔 시 디지털 트러스트 캠페인 참여 가능. 디지털 신뢰 관련 안전 수칙에 관한 글을 적거나 표어를 지으면 추첨을 통해 맥북 네오, 에어팟 맥스2, 에어팟 프로3 등을 증정한다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095012642nxak.png" data-org-width="640" dmcf-mid="5Zt3b3e4oR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/28/ZDNetKorea/20260428095012642nxak.png" width="658"></p> <figcaption class="txt_caption default_figure"> QR코드 스캔 시 디지털 트러스트 캠페인 참여 가능. 디지털 신뢰 관련 안전 수칙에 관한 글을 적거나 표어를 지으면 추첨을 통해 맥북 네오, 에어팟 맥스2, 에어팟 프로3 등을 증정한다. </figcaption> </figure> <p contents-hash="6396a53ef1e2845f2f680961aaa823537bddc5314e1efebbb744d2ba3b70cbff" dmcf-pid="BMvsysUZcr" dmcf-ptype="general">박서린 기자(psr1229@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 7년만 다시 뭉친 워너원, 장항준 감독 등장에 일순간 공손 (워너원고) 04-28 다음 한림대춘천성심병원, 아시아인 근감소증 핵심 유전자 4종 규명 04-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
