[기획] ‘AI 위조’ 일상 깊숙이 ‘쑥’… 가짜 통장·증명서 판친다 작성일 02-11 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">잔액 증명서 23원 → 9억 둔갑<br>검찰 제출했다 재조사에 덜미<br>허위 진단서로 보험사기 극성<br>법제도 정비·AI탐지 기술 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HNulxU8BWI"> <figure class="figure_frm origin_fig" contents-hash="1e2ad4e7d40990163bd50529eab5f736cdadb2f85d01f8c7ce424962af7d5066" dmcf-pid="Xj7SMu6bSO" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/11/dt/20260211190247993pdrd.jpg" data-org-width="640" dmcf-mid="Gta2lgOcCC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/11/dt/20260211190247993pdrd.jpg" width="658"></p> </figure> <p contents-hash="8525b00b8944d22e88a8420fe19eaf8a130eff18f89c9d84e2755b93f4985f53" dmcf-pid="ZAzvR7PKSs" dmcf-ptype="general"><br> 잔액이 23원인 계좌를 인공지능(AI)을 활용해 9억원이 있는 것처럼 꾸며 판사까지 속였던 20대 남성이 검찰의 보완수사에 덜미를 잡혔다. 생성형AI 도구의 확산으로 문서 위·변조를 통한 사기범죄 등의 진입장벽도 낮아진 만큼, 그 식별·대처 방안 마련이 시급하다는 목소리가 나온다.</p> <p contents-hash="5c6a475961c2a7d16aaf864c482a29ca8efed3639b0901b06b135bb9e17a89a1" dmcf-pid="5cqTezQ9lm" dmcf-ptype="general">11일 법조계에 따르면 부산동부지청 형사3부는 투자금 명목 등으로 약 3억2000만원을 가로채고 수사기관에 허위 잔고증명서를 제출한 혐의(사기·사문서위조 및 동행사 등)로 A씨(27)를 지난 6일 구속기소 했다.</p> <p contents-hash="5b45aee5e217ccc8746ebacf741ad0369a4d1c8ce959ac7586da8b3895085c73" dmcf-pid="1kBydqx2vr" dmcf-ptype="general">검찰에 따르면 A씨는 지난해 8월부터 10월까지 이미지 생성 AI를 이용해 의사국가시험 합격증, 가상화폐·예금 보유내역 등을 제작했다. 그는 이런 허위 문서들을 바탕으로 수십억 원대 자산을 가진 의사 겸 사업가인 것처럼 속여 피해자들에게 접근해 코인 투자, 크루즈 선박 사업, 메디컬센터 설립 비용 등을 명목으로 약 3억2000만 원을 가로챈 혐의를 받는다.</p> <p contents-hash="e1443ab216ade221b19268fb0f1882b02e59ccf5b25ae8c76457bbe4cd0a5f63" dmcf-pid="tEbWJBMVSw" dmcf-ptype="general">A씨는 사기 혐의로 열린 구속 전 피의자 심문(영장실질심사)에서 변제능력을 갖춘 것처럼 계좌에 9억원이 있다며 AI로 위조한 잔고증명서를 제출했다. 재판부는 A씨가 피해액 전액을 변제하겠다고 약속한 점 등을 고려해 당시 구속영장을 기각했다. 이후 약 한 달이 지났음에도 A씨가 피해자에게 돈을 돌려주지 않은 사실을 확인한 검사가 직접 보완수사에 나섰다.</p> <p contents-hash="64865d4ede26a365b53c49afd19b47432d7268bfd953016a9bdbe5725e997045" dmcf-pid="FDKYibRfyD" dmcf-ptype="general">검찰은 A씨가 의사국가시험 합격증 등을 AI로 위조한 점에 주목, 9억원이 있다는 잔고증명서의 진위 확인을 위해 사실조회와 계좌 추적에 들어갔다. 그 결과, 잔고증명서 역시 위조됐으며 해당 계좌의 실제 잔액은 23원뿐이란 사실을 밝혀냈다. 이에 구속영장을 다시 발부받아 추가 조사를 거쳐 A씨를 구속기소 했다.</p> <p contents-hash="99f4f881e7158b536ba140333ef1fb1ffde392b8e01446e7ae91aed2f61917ba" dmcf-pid="3C6tj8oMlE" dmcf-ptype="general">A씨는 담당 판사와 검사뿐 아니라 피해자에게도 같은 방식으로 위조한 잔고증명서를 제시한 것으로 알려졌다. 검찰은 AI 생성물이 범죄에 악용될 경우 수사·사법 절차에 혼선을 초래할 수 있음이 확인됐다고 밝혔다. 검찰 관계자는 “피고인은 맨눈으로 식별할 수 없을 정도로 정교한 허위 AI 이미지를 제출해 판사까지 기망했다”며 “검사의 보완수사로 법원의 오판을 시정하고 여죄를 추가 규명했다”고 말했다.</p> <p contents-hash="d0e2b1d82f60a17109b5ad48a2e187a3d7ac182a61a5310be0d62537757a0739" dmcf-pid="0hPFA6gRWk" dmcf-ptype="general">앞서 지난해 12월에도 챗GPT로 만든 허위 진단서로 1년여 동안 11차례에 걸쳐 보험금 1억5000만원을 챙긴 20대 B씨가 재판에서 보험사기방지 특별법 위반으로 징역 2년을 선고받은 바 있다. 이전에도 포토샵 등 편집 프로그램으로 이런 문서조작은 가능했으나, 전문가나 실무현장을 속이려면 일정 이상 지식·숙련도와 그 나름의 시간·노력이 요구됐다. 하지만 이젠 AI 도구에 자연어 명령을 내리는 것만으로 누구나 그럴듯한 가짜문서를 만들 수 있게 됐다.</p> <p contents-hash="8223ed576e361dad3c23d205466c19091078753a11e99a41860acbf1d78a9ec6" dmcf-pid="plQ3cPaelc" dmcf-ptype="general">현행 AI기본법에서는 AI 생성물임을 표시하는 투명성 확보 의무를 AI 개발사업자엔 부과하나 AI 이용사업자는 그 대상으로 삼지 않는다. 이런 규제를 확대할 경우 AI산업 진흥과 AI 이용 확산을 저해할 수 있다는 우려가 적지 않기 때문이다. 글로벌 규제 수준에 보조를 맞추는 차원이기도 하다.</p> <p contents-hash="a2b38140a903a46400196a72a1bd6236df10e157406245fdba5b06b268d405db" dmcf-pid="USx0kQNdyA" dmcf-ptype="general">다만, 딥페이크 등 AI 오·남용에 대한 경각심이 세계적으로 높아지고 있는 만큼, 마찬가지로 AI를 활용한 기술적 식별·대처 방안과 법·제도적 보완의 필요성이 함께 거론되고 있다. 딥페이크 식별 관련해선 글로벌 최상위(SOTA) 기술도 실상은 아직 60% 정도를 잡아내는 수준이고, 콘텐츠 진위 검증을 위해 출처와 이력을 추적할 수 있는 국제표준 안중기술인 C2PA도 경량화 필요성이 제기되는 등 아직 갈 길은 멀다.</p> <p contents-hash="6792b2a8ab1ab4b3111e145ce1bf6284d69d9f6ff9a98ceaf9b003b560c56752" dmcf-pid="uvMpExjJWj" dmcf-ptype="general">김명주 AI안전연구소장은 “일반이용자의 AI 생성물을 활용한 사기행위 등에 대해 현재로선 각 영역의 법·제도들이 AI를 고려해 빈틈을 메꾸는 식으로 대처해야겠다. 향후 AI 확산에 따라 이용자 대상 규제 논의도 확대될 수 있을 것”이라며 “AI기술 발전이 워낙 빨라 딥페이크 대처에 어려움을 느끼는 것은 어느 나라나 마찬가지인 상황이다. AI연구소도 AI 생성물 탐지·식별을 위한 기술을 연구하고 있는데, 장차 백신프로그램처럼 이런 도구를 보급하는 방안도 고려해볼 수 있을 것”이라고 말했다.</p> <p contents-hash="e56a2299c00e06b236e9c84e344abb93e0212054626433bac53165aff694ce69" dmcf-pid="7TRUDMAiWN" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 “자동차 보안은 국가 안보”…아우토크립트, ‘기술 주권’ 선점 속도 02-11 다음 폴스타, 올해 판매 목표 4000대 이상…"신차 2종 투입 및 인프라 확충 추진" 02-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
