"AI가 만든 가짜 전쟁, 진짜를 대체한다"…딥페이크 허위 게시물 수백만 명 노출 작성일 03-17 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XeYnHvUZh7"> <p contents-hash="02cbdf22b59b9812b7d8ddad0d79a3a387f4114bd6d3a59a18675a4dacdda89b" dmcf-pid="ZdGLXTu5Cu" dmcf-ptype="general">현대 전쟁은 더 이상 물리적 전장에만 국한되지 않는다. 미사일과 드론이 교차하는 현실 전장과 함께, 스마트폰 화면을 통해 수백만 명의 인식을 왜곡하는 정보 전장이 동시에 펼쳐지고 있다. </p> <div contents-hash="9b7caceeacdf47afb29a23dc727ae09235c087e620faf8d7693eb069e8d95d26" dmcf-pid="5JHoZy71yU" dmcf-ptype="general"> 미국·이스라엘의 이란 공격 이후 2주 동안 소셜미디어에서 AI로 생성된 허위 게시물 110건 이상을 포착했으며, 이 콘텐츠들의 누적 조회수는 수백만 회에 달했다고 미국 뉴욕타임스(NYT)가 3월 14일(현지시간) 보도했다. 숫자보다 더 심각한 문제는 따로 있다. 가짜 영상이 넘쳐나면서 사람들이 실제 영상마저 의심하기 시작했다는 점이다. </div> <figure class="figure_frm origin_fig" contents-hash="57cd3d74caa620c83b084f1d5fc1420ff0acc425e49099a0199c0b3d6195d1eb" dmcf-pid="1iXg5Wzthp" dmcf-ptype="figure"> <p class="link_figure"><img alt="이란이 미 항공모함을 공격하는 X의 페이크 영상 이미지 캡쳐, 테크42 'FAKE' 표시" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/552816-OGTrtXj/20260317090630867jtle.png" data-org-width="1024" dmcf-mid="HOs8IDGhhz" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/552816-OGTrtXj/20260317090630867jtle.png" width="658"></p> <figcaption class="txt_caption default_figure"> 이란이 미 항공모함을 공격하는 X의 페이크 영상 이미지 캡쳐, 테크42 'FAKE' 표시 </figcaption> </figure> <p contents-hash="7f09efc934e29822932a225c62f00921a9b7f9b49a222da0f53bfa530342cca1" dmcf-pid="tnZa1YqFS0" dmcf-ptype="general">정치학자 스티븐 펠드스타인은 "자신이 믿고 싶은 서사에 부합하지 않는 정보는 아예 진실로 받아들여지지 않는 단계에 이르렀다"며 "이런 현상 자체가 허위정보만큼 위험하다"고 경고했다. </p> <p contents-hash="79bb7a050aad7cd6de2f37fc21f80bdfbc8442e33b98846bf37a1fbdf4c006d1" dmcf-pid="FL5NtGB3l3" dmcf-ptype="general">연구자들은 이를 '리얼리티 콜랩스(reality collapse·현실과 가상의 경계가 무너지는 현상)'라고 명명한다. 딥페이크의 진짜 위협은 단순히 가짜 콘텐츠를 퍼뜨리는 데 그치지 않는다. 진실과 거짓의 경계가 무너지면서 실제로 일어난 일조차 부정하는 근거로 악용된다는 점에서 본질적 위협이 된다. </p> <p contents-hash="2a50de9731864262b6e74c3b0746aa30a7303c3c56ef313f5e0c4ea7da40e64b" dmcf-pid="3o1jFHb0yF" dmcf-ptype="general">이란 관련 AI 콘텐츠 상당수는 실제 현지 상황보다 훨씬 과장된 파괴 장면과 군사력을 담고 있으며, 특정 진영에 유리한 서사를 만들어내는 방향으로 제작됐다. 전쟁의 실제 피해보다 극적인 장면을 먼저 SNS에 유포하면, 이후 공개되는 실제 영상이 오히려 "축소 조작된 가짜"처럼 보이게 만드는 역설이 발생한다. </p> <p contents-hash="4da413e4a42e5f7139bf83d232455ee8fc687e72f7f992d1448fb14bd884870e" dmcf-pid="0gtA3XKpht" dmcf-ptype="general">허위정보 제작자들의 전술도 진화했다. 대중이 딥페이크에 익숙해지자, 이들은 '샬로우페이크(shallowfake·얕은 조작)' 방식으로 전환했다. 완전히 새로운 가짜를 만드는 대신, 실제 영상에 미세한 조작을 가해 사람들의 의심을 피하는 전략이다. 원본의 신뢰도를 활용해 핵심 정보만 왜곡하기 때문에 팩트체크로 걸러내기가 더 어렵다. </p> <p contents-hash="27f4cbc01197023b1df30f65f8cffdceff035aa92218e587ec942695796d845e" dmcf-pid="phfT8KiPy1" dmcf-ptype="general">과거 영상의 재활용도 빈번하다. 2024년 이란의 이스라엘 공격 장면, 2025년 6월 미국·이스라엘과 이란 간 충돌 당시 미사일 발사 영상, 미국 내 항공기 추락 사고가 2026년 현재의 교전 장면으로 둔갑해 유포됐다. 2015년 중국 톈진항에서 발생한 대형 폭발 영상은 이란의 이스라엘 공격 장면으로 변신해 인스타그램을 통해 확산됐다. 이미 존재하는 실제 영상에 맥락만 바꿔 붙이기 때문에 탐지가 더욱 어렵다. </p> <p contents-hash="98a4aa68f0d0dc728b29f41d1a419eeb1aac1208df790ef6bd2e4e389312ab38" dmcf-pid="Ul4y69nQT5" dmcf-ptype="general">이 사태를 가능하게 한 기술적 인프라를 짚지 않을 수 없다. 생성형 AI 도구는 프로파간다 제작을 누구나 시도할 수 있는 영역으로 끌어내렸다. 텍스트 몇 줄만 입력하면 수초 안에 전쟁 장면을 생성하는 이 도구들을 만든 주체는 실리콘밸리의 AI 기업들이다. </p> <p contents-hash="26bd4eb7fb2ae34484f6abc407dfc8e91ac59b33378cc6ae48487a683ca4f46d" dmcf-pid="uS8WP2LxCZ" dmcf-ptype="general">현재 대부분의 생성형 AI 이미지·영상 도구에는 콘텐츠 출처를 추적할 수 있는 워터마킹 기술이 기본으로 탑재돼 있지 않다. 이용자들은 존재하지 않는 건물, 왜곡된 글자, 부자연스러운 움직임 같은 단서로 AI 생성물을 판별해야 하는 상황이다. 이는 기술 기업들이 자사 도구의 오남용 방지 책임을 사실상 이용자와 팩트체커에게 전가해왔음을 보여준다. </p> <p contents-hash="ef01018ff3bcdff9270eeabc6d311c23f570c5d32b3e6f6f66a6bfa673301c33" dmcf-pid="7v6YQVoMyX" dmcf-ptype="general">X(구 트위터)는 3월 3일, AI로 생성된 전쟁 영상을 출처 표시 없이 게시한 계정에 대해 수익 공유 프로그램 참여를 90일간 정지하고, 재위반 시 영구 퇴출하겠다고 발표했다. 하지만 이미 해당 콘텐츠들은 수백만 뷰를 기록한 뒤였다. </p> <p contents-hash="694319f36c9b3493bf9b474d7402deb7e9cce1b128b4a4d1a8720d843a2868c8" dmcf-pid="zTPGxfgRvH" dmcf-ptype="general">전략대화연구소의 조 보드나르는 "여전히 모니터링 피드에 AI 생성 전쟁 콘텐츠가 넘쳐난다"며 정책이 제작자들을 실질적으로 억제하지 못하고 있다고 지적했다. 코넬테크의 알렉시오스 만차를리스는 "AI 콘텐츠의 메타데이터는 쉽게 제거될 수 있고 커뮤니티 노트만으로는 부족하다"며 정밀한 탐지와 광범위한 적용을 동시에 달성하기 어렵다고 설명했다. </p> <p contents-hash="3a72e921f53f50875c50786e3b5ef045bfbb5a102887b0e84eaaf6a245470c0b" dmcf-pid="qyQHM4aehG" dmcf-ptype="general">오픈소스 인텔리전스 분석가 탈 하긴은 AI 조작이 갈수록 정교해져 숙련된 전문가도 식별이 어려워지고 있다고 경고하면서, 챗봇에만 의존하지 말고 항상 원 출처를 직접 확인하라고 조언했다. </p> <p contents-hash="5aaf0cc9a5fc6e72f5817ca40d55431f3d681433d56a2acdf4f24c754c774eb2" dmcf-pid="BWxXR8NdSY" dmcf-ptype="general">한국도 이 문제에서 자유롭지 않다. AI 기본법은 생성형 AI 사업자에게 AI로 만든 콘텐츠에 워터마크 등 표시를 의무화하고 있으나, 개인 이용자에게는 원칙적으로 표시 의무가 없다. 법의 사각지대가 존재하는 셈이다. </p> <p contents-hash="79a5d05fd585ce6632868cd13334851f8a30ad45ed10da2b5aacd5e66a0bc9f4" dmcf-pid="bYMZe6jJlW" dmcf-ptype="general">교육부가 집계한 학교 딥페이크 피해 조사에 따르면 2024년 11월 1일 기준 누적 피해 학생은 883명에 달했다. 그러나 피해 대응에 집중할 뿐, 예방을 위한 교육 확대는 더디게 진행되고 있다. 한국언론진흥재단이 2024년 시행한 'AI 미디어 교육'은 전국 중학교 31개교를 대상으로 운영됐다. </p> <p contents-hash="b4e7a94d77623f78bcb54d6825ca1abc08717d2fee8e45b42222cc7284aededf" dmcf-pid="KGR5dPAiWy" dmcf-ptype="general">유럽연합(EU)은 AI법(AI Act)을 통해 딥페이크 콘텐츠에 대한 명확한 표시 의무를 부과하고, 투명성 의무 위반 시 최대 전 세계 매출의 3%까지 과징금을 부과할 수 있도록 했다. 반면 한국의 AI 기본법 시행령은 위반 시 1회 500만 원, 2회 1,000만 원, 3회 이상 1,500만 원의 과태료를 부과하는 수준에 그친다. </p> <p contents-hash="19820c577dd18a1f1c62dd1d286c73e97607db69ec94de3e150aeeea5d5238db" dmcf-pid="9UjqcoCEWT" dmcf-ptype="general">현대 전쟁의 정보 전장은 이미 AI 산업이 만들어낸 도구 위에서 작동하고 있다. 플랫폼의 사후 대응만으로는 역부족이라는 사실이 이번 이란 사태에서 다시 한번 입증됐다. 법조계에서는 AI 생성 여부를 입증할 기술적·법적 수단이 충분히 마련되지 않은 상태에서 처벌 규정만으로는 실효성을 기대하기 어렵다는 지적이 나온다. 전문가들은 특히 전쟁·재난 등 공공 안전과 직결된 사안에서의 가중 처벌 규정 마련과 AI 생성 콘텐츠 탐지 기술에 대한 공공 투자 확대가 필요하다고 강조한다. </p> <p contents-hash="933b8a5e8dcc8d4463953c7a3dd672c64bbca4110b8976cf63abda31ef56045c" dmcf-pid="2uABkghDhv" dmcf-ptype="general">저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지</p> </section> </div> 관련자료 이전 마이크론, 엔비디아 '베라 루빈'향 HBM4 공급 공식화…"1분기 대량 양산" 03-17 다음 美 법원 “크래프톤, 성과급 피하려 언노운월즈 CEO 부당 해고…복직시켜야” 03-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
