'다크AI'의 등장…딥페이크 사기에 기업도 속수무책

작성일 08-20

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="b2WGU0hLhH">
          <p contents-hash="1bed1f48447f1f28691227916e8157ae632216fa8e0a4419e6207598b972bd88" dmcf-pid="KVYHuplolG" dmcf-ptype="general"><strong>생성형AI와 딥페이크 결합된 '다크AI'… 영국 기업 350억 피해<br> 페라리·광고회사 대상으로 한 범죄 시도도 발생<br> 미국 금융범죄단속국, 기업에 딥페이크 범죄 주의령</strong></p>
          <p contents-hash="64057e24dd8bac0503ab2e34c99ff3d137f251145417a4bebc950fa4bd021aab" dmcf-pid="9fGX7USgyY" dmcf-ptype="general">[미디어오늘 <span>윤수현 기자</span>]</p>
          <figure class="figure_frm origin_fig" contents-hash="4c4d6758bde23b93055950a9f58022e9e093ff03f1802486994dc75cf6f23894" data-idxno="468263" data-type="photo" dmcf-pid="24HZzuvalW" dmcf-ptype="figure">
           <p class="link_figure"><img alt="▲ 사진=Getty Images Bank." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/20/mediatoday/20250820233014696uyfy.jpg" data-org-width="600" dmcf-mid="1oxqP8FOC7" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/20/mediatoday/20250820233014696uyfy.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            ▲ 사진=Getty Images Bank.
           </figcaption>
          </figure>
          <div contents-hash="300ab917ae6aa85db06ffb944f01354c53c467a2754b6c7905f0aa3c98008d0d" dmcf-pid="V8X5q7TNyy" dmcf-ptype="general">
           <p>생성형AI가 고도화되면서 덩달아 AI를 활용한 범죄 사건도 크게 증가하고 있다. 생성형AI와 딥페이크가 결합된 '다크AI' 범죄가 일상화되고 있다. 특히 일반인뿐 아니라 기업인을 타깃으로 한 대규모 범죄 사건이 이어지고 있다.</p>
          </div>
          <p contents-hash="2f87cd2c8f5e1465e01aa3b3899c62dffc78a87713987a5c54da56e6f9ebf017" dmcf-pid="f6Z1BzyjhT" dmcf-ptype="general"><span>월스트리트저널</span>은 지난 18일 &lt;AI로 인한 CEO 사칭 사기 증가&gt; 보도에서 생성형AI로 기업인 영상을 만들어 다른 기업에 사기 행각을 벌이는 범죄가 늘어나고 있다고 밝혔다. 실제 영국 다국적기업 아럽(Arup) 홍콩지사 직원은 지난해 회사 임원을 사칭한 딥페이크 영상에 속아 범죄자들에게 2500만 달러(한화 약 349억6750만 원)를 송금했다. 범죄자가 회사 고위 임원을 사칭한 딥페이크 영상을 만들어 화상회의를 개최한 뒤 직원에게 송금을 요구한 것이다. 최근 이탈리아 자동차 회사 페라리, 광고회사 WPP를 대상으로 한 딥페이크 범죄 시도가 있었다.</p>
          <p contents-hash="f42f569b6336bdbaaff8a038a59c7c0984ab910b40f4e9829f45fe372d17c9c8" dmcf-pid="4P5tbqWAWv" dmcf-ptype="general">월스트리트저널은 “딥페이크 범죄가 새로운 것은 아니지만, 생성형AI가 대중화되면서 범죄가 더 널리 퍼지고 있다”며 “지난해 미국에선 딥페이크 범죄 시도가 10만5000건 이상 발생했는데, 이는 5분마다 범죄 시도가 1건 발생한 셈”이라고 했다.</p>
          <p contents-hash="bd388591d9c1b8360380f58819548ca051285c9f626afd5d7dca9837c191088a" dmcf-pid="8P5tbqWAvS" dmcf-ptype="general">월스트리트저널은 재무 관리자, 임원 비서, 엔지니어 등 회사 내부 정보를 가진 직원이 범죄의 주요 타깃이라면서 “범죄자들은 다른 회사 고위 관계자를 사칭해 화상회의를 진행하고 자금 이체 등을 요구한다. AI로 제작된 가짜 영상은 (화상회의에서) 실시간으로 응답하며 자연스러운 악센트까지 모방한다”고 했다.</p>
          <p contents-hash="ff8904f662d54fa7a434a3c2d6539d90dad50d90979b6093e6aee676f42bb967" dmcf-pid="6Q1FKBYchl" dmcf-ptype="general">사이버 보안회사 옵티브(Optiv)의 제임스 터갈 부사장은 월스트리트저널에 AI의 기업인 사칭 범죄 피해액은 올해 1분기에만 2억 달러(한화 약 2797억 원)를 넘어섰다고 밝혔으며, 사이버 보안회사 가디오(Guardio)의 나티 탈 책임자는 월스트리트저널에 “많은 기업과 조직이 평판 훼손을 피하기 위해 범죄 사실을 공개적으로 밝히지 않을 것”이라고 했다.</p>
          <p contents-hash="e2d8f95adcc9e5b8c84432457db202e24d196abe17dbe58d9f183c2754fb8d45" dmcf-pid="Pxt39bGkhh" dmcf-ptype="general">미국 정부도 기업에 경고령을 내렸다. 미국 재무부 산하 금융범죄단속국은 지난해 말 “기업 임원이나 직원을 사칭한 뒤 돈을 요구하는 사이버 범죄가 증거하고 있다”며 업계에 경고했고, 미국은행협회도 딥페이크 범죄 관련 모니터링을 실시했다.</p>
          <p contents-hash="973c285fee3c607791daf75bffdc86826dad0375e0997e49ec177a747c9c2003" dmcf-pid="QMF02KHETC" dmcf-ptype="general">오픈AI의 샘 올트먼 대표이사는 지난달 연방준비제도가 개최한 행사에서 “AI로 인해 세계가 '사기의 위기' 문턱에 와있다. AI 기술을 활용한 범죄가 현실적 위협이 되고 있다”고 했다. 세르게이 로츠킨 카스퍼스키 센터장은 최근 행사에서 “챗GPT가 출시된 후 사이버 범죄자들이 생성형AI를 활용해 범죄 역량을 높이는 현상이 뚜렷해지고 있다”며 '다크 AI'가 등장했다고 경고했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 미디어오늘. 무단전재 및 재배포 금지.</p>

이전

김희철 꽃미모로 민폐 “미쓰라진과 게이 연애설+유노윤호 썸 깨져 오열”(라스)

08-20
다음

롯데, 22년만의 10연패 수렁…4위 추락

08-20

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

'다크AI'의 등장…딥페이크 사기에 기업도 속수무책

멤버랭킹

관련자료

멤버랭킹