“AI는 해킹 막는 수호신이자 이중 스파이” 작성일 02-16 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">MS 보고서 “해킹 조직, AI 전방위로 악용”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zFuZYtlwt8"> <figure class="figure_frm origin_fig" contents-hash="7f3e4cd4d8d6c186d7ffc36e720a895986e87069b88c9424519f425372fbd2b4" dmcf-pid="q375GFSrX4" dmcf-ptype="figure"> <p class="link_figure"><img alt="사이버 범죄에 악용되는 AI. /제미나이 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/16/chosun/20260216080146212sffz.jpg" data-org-width="2816" dmcf-mid="ummNLcRfXP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/16/chosun/20260216080146212sffz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사이버 범죄에 악용되는 AI. /제미나이 생성 </figcaption> </figure> <p contents-hash="ec29cb023e1ad8bb28b36eea9a08d2512fcd3647b8b955a3a93d603893fdc766" dmcf-pid="B0z1H3vmYf" dmcf-ptype="general">인공지능(AI)이 전 세계 모든 산업을 뒤바꾸는 가운데 해킹 같은 사이버 범죄에도 AI가 적극 활용되거나 AI 자체가 공격 대상이 되고 있다. 특히 스스로 판단하고 행동하는 AI 에이전트가 본격적으로 활용되면서 사이버 위협이 기존과 완전히 달라졌다는 평가가 나온다.</p> <p contents-hash="4226d73277a2b9c42509721e1b1030f506cfe5bad3efc290340a1ddc0594e14a" dmcf-pid="bPefK6u5XV" dmcf-ptype="general">보안 업계에선 AI 에이전트가 보안을 굳건히 하는 ‘수호신’이 될 수도 있고, 시스템 내부부터 무너뜨리는 ‘이중 잠입 스파이’가 될 수도 있다고 본다. AI로 보안 시스템을 강화하면 해커를 입구부터 틀어막을 수 있지만, AI가 해커에게 악용되면 사용자가 눈치채기도 전에 AI 에이전트가 엉뚱한 작업을 수행하며 시스템을 완전히 망가뜨릴 가능성이 있기 때문이다.</p> <figure class="figure_frm origin_fig" contents-hash="f367ece8db9ab53ab29c390f3d9a29ad007b49ed5791a17c6af3d4fd1a050ac3" dmcf-pid="KQd49P71Z2" dmcf-ptype="figure"> <p class="link_figure"><img alt="/일러스트=조선디자인랩 이연주" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/16/chosun/20260216080147575dzph.jpg" data-org-width="1800" dmcf-mid="7TVu3qXSG6" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/16/chosun/20260216080147575dzph.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /일러스트=조선디자인랩 이연주 </figcaption> </figure> <p contents-hash="234bf8c1b9344413bff182812c2dd2ceb860616de7c15b1186f2373ff06bc14b" dmcf-pid="9xJ82QztY9" dmcf-ptype="general"><strong>◇사이버 범죄의 정보 수집책이 된 AI</strong></p> <p contents-hash="30d3db764b00598c26b191545657d1095f84cdfd8f9f9f8d2841bba2d2d36b4f" dmcf-pid="2Mi6VxqFZK" dmcf-ptype="general">구글클라우드 산하이자 사이버 위협을 분석하고 추적하는 구글위협인텔리전스그룹(GTIG·Google Threat Intelligence Group)은 작년 4분기 최신 AI 위협 동향을 분석한 ‘AI 위협 추적 보고서’를 발표했다. 보고서에 따르면, 해킹 조직들은 AI를 전방위로 악용하고 있다. AI로 악성 멀웨어(컴퓨터나 모바일 기기, 네트워크에 해를 끼치거나 정보를 훔치기 위해 설계된 프로그램) 생성과 코딩, 스크립트 작성, 사이버 범죄 표적에 대한 정보 수집과 취약점 탐색 등을 진행하는 것이 대표적이다.</p> <p contents-hash="63006c48f180ec07df93eb5db84d8551f9d39e5d928c53ef7124cb9b1efaf82d" dmcf-pid="VRnPfMB35b" dmcf-ptype="general">북한 지원을 받는 것으로 알려진 해킹 조직 UNC1069는 가상 화폐 탈취를 위해 구글 AI인 제미나이로 악성코드를 개발했다. UNC4899는 AI로 가상 화폐 업계 인물로 위장한 딥페이크(가짜 사진 또는 영상)를 만들어 악용했고, AI가 사이버 범죄 대상의 브라우저와 단말기 취약점을 연구하도록 했다. AI가 사이버 범죄를 위한 기초 정보 수집과 도구 제작에 악용되면서 해커들이 예전보다 쉽고 빠르게 사이버 범죄를 저지르게 되는 것이다.</p> <p contents-hash="b4c58507a3236be1713c60873ce8a5fb75764482188930cc326bd4012c63f2b6" dmcf-pid="feLQ4Rb01B" dmcf-ptype="general">보안 시스템의 탐지를 피하기 위해 AI로 주기적으로 코드를 변형하는 불법 행위도 발견됐다. 악성코드 ‘Promptflux’는 구글 AI인 제미나이와 상호작용하는 ‘씽킹 로봇’ 모듈을 갖췄는데, 주기적으로 제미나이에 바이러스 백신에 탐지되지 않는 우회 코드를 요청하고 이를 통해 자체 코드를 변형시키며 보안 탐지를 피했다. 요청을 하면 AI가 빠르게 코딩을 해주는 기능을 악용한 것이다. GTIC는 “악성코드가 제미나이에 10만번 이상 거의 실시간으로 우회 코드를 요청했다”며 “사이버 공격자들은 이제 AI를 단순한 생산성 향상 도구로 사용하는 것을 넘어, 실제 범죄 행위에서 새로운 악성코드를 만들고, 탐지를 피하는 도구로 이용하고 있다”고 했다.</p> <p contents-hash="010fbb79cd25414705c64ffd74582d7728a410193239962a994e46ea004227b2" dmcf-pid="4dox8eKptq" dmcf-ptype="general">특히 일부 사이버 범죄 집단은 기존 시장에 출시된 생성형 AI 제품이 어떻게 추론하고 사고하는지를 알아내기 위해 ‘모델 추출’, ‘증류 공격’을 진행한 것으로 조사됐다. 성능 좋은 AI의 사고 방식을 무단으로 빼돌려 이를 범죄에 활용하려는 시도다. 특히 구글 제미나이의 추론 능력을 공격하려는 시도가 많았다.</p> <p contents-hash="1fdf49973e912c2513394d44c8e712640f9c1c8ca33257affaee04119e093b14" dmcf-pid="8JgM6d9UXz" dmcf-ptype="general"><strong>◇AI 에이전트가 이중 스파이로 악용될 수도</strong></p> <p contents-hash="1ed7986310fe25b41d6865f46056c524831c12ef9bdf71f37b796a69cf1f3062" dmcf-pid="6slDAmLxZ7" dmcf-ptype="general">보안 업계에서는 AI 에이전트가 등장하며 사이버 위협이 크게 증가했다고 본다. 사람의 지시를 받으면 스스로 판단하고 행동하는 AI 에이전트가 해커 집단이 유포한 멀웨어 등에 감염되면 엉뚱한 행동을 하며 피해를 키울 수 있다는 것이다.</p> <p contents-hash="8ea658d89020e2a7a307ff5a9ba4c531d348e3e56f2bd4471d51564193502c37" dmcf-pid="POSwcsoMHu" dmcf-ptype="general">마이크로소프트는 최근 AI 보안 보고서 ‘사이버 펄스’에서 이러한 피해 사례를 공개했다. 한 사이버 공격자가 ‘메모리 포이즈닝’이라는 공격 기법을 악용해 AI 에이전트의 메모리를 지속적으로 조작하고, 정확하지 않은 응답을 반복하게 해 사용자가 더는 AI 에이전트를 믿지 않게 만든 것이다. 사용자 신뢰를 잃은 AI 에이전트는 명령과 다른 엉뚱한 행동을 하며 시스템 보안에 유해한 행동을 했다. 마이크로소프트는 “알아차리기도 전에 AI 에이전트의 추론 방식이 미묘하게 왜곡되며 AI 에이전트가 이중 스파이로 전락할 수 있다”고 했다.</p> <p contents-hash="9ce81e3a152be979744180f974338e8c41d3b159dd7484fee6ce061ac82986c9" dmcf-pid="QIvrkOgRtU" dmcf-ptype="general">결국 사이버 범죄 피해를 막으려면 아무것도 믿지 않는 ‘제로 트러스트’ 원칙이 필수적이다. AI 에이전트에 과도한 권한을 주지 말고, AI가 데이터에 접근할 때는 반드시 승인을 받아야 하는 등 절차적 대비책을 세워야 한다고 마이크로소프트는 조언한다.</p> <p contents-hash="5c41acd4928d62a7a792c258655ede078683ccd13ff52ac04c22821376c4f2ef" dmcf-pid="xCTmEIaeYp" dmcf-ptype="general">테크 업계 관계자는 “사이버 범죄 시장에서 AI 도구가 활성화되면서 공격의 진입 장벽이 낮아지고 기술적 정교함은 더욱 높아지고 있다”며 “피해를 막기 위해 기업들도 AI 기술을 활용해 더욱 능동적이고 선제적인 보안 체계를 구축해야 한다. AI를 막는 것은 AI뿐”이라고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 들것 거부하고 정상으로…최가온 "내 한계 뛰어넘고 싶다" 02-16 다음 [단독]'판사 이한영' 박건일 "초신성, 日 성공 뒤엔 고생 多..나는 잡초 같은 사람"[인터뷰③] 02-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
