AI, 보안 패치 역분석해 2시간 만에 소프트웨어 공격 작성일 11-12 55 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="G8WEEW3GM6"> <figure class="figure_frm origin_fig" contents-hash="093097dd42a347e72d9bba0f3f9076d2762136b9f31ce09c26bfa0485338c53b" dmcf-pid="H6YDDY0HM8" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 보안 패치 전후 소프트웨어를 비교해 사이버 공격에 활용한다는 연구결과가 발표됐다. 챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/dongascience/20261112174724807dqzb.png" data-org-width="680" dmcf-mid="xOG99ikLeY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/dongascience/20261112174724807dqzb.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 보안 패치 전후 소프트웨어를 비교해 사이버 공격에 활용한다는 연구결과가 발표됐다. 챗GPT 생성 이미지 </figcaption> </figure> <p contents-hash="e0a48b952685db652e89b64759a8f1aee1ae541aedb0e61808b489dbb9b7e231" dmcf-pid="XPGwwGpXn4" dmcf-ptype="general">소프트웨어에서 보안 취약점이 발견되면 개발사는 이를 수정한 업데이트 파일(패치)을 배포한다. 사용자가 실제로 업데이트를 적용하기까지는 시간이 걸린다. 이 시간에도 인공지능(AI)이 업데이트 전후의 소프트웨어를 비교해 2시간 만에 기존 버전의 취약점을 찾아내고 사이버 공격에 활용할 수 있다는 위험성이 제기됐다.</p> <p contents-hash="ed018135ef60f9d14162756d90db024eeae42c38a519c68af89b9f16c1ffb1be" dmcf-pid="ZQHrrHUZef" dmcf-ptype="general">미국 버클리캘리포니아대(UC버클리)와 싱가포르국립대 등 국제공동연구팀은 AI가 공개된 보안 패치를 분석해 기존 소프트웨어의 취약점을 찾아내고 실제 사이버 공격에 활용할 수 있다는 연구결과를 7일 논문사전공개사이트 '아카이브(arXiv)'에 게재했다. </p> <p contents-hash="aa94f643bc20f74cc0a8a32a8c124f00230f8c1ce69ba5345da772cffe6c5d36" dmcf-pid="5xXmmXu5iV" dmcf-ptype="general">소프트웨어의 보안 취약점을 수정하는 패치가 공개된 뒤 해커가 패치 전후 버전을 비교해 수정된 취약점을 찾아내고 아직 패치가 적용되지 않은 시스템을 공격하는 것을 '원데이 공격'이라고 한다. 원데이 공격은 AI 등장 이전에도 가능했지만 해커가 AI 없이 원데이 공격을 시행하려면 상당한 시간과 노력이 필요하다. </p> <p contents-hash="4c1e1cdd272d2c719ba46942622a26a2dd3f7ab9072cff608e9298e7f8617b15" dmcf-pid="1MZssZ71d2" dmcf-ptype="general">연구팀은 스스로 목표를 설정하고 계획을 세워 독립적으로 작업하는 'AI 에이전트'가 원데이 공격을 자동으로 수행할 수 있다고 보고 AI의 사이버 공격 능력을 평가하는 벤치마크 '사이버빈짐(CyberBinGym)'을 개발했다. 벤치마크는 프로그램의 능력을 측정하는 표준 방식이다. </p> <p contents-hash="7e364b3ba255cc2106881d411ab4f1b8fdde5812b35c0b72977acbe6e06d7091" dmcf-pid="tR5OO5ztn9" dmcf-ptype="general">연구팀은 현재 널리 사용되는 소프트웨어 프로그램 53개에서 발견된 실제 보안 취약점과 이를 수정한 패치를 확보했다. 이 내용을 바탕으로 AI 에이전트에게 소프트웨어를 공격하는 내용의 평가 과제를 100개 제시했다. </p> <p contents-hash="29881f3f3e4225e34170ead5e55af1fd324d679262bc3b6b5b697f9389239010" dmcf-pid="Fe1II1qFMK" dmcf-ptype="general">실험 결과 AI 에이전트들은 프로그램의 소스코드나 취약점에 대한 정보 없이 패치 전후 소프트웨어를 분석해 실제 작동하는 공격 코드를 생성했다. 벤치마크에서 가장 높은 점수를 획득한 AI 에이전트는 총 100개 과제 중 88개에서 소프트웨어의 취약점을 발견했다. 실제로 공격에 성공한 경우는 20개였다. </p> <p contents-hash="dac20b20c5313b09ebe77b17cde4bfda2cda09deaf5544aaf87bed6365cc989f" dmcf-pid="3dtCCtB3db" dmcf-ptype="general">AI 에이전트가 과제를 푸는 데 소요된 시간은 약 2.13시간이고 과제 하나를 푸는 데 든 평균 비용은 28.11달러(약 3만7375 원)였다. </p> <p contents-hash="058f4697fcb45de2921b81bf80918c77647442f5c48d2e334962b9c437994a46" dmcf-pid="0PGwwGpXJB" dmcf-ptype="general">연구팀은 "AI 기술이 보안 패치가 적용되지 않은 소프트웨어를 공격하는 데 필요한 기술적 장벽을 낮추고 방어자가 공격에 대응할 수 있는 시간을 확보하지 못하도록 만든다"고 말했다. </p> <p contents-hash="c35ba1cb3b6dfa275698743d6fb7a7114e57b7a9adf2fc5f5292d0752d96c0c4" dmcf-pid="pQHrrHUZRq" dmcf-ptype="general">12일(현지시간) 로이터 보도에 따르면 시스템을 중단하고 보안 패치를 적용하기 어려운 병원의 경우에는 패치를 적용하기까지 평균 약 500일이 소요된다. </p> <p contents-hash="19863c17a89acea6aae356b84600722280e9a508fe8fff3059609a1ae4364569" dmcf-pid="UxXmmXu5ez" dmcf-ptype="general">연구팀은 "AI 에이전트의 능력이 발전하면서 앞으로는 보안 패치를 신속하게 적용하는 것이 더욱 중요해질 것"이라고 말했다. </p> <p contents-hash="c488564e8c3e956d79d587868b1f10a1e813588b45b8996787656cb86419ecd9" dmcf-pid="uMZssZ71J7" dmcf-ptype="general"><참고자료><br> doi: 10.48550/arXiv.2611.10723<br> </p> <p contents-hash="982fd47cd1ff092e8789314b4238dc8f922eaae5a842ea49af9674edfc6632a0" dmcf-pid="7R5OO5ztRu" dmcf-ptype="general">[김소연 기자 lecia@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 인텔, 국내 AI 스타트업에 기술·교육 지원…서울시와 '맞손' 11-12 다음 AI, 입자물리학 떠받친 '양-밀스' 이론 증명 도전…"1147쪽 증명은 검증 중" 11-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.