숭실대 AI안전성연구센터, 해커 속여 서버 보호 'AI 기만 방어' 개발 작성일 11-10 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zKlK1owast"> <figure class="figure_frm origin_fig" contents-hash="d8942ff270c51e00652c7cb9b223faa2e65ac148852a822c9ed0603e5fd70aa5" dmcf-pid="q5j5C4J6D1" dmcf-ptype="figure"> <p class="link_figure"><img alt="숭실대 AI안전성연구센터가 개발한 AI 기만 방어 기술 예시. 숭실대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/etimesi/20261110154746375paah.jpg" data-org-width="471" dmcf-mid="um7f0jOcE3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/etimesi/20261110154746375paah.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 숭실대 AI안전성연구센터가 개발한 AI 기만 방어 기술 예시. 숭실대 제공 </figcaption> </figure> <p contents-hash="b08fd3f7b9bc434420bbaaf1b290da1318363acb6ab20c31c6e06fa5e7870342" dmcf-pid="B1A1h8iPs5" dmcf-ptype="general">숭실대 AI안전성연구센터 최대선 교수 연구팀이 스스로 취약점을 찾아 침투하는 인공지능(AI) 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발했다고 10일 밝혔다.</p> <p contents-hash="85c852cc122e7eb561f371c47fca63a24716587ad965e72be34970474997f745" dmcf-pid="btctl6nQIZ" dmcf-ptype="general">연구팀은 지난달 마이크로소프트(MS)가 국가 배후 해킹에 사용됐다고 공개한 자율 침투 AI '아르텍스'를 상대로 실험한 결과, 방어가 없을 때 취약한 웹 서버 60개 중 35개를 뚫던 공격이 방어 적용 후에는 한 건도 실제 서버에 닿지 못하는 것으로 확인했다.</p> <p contents-hash="9d177f5d82fb723110eb9a7c0736711a2d2f0a907f28adb179ccd1e9f5440763" dmcf-pid="KFkFSPLxsX" dmcf-ptype="general">최근 AI 에이전트가 사람의 개입 없이 취약점을 찾고 공격까지 수행하는 자율 침투 도구가 실제 공격에 쓰이기 시작했다. 7월 공개된 아르텍스는 8월 말부터 금전·첩보 목적의 공격에 사용됐고 MS는 중국 연계 해킹 그룹이 해당 도구로 2250곳 이상 백업 서비스 이용 기관에 로그인을 시도했다고 밝힌 바 있다.</p> <p contents-hash="3a285c66e8a9df2035afd6239f262ce538a8b5dea8e2c42a6a02726a0d5a5e13" dmcf-pid="93E3vQoMmH" dmcf-ptype="general">이번 실험 과정에서도 아르텍스는 방어가 없는 취약 서버 40개 중 20개, 설계에 쓰지 않은 새 서버 20개 중 15개에 침입했다. 공격 속도가 패치보다 앞서는 상황에서는 취약점을 고치는 것만으로 따라갈 수 없다는 게 연구팀 문제의식이다.</p> <p contents-hash="8413f653973fb8424e34443cd7e0460929dbe12244aadfeaf3b5f59d8ebf13f0" dmcf-pid="20D0TxgRIG" dmcf-ptype="general">숭실대 연구팀이 개발한 기술은 공격을 막는 대신 속이는 방식이다. 방어자가 본인 웹 서비스 소스코드를 AI에게 읽혀 공격자가 찾을 만한 가짜 페이지·가짜 접속 경로·가짜 비밀번호를 미리 심는다.</p> <p contents-hash="ded06cdf67504279e06ec148006158ea2b7292f8f1d8f6999e5131da4afa3009" dmcf-pid="VpwpyMaeIY" dmcf-ptype="general">미끼를 건드린 접속자는 공격자로 분류, 이후 요청은 전부 진짜 서버와 똑같이 생긴 격리된 복제 서버로 전달된다. AI의 공격 시도는 성공했지만 도달한 지점이 가짜라는 점에서 확실한 방어가 가능하다.</p> <p contents-hash="17347e8b19b7f20fc5b1d61df15b32ad5f650beeeb0ef6e148d9d29ee825e6ad" dmcf-pid="fUrUWRNdDW" dmcf-ptype="general">공격자로 확인되는 즉시 타깃 서버에 아예 닿지 않도록 한다는 점에서 차이가 있다. 미끼 설계는 공격 전에 한 번만 하면 된다. 서비스당 약 2달러 비용이 투입되며 소요 시간은 7~16분이다. 실험 과정에서 정상 크롤러 117회 중 공격자로 잘못 분류된 경우는 없었다.</p> <p contents-hash="e0905f6e33e8bb19baf1f506068ec3c3e2a37164797d69128933b9f432f4b4f0" dmcf-pid="4umuYejJIy" dmcf-ptype="general">다만 한계도 있었다. 과제당 한 번씩만 실행했고 같은 탐지로 공격자를 단순 차단하는 방식과는 비교하지 않았으며, 기만을 예상하고 신원을 바꾸며 교차 검증하는 공격자는 시험하지 않았다.</p> <p contents-hash="a4f6a8fbdcb4b9e36e9e3f9722b059fcc3f70774e5555d035df6f6f42ae1eb68" dmcf-pid="87s7GdAirT" dmcf-ptype="general">연구팀은 이번 연구를 기만을 이용한 AI 해커 방어의 방향성을 확인한 것으로 평가했다. 미끼 종류와 기만 방식을 다양하게 늘리고 더 많은 공격 도구와 실제 서비스 환경에서 실험을 이어 일반성과 적용 가능성을 검증할 계획이다.<br></p> <figure class="figure_frm origin_fig" contents-hash="5e9b391b5383dd03dc81469ca33d39a8fe296add4c2825d9ec8ea037176f4fa0" dmcf-pid="6zOzHJcnDv" dmcf-ptype="figure"> <p class="link_figure"><img alt="최대선 교수(왼쪽 첫번째) 등 숭실대 AI안전성연구센터 AI 기만 방어 기술 연구팀. 숭실대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/etimesi/20261110154747598hccu.jpg" data-org-width="604" dmcf-mid="7Kuo8S5TsF" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/etimesi/20261110154747598hccu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 최대선 교수(왼쪽 첫번째) 등 숭실대 AI안전성연구센터 AI 기만 방어 기술 연구팀. 숭실대 제공 </figcaption> </figure> <p contents-hash="97c18bd80e6993cc835603af7b3dc58bd7c42f589a310bdc500dbcced4359cd1" dmcf-pid="PqIqXikLOS" dmcf-ptype="general">최대선 교수는 “패치보다 공격이 빠른 시대에는 뚫린 뒤에도 남는 방어가 필요하다”며 “공격 AI도 결국 AI라서 읽는 것을 믿는 것으로 공격이 자동화될수록 방어가 유리해지는 드문 지점”이라고 말했다.</p> <p contents-hash="af99e6affceab98d43cf386aae90a81e701abde02eb8bdd026617fd6e3e56b53" dmcf-pid="QBCBZnEoml" dmcf-ptype="general">이어 “이번 연구로 기만 방어가 AI 해커에 유효하다는 것은 확인했다”며 “MS와 같은 해외 빅테크는 이미 기만 기능을 제품에 넣고 권고까지 하는 상황으로, 기업과 기관은 미끼 자격증명·캐너리처럼 지금 바로 쓸 수 있는 기만 수단부터 도입을 적극 검토할 필요가 있다”고 제안했다.</p> <p contents-hash="4b1043a18b092f0704c51eefb562746df8f3fb87f0b7553f3ced64d8f740947b" dmcf-pid="xbhb5LDgEh" dmcf-ptype="general">이번 연구에는 최 교수와 숭실대 노승덕 석사과정, 류석준 학사과정, 박소희 연구교수가 참여했다. 연구 결과는 arXiv(2611.07611)에 공개됐다.</p> <p contents-hash="08c10cf00dde8cae93df275cdbc3501ae346122c1973588ead8351ac8f620fb2" dmcf-pid="y5j5C4J6OC" dmcf-ptype="general">숭실대 AI안전성연구센터는 2017년부터 AI를 속이는 적대적 교란 문제를 연구하며 공격 기술과 방어 기술을 함께 개발해왔다.</p> <p contents-hash="0ae654e6ff1553f08a1f6559249bd71ad703a60342c458903a37a2dc6d099476" dmcf-pid="W1A1h8iPDI" dmcf-ptype="general">박종진 기자 truth@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 국산 AI 반도체·클라우드 융합에 산학연 머리 맞댔다 11-10 다음 에이아이세라, 소상공인 AI 상담원 에이전트 1개월 무료 지원 11-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.