"미토스급 AI 모델, 빠르면 6개월 후 등장…해킹 막을 검증체계 필요" 작성일 05-01 0 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tGOKyH8BCv"> <figure class="figure_frm origin_fig" contents-hash="f27bb9a5cb6c507c28765bf10635cc4474c55d734242c7a37d4e24a693dd3f0d" dmcf-pid="FHI9WX6blS" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/01/552796-pzfp7fF/20260501050111941bnfd.jpg" data-org-width="640" dmcf-mid="1KfORivmvT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/01/552796-pzfp7fF/20260501050111941bnfd.jpg" width="658"></p> </figure> <p contents-hash="6494f8efe482206075204dfd0d8f75bbc90c9963bd0823792fa434ebd049ea70" dmcf-pid="3EiHADFYll" dmcf-ptype="general">[디지털데일리 김보민기자] 앤트로픽 최신 인공지능(AI) 모델 '미토스'가 해킹에 악용될 가능성이 점쳐지는 가운데, 유사한 범용 모델이 쏟아질 것이라는 관측이 나왔다.</p> <p contents-hash="e8aee9eaabe03162e0813299458ff85c0a5c8f3f86c81da68243128001d53e4f" dmcf-pid="0DnXcw3Ghh" dmcf-ptype="general">박세준 티오리 대표는 30일 서울 중구 롯데호텔에서 열린 '제4기 개인정보 기술포럼'에서 글로벌 전망을 인용하며 "중국 등 AI 모델을 연구하는 조직들이 미토스 수준으로 범용 인텔리전스를 구현하는 데 6개월에서 12개월 정도밖에 남지 않았다"고 밝혔다.</p> <p contents-hash="7465d9714dcac13a87e92204427f5e159e4cf159e4eb15a8445a42d6423a701d" dmcf-pid="pwLZkr0HSC" dmcf-ptype="general">미토스처럼 사이버보안 특화 모델이 아니더라도, 모델 성능 자체가 고도화된다면 대응이 더욱 어려워질 수 있다는 취지다. 박 대표는 "미토스 접근권(액세스)을 확보하지 않아도 누구나 사용할 수 있는 범용 모델이 나온다는 의미"라며 "(이를 악용한) 취약점이 등장하고 공격이 자동화됐을 때, 과연 우리가 준비가 됐는지가 문제가 될 것"이라고 지적했다.</p> <p contents-hash="9de33ed89af59af7497bebd15599a75234af941f08009bb11255d119c804513d" dmcf-pid="Uro5EmpXvI" dmcf-ptype="general">앤트로픽이 최근 공개한 범용 모델 '클로드 미토스 프리뷰'는 자율형 에이전트를 기반으로 기존에 발견하지 못했던 제로데이 취약점을 찾아낼 수 있다. 사이버보안 전용으로 개발되지는 않았지만 코딩 및 추론 능력을 갖추고 있어 소프트웨어(SW) 및 코드 취약점을 탐지하는 데 능한 것으로 전해진다. 방어자는 미토스가 찾은 취약점을 활용해 위험을 사전에 방지할 수 있지만, 동시에 공격자도 이를 악용할 가능성이 점쳐진다.</p> <p contents-hash="b769e31adee38116f7365d0001cbb26529ce7b236157cf7ca64b846cd8e16c99" dmcf-pid="umg1DsUZCO" dmcf-ptype="general">박 대표는 "우리에게 주어진 시간은 '몇 년'이 아닌 '몇 개월' 단위"라며 "코드 시스템 또한 데이터베이스(DB)를 관리하거나 권한 분리를 하기 때문에 취약점이 있게 된다면 개인정보 탈취로 이어질 수 있다"고 진단했다. 그러면서 "공격 속도와 방어 기본값이 바뀌고 있다"고 강조했다.</p> <p contents-hash="b42a55989866a68dab2491abbfde275a5b807234b9222a92d932eca8720f2c97" dmcf-pid="7satwOu5Ws" dmcf-ptype="general">박 대표는 이러한 현상에 대응하기 위한 전략을 제시했다. 특히 AI 기술을 활용해 코딩을 하는 시대가 도래한 만큼, 기계 속도에 맞춘 검증 체계를 갖추는 것이 관건이라고 제언했다. 그는 "AI가 생성한 코드는 증명되기 전까지 신뢰하지 않는다는 원칙으로 다뤄야 한다"며 "개인정보를 다루는 코드일수록 더 그렇다"고 말했다.</p> <p contents-hash="1356613bd042fc5da551b30ca5272658064f4adb14f4b492d16576a1e7834c76" dmcf-pid="zONFrI71hm" dmcf-ptype="general">박 대표는 보안 템플릿, 승인된 빌딩 블록, 골든 패스 등 에이전트가 매번 보안을 새로 발명하지 않도록 안전한 기본값을 확보해야 한다고 밝혔다. 이어 비밀키 스캔, 정적애플리케이션보안테스트(SAST), 권한 등 모든 영역에 자동 게이트를 적용할 필요가 있다고 소개했다.</p> <p contents-hash="7873e14105f0f5586795eb4f57069ec7cc7808890f54773ab99a23fe67bc6222" dmcf-pid="qUGM3unQhr" dmcf-ptype="general">그다음에는 AI 기반 코드 리뷰가 필요하다고 제언했다. SAST가 놓치는 비즈니스 로직 오류를 포착하고 여러 파일에 걸친 신뢰 경계 위반을 포착하는 것이 핵심이라는 설명이다. 아울러 개인정보 유출과 권한 검증 누락을 식별하는 과정도 필요하다. 런타임 모니터링에 대한 중요성도 강조했다. 이상 탐지, 격리, 개인정보 접근 패턴 모니터링이 여기에 포함된다.</p> <p contents-hash="99c688fe39febab08a9f113b9825611d7eeb9a4c8962e642e52f10d43d02eb0e" dmcf-pid="BuHR07Lxhw" dmcf-ptype="general">박 대표는 검증 마지막 단계에는 '사람'이 있어야 한다고 봤다. 그러면서 "자동화 기반 검증도 중요하지만 아키텍처를 설계하거나 새로운 종류의 위협을 연구하는 중요한 부분에 사람을 배치해야 한다"고 말했다.</p> <p contents-hash="55ec48506957ab33512affedd5fb6afb9a2693c1f814400720d24d58950b1d2e" dmcf-pid="b7XepzoMTD" dmcf-ptype="general">한편 개인정보보호위원회와 한국인터넷진흥원(KISA)은 이날 행사를 통해 '제4기 개인정보 기술포럼'을 구성하고 위촉식을 진행했다. 기술포럼은 개인정보 보호와 활용을 지원하는 협력체로 2022년 9월 1기 출범 이후 정책 발굴과 표준화 연구를 이어오고 있다.</p> <p contents-hash="2859cc05cb66dce7e13cb7be21f341a2dd17050cf4204dffbd76d78e8ae8217f" dmcf-pid="KzZdUqgRCE" dmcf-ptype="general">송경희 개인정보위 위원장은 "AI 발전에 필요한 데이터를 효과적으로 활용하기 위해서는 개인정보 보호에 대한 신뢰가 뒷받침돼야 한다"며 "기술포럼 활동을 통해 국민이 안전하게 데이터를 활용하도록 사전 예방 체계 강화와 생태계 조성에 힘쓰겠다"고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 '주스 아저씨' 故 박동빈, 3살 딸·식당 개업 두고 영면…오늘(1일) 발인식 [Oh!쎈 이슈] 05-01 다음 한가인, 딸과 모전여전 "단호한 말투·목소리 똑같다고" (자유부인) 05-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
