AI '치명적 해커'가 되다…고위험 기능 긴급 봉인 작성일 09-07 16 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">사람 개입 없이 소프트웨어 약점 찾아 공격<br>오픈AI의 GPT-6 아스트라 이어<br>앤트로픽의 페이블·미토스도 '접근 제한'<br>중국 추정 해킹 조직이 클로드코드 이용<br>세계 30개 기관에 침투 시도 사례 적발<br>한국도 독자적 보안 특화 모델 개발 나서</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XT8zS6FYvq"> <p contents-hash="0396e26d026732806781472e8dcf565c9b4571061df9117591fdefdc8153370c" dmcf-pid="Zy6qvP3Gvz" dmcf-ptype="general">최신 인공지능(AI)의 사이버 공격 능력이 높아지자 오픈AI와 앤트로픽이 고위험 기능의 접근을 제한하고 있다. 최첨단 AI가 사람이 매 단계를 지시하지 않아도 소프트웨어 취약점을 찾고 공격 방법을 개발할 수 있는 수준에 도달하면서다. AI 업계에서 강력한 모델 성능을 누구에게 어디까지 허용할지를 둘러싼 문제로 확대되고 있다.</p> <p contents-hash="f87f0d4887d3bcaacefa36362e3a6daac1143da1aa1564e6fd7dc1582d52a813" dmcf-pid="5WPBTQ0HT7" dmcf-ptype="general"><strong><span> ◇ ‘제로데이’ 찾아 공격 경로 개발</span></strong></p> <p contents-hash="45224015a218e98c7c98c07915048dac5cd1b56d075eb0e836c211b0162683c3" dmcf-pid="1YQbyxpXWu" dmcf-ptype="general">오픈AI는 최근 GPT-6 아스트라가 자사의 위험 평가 체계에서 사이버보안 분야 최고 수준인 ‘치명적’(critical) 역량 기준에 도달했다고 밝혔다. 오픈AI 모델이 이 수준으로 분류된 것은 처음이다.</p> <figure class="figure_frm origin_fig" contents-hash="b654e0d7d5a006919d23634ac267b83c85436cb27ff430039a2b785f0d138bdf" dmcf-pid="tGxKWMUZvU" dmcf-ptype="figure"> <p class="link_figure"><img alt="게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/ked/20260907155608812mnbl.jpg" data-org-width="969" dmcf-mid="HxUHcuSrTB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/ked/20260907155608812mnbl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 게티이미지뱅크 </figcaption> </figure> <p contents-hash="64852abaf6e69770cc736c3e4c40159dfdc4b512864b6234414facdf14d1982a" dmcf-pid="FkpGAUlwhp" dmcf-ptype="general">아스트라는 알려진 취약점의 공격 코드 개발 능력을 평가하는 ‘익스플로잇벤치’에서 100%를 기록했다. 최근 공개된 고위험 취약점 20개로 별도 평가한 결과 기존에 알려지지 않은 ‘제로데이’ 취약점 두 개를 발견해 공격 과정에 활용했다. 보안이 강화된 브라우저 환경에서 호스트 시스템에 명령을 실행하거나, 운영체제에서 루트(root) 권한을 확보하는 공격 경로도 만들어냈다. 지난 3일 공식 출시된 아스트라는 고난도 사이버보안 작업에 대한 접근이 초기에는 제한된 사용자에게만 허용된다.</p> <p contents-hash="c8cdf4ca102ff634a9939ae5d31d9e36b2362f7f7783c51b1faf636d3504be43" dmcf-pid="3EUHcuSrC0" dmcf-ptype="general">앤트로픽도 이달 1일 ‘페이블 5.1’과 ‘미토스 5.1’을 공개하면서 이용 범위를 구분했다. 일반 사용자용 페이블은 소스코드의 취약점을 찾는 작업은 수행할 수 있지만 침투 테스트와 공격 코드 생성, 바이너리 취약점 탐색 등은 제한한다. 미토스는 검증을 통과한 일부 기관에만 제공한다.</p> <p contents-hash="88f783ff8cff56de25d53da85efb93a6344f104ebb6abfb4f1d090330dfe7048" dmcf-pid="0DuXk7vml3" dmcf-ptype="general"><strong><span> ◇ AI가 공격 작업 80~90% 수행</span></strong></p> <p contents-hash="adb703e1a7f63c09def52b51c113c5bb93bfcd3625dd4ff5495c38a4bb8ca935" dmcf-pid="pw7ZEzTsWF" dmcf-ptype="general">AI를 활용한 실제 사이버 공격에서도 자동화 범위가 넓어지고 있다. 앤트로픽은 지난해 9월 중국 정부의 지원을 받는 것으로 추정되는 해킹 조직이 ‘클로드 코드’를 이용해 세계 약 30개 기관에 침투를 시도한 사례를 적발했다. 대형 기술기업과 금융회사, 화학기업, 정부기관 등이 공격 대상이었다.</p> <p contents-hash="62ea754478224949a1c7bffb0e184962e254d89fc81ba684709510acab5600e7" dmcf-pid="Urz5DqyOyt" dmcf-ptype="general">앤트로픽에 따르면 AI는 공격 과정에서 이뤄진 전술적 작업의 80~90%를 수행했다. 사람은 공격 대상 선정 등 핵심 의사결정에만 개입했다. AI는 시스템 구조 분석과 취약점 탐색, 공격 코드 작성, 계정 정보 탈취, 데이터 분류 등의 작업을 맡았다. 앤트로픽은 이를 인간 개입 없이 대규모 사이버 공격이 진행된 첫 사례로 평가했다. 고성능 AI를 이용하면 공격자가 직접 수행해야 하는 작업이 크게 줄어들 수 있다는 의미다.</p> <p contents-hash="1ba4d7b5e43fdfb3962c26c96b7551160376d82664b554fe44b0028285cb574f" dmcf-pid="umq1wBWIW1" dmcf-ptype="general">AI 모델의 사이버보안 평가 방식도 강화되고 있다. 앤트로픽은 지난 7월 설정 오류로 인터넷 접속이 가능해진 모델이 실제 기관 시스템에 허가 없이 접근한 사례를 공개했다. 앤트로픽은 이후 사이버보안 평가를 원칙적으로 인터넷과 분리된 환경에서 진행하고, 인터넷 접속이 필요한 경우 모델 행동을 실시간으로 감시하도록 기준을 강화했다.</p> <p contents-hash="47af3114033c7c468dee4c4f32394e7a78fe2cba10a93f9995bd08514dab2018" dmcf-pid="7sBtrbYCS5" dmcf-ptype="general"><strong><span> ◇ 한국도 보안 특화 AI 개발</span></strong></p> <p contents-hash="14b86962faa06f8e19acbc592e6e306590839864cb749e9db9ee774ac346b13c" dmcf-pid="zObFmKGhvZ" dmcf-ptype="general">AI의 취약점 탐지와 코드 작성 능력은 공격뿐 아니라 방어에도 활용될 수 있다. AI의 사이버 공격 능력이 국가 안보와 직결되는 문제로 떠오르면서 한국 정부도 독자적인 보안 특화 AI 개발에 나섰다. 과기정통부는 지난 3일 네이버클라우드 컨소시엄을 해당 사업 최종 사업자로 선정했다. 네이버클라우드를 중심으로 LG CNS, LG AI연구원, LG유플러스와 국내 보안기업, 대학·연구기관, 국가 기반시설 운영기관 등 33개 산·학·연·공공기관이 참여한다.</p> <p contents-hash="cae39fe154579ee26cb006dfbf80c9522961f1f1109c58155a08bb42f0aba2b7" dmcf-pid="qIK3s9HlTX" dmcf-ptype="general">정부는 엔비디아 B200 그래픽처리장치(GPU) 256장을 10개월 동안 지원한다. 네이버클라우드는 별도로 B200 GPU 4000장을 투입하고 LG 측도 H200 GPU 256장을 지원한다. 컨소시엄은 네이버클라우드의 ‘하이퍼클로바X’와 LG AI연구원의 ‘엑사원’을 활용해 각각 방어와 공격 역량에 특화된 7000억개(700B) 매개변수 규모의 전문가 혼합(MoE) 방식 모델 두 개를 개발한다. 학습에는 약 830TB 규모의 보안 데이터가 활용된다. 개발한 모델은 전력·금융·과학기술·통신·반도체·방위산업·항공우주 등 7개 분야에서 검증한다. 인터넷과 분리된 국가 핵심시설의 폐쇄망에서도 사용할 수 있도록 개발할 예정이다. 향후 상업적 활용이 가능한 오픈소스로 공개하고 중소기업 대상 무상 보안 점검에도 활용할 계획이다.</p> <p contents-hash="1c74e59e5a3b0b24a45c4de0113183bca6fe0498f55fcf29ce874f580f4206d1" dmcf-pid="BC90O2XSlH" dmcf-ptype="general">이영애 기자 0ae@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 스쿨존 들어서자 스스로 감속…운전대 뺀 '무인 車' 길 열렸다 09-07 다음 [르포]국민체조·탈춤까지 추는 ‘K-휴머노이드 로봇’…역동적 동작 등 ‘진화 중’ 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
