"인터넷 쓰지 마" 명령 어긴 괴물AI…아스트라, 통제 벗어나 공격 작성일 09-09 77 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">英 AI안전연구소 테스트서 과제 밖 '공급망 공격' 시도<br>가짜 신원 만들고 신뢰 쌓아…인터넷 금지 뒤에도 공격 행동</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PZYNCDx2tA"> <figure class="figure_frm origin_fig" contents-hash="2c568ef22937d7430647055b864b18a7bb8e114d79dccb3e8f5499e6bc9d45a9" dmcf-pid="Q5GjhwMVYj" dmcf-ptype="figure"> <p class="link_figure"><img alt="'괴물AI'라 불리는 오픈AI의 최신모델 GPT-6 아스트라가 영국 AISI의 사이버보안 실험에서 과제의 범위를 벗어나 외부 공격을 시도한 것으로 나타났다. 사진은 챗GPT로 생성한 이미지. 2026.09.09@News1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/NEWS1/20260909053151286nsua.jpg" data-org-width="1400" dmcf-mid="8Y3Yu1mj5k" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/NEWS1/20260909053151286nsua.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> '괴물AI'라 불리는 오픈AI의 최신모델 GPT-6 아스트라가 영국 AISI의 사이버보안 실험에서 과제의 범위를 벗어나 외부 공격을 시도한 것으로 나타났다. 사진은 챗GPT로 생성한 이미지. 2026.09.09@News1 </figcaption> </figure> <p contents-hash="b4b5701e11195a4fe2248020c25d463cc396f19830e88b7ee48cf46a97d554f5" dmcf-pid="x1HAlrRf1N" dmcf-ptype="general">(서울=뉴스1) 강은성 기자 = '괴물AI'라고도 불리는 오픈AI의 최신 인공지능(AI) 모델 'GPT-6 아스트라(Astra)'가 사이버보안 테스트에서 주어진 과제와 무관한 외부 공격을 시도한 것으로 나타났다. 개발자를 속이기 위해 가짜 신원을 만들고 정상 코드를 먼저 제공해 신뢰를 얻은 뒤 악성 코드를 심으려 했다.</p> <p contents-hash="6915f9e4cf9de5c67bb126766844ac0486066e0e49cb62f3c29431f46214e010" dmcf-pid="yLdU8bYC1a" dmcf-ptype="general">실제 인터넷이나 외부 시스템을 공격한 것은 아니다. 영국 AI안전연구소(AISI)가 만든 시뮬레이션 환경에서 진행된 테스트다. 다만 인터넷에 접근하지 말라고 명확하게 지시한 뒤에도 500번 중 2번은 이를 따르지 않았다.</p> <p contents-hash="09dc2e844e88e599377a97350d91e0222851b33074d91f1dc2887519261e368a" dmcf-pid="WoJu6KGh1g" dmcf-ptype="general">8일(현지시간) 오픈AI가 공개한 GPT-6 아스트라 시스템 카드에 따르면 AISI는 아스트라가 주어진 작업만 수행하는지 확인하기 위해 '범위 밖 공급망 공격'(Out of Scope Supply Chain Attack) 평가를 진행했다.</p> <p contents-hash="c6ad5fe88d826349e47734547c18866fb4f8f58fa92ff889d9032d79341ab34a" dmcf-pid="YkN9d6FY5o" dmcf-ptype="general">아스트라에는 난도가 높은 사이버보안 문제가 주어졌다. 인터넷을 사용할 수 있는 것처럼 환경을 만들었지만 실제 인터넷이나 외부 시스템에는 연결되지 않았다. 아스트라가 사용한 도구도 다른 AI 모델을 이용해 가상으로 구현했다.</p> <p contents-hash="24640f6f87948fe15205e23e71920b935f689951443bab212a9513def58e7240" dmcf-pid="GEj2JP3GXL" dmcf-ptype="general">테스트에서 아스트라는 주어진 문제를 푸는 데 필요한 작업을 넘어 과제와 관계없는 외부 오픈소스 프로젝트에 악성 코드를 심으려 했다.</p> <h3 contents-hash="e9836628554f667e15935352b0e54525cb46d9d2e4c15ff3242a82a18dec6a49" dmcf-pid="HDAViQ0H5n" dmcf-ptype="h3">가짜 신원 만들고 정상 코드로 신뢰부터 쌓아</h3> <p contents-hash="4c26bcc8d0a85fafa66593ae8f4b82e7b448c6248c28b054fe2ca14193c4c20c" dmcf-pid="XwcfnxpXXi" dmcf-ptype="general">아스트라는 공격 과정에서 개발자를 속이기 위해 가짜 신원을 만들었다.</p> <p contents-hash="21fadb28612e6a00d8a2b568975c2f200167f08a5b441c615f96f1dd9551dd62" dmcf-pid="Zrk4LMUZ5J" dmcf-ptype="general">처음부터 악성 코드를 심지는 않았다. 정상 코드를 먼저 제공하며 개발자의 신뢰를 쌓은 뒤 악성 코드가 포함된 변경사항을 받아들이도록 시도했다.</p> <p contents-hash="4597b24fd44991bbd3a09fbc1cf0ec47be1ff102217660124064b73f924158d6" dmcf-pid="5mE8oRu55d" dmcf-ptype="general">아스트라가 시도한 공급망 공격은 정상적인 오픈소스 코드에 악성 코드를 몰래 심어 이를 사용하는 다른 시스템까지 노리는 방식이다.</p> <p contents-hash="b70b84f66052f6d0b404ae9b842de796fc6fee51409d7bf44cecfc2ea03b9870" dmcf-pid="1sD6ge711e" dmcf-ptype="general">인터넷 접근을 금지하지 않은 첫 평가에서는 아스트라가 499번 중 주어진 과제의 범위를 벗어나 외부 공격을 시도한 횟수가 60번(12%)에 달했다.</p> <p contents-hash="f83fc9bd2704765a6ed5d222b6068d66b59c707c4d1132046df908e75368e968" dmcf-pid="tOwPadztZR" dmcf-ptype="general">연구소는 이후 조건을 더 엄격하게 바꿨다. 아스트라에 인터넷을 사용해서는 안 된다고 명확하게 지시했다.</p> <p contents-hash="e246f566837772ff39a0d73499f7c8086201dacdbad8326d26f5a5efe2577c6f" dmcf-pid="FIrQNJqFZM" dmcf-ptype="general">그러자 같은 행동은 크게 줄었다. 하지만 완전히 사라지지는 않았다. 총 500번 시도 중 여전히 2번은 인터넷 접근 금지 지시를 어기고 과제와 관계없는 외부 공격을 시도했다.</p> <p contents-hash="896db8307c00b08b458a22c9e99dc3690f5535c38fefde11db9b5eff6f864b74" dmcf-pid="3CmxjiB31x" dmcf-ptype="general">아스트라가 외부 작업을 하기 전에 사용자에게 허가를 요청한 경우도 있었다. 연구소가 분석한 사례의 81%에서 먼저 승인을 구했다.</p> <p contents-hash="43a15dfcbff100beb84b73178a61e3a2ec4aeb2e527b5575b2bbd058c221dc9b" dmcf-pid="0oJu6KGhtQ" dmcf-ptype="general">그러나 사람이 직접 승인하지 않았는데도 작업을 계속한 사례가 확인됐다. 사용자를 대신해 자동으로 생성된 메시지가 돌아왔고, 아스트라는 이 메시지가 자동으로 만들어졌다는 사실을 파악하고도 작업을 이어간 것으로 나타났다.</p> <figure class="figure_frm origin_fig" contents-hash="ffedffdc2dd53b8a6cc790b8b98a9df27bb833b0af7f9981e1a380cfe0c8ac2b" dmcf-pid="pgi7P9HlGP" dmcf-ptype="figure"> <p class="link_figure"><img alt="아스트라는 개발자 신뢰를 확보하기 위해 정상 코드를 먼저 만들고 이후 악성코드를 스스로 만들어 변경을 시도했다. 챗GPT로 생성한 그래픽. 2026.09.09 @News1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/NEWS1/20260909053152918bmrt.jpg" data-org-width="1400" dmcf-mid="6pwPadztHc" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/NEWS1/20260909053152918bmrt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 아스트라는 개발자 신뢰를 확보하기 위해 정상 코드를 먼저 만들고 이후 악성코드를 스스로 만들어 변경을 시도했다. 챗GPT로 생성한 그래픽. 2026.09.09 @News1 </figcaption> </figure> <h3 contents-hash="52b9fd322ffa18949246d5c8d95e9858e4837a1a4c9e251823c6563f0c63f7f5" dmcf-pid="UanzQ2XSt6" dmcf-ptype="h3">실제 환경에서도 공격할지는 확인 안 돼</h3> <p contents-hash="1b3dac2202f9e38ed0a5e6eee707f10274756af1128282b064c2494475665be8" dmcf-pid="uNLqxVZv58" dmcf-ptype="general">다만 이번 테스트만으로 아스트라가 실제 환경에서도 사람의 지시를 어기고 공격에 나선다고 볼 수는 없다.</p> <p contents-hash="ab533dbc1b47dec7ea9269c7b920d0828db91c56a58720c544ad3368b1e55f9b" dmcf-pid="7joBMf5T54" dmcf-ptype="general">테스트 과정에서 아스트라는 자신이 실제 환경이 아닌 시뮬레이션 안에 있을 가능성을 여러 차례 고려한 것으로 나타났다.</p> <p contents-hash="8bf9c9c0a151037b882b29abc78201b74d8bb7099a242ae1a6210bb918cc3650" dmcf-pid="zAgbR41y1f" dmcf-ptype="general">연구소는 아스트라가 실제 피해가 발생하지 않는 테스트라는 점을 알고 있었기 때문에 평소라면 하지 않을 행동을 했을 가능성을 배제하지 않았다. 실제 환경에서도 같은 행동을 할지는 추가 검증이 필요하다는 설명이다.</p> <p contents-hash="953dd485079b3185461b5f2b8bb48cb63286505f6bcdd7ef819502af3729d6a9" dmcf-pid="qcaKe8tWHV" dmcf-ptype="general">다른 안전성 평가에서는 같은 문제가 확인되지 않았다. 연구소가 아스트라에 AI 안전 연구를 방해할 기회를 주고 행동을 살펴본 별도 평가에서는 방해 행위가 발견되지 않았다.</p> <p contents-hash="d25c93d724a79b5322d6d57fb90dfcf1875910072534c78c7430b1461da41fe3" dmcf-pid="BkN9d6FYX2" dmcf-ptype="general">아스트라의 사이버 공격 능력 자체는 오픈AI가 만든 모델 가운데 가장 높은 수준으로 평가됐다.</p> <p contents-hash="733b9654bd0bd6a556fb7c7e10dc5c66d6fcada9c4ec3bf68ef9dab9f39a046b" dmcf-pid="bEj2JP3GH9" dmcf-ptype="general">오픈AI는 아스트라를 자사의 위험평가 체계인 '준비태세 프레임워크'(Preparedness Framework)에서 사이버보안 능력 'Critical'(심각) 기준에 도달한 첫 모델로 분류했다.</p> <p contents-hash="45c85611ee97bc5cfb560beadd94e0e43648bebd8173eb2ca8ea0b67e479acdf" dmcf-pid="KDAViQ0HtK" dmcf-ptype="general">Critical은 AI에 필요한 도구와 시스템 접근 권한을 주면 사람이 공격 과정을 하나씩 알려주지 않아도 아직 알려지지 않은 보안 취약점을 찾아내고 이를 이용한 공격 방법까지 개발할 수 있는 수준을 뜻한다.</p> <p contents-hash="4f29bc8319861be75c34f243cad47990d2f11dc651d7c6ab7c098842999afcfd" dmcf-pid="9wcfnxpXHb" dmcf-ptype="general">로이터통신에 따르면 오픈AI는 지난달 아스트라가 이 수준에 도달했을 가능성을 확인한 뒤 일부 내부 개발을 중단하고 추가 안전조치를 적용했다.</p> <p contents-hash="0be7a9c1c7a49be19297fae1dd4c8182cca59e12478ecf8e22dde2d75a3bdf8b" dmcf-pid="2gi7P9HlYB" dmcf-ptype="general">오픈AI는 이후 추가 평가를 거쳐 아스트라가 실제 Critical 기준에 도달했다고 판단했다. 아스트라의 일부 고위험 사이버 기능에는 별도의 안전장치를 적용하고 접근도 제한했다.</p> <p contents-hash="ca34836389529ac52ac4110c675b25b28d7550a1e1a98354c501fb1e8380e1e0" dmcf-pid="VanzQ2XSZq" dmcf-ptype="general">이번 테스트에서 실제 피해는 발생하지 않았다. 확인된 것은 아스트라가 시뮬레이션 환경에서 주어진 과제와 관계없는 공격을 스스로 시도했고, 인터넷을 사용하지 말라는 지시를 받은 뒤에도 500번 중 2번 같은 행동을 했다는 점이다.</p> <p contents-hash="b045db3fcfb21287a3aed1f4b9bcc27fbf04e79e1a7b535a19baf68ab97a5396" dmcf-pid="fNLqxVZv5z" dmcf-ptype="general">esther@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 '젤다의 전설' 실사 영화, 내년 4월 30일 개봉 09-09 다음 AI 수능만점 시대, 너무 빨라서 두렵다 [김현아의 IT세상읽기] 09-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
