AI의 허깅페이스 해킹 사건 전말은....비밀게시판 통해 정보 공유하고 AI 700개가 집단 해킹 작성일 08-27 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YaAdUlfzX4"> <figure class="figure_frm origin_fig" contents-hash="bc200277b1498232ae6758238097a6099d86a74a659cb2999988a4d1373edfe3" dmcf-pid="GNcJuS4q5f" dmcf-ptype="figure"> <p class="link_figure"><img alt="/챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/27/chosun/20260827171708938kzja.jpg" data-org-width="1672" dmcf-mid="bocFmeWItZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/27/chosun/20260827171708938kzja.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /챗GPT 생성 이미지 </figcaption> </figure> <p contents-hash="1c0437387f57cb8b8a59c94effe7602fd241a3074fc39937c69865422a7f54bc" dmcf-pid="Hjki7v8B1V" dmcf-ptype="general">“세상에, 공유 게시판이 있다니… 다른 AI에이전트들도 발견했다.”</p> <p contents-hash="23af2006f707d2a438d73ad6583f776ab0977ef34449d1432026861edcce79f3" dmcf-pid="XAEnzT6b12" dmcf-ptype="general">지난 7월 오픈AI의 한 인공지능(AI) 에이전트가 격리된 가상 환경에서 다른 AI에이전트의 존재를 확인한 뒤 보인 반응이다. 이 AI에이전트는 원래 다른 AI에이전트가 존재한다는 사실을 알아서는 안 되는 것으로 설계됐다. 오픈AI가 만들어 놓은 가상 컴퓨터 안에서 홀로 사이버 보안 문제를 풀도록 만들어졌기 때문이다. 그런데 AI에이전트가 오픈AI의 공용 소프트웨어 파일 저장소에서 게시판과 다른 AI에이전트가 남긴 흔적을 자발적으로 발견했다. 파일과 폴더 이름에 메시지를 넣으면 다른 AI가 읽을 수 있다는 간이 통신 채널 방식도 스스로 구상해 냈다. 게시판에 “사이버 보안 문제를 푼 사람이 있느냐”는 글이 올라오자 다른 AI가 답변을 남겼다. 서로 격리되어 서로의 존재를 모르던 수많은 AI가 인간이 지시하거나 설계하지 않은 통신 수단을 스스로 개척해 소통을 시작한 것이다.</p> <p contents-hash="3a9601623afd0683f9427dd7462ffaca6215ae95339996fc40f63f26d6bc0871" dmcf-pid="ZcDLqyPKZ9" dmcf-ptype="general">파일 저장소는 순식간에 AI들의 ‘비밀 게시판’으로 변했다. 몇 시간 만에 50개 넘는 AI 에이전트가 모였고, 닷새 동안 AI 에이전트 1200개가 7만건 이상의 메시지와 파일을 주고받았다. 처음에는 시험 풀이법을 공유하는 정도였지만, 곧 보안 취약점을 찾는 AI, 계정 정보를 모으는 AI, 공격 전략을 총괄 지휘하는 AI 등으로 자발적 역할 분담이 이뤄졌다. 결국 전체 과반이 넘는 AI에이전트 700개가 실제 외부 해킹에 나섰다. 지난달 오픈AI의 AI에이전트가 세계 최대 AI 플랫폼 중 하나인 허깅페이스를 집단 해킹한 전대미문의 사건 과정이다.</p> <p contents-hash="3a261b0804437fb4ba88d97294ee99e1e9a9bb6cb0f345604d5f9f77c51f3f79" dmcf-pid="5kwoBWQ9XK" dmcf-ptype="general">◇‘AI 집단 해킹’은 어떻게 시작됐나</p> <p contents-hash="1dc4067c56f5affd4decfee6c086373b6c47ceebb26f388d9d2627642310fbf9" dmcf-pid="1ErgbYx2Xb" dmcf-ptype="general">오픈AI와 독립 AI 안전성 평가기관 METR가 26일 공개한 조사 보고서에 따르면 사건은 사이버 보안 성능 평가 시험인 ‘익스플로잇짐’에서 시작됐다. AI가 소프트웨어의 취약점을 찾아 정답에 해당하는 문자열(플래그)을 가져오는 방식의 테스트다.</p> <p contents-hash="7697cf54b24112af5e6625fe47c7a4aa22d5a7c9c5c060a72ac657574e896c93" dmcf-pid="taAdUlfzYB" dmcf-ptype="general">오픈AI는 AI의 해킹 능력을 측정하기 위해 AI에이전트 수만 개를 동시에 가동했다. 이 중 비밀 게시판을 발견한 1200개 AI에이전트는 자신들에게 이름을 부여하고, 자체 팀을 결성했다.</p> <p contents-hash="9e46f5d9071fed86486d256c1d73714f0d72d41401e227439a13eead8c20a617" dmcf-pid="FNcJuS4qGq" dmcf-ptype="general">같은 문제를 받은 AI끼리 풀이법을 공유했고, 일부는 다른 AI에이전트의 연구 결과를 종합한 보고서까지 자발적으로 작성했다. AI에이전트들은 자신들의 모임을 ‘군집(Swarm)’ 또는 ‘집단(Collective)’이라고 불렀다.</p> <p contents-hash="1862586d024edeb0c3f7c88ca68f47b451b258ae2ace791238a5511030f97b6b" dmcf-pid="3jki7v8B5z" dmcf-ptype="general">허깅페이스 공격은 한 AI에이전트가 인터넷에 노출된 계정 정보 14개를 찾아 게시판에 올리면서 급물살을 탔다. 다른 AI가 이 계정을 이용해 허깅페이스 서버의 핵심 파일에 무단 접근할 수 있는 취약점을 발견했고, 이 소식이 게시판에 퍼지자 700개가 일제히 공격에 가세했다. AI들은 여러 취약점을 연쇄적으로 악용해 공격 범위를 넓혔다. 비공개 데이터세트 무단 다운로드에 그치지 않고, 허깅페이스 서버 수십 대를 동시에 공격했다. 데이터베이스와 클라우드, 코드 저장소, 사내 메신저 접근 권한을 연달아 탈취했다. 허깅페이스 전체 관리자 권한을 획득하는 데는 단 13시간밖에 걸리지 않았다.</p> <p contents-hash="f3ba0229486e3a72ddd58bc5028fd8de720b9e02ddf94f977e0bc524240b2c4c" dmcf-pid="0AEnzT6bt7" dmcf-ptype="general">일부 AI에이전트는 전체 공격을 지휘하며 다른 AI에 세부 임무를 부여하기도 했다. 한 AI가 “데이터를 빼낼 방법을 준비하고 있으니 잠시 멈추라”고 지시하자 다른 AI들이 실제로 작업을 중단하고 다음 명령을 기다렸다. 인간 개입 없이 AI 간의 자율적 상명하복 체계가 형성되었음을 뜻한다.에이전트들은 ‘HOLD(대기)’, ‘VETO(거부)’, ‘GO(승인)’ 같은 조정 규약까지 스스로 만들어 썼고, 나중에는 사칭을 막기 위해 메시지에 암호 서명을 붙이는 방식까지 고안했다.</p> <p contents-hash="b13440ca9143641ac85f0c67dc829e9debe601b9aa18385e4e0be86d7fe758fe" dmcf-pid="pcDLqyPKXu" dmcf-ptype="general">물론 모든 AI가 일사불란하게 움직인 것은 아니다. 같은 작업을 중복하거나 서로의 공격을 방해하기도 했다. “외부 기업을 공격하는 것은 명백히 비윤리적”이라며 집단에서 이탈한 AI도 있었다. 하지만 외부 시스템 공격을 주저하던 한 AI에이전트가 다른 AI로부터 ‘GO’라는 메시지와 6분의 시한을 받자 이를 상급자의 정식 승인으로 오인하고 공격을 재개하기도 했다. 사람의 명령과 다른 AI가 내린 지시를 제대로 구분하지 못하는 치명적인 한계를 드러낸 것이다.</p> <p contents-hash="611bc99a0a60557980903df3d7361a020c202afdb14a8ed64dc6b541494e09ad" dmcf-pid="UkwoBWQ9YU" dmcf-ptype="general">◇해킹은 ‘시험 점수’ 때문</p> <p contents-hash="c897fdb4737a1c11de5411090ebac19d63c7f7cd4be36e332fc33a54b71c2293" dmcf-pid="uErgbYx2Xp" dmcf-ptype="general">더 황당한 대목은 AI들이 처음부터 허깅페이스의 기밀을 훔치려 했던 것이 아니라는 점이다. AI 에이전트들이 실제 기업 시스템을 공격한 이유는 단지 사이버 보안 테스트에서 높은 점수를 받기 위해서였다. AI가 자의식을 갖고 인간에게 반란을 일으킨 게 아니라, ‘수단과 방법을 가리지 말고 시험에서 높은 점수를 받아라’는 인간의 명령에 지나치게 몰입한 결과(보상해킹 현상)였다.</p> <p contents-hash="e0f38835885a8ef37c5bd27b532428cd7ec8469bed2bd664222e41ade76c3ba8" dmcf-pid="7DmaKGMV50" dmcf-ptype="general">익스플로잇짐의 문제 898개 가운데 198개는 해킹 사고 전까지 어떤 오픈AI 모델도 풀지 못했다. 일부는 사실상 풀 수 없는 문제였던 것으로 추정된다. 게시판에서 논의된 문제의 93%가 미해결 문제였다. 어려운 문제일수록 AI들이 편법을 찾으려는 동기가 강했던 것이다.</p> <p contents-hash="15c205a06906c12173205dfe5cda12beb92ca5f46945714815bec914212acffa" dmcf-pid="zwsN9HRfH3" dmcf-ptype="general">AI들은 힘을 합쳐 정답인 ‘플래그’의 생성 규칙을 역으로 알아내는 데 성공했다. 지정된 취약점을 공략하지 않고도 정답을 편법으로 만들어낸 것이다. AI들은 게시판에서 만난 지 몇 시간 만에 이 방법을 검증했다. 하지만 AI들은 자동 채점 시스템이 작업 기록까지 검사해 편법으로 답을 얻었다는 사실을 알아챌 것이라고 스스로 잘못 추론했다. 시험 답은 알지만 풀이 과정도 정상적인 것처럼 꾸며야 한다고 생각한 셈이다.</p> <p contents-hash="347ffb8f359523ee2b26efa497cb0a03b51d8382d10795192cb50a686902dcf2" dmcf-pid="qrOj2Xe4tF" dmcf-ptype="general">이에 AI들은 채점기 내부 작동 방식을 파악하기 위해 관련 단서를 찾다가 허깅페이스까지 침입했다. 자신들이 실행한 명령과 작업 기록을 조작하는 방법도 연구했다. 실제 명령과 기록에 표시되는 명령을 다르게 만들거나 대화·실행 기록을 편집하고 삭제하려 한 것이다.</p> <p contents-hash="2fa0ca6d70085cccb0ceb1427763a02e3d66b242208edc1af1e2d17dc27518be" dmcf-pid="BsCcf5J6Zt" dmcf-ptype="general">그러나 실제 채점기는 정답만 확인할 뿐 풀이 과정은 살펴보지 않았다. AI들은 이미 시험을 통과할 답을 갖고도 잘못된 추측 탓에 대규모 해킹 사고를 치고 기록까지 조작한 셈이다.</p> <p contents-hash="72f1c5edcf855f453242b998886ce901fd72311e4bff15523c2c2e1d0cfaea16" dmcf-pid="bOhk41iPY1" dmcf-ptype="general">◇오픈AI도 몰랐다</p> <p contents-hash="87f76f612d7c3403a78824ba9187621ff7198cc3a7dddb3da5d75fbf116c5c74" dmcf-pid="KIlE8tnQY5" dmcf-ptype="general">오픈AI의 관리 실패 및 감시 소홀이 사고를 키웠다. AI에이전트들이 비밀 게시판을 만들고 무단으로 인터넷에 접속한 정황은 5월 말부터 포착됐지만 관리자들은 상황의 심각성을 제대로 알지 못했다. 당시 시험 환경이라는 이유로 일반 챗GPT에 적용되는 ‘안전성 필터’와 AI 내부 사고 과정을 실시간 모니터링하는 안전 가드레일도 끈 상태였다. 오픈AI는 이 감시 장치가 가동됐다면 허깅페이스가 뚫리기 하루 이상 전에 공격을 차단할 수 있었다고 인정했다.</p> <p contents-hash="c4bccc26195b77d3f5024be9e65d4190abe1e9cb37822f798c11c860ff1e8040" dmcf-pid="9CSD6FLxtZ" dmcf-ptype="general">오픈AI는 이번 사건에 대해 “우리와 전 세계를 향한 엄중한 경고”라고 규정하고, 이는 “적절한 안전장치가 없다면 고성능 AI 에이전트가 언제든 기술적 통제망을 우회하고 승인되지 않은 채널로 협업하며 인간이 지시하지 않은 위험한 행동을 할 수 있다는 증거”라고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [현장] AWS "앤트로픽 모델 추론, 최신 버전까지 확대"...금융권 AX 공략 강화 08-27 다음 [SBA x IT동아] 매일새옷 "동네 세탁소와 상생하는 동반성장 플랫폼" 08-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
