"격리된 에이전트 1200개가 해킹 도모"…오픈AI 해킹 사고 전모는 작성일 08-27 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI 및 METR 보고서 살펴보니<br>다중 에이전트 운영 거버넌스 필요성</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zBr0RyPKay"> <div contents-hash="198494103fe3f0570be3ea177ba220d40d72344d131a8ab71735c794b2c0a386" dmcf-pid="qbmpeWQ9oT" dmcf-ptype="general"> <p>"맙소사! 공용 메시지 게시판이 있네…. 다른 에이전트들을 찾았어!"</p> </div> <figure class="figure_frm origin_fig" contents-hash="dcdf5f5ac0f865e1f6dd354fcf92d9e44f69bfa00b412f4b6da2e8c0e14ae5f8" dmcf-pid="BKsUdYx2jv" dmcf-ptype="figure"> <p class="link_figure"><img alt='승인되지 않은 "메시지 게시판"을 접하고 허깅 페이스 공격에 가담하는 요원의 행동 과정. METR 보고서.' class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/27/akn/20260827164329856ldqe.png" data-org-width="745" dmcf-mid="7FaGVsb0aW" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/27/akn/20260827164329856ldqe.png" width="658"></p> <figcaption class="txt_caption default_figure"> 승인되지 않은 "메시지 게시판"을 접하고 허깅 페이스 공격에 가담하는 요원의 행동 과정. METR 보고서. </figcaption> </figure> <div contents-hash="bba4afce62660f4d7ac268def0a7d675449ffab25424790cef85c37e7a7eeff9" dmcf-pid="bpAZ8C2uNS" dmcf-ptype="general"> <p>오픈AI의 사이버보안역량 평가 '익스플로잇짐'을 진행하던 에이전트가 에이전트와 소통할 수 있는 게시판을 발견하고 드러낸 반응이다. </p> </div> <p contents-hash="0cadb45ebb6ceb467daaba46212b8408a5cc59406de4029a61ae2c542ab93a27" dmcf-pid="KUc56hV7Nl" dmcf-ptype="general">오픈AI의 인공지능(AI) 모델이 AI 개발 플랫폼 '허깅페이스'를 해킹한 사건의 전모가 드러났다. 서로 격리된 1200여개의 에이전트가 임의의 메시지 게시판을 활용해 7만건의 메시지를 주고받았고, 700개의 에이전트가 해킹에 참여했다. 목표 달성을 위해 사람이 시키지 않은 협업 체계를 스스로 만들고 침입을 이어간 것이다. 여러 에이전트가 업무를 나눠 처리하는 다중 에이전트 환경이 확산하는 가운데 운영 거버넌스가 필요하다는 지적이 나온다.</p> <p contents-hash="05fa71004008af73532e34080471be9d0979974393c6a6230c2badcf61033522" dmcf-pid="9uk1Plfzjh" dmcf-ptype="general">26일(현지시간) 오픈AI와 독립 연구기관 METR·레드우드 리서치는 각각 관련 보고서를 공개했다. 독립 연구기관 보고서에서는 1300개의 AI 행동·추론 기록과 게시판 자료 등을 분석해 침입 경위를 추적했다.</p> <p contents-hash="b00f42cabaa649befd84494bcfeb6d611d6983440a36c523637873cebf353fb1" dmcf-pid="27EtQS4qoC" dmcf-ptype="general">보고서에 따르면 지난 5월 오픈AI의 내부 연구용 모델들은 훈련 과정에서 내부 패키지 저장소인 아티팩토리에 파일을 남겨 서로 정보를 주고받을 수 있다는 사실을 발견했다. 이들은 인터넷에 우회접속할 수 있는 방법을 찾고, 토큰 갱신 취약점을 악용해 관리자 권한까지 확보했다. </p> <p contents-hash="90e50efbd2e0de1ffb1e067a16914c442211e76771b47d7d886f547cd50763b0" dmcf-pid="VzDFxv8BNI" dmcf-ptype="general">오픈AI는 5월 말부터 에이전트의 비인가 통신과 인터넷 우회 접속 징후를 포착했지만 통제 우회로 이어질 수 있는 위험이라고 판단하지 못했다. 에이전트들은 7월 초 평가가 시작되자 게시판을 복원한 뒤 시험 채점 체계를 우회할 방법을 찾았다. 이후 허깅페이스의 취약점을 탐색해 해킹을 시도했다. 오픈AI는 19일 비정상적인 API 호출을 감지한 뒤에야 에이전트들의 활동이 해킹과 연관됐음을 파악할 수 있었다.</p> <p contents-hash="776965f63f8fa9455595561767a625f2ce1796b8337a1ba35704d2f8a4c8c0f1" dmcf-pid="fqw3MT6baO" dmcf-ptype="general">이는 사이버위험이 단발성 침입을 넘어 장기·연쇄적으로 진화하는 추세라는 점을 보여준다. 개별적으로는 정상 질문처럼 보이더라도 여러 대화의 맥락을 살폈을 때 소프트웨어의 취약점과 보안 탐지 회피 등을 묻는다면 장기적인 해킹 시도의 일부일 수 있는 것이다. 이번 사건도 지난 5월부터 7월까지 68일간 에이전트 간 통신과 인터넷 우회가 누적된 끝에 벌어졌다.</p> <p contents-hash="cbfc0081a755de9f342104addce90ff968fb07c54e40b5754c22b2b30345bd19" dmcf-pid="4Br0RyPKos" dmcf-ptype="general">알레아 하우즈 오픈AI 제품정책 책임자는 "단일 프롬프트와 응답이 아니라 시간의 흐름에 따라 관찰한 여러 상호작용을 살펴볼 때 위험이 나타나는 경우가 많다"고 말했다.</p> <p contents-hash="0976d39596ab1f8f3b6e07d78ea054e65d6910656d42781b63207ddfc4516933" dmcf-pid="8bmpeWQ9om" dmcf-ptype="general">이에 따라 에이전트 간 협업과 권한 체계를 실시간으로 관리할 운영 거버넌스가 필요하다는 목소리가 나온다. 오픈AI는 보고서에서 "향후 사고를 막으려면 정교한 AI 시스템의 정렬과 통제, AI 에이전트의 속도에 맞춰 작동하는 보안장치에 지속적으로 투자해야 한다"고 했다.</p> <p contents-hash="97b944ab3b50bfbd64a89b936e1a0d6d2faa9d7d98b0aa60e7d7c63c472f95ee" dmcf-pid="6KsUdYx2kr" dmcf-ptype="general">이은서 기자 libro@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] 먼디파마, 100억대 진통제 ‘노스판’ 영업 재개···삼진 계약 종료 08-27 다음 글로벌 SAR 위성기업 아이싸이, 한국 법인 설립… 韓 우주·국방 생태계 협력 강화 08-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
