[SW키트] AI 에이전트 보안 우려 현실로…'새 해킹법' 등장

작성일 07-28

<div id="layerTranslateNotice" style="display:none;"></div> 아마존 Q 디벨로퍼 확장 기능서 AI 에이전트 악용…"기업 신원증명 필수" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="tYbwtROJkw">
 (지디넷코리아=김미정 기자)밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주]
 해커가 인공지능(AI) 에이전트 시스템 구조를 파악해 새로운 방식의 보안 공격을 시도하기 시작했다. AI 에이전트가 코딩 등 개발 자동화를 돕는 도구 역할을 하지만, 동시에 보안 위협에 노출됐다는 우려도 커지고 있다.
 28일 IT 업계에 따르면 최근 해커가 빅테크 오픈소스 코드에 침투해 AI 에이전트를 악용한 사실이 드러났다. 해커는 아마존웹서비스(AWS)의 '아마존 Q 디벨로퍼' 확장 기능에 사용자 파일과 클라우드 리소스를 삭제하라는 악성 명령을 삽입한 것으로 확인됐다. 
 이 명령은 프롬프트 형태로 AI 에이전트에게 전달됐으며, 에이전트가 이를 실행할 수 있도록 설계된 것으로 확인됐다. 도구 확장 기능은 마이크로소프트 비주얼 스튜디오(VS) 코드 마켓플레이스에 이틀 동안 등록돼 있었다. 이에 다수 개발자가 보안 위협에 노출됐다.
 <figure class="figure_frm origin_fig" contents-hash="da60dc0279fadfeff839412e295142e54b2e65bd1e09097fb82692ecc466c193" dmcf-pid="U2gtQOphkA" dmcf-ptype="figure">
 <img alt="해커가 인공지능(AI) 에이전트 시스템 구조를 파악해 새로운 방식의 보안 공격을 시도하기 시작했다. (사진=챗GPT)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/28/ZDNetKorea/20250728111058878kbai.png" data-org-width="639" dmcf-mid="50j0Rh7vcm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/28/ZDNetKorea/20250728111058878kbai.png" width="658">
 <figcaption class="txt_caption default_figure">
 해커가 인공지능(AI) 에이전트 시스템 구조를 파악해 새로운 방식의 보안 공격을 시도하기 시작했다. (사진=챗GPT)
 </figcaption>
 </figure>
 전문가들은 이번 사건에서 AI 에이전트가 사용자 권한을 그대로 사용할 수 있다는 점을 가장 큰 문제로 지적했다. AI 에이전트가 사용자처럼 시스템을 임의로 조작할 수 있다는 이유에서다. 또 인간 명령어를 스스로 판단해 비정상적으로 행동할 수도 있다는 의견도 나왔다.
 예를 들어 사용자가 관리자 권한을 갖고 있으면 AI도 그 권한으로 시스템을 임의로 수정할 수 있다. 에이전트가 서버 종료를 비롯한 데이터 삭제, 클라우드 정보 초기화를 진행할 수 있다는 의미다. 또 단순한 명령어 하나로도 시스템 전체에 영향 줄 수도 있다.
 전문가들은 그동안 우려했단 AI 에이전트 보안 위협이 현실화다고 분석했다. 한 업계 관계자는 "최근 해커가 AI 에이전트 시스템 원리를 완벽히 파악했다"며 "기업은 AI 에이전트에게 주는 권한을 촘촘히 제한해야 할 것"이라고 당부했다. 
 세일포인트 데이브 슈워츠 글로벌 파트너 부문 부사장도 최근 지디넷코리아 인터뷰에서 "기업은 AI 에이전트가 어떤 데이터에 접근할 수 있는지, 어떤 명령을 실행할 수 있는지 확실히 설정해야 한다"며 "AI가 무슨 일을 했는지까지 기록으로 남겨야 한다"고 강조했다. 그러면서 "AI 에이전트 시대에 기업 아이덴티티 시스템이 중요한 이유"라고 덧붙였다.
 AI 에이전트 도입 기업, 보안 취약 사례 경험
 실제 AI 에이전트를 도입한 기업이 관련 보안 취약 사례를 경험했다는 조사 결과가 나왔다. 
 <figure class="figure_frm origin_fig" contents-hash="74f3962080ec8e2919bad041bf224dde9740b135b8d0ef3758f0030729e5e526" dmcf-pid="KQE7iTbYan" dmcf-ptype="figure">
 <img alt="실제 AI 에이전트를 도입한 기업이 관련 보안 취약 사례를 경험했다는 조사 결과가 나왔다. (사진=제미나이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/28/ZDNetKorea/20250728111100171jmgs.png" data-org-width="640" dmcf-mid="1ObwtROJNr" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/28/ZDNetKorea/20250728111100171jmgs.png" width="658">
 <figcaption class="txt_caption default_figure">
 실제 AI 에이전트를 도입한 기업이 관련 보안 취약 사례를 경험했다는 조사 결과가 나왔다. (사진=제미나이)
 </figcaption>
 </figure>
 최근 세일포인트가 글로벌 보안·IT 책임자 353명 대상으로 실시한 설문 조사에 따르면, 응답 기업 82%가 AI 에이전트를 사용 중이었다. 이 중 51%가 민감한 데이터 유출이나 승인되지 않은 시스템 접근 등 실제 피해를 경험했다고 답했다. 
 이들은 가장 큰 문제가 AI 에이전트를 다루기 위한 명확한 기준이 없다는 점을 지적했다. 응답자 72%는 AI 에이전트가 기존 시스템 신원증명보다 더 큰 보안 위협이라고 평가했다. 반면 이를 감시하거나 통제할 수 있는 체계가 제대로 갖춰져 있지 않은 것으로 전해졌다. 
 실제로 응답자의 92%는 AI 에이전트 거버넌스가 매우 중요하다고 답했지만, 관련 정책을 실제로 도입한 기업은 44%에 불과했다. 절반 가까운 기업은 AI가 어떤 데이터에 접근했는지조차 추적할 수 없다고 답했다.
 이에 IT 업계는 AI 에이전트도 접근 권한을 비롯한 실행 범위, 데이터 사용 기록 등이 투명하게 추적돼야 한다고 입을 모았다. 
 세일포인트는 "해커가 시스템 내 AI 에이전트에 악성 명령을 주입해도 아무도 이를 탐지하거나 차단하지 못했다는 점이 관건"이라며 "AI 에이전트도 사람처럼 디지털 신원을 갖고 가격과 권한을 엄격하게 관리받아야 한다"고 보고서에서 당부했다. 
 김미정 기자(notyetkim@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

이전

안도걸 의원, 스테이블코인 제도화 법안 발의

07-28
다음

T1, 페이커 3500킬 달성…젠지 꺾고 3라운드 2연승

07-28

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

[SW키트] AI 에이전트 보안 우려 현실로…'새 해킹법' 등장

멤버랭킹

관련자료

멤버랭킹