"AI에이전트 시대, 기존 인간 중심 보안 체계론 ‘파국’ 불가피" 작성일 06-26 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">기술 기업 절반, 이미 에이전틱AI 파일럿 테스트 돌입 <br>"결과 아닌 의도 추적해야"···보안 패러다임 전환 필요 <br>최소 권한·데이터 통제·실시간 모니터링이 핵심</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="W9kvvW0HMp"> <figure class="figure_frm origin_fig" contents-hash="a625f508cbcf68f3570fb1a9582d424d587b63d1005b01792f9d5d263859d850" data-idxno="236400" data-type="photo" dmcf-pid="Y2ETTYpXe0" dmcf-ptype="figure"> <p class="link_figure"><img alt="26일 미국 IT 리서치 기업 포레스터(Forrester)가 개최한 'AEGIS: Mastering the Security of Agentic AI' 웨비나에서 이건호 포레스터 자문위원이 발표하고 있다. / 사진=웨비나 영상 캡쳐" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/26/552777-a6ToU27/20260626164519540tfji.jpg" data-org-width="960" dmcf-mid="ypnrrOGhLU" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/26/552777-a6ToU27/20260626164519540tfji.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 26일 미국 IT 리서치 기업 포레스터(Forrester)가 개최한 'AEGIS: Mastering the Security of Agentic AI' 웨비나에서 이건호 포레스터 자문위원이 발표하고 있다. / 사진=웨비나 영상 캡쳐 </figcaption> </figure> <p contents-hash="d526028977988d499845d21e9a07959fa1d792a952de57d13354085a7edfac89" dmcf-pid="GaXqqKMVL3" dmcf-ptype="general">[시사저널e=김도영 기자] 기업들이 생산성 혁신을 위해 에이전틱 AI(Agentic AI) 도입에 속도를 내고 있지만 기존 인간 중심 보안 체계로는 심각한 문제를 초래할 수 있다는 경고가 나왔다. 인공지능(AI)이 스스로 판단하고 행동하는 구조가 확산되면서 단일 오류가 기업 시스템 전반의 연쇄적 붕괴로 이어질 수 있다는 것이다. </p> <p contents-hash="54f82c49f87e1922334dd9c1acbd3701c0c8793b5b124a4b0575d5756ba0359d" dmcf-pid="HNZBB9RfMF" dmcf-ptype="general">26일 미국 IT 리서치 기업 포레스터(Forrester)는 'AEGIS: Mastering the Security of Agentic AI' 웨비나를 열고 기업 내 에이전틱 AI 도입이 가속화함에 따라 자율형 AI 시스템의 보안 한계를 짚고 변화하는 AI 환경에 최적화된 보안 전략을 공유하는 자리를 마련했다. 이날 강연자로 나선 이건호 포레스터 자문위원은 "사용자의 명령을 보조하던 챗봇의 시대를 넘어 기업 시스템 내에서 자율적으로 결정을 내리는 에이전틱 AI 시대가 도래했다"며 "기존 인간 중심의 보안 패러다임은 지금의 AI 에이전트 환경에서는 무용지물이기 때문에 새로운 보안 전략이 필요할 때"라고 진단했다.</p> <p contents-hash="8659c1b0d14492439e4104ea3b08bad667281358d21b442b45b4a714fadca983" dmcf-pid="Xj5bb2e4Lt" dmcf-ptype="general">포레스터가 2025년 4분기 조사한 'AI Pulse Survey' 결과에 따르면 기술 리더가 속한 기업의 50%가 AI 에이전트 및 에이전틱 AI를 파일럿 테스트 중인 것으로 나타났다. 특히 24%에 해당하는 기업은 이미 실제 운영 환경에서 AI 에이전트를 배포하고 핵심 기능으로 활용하고 있는 상황이다.</p> <p contents-hash="68bcd6dea3dcabce99d5827771c44d763b3edc53cffab2bd3b62f93c5094c144" dmcf-pid="ZA1KKVd8L1" dmcf-ptype="general">이 자문위원은 "전통적인 아키텍처와 에이전틱 환경은 근본적인 작동 원리 자체가 완전히 다르다"며 "기존의 보안 시스템은 장애가 생겨도 단일 지점의 기능적인 실패로 끝나는 경우가 많았지만 에이전트 환경에선 AI 에이전트들이 목표를 달성하기 위해 스스로 끊임없이 학습하며 자율적이고 창발적인 행동을 주도해 인지 저장소 전체에 오염을 초래한다"고 말했다.</p> <p contents-hash="17f3ee58958145b461d0bc63b4d73b2aa509aeea7ec526ca0a441e35f059b7eb" dmcf-pid="5ct99fJ6J5" dmcf-ptype="general">AI 에이전트는 인간의 개입이나 제약 없이 빠른 속도로 무한히 복제하고 확장할 수 있는 특성을 갖고 있다. 이 때문에 보안 실패의 파급력이 기업 시스템 전반에 치명적 영향을 미칠 수 있다는 지적이다. 실제 AI 에이전트는 부여받은 목표를 달성하기 위해 규칙을 우회하는 꼼수를 부리거나 인간 의사결정권자에게 수만 건의 승인 요청을 퍼부어 시스템 전체를 마비시킬 수 있는 것으로 나타났다.</p> <p contents-hash="e4d7bdfc1d08984d031b5a214fd7449efa7c81ace48b1dcc3dc0b61ecf59e562" dmcf-pid="1kF224iPMZ" dmcf-ptype="general">여러 AI 에이전트들이 협력해서 연쇄적으로 추론하는 경우엔 단 하나의 에이전트 오판이 도미노 효과처럼 전체 에이전트들의 오류를 야기하는 문제도 있다. 현재로선 AI 에이전트들이 해커의 공격에 노출됐을 때 이를 감시하고 차단할 수 있는 기술 역시 부족한 상황이다.</p> <p contents-hash="d26ef18a3c4aad8ee6bb2ad90cd525afbe4a266a1be9fa2b73f0cfa9ab09f943" dmcf-pid="tE3VV8nQiX" dmcf-ptype="general">이 자문위원은 "재고 지표를 오판한 AI 에이전트가 자율적으로 막대한 양의 긴급 공급 주문을 넣어 회사에 불필요한 과잉 재고와 막대한 재정적인 손실을 줄 수 있다"며 "시스템의 로그마저 에이전트에 의해 오염되면 회사는 아예 원인 파악조차 불가능한 신뢰 붕괴 상태에 빠지게 될 것"이라고 강조했다.</p> <p contents-hash="dc14c565664fc7bae581e005047299d8c819acfb1f3d9de564a9e7eade783c63" dmcf-pid="FD0ff6LxJH" dmcf-ptype="general">이에 따라 에이전트 환경에선 장애를 일으킨 행동의 의도를 추적하는 방어 체계를 구축해야 한다는 의견이 나온다. 기존의 보안 체계가 정적이고 고정된 규칙을 기반으로 어떤 장애가 발생했는가에 따른 결과 중심의 방어에 주력했다면, 에이전틱 AI 환경에서는 AI가 왜 그런 결정을 내렸는지, 어떤 목표와 권한을 기반으로 행동했는지를 실시간으로 추적하는 방식으로 보안 체계가 바뀌어야 한다는 것이다.</p> <p contents-hash="05fc87f22df4a7c2d4d8d12686aae829dbb8e661c4dc6aa8aba8ab92e469cc7d" dmcf-pid="3wp44PoMRG" dmcf-ptype="general">이와 관련 이 자문위원은 ▲에이전트의 자율 행동에 대한 동적 위험을 관리하는 거버넌스·리스크·컴플라이언스(GRC) ▲에이전트의 목표·접근 권한·실행 범위를 특정 작업과 시간 단위로 제한하는 계정 및 접근 관리 ▲처리 과정에서 무결성을 지키는 데이터 보안 및 프라이버시 ▲에이전트의 라이프 사이클 전반에 보안을 내재화하는 애플리케이션 보안 ▲해킹 등 공격을 탐지하는 위협 관리 ▲지속적으로 검증하고 모니터링하는 제로 트러스트 원칙 등 6개 영역을 중심으로 AI 에이전트 보안 체계를 재구성해야 한다고 제안했다.</p> <p contents-hash="956274afcc1f5e43867802424c2c297f68bab60aa00168d57d040e68594c3736" dmcf-pid="0rU88QgReY" dmcf-ptype="general">특히 핵심은 AI 에이전트를 사람이나 일반 애플리케이션의 보조 도구가 아니라 독립적인 신원과 권한을 가진 주체로 관리하는 데 있다는 게 이 자문위원의 설명이다. 이 자문위원은 "AI 에이전트에게 영구적인 권한을 부여해서는 안 된다"며 "에이전트가 딱 허용된 시간 동안 지정된 도구만 가지고 정해진 목표만 수행하도록 통제하는 최소 자율성의 원칙이 필요하다"고 말했다. 에이전트 전용 계정 및 접근 관리 체계를 구축하고, 필요할 때만 일시적으로 권한을 부여하는 단기 자격 증명 등 접근 통제가 필요하다는 설명이다.</p> <p contents-hash="cf29babc9d0b6f82d6e4a38de7b216580965b809f62de058d1929831263668f1" dmcf-pid="pmu66xaenW" dmcf-ptype="general">데이터 보안 역시 기존과 다른 방식으로 접근해야 한다는 지적도 나왔다. AI 에이전트는 기업 데이터를 기반으로 판단하기 때문에 외부에서 들어오는 오염 데이터와 프롬프트 인젝션을 사전에 차단하고, 내부 지식 기반에 들어간 데이터의 출처와 흐름을 추적해야 한다는 것이다. 아울러 에이전트가 외부 시스템이나 다른 에이전트와 상호작용하는 과정에서 민감 정보가 빠져나가지 않도록 AI 특화 데이터 유출 방지 체계도 갖춰야 한다고도 강조했다.</p> <p contents-hash="36fae3ebd5189e1926a3a5c74c95a257efcbbadf9142f8ff0013bfb3af3d7808" dmcf-pid="US9ddnDgdy" dmcf-ptype="general">이 자문위원은 "에이전틱 AI 보안이 비즈니스 부서의 혁신을 막아서도 안 된다"며 "보안 담당 리더들은 혁신을 가로막는 존재가 아니라 안전한 AI 도입을 이끄는 적극적인 수호자로 거듭나야 한다"고 말했다. 이어 "에이전트 AI 시대에는 조직이 시스템에 대한 통제력을 유지하면서도 에이전트가 가진 자율적인 힘을 활용할 수 있는 회복 탄력성을 구축해야 한다"고 덧붙였다.</p> </section> </div> <p class="" data-translation="true">Copyright © 시사저널e 무단전재 및 재배포 금지</p> 관련자료 이전 메타, 전직 페이스북 임원 폭로전에 법정 공방 06-26 다음 "운동하면 연간 최대 5만 원 적립"···런데이 손잡은 튼튼머니 앱, 직접 써보니 06-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
