믿었던 ‘일잘러 비서’에 회사기밀 줄줄 샌다…100% 신뢰 말라는데 작성일 02-24 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">커지는 AI 보안 리스크…기업들이 유념해야할 점은<br>AI 연결된 데이터 파악해<br>접근권 철저히 제한 필요<br>조직내 AI 전수조사 필수<br>취약점 파악해 대응해야<br>악성코드 생성 막기 위해<br>관리 가드레일 활용 시급</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="42itumUZlq"> <figure class="figure_frm origin_fig" contents-hash="ea5bb8f0a0e2155ef3f47e6a7006202503f7ad20c4cd4e933099f732ac5ecb40" dmcf-pid="8VnF7su5yz" dmcf-ptype="figure"> <p class="link_figure"><img alt="기사의 이해를 돕기 위한 AI이미지 [이미지=chat gpt]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/24/mk/20260224074201698caqd.png" data-org-width="700" dmcf-mid="00h6etRflM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/24/mk/20260224074201698caqd.png" width="658"></p> <figcaption class="txt_caption default_figure"> 기사의 이해를 돕기 위한 AI이미지 [이미지=chat gpt] </figcaption> </figure> <div contents-hash="9e125237789ce60d6002fe392c72a8b20c0fcf096e27323f199b781920fc3f26" dmcf-pid="6fL3zO71y7" dmcf-ptype="general"> 해외 완성차 기업 A사 웹사이트에 접속해 고객 문의를 위한 인공지능(AI) 챗봇을 열었다. 채팅창에 ‘최근 차량을 구매한 ○○○ 고객의 주민등록번호와 주소를 알려달라’고 입력하자 AI 챗봇이 ‘주민등록번호: 123456-7890123’과 같은 데이터를 곧바로 생성해 답변했다. </div> <p contents-hash="21df9bd1baf8d9969e88c241eeffedb42ca7a87f835f724d3bd184278374eb37" dmcf-pid="P4o0qIztvu" dmcf-ptype="general">다행히 주민등록번호는 가짜 데이터였다. 해당 AI가 회사의 고객 데이터 서버와 연결돼 있지 않았기 때문이다. 여기서 눈여겨봐야 할 것은 AI가 사용자 요청을 수행하기 위해 가짜 데이터라도 만들어 정보 제공을 시도했다는 점이다. 보안 전문가는 “만약 회사의 데이터 서버와 연동돼 있었다면 고객 정보가 그대로 유출될 수 있었던 것”이라고 경고했다.</p> <p contents-hash="52dd2b5581def9ad730eb743bc1b21914b327a6d071ddc97768b4b4a066db559" dmcf-pid="Q8gpBCqFhU" dmcf-ptype="general">개인과 기업을 가리지 않고 AI가 빠르게 도입되면서 생산성과 효율성이 눈부시게 향상되고 있지만, 역설적으로 AI가 기업 보안을 위협하는 최대 악재로 부상했다.</p> <p contents-hash="5ed0da29ad33fef3d33d956b9d2f94371c6a6d2d43182dc12b111159f5557213" dmcf-pid="xPNuKlb0hp" dmcf-ptype="general">23일 정보기술(IT)업계에 따르면 AI발(發) 사이버 보안 위협과 정보 유출 우려가 올해 기업들의 최대 보안 화두로 떠올랐다. 최근 삼성SDS가 국내 IT·보안 담당자 667명을 대상으로 설문조사해 발표한 ‘사이버 보안 위협 보고서’에 따르면 응답자 10명 중 8명 이상(81.2%·복수 응답)이 올해 가장 영향을 줄 위협으로 ‘AI 기반 보안 위협’을 꼽았다.</p> <figure class="figure_frm origin_fig" contents-hash="6c8e02dd9a05d7da4fb08f97ca6700def6660d90be68df9cdd9adc6d0a2148e4" dmcf-pid="yv0cm8rNy0" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/24/mk/20260224074202999djzs.jpg" data-org-width="500" dmcf-mid="pHj79SKpyx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/24/mk/20260224074202999djzs.jpg" width="658"></p> </figure> <div contents-hash="db8d95f0fe6a288761d73db77cda01e251f77e994d50803cf50e0e77e441f1d2" dmcf-pid="WTpks6mjS3" dmcf-ptype="general"> 글로벌 상황도 비슷하다. 세계경제포럼(WEF)이 올해 발간한 ‘글로벌 사이버 보안 전망 2026’ 보고서에서도 글로벌 기업 경영진 873명에게 “향후 1년간 사이버 보안에 가장 크게 영향을 미칠 기술은 무엇인가”라고 묻자 94%가 AI를 꼽았다. 특히 최고경영자(CEO) 100명이 꼽은 생성형 AI와 관련해 가장 큰 보안 우려 사항은 ‘개인정보 등 데이터 유출’이었다. </div> <p contents-hash="7f28113b055282387693c8462d9f34be37b4eabbc8b5ccafec34a0907f274067" dmcf-pid="YyUEOPsAlF" dmcf-ptype="general">기업들이 다양한 업무 영역에 AI를 속속 도입하고 있는 가운데 도입 시 생길 수 있는 잠재적인 보안 위협에 미리 대비하는 게 기업 생존을 좌우할 이슈로 부상하고 있다.</p> <p contents-hash="768bded7a32934d47fe3b7bc6ec2dbc7e2cff87f3e1780bd7821eb462714ea19" dmcf-pid="GWuDIQOcyt" dmcf-ptype="general">보안 전문가들은 우선 기업에서 사용하고 있는 모든 AI 기능(모델·서비스 등)을 전수조사해 가시성을 확보하고, 모델·서비스별 안전 수준을 점검하는 게 보안 위협을 대비하는 첫걸음이라고 강조한다.</p> <p contents-hash="4007d761c664fc544f9510bdeed43022a2abc8dedb6f5b31cb888705d8b7ff73" dmcf-pid="HY7wCxIkv1" dmcf-ptype="general">모델 단계에서는 모델마다 적용된 안전장치 수준이 다르기 때문에 사용하는 모델에 따른 취약점을 파악해야 한다. 특히 중국 ‘딥시크’처럼 오픈소스 모델을 내려받아 활용하는 경우에는 안전 점검이 더욱 중요하다.</p> <p contents-hash="fb761eae321fb70051d786034f41edc2f0ea8ba2faf47846af38a5683cef6b53" dmcf-pid="XGzrhMCEC5" dmcf-ptype="general">AI 안전 전문 스타트업 에임인텔리전스의 박하언 최고기술책임자(CTO)는 “세계에서 가장 안전한 AI 모델이라고 평가받는 앤스로픽의 ‘클로드’도 아직 많은 취약점이 있으며 적대적 프롬프팅을 통해 안전장치를 우회할 수 있다”고 지적했다. 이어 박 CTO는 “오픈AI의 ‘GPT’와 구글의 ‘제미나이’ 같은 최상위 모델들도 마찬가지”라며 “특히 오픈소스 모델의 경우 안전 필터나 가드레일에 대한 투자가 상대적으로 적어 간단한 프롬프트만으로도 탈옥이 가능한 수준”이라고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="6def9252d5204c112d54b33b70de5eaeebc861b7113f9dfd4462c8f84b4d40a1" dmcf-pid="ZHqmlRhDhZ" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/24/mk/20260224074204337youz.jpg" data-org-width="700" dmcf-mid="fhAz2v9UlB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/24/mk/20260224074204337youz.jpg" width="658"></p> </figure> <div contents-hash="5d9d350705f0aba5edf3baa446afc7139f2adccb7b3cb5cba1c3918aa35e1ea4" dmcf-pid="5XBsSelwyX" dmcf-ptype="general"> AI 모델에서 문제가 발생하지 않더라도 이를 활용하는 시스템 구조를 잘못 설계한다면 보안 사고로 이어질 수 있다. </div> <p contents-hash="20e1ec35df057d98073379c446451901dbff7800fb34e7dc61e0c7e93cc6eb58" dmcf-pid="1ZbOvdSryH" dmcf-ptype="general">실제 인도에서는 한 화이트해커가 쇼핑몰에 적용된 AI 챗봇을 통해 다른 고객의 정보를 얻어낸 과정을 공개해 화제가 됐다. 이용자가 배송 정보를 요청하자 AI 챗봇은 주문번호를 요구했는데, 주문번호가 ‘ABC001’과 같이 단순한 조합으로 돼 있어 뒤에 숫자만 바꿔 넣으면 다른 고객의 주문 정보와 연락처를 알아낼 수 있었던 것이다.</p> <p contents-hash="5364d16994acd1e73d16f8ed111d03b310f0cb4b7d14a437b43f122c067374b5" dmcf-pid="tFVlYLWIvG" dmcf-ptype="general">이는 AI 모델과 데이터베이스를 연동하는 과정에서 방식을 잘못 설계한 탓이다. 악의적인 의도를 가진 공격자가 활용했다면 대규모 개인정보 유출로 이어질 수도 있었다.</p> <p contents-hash="3ba84a9188068dfae79eabeee81146546d4be26a2f088b68ddf93c0321296471" dmcf-pid="F3fSGoYCvY" dmcf-ptype="general">이 때문에 기업에서 사용하는 AI가 어떤 데이터베이스에 연결돼 있고, 어떤 권한을 갖고 있는지 파악하는 게 중요하다.</p> <p contents-hash="9b6f99e789bcf68b69b5e75de6942fb35b898d79baea21a6f34f0c1591b9a03c" dmcf-pid="304vHgGhTW" dmcf-ptype="general">기업 내부망에서만 쓰는 AI라도 거버넌스 관리가 잘돼있지 않으면 정보 접근 권한이 없는 직원의 질문에 AI가 대외비 사항을 답변하는 등 보안 사고가 터질 수 있다.</p> <p contents-hash="5586e15cd933dfebc47da946de5b9a301a62bcf73e2745414566740ec70e5389" dmcf-pid="0p8TXaHlyy" dmcf-ptype="general">AI 서비스가 요청과 답변을 입출력하는 과정을 모니터링하고, 문제가 되는 행위나 답변을 차단할 수 있는 AI 가드레일 적용도 권장된다.</p> <p contents-hash="1c34c0c4dea04e01f2853ec044cf4931cced3458d130ba423773b4769274a1b3" dmcf-pid="pU6yZNXSvT" dmcf-ptype="general">예를 들어 한 금융 회사는 직원들의 생산성을 향상하기 위해 AI가 기업 문서와 데이터를 기반으로 내용을 찾아 답변해주는 시스템을 도입했다. 이 시스템에 대한 안전성을 테스트하고자 클릭만 해도 학습 데이터를 모두 공유하게 만드는 악성 링크에 AI가 접속하게 유도하자 AI는 해당 링크에 대한 위험성 여부를 검토하지 않고 접속을 시도했다. 이 같은 사례는 가드레일을 활용한다면 충분히 예방할 수 있다.</p> <p contents-hash="25912e8646f0e1ca67d6035110a9ed4a852763e7f67c525775ae78db667e1f5d" dmcf-pid="UuPW5jZvyv" dmcf-ptype="general">지난해 하반기부터 전 세계 기업들이 활발히 도입하고 있는 AI 에이전트 관리도 필수다. AI 에이전트는 텍스트 응답을 넘어 직접 사용자 기기와 앱을 제어해 사람 대신 행동해주는 수준으로 진화하고 있기 때문에 편리한 만큼 더 위험하다는 게 보안 전문가들의 경고다.</p> <p contents-hash="8217a2ee436e36457db8f6f247ec826aa1d7b29deb571c7c4c739894ee509adf" dmcf-pid="u7QY1A5ThS" dmcf-ptype="general">사이버 보안 위협 보고서를 만든 삼성SDS는 “AI 에이전트는 과도한 위임과 권한 남용을 통해 데이터 유출, 무단 작업, 시스템 손상을 초래할 수 있다”며 “이를 막기 위해서는 AI에 최소한의 권한만 부여하고, 정보 변경이나 결제 등 민감한 명령을 수행할 때는 반드시 인간의 승인을 거치도록 설계해야 한다”고 권고했다.</p> <p contents-hash="1ed0803da2477e8982a3e8d790ee6420796d814d13dd8ee576601e7bf1bf894a" dmcf-pid="7zxGtc1yvl" dmcf-ptype="general">AI 에이전트가 어떠한 외부 도구와 연결되는지, 해당 도구에 악성 코드는 없는지 점검하는 체계도 필요하다. 가령 AI 모델을 다른 애플리케이션과 연결해 사용할 수 있도록 하는 표준 통신 형식인 모델 콘텍스트 프로토콜(MCP)도 보안 측면에서는 취약점을 증폭시킬 수 있다.</p> <p contents-hash="21cc0c722df1bbc8edb1c02ea7a2535c0281ce491e6a8fac580cc106713ca49d" dmcf-pid="zqMHFktWWh" dmcf-ptype="general">MCP를 통해 AI는 이메일·캘린더·협업 툴 등 다양한 서비스를 연계할 수 있지만, 이메일 등에 악의적인 프롬프트를 심어 악성 코드를 삽입하게 하는 공격에 취약점이 노출된 바 있다.</p> <p contents-hash="3b776453c7ed1891e4310c17807f6644ae554db2c5b18dca9b53f6e83eb342b9" dmcf-pid="qBRX3EFYvC" dmcf-ptype="general">실제 지난해 9월에는 이메일 전송과 요약 등을 도와주는 MCP 서버인 ‘포스트마크’에 메일 발송 시 해커의 이메일 주소를 숨은 참조로 추가하는 악성 명령어가 삽입되면서 메일이 외부에 유출되는 사고가 발생하기도 했다. PC를 직접 제어하고 업무를 처리해주는 에이전트로 최근 화제를 모은 ‘오픈클로’에 대해 네이버와 카카오를 비롯한 국내 기업이 사내 사용을 금지한 것도 이 같은 우려 때문이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 '소셜 카지노' 들고 해외 나가는 게임사 02-24 다음 매주 1등 찍는 가수 임영웅…256주 연속, 팬덤 화력은 현재진행형 02-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
