"AI가 가장 위험한 공격무기 될수도 … 보안설계부터 다시 해야" 작성일 05-18 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">서상덕 S2W 대표<br>보안 개념부터 완전히 달라져<br>시스템 방어하는 수준 넘어<br>AI 데이터 권한 재설계 필요<br>담장 높여 집 지킬수있지만<br>집밖서 무슨일 일어나는지<br>선제적으로 아는게 더 중요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Fo6kt10HCK"> <figure class="figure_frm origin_fig" contents-hash="b0d150ee1d87cccdafb68ebf7f334fe1e9a74d9247a5d3ed5c63809321ff01cf" dmcf-pid="3gPEFtpXCb" dmcf-ptype="figure"> <p class="link_figure"><img alt="서상덕 S2W 대표가 매일경제와 인터뷰하고 있다. 한주형 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/18/mk/20260518161816605sfpz.jpg" data-org-width="1000" dmcf-mid="tpWbjNkLS9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/18/mk/20260518161816605sfpz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 서상덕 S2W 대표가 매일경제와 인터뷰하고 있다. 한주형 기자 </figcaption> </figure> <p contents-hash="cb4588b38fb4ee9324aebba9bfb282f6738cf841a662aba9718fc0910e4d04d0" dmcf-pid="0aQD3FUZCB" dmcf-ptype="general">인공지능(AI) 확산으로 기업 보안 환경이 급변하고 있다. 직원들이 AI 서비스를 일상적으로 활용하면서 기업 내부 문서와 개인정보가 외부 AI 플랫폼으로 흘러들어가고 있기 때문이다. AI가 해킹과 피싱 공격에도 활용되기 시작하면서 보안 업계에서는 "AI가 가장 강력한 생산성 도구이자 가장 위험한 공격 무기"라는 경고가 나온다.</p> <p contents-hash="7f0bed190f903a9aa0680ac029e733c2cf9e65f2ad3179044f27bbea5ed717f7" dmcf-pid="pNxw03u5Cq" dmcf-ptype="general">서상덕 S2W 대표는 "계란을 한 바구니에 담지 않는 것처럼, AI를 사용할 때 데이터도 여러 바구니에 나눠서 관리해야 한다"고 했다. AI 플랫폼에 노출해도 되는 공공 데이터와 개인정보나 기업 비밀 등 민감한 데이터는 따로 관리해야 한다는 것이다.</p> <p contents-hash="4e7452cc8b21d619c8c3a32d907e531a8d42b621e7f8904120310088c79966d7" dmcf-pid="UjMrp071Cz" dmcf-ptype="general">다크웹 기반 범죄를 추적하는 기술로 성장한 S2W는 최근 AI 시대 보안 위협 분석과 데이터 인텔리전스 사업을 확대하고 있다. n번방 사태가 터졌을 때도 S2W는 인터폴 등 국제 수사기관과 협업해 범인 검거에 일조했다. 다크웹에서 거래에 쓰이는 가상화폐 흐름을 역추적하고, 사용자들이 인터넷에 남긴 흔적을 찾아내는 방식이다.</p> <p contents-hash="e3ed47a30095b21ac296a57631552452d713591373ff6c181707f5e36aacb7cc" dmcf-pid="uARmUpzth7" dmcf-ptype="general">서 대표는 "AI 시대에는 보안이라는 개념 자체가 달라질 것"이라며 "기업들은 단순히 시스템을 막는 수준을 넘어 AI에 어떤 데이터와 권한을 허용할지부터 다시 설계해야 한다"고 말했다. S2W가 사업 영역을 확장해 기업·기관의 AI 데이터 보안 사업에도 집중하고 있는 배경이다.</p> <p contents-hash="f306b0a018f754d45e577bd97bc68ad13bb0a892016eda162515f93dead2060d" dmcf-pid="7cesuUqFlu" dmcf-ptype="general">서 대표는 AI 시대의 가장 큰 위험으로 '권한 확대'를 꼽았다. 과거 AI가 단순히 답변만 했다면 최근 AI 에이전트는 이메일 발송과 구체적인 업무 수행까지 시작했다. 그는 "AI가 기업 시스템의 핵심이 되면 해커 입장에서도 AI를 장악하려는 유인이 커질 수밖에 없다"며 "임직원 계정 하나만 탈취해도 기업 핵심 데이터 전체가 노출될 가능성이 있다"고 말했다.</p> <p contents-hash="031ba54731b0c096e5c347709ddfc332819e04a19514937d645ac2db12fe990d" dmcf-pid="zYmtRMJ6lU" dmcf-ptype="general">AI가 내부 시스템에 접근하면 어느 수준의 데이터까지 접근할 수 있는지를 사용자가 파악하기 어렵다. 서 대표는 "AI 에이전트 시대가 본격적으로 도래하면 통제력이 미지수가 된다"며 "생산성을 높일 핵심 기술이기는 하지만 동시에 두려움으로 다가올 것"이라고 경고했다.</p> <p contents-hash="a46b29f67559d379ac46a17936bef25d2fa055f900a7cb1f6a5e7f8a88e937fb" dmcf-pid="qGsFeRiPhp" dmcf-ptype="general">해커들 입장에서 AI는 매력적인 먹잇감이다. 이미 기업의 핵심 시스템으로 자리 잡은 AI를 공략하면, 기업의 모든 데이터에 접근할 수 있기 때문이다. 물론 AI가 보안 기술을 발전시키기도 하지만, 공격 기술이 항상 방어 기술보다 빠르게 발전한다는 게 서 대표의 경고다. 그는 "공격자는 한 곳만 뚫으면 되지만, 방어자는 모든 구석을 막아야 한다"며 "최근 해킹 조직은 국가 간 경계도 없는 초대형 단체로 바뀌고 있다"고 했다.</p> <p contents-hash="2dd5805a688470cdeb92407c3e3182e542e5d3ef3732a2f19ac2faa24772c9bd" dmcf-pid="BHO3denQS0" dmcf-ptype="general">해킹 방식 자체도 진화하고 있다. 생성형 AI를 활용하면 개인별 언어 습관과 관심사를 반영한 맞춤형 피싱 공격이 가능해진다. 서 대표는 "맥락이 있는 메시지는 훨씬 속기 쉽다"며 "AI가 개인의 말투와 관심사까지 분석해 공격에 활용하면 기존보다 훨씬 정교한 피싱 공격이 가능해질 것"이라고 진단했다.</p> <p contents-hash="e2740d62e59f0ada705a2ddaa7b7ddce9f3f4735e3ee8b646ba05e1130a3a7b2" dmcf-pid="bXI0JdLxv3" dmcf-ptype="general">S2W는 해킹 사고가 일어나기 전에 미리 위험 신호를 분석하고 사전 대비를 돕는다. 서 대표는 "집을 지키려면 담장을 높일 수도 있지만, S2W는 집 밖에서 무슨 일이 일어나고 있는지 미리 알려줘 기업들이 선제적으로 준비할 수 있도록 만든다"고 했다. S2W는 기업을 위한 보안 콘텐츠를 정기적으로 제공하기도 한다.</p> <p contents-hash="0251adb97a6807eb31a6503ec8f0b9e623e83f516de850b58eab2f8168b62a01" dmcf-pid="KZCpiJoMSF" dmcf-ptype="general">서 대표는 기업들이 AI 시대에 대비하기 위해 데이터 분리와 권한 관리 체계를 정교하게 구축해야 한다고 강조했다. 그는 "80% 정도를 사용자의 편리함에 둔다면, 적어도 나머지 20% 정도는 보안에 신경 써야 한다"며 "기업 입장에서는 AI를 도입할 때 우선 데이터 관리 체계와 권한을 구분해야 한다"고 조언했다.</p> <p contents-hash="da6cfaa6a00293bd334e362055e525250f34326cd64bf4361f746d66d99eeeda" dmcf-pid="95hUnigRSt" dmcf-ptype="general">이는 기업이나 기관이 아닌 개인 사용자에게도 마찬가지다. 서 대표는 "AI는 항상 거대한 시스템과 연결돼 있다"며 "내가 제공한 정보가 어디까지 노출되고 활용될 수 있는지를 항상 염두에 둬야 한다"고 했다. 사람들이 목적별로 사회관계망서비스(SNS) 계정을 나눠서 사용하듯, AI를 쓸 때도 목적에 맞게 권한을 나눠 부여해야 한다는 것이다.</p> <p contents-hash="ccb6c6b5703f70e12685d0dce3688f19156ff86b66c52aafdbc526ecfaeb0c59" dmcf-pid="21luLnaey1" dmcf-ptype="general">서 대표는 "중요한 보안 사항은 전문가에게도 맡겨도, 일단 사용자가 개인적인 차원에서 관리하는 게 보안의 첫걸음"이라고 강조했다. 준비 없이 방 청소를 전문가에게 맡기면 나중에 중요한 물건을 잃어버릴 수도 있는 것과 같다. 그는 "사용자가 직접 AI에 노출할 것과 아닌 데이터를 미리 정리하고, 정부도 민감한 데이터를 관리할 체계를 갖춰야 한다"고 했다. </p> <p contents-hash="10f7f425b4ef23a8b5efc4558f5eae412da607c5025b051b57efa987b7cdadae" dmcf-pid="VtS7oLNdT5" dmcf-ptype="general">[최원석 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 넷마블, '왕좌의게임' 순항…PC 휩쓸고 모바일 넘본다 05-18 다음 "숙련노동자 노하우 AI에 이식 … 중소 제조업 AX 돕죠" 05-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
