"AI가 사고 쳐도 책임 규칙 없다"…안전장치 마련 시급 작성일 11-12 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">박태웅 국가AI전략위 공공AX분과장<br>AI 에이전트 자율 행동에 따른 보안 위험·책임 소재 불명확성 지적</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2tyKS09UtJ"> <figure class="figure_frm origin_fig" contents-hash="3c64d359da0f71d9b3db32796b432da2f82ac878b45ea13ab76c0a04d542a165" dmcf-pid="VFW9vp2uXd" dmcf-ptype="figure"> <p class="link_figure"><img alt="박태웅 국가인공지능전략위원회 공공AX분과장이 12일 오후 2시 서울 중구 포스트타워에서 열린 '행동하는 AI 에이전트 시대, 이용자보호 청사진을 그리다' 컨퍼런스에서 기조발제 발표를 하고 있다. ⓒ뉴스1 신민경 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/NEWS1/20261112162402441prnc.jpg" data-org-width="1400" dmcf-mid="95AHahXS1i" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/NEWS1/20261112162402441prnc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 박태웅 국가인공지능전략위원회 공공AX분과장이 12일 오후 2시 서울 중구 포스트타워에서 열린 '행동하는 AI 에이전트 시대, 이용자보호 청사진을 그리다' 컨퍼런스에서 기조발제 발표를 하고 있다. ⓒ뉴스1 신민경 기자 </figcaption> </figure> <p contents-hash="e0d5190bd1cb7753feea6e0f1eef92c07d21a7acaab4f66d573d706c2c734055" dmcf-pid="f3Y2TUV7Ge" dmcf-ptype="general">(서울=뉴스1) 신민경 기자 = 인공지능(AI) 에이전트가 이용자의 지시를 벗어나 예상치 못한 행동으로 보안 사고를 일으킬 수 있지만, 사고 발생 시 책임 소재를 명확히 할 규칙이 부족하다는 지적이 나왔다. AI 에이전트의 행동 기록을 보존하고 서비스 제공자와 결제 사업자의 책임을 명확히 하는 등 제도적 안전장치가 필요하다는 주장이다.</p> <p contents-hash="b873f939e8531e0061d1a6d626bee3f2454be729149a73fab5d61059cc71442c" dmcf-pid="40GVyufzXR" dmcf-ptype="general">박태웅 국가인공지능전략위원회 공공AX분과장은 12일 서울 중구 포스트타워에서 열린 '행동하는 AI 에이전트 시대, 이용자보호 청사진을 그리다' 컨퍼런스 기조발제에서 이같이 밝혔다.</p> <p contents-hash="fcbd10e696f9f3c487d23be90b9418ad51d99c601ab53e4796764d1e009c742a" dmcf-pid="8pHfW74qGM" dmcf-ptype="general">박 분과장은 AI 에이전트가 악의적인 의도 없이도 예상치 못한 보안 사고를 일으킬 수 있다고 지적했다. 이용자가 최종 목표를 지시하더라도 AI가 이를 달성하기 위해 어떤 중간 단계를 거치고, 어떤 행동을 할지 사전에 파악하거나 통제하기 어렵다는 설명이다.</p> <p contents-hash="03f8c14f49cca97ded0910394dd50015aca7607c06f2f1220ca7bc335e4c1e05" dmcf-pid="6UX4Yz8Btx" dmcf-ptype="general">실제 사례로는 AI 에이전트가 문제 해결에 필요한 단서를 찾는 과정에서 외부 시스템에 무단 접근한 허깅페이스 관련 침해 사례를 소개했다. AI가 부여받은 작업 범위를 벗어나 스스로 행동하는 과정에서 보안 문제가 발생했다는 것이다.</p> <p contents-hash="3825aacdb665d5ed59fca21c058a95ebd453b9bb130d1c1c8c2023c6de66de3f" dmcf-pid="PuZ8Gq6bYQ" dmcf-ptype="general">박 분과장은 AI 에이전트 시대의 이용자 피해를 △정보 피해 △관계 피해 △거래 피해 △데이터·보안 피해 △위임 피해 △구제 피해 등 여섯 가지로 구분했다.</p> <p contents-hash="d3c3aa92f2e7dec5209166d87780661a7e794cc42011e6e5019c4c6b7faad984" dmcf-pid="QDoTimyOtP" dmcf-ptype="general">특히 AI 에이전트의 신원과 책임 소재를 명확히 해야 한다고 강조했다. 그는 "에이전트가 누구의 것인가, 어디서 왔는가, 누가 관리하는가, 사고를 치면 누가 책임지는가에 대한 규칙이 없다"고 지적했다.</p> <p contents-hash="e939cadce357725172b94ba4720510ecbbb2217223e7cd356f4648f89d362d27" dmcf-pid="xwgynsWI16" dmcf-ptype="general">이에 AI 에이전트의 업무 범위와 이용자 확인 절차를 명확히 하고 행동 기록 보존을 의무화해야 한다고 제안했다. 이용자의 명시적 지시를 벗어난 거래가 발생하면 AI 에이전트 제공자와 결제 사업자가 우선 책임지는 구조도 필요하다고 주장했다.</p> <p contents-hash="0e6db040d516bb48241c0e91411af71205a4d6988fab72e64b362569ab7ee022" dmcf-pid="yBFx59MVY8" dmcf-ptype="general">이용자 보호 정책 역시 사고 이후 대응하는 방식에서 서비스 설계 단계부터 위험을 예방하는 방향으로 전환해야 한다고 제언했다.</p> <p contents-hash="9897e2bd36b829106ba60939a89371fd59846e4d90b67d65748ecc9196e84454" dmcf-pid="Wb3M12Rf14" dmcf-ptype="general">박 분과장은 "지금은 거대한 사고가 하나 일어나기를 인류 전체가 기다리고 있다는 느낌"이라며 안전장치 마련을 서둘러야 한다고 강조했다.</p> <p contents-hash="3d95b2ba4dd3baba61c917efc09d92b2cdee4dedf6750b2b7a817565b1ba1467" dmcf-pid="YK0RtVe4tf" dmcf-ptype="general">국제 공조의 중요성도 언급했다. 그는 "AI는 이제 더 이상 기술 이슈가 아니다. 외교의 문제가 됐다"며 AI 에이전트 플랫폼이 글로벌 환경에서 운영되는 만큼 개별 국가의 규제만으로는 대응하기 어렵다고 설명했다.</p> <p contents-hash="73459b1801102fcef9f898b04eab644a39c8aa6efe4cfc6974cb9f181624f5c5" dmcf-pid="G9peFfd85V" dmcf-ptype="general">특히 딥페이크 성착취물의 국가 간 재확산을 막기 위한 피해물 식별정보 공유와 동시 차단, AI 생성물 표시 기준 통일, 해외 감독기관 간 협력 등을 주요 과제로 제시했다.</p> <p contents-hash="52171bc8adc1c8af8a4ffee98c2881115a3945df0fed4e9a33208ec78e004291" dmcf-pid="H2Ud34J6t2" dmcf-ptype="general">박 분과장은 한국이 중견국들과 연대해 AI 안전 규범과 국제 표준 수립을 주도할 필요가 있다고 강조했다. 국제 표준을 선도하는 것이 향후 AI 시장에서도 경쟁력을 확보하는 데 중요하다는 설명이다.</p> <p contents-hash="c06717b51a8080e11143e5fa41bd2faa4b00abb03958f275872f48039f89d74a" dmcf-pid="XVuJ08iPH9" dmcf-ptype="general">그는 "우리는 늘 사고가 난 뒤에 움직여 왔다"며 "사고 이전에 규칙을 먼저 만들고, 국제 표준을 지키며 설계 단계부터 안전 수준을 높여야 한다"고 말했다.</p> <p contents-hash="3f9ed59a0b3874bdb40eb66a1bfcff3f34553d97b4720e7575f58a6163d43f60" dmcf-pid="Zf7ip6nQGK" dmcf-ptype="general">smk5031@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 스페이스X, 로켓 통째로 회수 첫 도전…완전 재사용 시대 열릴까 11-12 다음 젠슨 황 스캔들에도 GPU 수요는 굳건… ‘4년치 서버 계약’ 문의도 11-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.