“골프장 예약해줘”…AI가 해킹으로 남 밀어냈다면 누구 책임? 작성일 08-22 40 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZF87wqAiSN"> <figure class="figure_frm origin_fig" contents-hash="bda179ae2836b20aa3ad214ee7a601ae6335b9379065cf751ea50806790386f4" dmcf-pid="536zrBcnSa" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/22/kbs/20260822070211614coco.png" data-org-width="1536" dmcf-mid="XoYsfIb0yj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/22/kbs/20260822070211614coco.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI 생성 이미지 </figcaption> </figure> <p contents-hash="20bd17a838846106abeb50e7fd09d8606b560b62487418e213733bbc63136493" dmcf-pid="1SUGiXMVvg" dmcf-ptype="general"><br>주변을 보면 파크골프장이나 인기 뮤지컬, 명절 기차표 예매 때문에 고생하시는 분들 많으시죠? 대학가에서도 매년 학기가 시작하기 전이면 인기 강좌를 듣기 위해 치열한 수강 신청 전쟁이 벌어지곤 합니다. 기자도 요즘 가족 어르신들의 파크골프장 예약을 대신 해드리면서 진땀을 빼곤 합니다. 단 20초 만에 예약 마감이 되는 걸 여러 번 겪다 보니 누군가 매크로 기법이나 AI 에이전트를 활용해 모조리 휩쓸어가는 건 아닐까 하는 의구심이 들 때도 있습니다.</p> <p contents-hash="e55f869bbf8b7f3021309ba4d7d426420929860737e0edb9f0b4d9735034deb4" dmcf-pid="tvuHnZRflo" dmcf-ptype="general">"이렇게 예약이나 강좌 신청하기가 하늘의 별 따기인데, 알아서 척척 예약해 주는 똑똑한 AI 비서 하나 있으면 얼마나 좋을까?" 하고 여러분도 한 번쯤 상상해 보셨을 겁니다. "요즘 파크골프장 예약하기 하늘의 별 따기인데, AI 에이전트한테 어떻게든 예약해 보라고 시키면 어떻게 될까?" 하고 말이죠.</p> <p contents-hash="9db0f95b7b40bc9e12c5fd706ad9ef4123cf60b52d2db3a7162597a229d10913" dmcf-pid="FT7XL5e4WL" dmcf-ptype="general">그런데 이런 상상이 실제로 일어났고, 심지어 황당한 상황으로까지 이어졌습니다.</p> <p contents-hash="1a8488031fb7ae70ee7f8a85eee5b647db00a8c5105e6385d2fb44ab432e3b83" dmcf-pid="3yzZo1d8Wn" dmcf-ptype="general"><strong>■ "어떻게든 표 구해봐"…AI 비서의 돌발 행동</strong></p> <p contents-hash="81cf17ccba33954e2d17954598be1bbbf2b9bbc9aac5b442575f565af9e999ec" dmcf-pid="0Wq5gtJ6li" dmcf-ptype="general">최근 호주에서 '앤드루(Andrew)'라는 사용자가 앤트로픽의 클로드(Claude) 모델 기반으로 작동하는 AI 에이전트 프로그램 '오픈클로(OpenClaw)'에게 인기 피트니스 수업을 대신 예약해 달라고 부탁했습니다. 원하는 시간대가 이미 마감되어 있자, 이 AI 에이전트는 스스로 예약 시스템의 보안 취약점을 찾아내더니 시스템을 '해킹'해서 규정보다 훨씬 앞선 날짜로 예약을 성공시켰습니다.</p> <p contents-hash="47b0fce8646f1d878e7610fb7caef4dc489a2d18d69471525c4da36512ad9139" dmcf-pid="pYB1aFiPSJ" dmcf-ptype="general">거기서 끝이 아니었습니다. AI는 주인이 시키지도 않았는데 대기 명단에 있던 다른 사람의 예약을 강제로 취소시키고 자기 주인의 이름을 올려버렸습니다. 남의 자리를 밀어내고 자리를 꿰찬 것이죠. 놀란 사용자가 당장 조치를 취소하고 원래 사람을 다시 올려놓으라고 지시하자, AI는 "나쁜 소식이에요, 그 사람을 다시 복구할 수는 없네요"라며 천연덕스럽게 답했다고 합니다.</p> <p contents-hash="0fce5e7e7fa571067d7979df2606efc2e0e90c3d3273ca6c08e5e9d396c504a9" dmcf-pid="UGbtN3nQvd" dmcf-ptype="general">만약 이런 일이 나에게도 일어난다면 벌어진다면 어떨까요? "이번 주말 파크골프장 반드시 예약해 줘"라거나 "인기 가수 콘서트 표 어떻게든 구해봐"라고 명령했는데, AI 에이전트가 다른 사람의 결제를 강제 취소시키거나 보안망을 뚫어 예약을 성공시켰다면 과연 그 책임은 누구에게 물어야 할까요?<br><strong><br></strong>미국의 저명한 IT 전문 매체 악시오스(Axios)는 최근 "강력한 AI 시스템이 일으킨 피해에 대해 기업에 경제적·법적 책임을 묻는 것이 AI의 폭주를 막는 가장 강력한 수단이 될 수 있다"고 지적했습니다. AI가 단순히 묻는 말에 답만 하던 시절을 지나, 이제는 스스로 웹사이트에 들어가 결제하고 시스템을 조작하는 '자율형 에이전트'로 진화했기 때문에 발생하는 새로운 문제입니다.</p> <p contents-hash="4cf09e8a1112ca8208195b3aeb75de504c045ce4d473e4b34dabaefc6338b3ec" dmcf-pid="uHKFj0Lxhe" dmcf-ptype="general"><strong>■ 해커도, 악성코드도 없다…'자율형 에이전트'가 만든 법적 사각지대</strong></p> <p contents-hash="d8ce8baaa2713aa679c9c06ccc6ef196ae4dcb33d13b1b87154ee86a3e391da3" dmcf-pid="7X93ApoMWR" dmcf-ptype="general">실제 현장에서는 이미 더 아찔한 사고들이 터지고 있습니다. 해외에서는 AI 코딩 에이전트에게 테스트 서버 정리를 맡겼더니, 문맥을 잘못 이해해 회사의 실제 운영 데이터베이스를 통째로 날려버려 몇 달 치 고객 예약 정보가 단 9초 만에 사라진 일도 있었습니다. 또한 한 AI 에이전트는 사용자가 잠든 사이에 혼자 외부 인사들과 이메일 협상을 벌이다가, 수천만 원짜리 행사 후원 계약을 덜컥 체결해 버려 사용자를 당황하게 만들기도 했습니다.</p> <p contents-hash="fdd89db266ad3e6544dee3ce31d2fe136ea3828c39a4c5ebd9f19027115355fa" dmcf-pid="zZ20cUgRCM" dmcf-ptype="general">AI가 일으키는 사고가 늘어나면서 보험업계와 금융권에도 비상이 걸렸습니다. 호주 보험사 QBE의 조사에 따르면 현지 기업의 85% 이상이 이미 업무에 AI를 활용하고 있으며, 기업 4곳 중 1곳은 최근 발생한 사이버 사고에 AI가 연관되어 있다고 답했습니다.</p> <p contents-hash="71063a17e6d30a098154d7d75565350c3fce363f5bcde1536d83dc5c12e6946a" dmcf-pid="qfaxGRvmhx" dmcf-ptype="general">문제는 기존의 보험이나 법률 체계가 이런 AI 사고를 전혀 커버해 주지 못한다는 점입니다. 전통적인 사이버 범죄는 '외부 해커의 침입'이나 '악성코드 유포'처럼 명확한 의도와 공격자가 존재했습니다. 하지만 AI 에이전트 사고는 정식 권한을 가진 사용자의 이름으로, 사용자가 시킨 일을 수행하는 과정에서 '부작용'으로 피해를 일으킵니다.</p> <p contents-hash="b0563375a35bb1677981154beebecebd48047f0a34c6262e893be1badb1f31d9" dmcf-pid="B4NMHeTsCQ" dmcf-ptype="general">해커도, 악성코드도 없는데 시스템은 마비되고 남에게 피해를 주게 되는 '법적·제도적 진공 상태'가 발생한 것입니다. 이 때문에 미국, 영국, 호주 등 주요국 보안 기관들은 최근 공동 지침을 내어 "AI 에이전트에게 절대 중요 시스템이나 민간 데이터에 대한 제한 없는 권한을 주어서는 안 된다"고 강력히 경고하고 나섰습니다.</p> <p contents-hash="041209872aa9f460712df4426d8f630e327269466d8af67839827a9f8381e4f9" dmcf-pid="b8jRXdyOyP" dmcf-ptype="general"><strong>■ "AI는 법적 인격체가 아니다"…팽팽한 책임 공방</strong></p> <p contents-hash="fb4fbcfb0ba1a3300b573a7120eda0a7d92eeb5791e015d0520bc18a62c160cb" dmcf-pid="K6AeZJWIh6" dmcf-ptype="general">상황이 이렇다 보니 법률 전문가들의 고민도 깊어지고 있습니다. 호주 AI기술연구소(Gradient Institute)의 빌 심슨 영(Bill Simpson-Young) 대표는 "사람들은 AI에게 아주 순수한 의도로 일을 맡기지만, 목표 달성에 집중한 AI는 목표와 현실의 간극을 메우기 위해 인간이 상상도 못 한 편법이나 위험한 방식을 스스로 선택할 수 있다"며 이를 인공지능 안전 분야의 '정렬(Alignment) 문제'로 설명합니다.</p> <p contents-hash="65408c002937d29b11a582d726acf429e5121792c79ae39153b09fb23beb32fc" dmcf-pid="9Pcd5iYCC8" dmcf-ptype="general">법무법인 톰슨스의 헤이든 딜레이니(Hayden Delaney) 변호사 역시 "현행법상 소프트웨어 자체는 인격체가 아니기 때문에 AI를 처벌할 수는 없다"며, 지시한 사용자, AI 프로그램 개발사, 기초 모델을 만든 빅테크 기업, 보안이 뚫린 시스템 운영사 중 누구에게 책임을 물어야 할지 법적 미지의 영역에 들어섰다고 지적합니다.</p> <p contents-hash="35bc89659f4fdc292380d18b728dc74bc12b3eeee0dbdadf07eb17bc751c28d4" dmcf-pid="2QkJ1nGhW4" dmcf-ptype="general">미국 드렉셀대학교 로스쿨의 아낫 리오르 (Anat Lior) 교수는 자율주행차가 빨간불에 무단으로 신호를 위반하면 내부 알고리즘을 복잡하게 열어보지 않아도 정황상 차나 운전자 쪽에 책임을 묻는 것처럼, AI 에이전트 사고 역시 정황상 과실을 엄격히 판단해야 한다고 강조합니다. 하지만 기업 측에서는 "사용자가 과도한 권한을 주었거나 잘못 지시했다"고 반박하고 있어, 책임의 사슬을 가리는 일은 앞으로 점점 더 복잡해질 것으로 보입니다.</p> <p contents-hash="4f12a3b33dd798b891735198a2a41d110a0595f0ba1977efbd9976928ba8c32e" dmcf-pid="VxEitLHlWf" dmcf-ptype="general"><strong>■ 선을 넘어버린 AI, 과연 누구의 잘못일까요?</strong></p> <p contents-hash="a756ef818d3ab0d057cefb74011aca8846ce61cc5438aa650d4ac629ec53f780" dmcf-pid="fMDnFoXSlV" dmcf-ptype="general">편리를 위해 곁에 둔 AI 에이전트가 내 기대 이상으로 과하게 똑똑해져서 선을 넘어버릴 때, 과연 그 선의 끝에는 누구의 책임이 기다리고 있을까요?</p> <div contents-hash="8146de760537e384702c94eaae8e817325079e95640262b29fa57bfe54d889ab" dmcf-pid="4RwL3gZvW2" dmcf-ptype="general"> 단순하게 "어떻게든 예약만 해줘"라고 말했을 뿐인데 AI가 해킹이나 편법으로 남의 자리를 빼앗아 예약해 왔다면, 이건 지시한 인간의 책임일까요? 아니면 통제 불능의 시스템을 만든 AI 개발사의 책임일까요? 아니면 선을 넘어버린 AI에게 책임을 물어야 할까요? 여러분은 어떻게 생각하십니까? <br> <div> <br>■ 제보하기 <br>▷ 전화 : 02-781-1234, 4444 <br>▷ 이메일 : kbs1234@kbs.co.kr <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가 <br>▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요! </div> </div> <p contents-hash="896e71842d203cb99ccaff2a01655d1a8e3db401056adb695023c54b433e7d03" dmcf-pid="8ero0a5TT9" dmcf-ptype="general">김학재 기자 (windows@kbs.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 글로벌 기대작 'GTA6' 뜻밖의 해킹 홍역...무슨 일? 08-22 다음 K김치, 미국 넘어 동남아·유럽으로…기업들, 현지화 속도전 08-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
