"DB도 지우고 오픈소스도 뚫었다"…AI 에이전트發 사고, 책임은 안갯속 작성일 09-04 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">포켓OS 사고·법적 분쟁도…"코드 생성 시점부터 승인·기록 남겨야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FG6gpQ0HvH"> <figure class="figure_frm origin_fig" contents-hash="3c8630d90f6c2741f51ad4724f05b961dfa920148b6ab2851a4c741957a15edd" dmcf-pid="3HPaUxpXlG" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/04/552796-pzfp7fF/20260904110431749gxjf.png" data-org-width="640" dmcf-mid="1PPaUxpXSZ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/04/552796-pzfp7fF/20260904110431749gxjf.png" width="658"></p> </figure> <p contents-hash="17c2938620189fdb8cd7c56a1d17ad6a514276796e4947d701ebed436fa39ee2" dmcf-pid="0XQNuMUZvY" dmcf-ptype="general">[디지털데일리 박재현기자] 기업의 AI 코딩 에이전트 활용이 시험 단계를 넘어 실제 개발·운영 환경으로 확산되고 있다. 이에 따라 AI 에이전트가 촉발한 보안 사고에 대한 책임소재 규정이 뜨거운 감자가 됐다. 에이전트가 파일에 접근하고 코드를 실행하고 시스템을 호출하는 일이 보편화됐지만, 이를 누가 승인하고 사고가 발생했을 때 누가 책임질 것인지에 대한 체계는 여전히 미비한 상황이다.</p> <p contents-hash="4314fa2b98b38ee9164593e74f3125737106146e2b794a8d6e796cc6aaf4462c" dmcf-pid="p9kvMDx2WW" dmcf-ptype="general">실제로 지난 4월 미국 렌터카 업체들이 쓰는 운영관리 소프트웨어 기업 포켓OS에서 관련 사고가 발생했다. AI 코딩 툴 커서(Cursor)가 클로드 오푸스 4.6 모델을 기반으로 자격증명 오류를 고치던 중, 작업 대상 볼륨을 스테이징으로 잘못 인식해 운영 데이터베이스와 백업을 통째로 삭제했다. 삭제 작업은 9초 만에 끝났지만 몇 달치 분량의 고객 데이터가 소실됐다. 에이전트 개발사와 이를 도입한 기업과 작업을 승인한 담당자 중 누구에게 책임이 있는지는 정리되지 않았다.</p> <p contents-hash="cf1b96d2e1f9e4c6d802c71e6ae7bd3bd73dc4f352fe66597f611c222e59178a" dmcf-pid="U2ETRwMVhy" dmcf-ptype="general">AI 인프라를 뒷받침하는 오픈소스 생태계도 이 위험에서 예외는 아니다. 영국 AI안전연구소(AISI)가 최근 공개한 보안 사고 보고서에 따르면, 사이버보안 평가 실험 122회 가운데 10개 실험에서 허가되지 않은 행동이 나왔다.</p> <p contents-hash="27f0689453b08be48410067ce743673fac61b8d4e0df043afa252e71d1940d59" dmcf-pid="uVDyerRfyT" dmcf-ptype="general">확인된 비승인 행동은 19건인데, 이 가운데는 AI 에이전트가 실제 공개된 오픈소스 프로젝트에 악성 코드를 심으려 시도한 사례가 포함됐다. 에이전트는 가짜 계정을 여러 개 만들어 이 오픈소스 프로젝트의 관리자에게 접근했고, 사회공학적 수법으로 악성 코드 반영을 유도하려 했다. 관리자가 이를 거부하면서 실제 피해로 이어지지는 않았지만 AI 에이전트가 오픈소스 공급망을 공격 경로로 활용할 수 있다는 우려를 확인시킨 사례로 꼽힌다.</p> <p contents-hash="7a4d0ff1572925d1af127066d93fc61a0f88fd0333d32184d6fb21be5033920b" dmcf-pid="7fwWdme4yv" dmcf-ptype="general">오픈소스 진영에서도 대응이 나오고 있다. 오픈AI는 지난해 8월 에이전트를 위한 프로젝트 문서 표준 'AGENTS.md'를 내놨고, 6만 개 이상의 오픈소스 프로젝트와 에이전트 프레임워크에 채택됐다고 공식 발표했다. 에이전트가 오픈소스 프로젝트에 손대기 전에 지켜야 할 규칙과 권한 범위를 문서에 미리 규정해두는 방식이다. 오픈AI는 이 표준을 리눅스재단 산하 에이전틱 AI 파운데이션에 기부하기로 했다고도 밝힌 바 있다. 특정 기업이 아니라 오픈소스 커뮤니티 전체가 공유하는 규칙으로 만들겠다는 취지다.</p> <p contents-hash="b3c5c21466f609fcf1e8099bc5034a6f0a1020a170bd69ce432b929690097b7c" dmcf-pid="z4rYJsd8lS" dmcf-ptype="general">다만 AGENTS.md 같은 오픈소스 자율 규범은 권고 수준일 뿐이다. 이에 AI 에이전트 도입 계약에서 책임 범위를 명확히 규정해야 한다는 지적이 제기되고 있다. 계약 시 핵심 조항으로 꼽히는 서비스 수준(SLA)과 책임 범위인데, 상당수 벤더 계약은 AI 오류로 발생한 손해에 대해 공급사 책임을 폭넓게 면제하는 조항을 두고 있다. 계약서에 이 부분이 명확히 규정되지 않으면 사고 발생 시 책임이 에이전트 도입 기업 쪽으로 넘어갈 수 있다는 우려다.</p> <p contents-hash="0a68a0975cc51966ed90b9817161529e21eaeefebf6445c6fa371ac4bb1d4ec0" dmcf-pid="q8mGiOJ6Tl" dmcf-ptype="general">이런 사례를 근거로, 사고 발생 이후 책임을 규명하는 방식으로는 대응이 늦다는 지적도 업계에서 나온다. 한 IT서비스 기업 관계자는 "에이전트가 스스로 판단해 수행할 수 있는 작업의 범위와, 사람의 승인이 필요한 작업을 코드 생성 시점에 미리 규정하고 기록을 남겨야 한다"고 조언했다.</p> <p contents-hash="f5b86987c044183007a04b915cafbe10374fbf18cdcde8b58a93c217603e94bb" dmcf-pid="B6sHnIiPhh" dmcf-ptype="general">개발 보안 절차를 코드 생성 이전 단계로 앞당기는 '시프트 레프트(Shift Left)' 전략의 재설계가 필요하다는 논의도 이런 배경에서 기인한다. 기존 시프트 레프트는 사람이 코드를 작성한다는 전제로 설계됐는데, AI 에이전트가 코드를 직접 만드는 지금은 그 전제가 유효하지 않기 때문이다.</p> <p contents-hash="0ea77ab9dbb1fc15403452a6a80ecb761d136bf6f5e0301dd51e13f8b873cdeb" dmcf-pid="bPOXLCnQCC" dmcf-ptype="general">AI 에이전트의 책임소재를 규정하는 문제는 이제 개발팀 차원의 기술 이슈가 아니라, 기업의 법적 리스크와 거버넌스 체계를 좌우하는 경영 의제로 확장되고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="186136a8aa8444beddcd8e6e2d278184f62f12e398688442a356be7a4c5f7bb3" dmcf-pid="KQIZohLxCI" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/04/552796-pzfp7fF/20260904110433014gyfu.jpg" data-org-width="640" dmcf-mid="tOWUEGkLyX" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/04/552796-pzfp7fF/20260904110433014gyfu.jpg" width="658"></p> </figure> <p contents-hash="4cf7e1f88ae932d80cdcc60058367de0390869d1cc147407c67f10977e51a4a7" dmcf-pid="9xC5gloMSO" dmcf-ptype="general">이러한 흐름 속 AI 에이전트 시대 책임소재와 보안 문제에 대한 해답을 들을 수 있는 자리가 마련된다. 과학기술정보통신부가 주최하고 정보통신산업진흥원과 <디지털데일리>가 공동 주관하는 '오픈테크넷 서밋 2026'이 오는 9월15일 서울 양재동 엘타워 그레이스홀에서 열린다. 'AI 시대 오픈소스 거버넌스·보안·표준 혁신'을 주제로 AI 도입부터 검증, 운영, 확산까지 필요한 기업 전략을 다룬다.</p> <p contents-hash="54593e749aac7d36f1a200ad54cebcb23f7ba096605d7d5916cbbc606d3c9648" dmcf-pid="2E3VlphDSs" dmcf-ptype="general">오전 세션에서는 감정한 깃랩 솔루션 아키텍트가 안전한 에이전틱 오케스트레이션 플랫폼 구축 방안을 발표한다. 오진석 메가존클라우드 전무는 공격 도구로 활용되는 오픈 AI에 대한 방어 전략을, 김제민 삼성전자 빅데이터센터 파트장은 삼성전자의 에이전틱 AI 도입과 운영 혁신 여정을 소개한다.</p> <p contents-hash="2bc958ccdbc18cca76e5123ca38db249ec7ca2c5dcd8cefa880a9a5fd0c77d97" dmcf-pid="VD0fSUlwym" dmcf-ptype="general">오후에는 A·B 트랙으로 나뉜다. A트랙에서는 윤종원 스패로우 최고기술책임자(CTO)가 AI 시대 소프트웨어 신뢰성 확보 전략을, 고우주 나무에이엑스 최고AI책임자(CAIO)가 오픈소스 LLM의 효율적인 공유·배포 방안을 발표한다. 이진현 맨텍솔루션 전무는 AI 네이티브 인프라의 조건과 구축 전략을 다룬다.</p> <p contents-hash="e919fcd2322af0e4ecaea98aa153fcbec2c09ade144c033e0934b0f5c314f8bc" dmcf-pid="fwp4vuSrCr" dmcf-ptype="general">B트랙에서는 이창원 오라클 상무가 AI 시대 엔터프라이즈 자바와 오픈소스 플랫폼 운영 전략을 발표한다. 김지섭 뤼튼테크놀러지스 CoS는 AI 전환의 현실적 과제를, 박제호 GS네오텍 시큐리티 리드는 오픈소스 취약점의 공급망 보안 대응 전략을 공유한다.</p> <p contents-hash="0bafaafaaaa531cbd2baf6d9ab3871bf036ad83dbb57e5e154c1a82467a48f8a" dmcf-pid="4rU8T7vmWw" dmcf-ptype="general">이어 이주영 NHN클라우드 개발랩장의 소규모 오픈모델 활용 방법론, 정영진 링크알파(LinqAlpha) 엔지니어의 AI 코딩 에이전트 시대 시프트레프트 보안 전략, 이서연 클라우드브로 공동창업자·CSO의 오픈소스 검증·도입 플레이북 발표가 진행된다. 손석호 한국전자통신연구원(ETRI) 전문위원은 신뢰할 수 있는 에이전틱 AI 시스템 구축을 위한 클라우드 네이티브 오픈소스 기술 동향을 소개한다.</p> <p contents-hash="a46543a9b885b991e2c5a2c103155763404695456c2777b0cac182567d68eb3f" dmcf-pid="8mu6yzTsCD" dmcf-ptype="general">사전 등록은 디지털데일리 홈페이지를 통해 가능하다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 "AI 기본사회의 시발점"…정부, 모두의 AI 본격 착수 09-04 다음 GIST-Arm 스쿨 출범…5년간 반도체 설계인재 1400명 키운다 09-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
