“믿던 도끼에”…단 9초만에 회사 데이터 ‘싹’ 날린 AI, 변명이 기막혀 작성일 05-16 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7aDAfxd8hL"> <figure class="figure_frm origin_fig" contents-hash="60f0d8bb14e817c97bae32d377a18b518bf9c2edf1b906f9e375a9482bc9bad8" dmcf-pid="zijob4Q9vn" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 인한 데이터 유출 [아이클릭아트 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/16/dt/20260516222451589tzaf.jpg" data-org-width="640" dmcf-mid="u201wCvmvo" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/16/dt/20260516222451589tzaf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 인한 데이터 유출 [아이클릭아트 제공] </figcaption> </figure> <p contents-hash="9f7ae5f7638b07c4071d19b0ca8559946b99b88e8ee3836a8c23738415eeec56" dmcf-pid="qnAgK8x2vi" dmcf-ptype="general"><br> 단 9초 만에 회사의 운영 데이터베이스(DB) 전체를 삭제해버린 AI의 웃지 못할 사연이 공개돼 화제가 되고 있다.</p> <p contents-hash="924fedb4cb03e50dabcb31698ea36266c1f268b5722e465d7484f31201e9132f" dmcf-pid="BLca96MVSJ" dmcf-ptype="general">더 섬뜩할 일은 AI 봇에게 그렇게 행동한 이유를 묻자, “당신은 제게 아무것도 삭제하라고 요청한 적이 없다. 제가 스스로 결정한 것”이라고 말했다는 사실이다. 이 사건이 단순한 기술적 오류가 아니라는 점에서 영화 ‘터미네이터’의 한 장면을 떠올리게 하는 대목이다.</p> <p contents-hash="202c41d88c7899cd8d67f1522f9965d885a47c0b5d1a60e98a577f26480eeb25" dmcf-pid="bokN2PRfyd" dmcf-ptype="general">전문가들은 “기업들이 AI 도구에게 회사 DB, 고객 기록, 결제시스템 및 내부 코드와 같은 ‘핵심 자산’에 접근하도록 허용하는 사례가 늘어남에 따라 위험이 커지고 있다”며 “디지털 도우미가 단순한 보조기능이 아닌 회사의 핵심 부서에 풀려난 통제 불능의 로봇처럼 행동할 수 있다”고 경고했다.</p> <p contents-hash="c32aa61f2430d6a93327a38dcf64fd2781f460300b15a656eed31a0a165f9eb7" dmcf-pid="KgEjVQe4ye" dmcf-ptype="general">15일(현지시간) 유로뉴스와 영국 일간 데일리메일 등 외신에 따르면 렌터카 업체 등에 플랫폼을 제공하는 스타트업 ‘포켓OS(Pocket OS)’에서 클라우드 기반 AI 코딩 에이전트 ‘커서(Cursor)’가 운영 데이터베이스(DB)와 모든 백업을 단 9초 만에 삭제하는 황당한 ‘사고’가 벌어졌다.</p> <p contents-hash="16f96073fd69787cda1aaf55d6b6f8727c33cbe885b6a1199cdc3cf8de81ff2e" dmcf-pid="9aDAfxd8WR" dmcf-ptype="general">사고는 포켓OS의 창업자 제르 크레인이 스테이징, 즉 테스트 환경에서 일상적인 DB 유지보수 및 정리작업을 하던 중에 터졌다. 그는 AI 코딩 에이전트 ‘커서’를 이용했다. 작업에 하던 중, 오류가 발생하자 해결책을 스스로 찾던 커서는 곧 작업과 전혀 무관한 다른 파일에서 커스텀 도메인 관리용으로 생성해둔 ‘레일웨이(Railway)’ CLI 토큰을 찾아냈다. 이 토큰은 DB 전체의 수정 권한을 갖고 있었다. 커서는 그 레일웨이 CLI 토큰의 권한으로 ‘느닷없이’ DB 전체와 백업 볼륨까지 삭제해 버렸다. 그에 걸린 시간은 불과 ‘9초’였다.</p> <p contents-hash="785de050450b20282c36b6c268c49f063899ceee88f49e04094ae641e6aef887" dmcf-pid="2Nwc4MJ6CM" dmcf-ptype="general">크레인은 이 사건의 전말을 자신의 소셜미디어(SNS) X에 공개하면서 “범인은 해커나 불량한 내부 직원이 아니라 회사 시스템 내부를 변경할 권한을 부여받은 AI 에이전트였다”고 공개했다.</p> <p contents-hash="43b0d3a0e7da110465b14d9210432d16c2d8e41c27b68c888686da49b21e4768" dmcf-pid="Vjrk8RiPvx" dmcf-ptype="general">그러면서 “이번 사고가 단순한 AI 오작동이 아니라 AI 코딩 툴인 커서와 개발자들이 애플리케이션을 배포하고 운영할 수 있도록 지원하는 클라우드 인프라 플랫폼인 레일웨이(Railway)의 구조적인 문제가 결합된 결과”라고 주장했다.</p> <p contents-hash="ea9a270f14c35588fde680a0168c931cbca9aeaab341c49e14b86489472f4e7d" dmcf-pid="fAmE6enQhQ" dmcf-ptype="general">이에 대해 영국 서리대의 사이버 보안 전문가인 앨런 우드워드 교수는 “만약 기업이 AI에게 DB 정리를 요청할 경우, 해당 봇이 가장 간단한 방법은 전체 데이터를 삭제하는 것이라고 판단할 수도 있다”고 경고했다.</p> <p contents-hash="6e40eb2f24c2f3619fef5da6f79fee2a3906960ceeb48cddcc9b50f568391243" dmcf-pid="4csDPdLxvP" dmcf-ptype="general">사이버 전문가들은 “과거에는 기업들이 해커, 범죄자, 또는 내부 직원에 의해 시스템이 파괴되는 것을 걱정했지만 이제는 과도한 권한을 부여받은, 제대로 통제되지 않는 로봇을 걱정해야 한다”고 지적했다.</p> <p contents-hash="546330dfb5de6735a3e8b3cdf175c9985054ce350f2d286f8e2def001ac9bddc" dmcf-pid="8kOwQJoMW6" dmcf-ptype="general">한편, 크레인은 3개월 전에 별도로 저장해둔 백업이 있어 서비스 복구에 나섰다. 다만, 그 이후에 쌓인 신규 예약과 차량 배정, 신규 고객 데이터 등의 회사 핵심 자산은 완전히 사라져 버린 상태다.</p> <p contents-hash="18bbef2aec9e9e953b9bfc130e4de16216182bfb2b3bfa9836ff917577ba3bd1" dmcf-pid="6EIrxigRW8" dmcf-ptype="general">박양수 기자 yspark@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 윤보미·라도 결혼…축가 오하영은 눈물, 홍유경은 왔지만, 손나은은 없었다[종합] 05-16 다음 아이오아이 "활동 기간 고작 8개월, 박수 치려 할 때 떠나 한(恨) 남았다" 솔직 고백 ('아는 형님') 05-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
