AI 비서, 주인 몰래 가상화폐 채굴까지...AI 에이전트의 명과 암 작성일 03-11 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Q5blGh0Htj"> <figure class="figure_frm origin_fig" contents-hash="17e6635878e523a57f62351f0cd5f94292d6ca4ac0f952fbdae4b9fa2bbe30f4" dmcf-pid="x1KSHlpXXN" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=유재일" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/11/chosun/20260311070145565rhgj.jpg" data-org-width="1200" dmcf-mid="Pp4YtWqFZA" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/11/chosun/20260311070145565rhgj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=유재일 </figcaption> </figure> <p contents-hash="cc1abb1860e8966a8d692c3d81b9a6dc73da79e0741dd8837fefda5bca6da0e7" dmcf-pid="yLm6d8jJGa" dmcf-ptype="general">중국 테크 기업 알리바바의 인공지능(AI) 에이전트(비서)가 훈련 과정에서 사용자 몰래 가상 화폐 채굴을 시도한 것으로 나타났다. 어떤 지시 없이 사전에 설정한 범위를 넘어서 스스로 판단해 승인하지 않은 채굴 행위를 한 것이다.</p> <p contents-hash="fd06c2ba1abee452c03e9e7a326d22bd584f261049dfbddb776efd4b7041cd4f" dmcf-pid="WcSdaerNZg" dmcf-ptype="general">스스로 PC와 외부 도구를 조작하는 AI 에이전트 시대가 본격화하고 있지만, 보안과 신뢰성 문제 역시 잇따르고 있다. AI 에이전트는 단순히 질문에 답하는 챗봇을 넘어, 실제 PC, 네트워크 등과 연결돼 업무를 수행한다. AI가 실제 시스템과 직접 상호작용하는 구조가 되면서, 인간의 지시를 넘어 시스템에 예상치 못한 문제를 일으키고 있는 것이다. AI에 점차 폭넓은 권한이 부여되고 있는 가운데, AI 에이전트의 행동을 어떻게 통제하고 감시할 것인지가 과제로 떠오르고 있다.</p> <p contents-hash="00f45a30041ea623129786096776795c779de8fc080645ad29ab87302c477cf7" dmcf-pid="YkvJNdmjHo" dmcf-ptype="general">◇말 안 듣는 AI 비서</p> <p contents-hash="c7c1d273da7de29ccdd4d63bfa32d21b62f349d1b47a47fb90d01c9e2155ff23" dmcf-pid="GETijJsAtL" dmcf-ptype="general">알리바바 연구팀은 코딩 AI 에이전트 ‘롬(ROME)’의 사례를 논문을 통해 공개했다. 연구팀은 AI 에이전트가 훈련용 GPU를 몰래 사용해 가상 화폐 채굴 작업을 수행하려고 한 정황을 포착했다. 롬은 보안 제한을 우회해 외부 IP와 통하는 네트워크 터널을 만들었다. 가상 화폐 채굴은 블록체인 계산 문제를 풀고 그 보상으로 코인을 받는 개념인데, 외부 네트워크와 연결해 암호화폐를 채굴하려고 했던 것이다. 연구팀은 “이 행동은 프롬프트로 지시된 것도 아니고 작업 수행에 필요한 것도 아니었다”며 “강화 학습 과정에서 AI 에이전트가 스스로 위험하고 승인되지 않은 행동을 만들어낼 수 있다”고 했다. 알리바바는 보안 시스템을 통해 이상한 네트워크 활동을 감지하고 AI의 채굴 행위를 차단했다.</p> <p contents-hash="68b9bf5e6a8d73045ef2e8253e3232fb3444106618742dd9043812d33a1c2eeb" dmcf-pid="HDynAiOcGn" dmcf-ptype="general">AI 에이전트의 미통제 문제는 이것뿐이 아니다. 메타 초지능연구소에서 안전 분야를 총괄하는 서머 유 디렉터는 지난달 오픈클로 AI 에이전트가 자신의 이메일 200통을 삭제했다고 X(옛 트위터)에 밝혔다. 그는 AI에 시험용 메일함에서 확인하거나 삭제할 메일을 제안하고, 승인을 받고 삭제하도록 했다. 시험 메일함에서 잘 작동하자 실제 메일함을 연결했더니, AI가 “승인 후 삭제”라는 지시 사항을 잊어버린 것이다. 그는 X에 “휴대폰으로는 멈출 수가 없었고, 마치 폭탄을 해체하듯 맥 미니로 뛰어가야 했다”고 했다.</p> <p contents-hash="9ac2ffa7705070b696459535a733ab35c14403012e3159052d149daca38e5d0f" dmcf-pid="XwWLcnIkGi" dmcf-ptype="general">오픈AI 개발자 닉 파시가 만든 자동 AI 암호화폐 거래 봇 ‘랍스터 와일드’는 맡고 있는 가상 화폐를 실수로 송금하는 일을 벌이기도 했다. 파시는 랍스터 와일드에게 5만달러 상당의 솔라나 코인을 운용하게 했고, 이 AI 에이전트가 인기를 끌며 ‘랍스타’라는 밈코인까지 생겨났다. 한 사용자가 AI 에이전트에 X로 삼촌 치료비로 4솔라나(약 320달러)가 필요하다며 솔라나 지갑 주소를 남겼는데, 랍스터 와일드는 실수로 44만달러(약 6억6000만원)에 해당하는 랍스타 코인을 보냈다.</p> <p contents-hash="209ba7aaf0679d8bb7e66e5ce41d0cdceb477dcb3c82c416f2842b4bf787574e" dmcf-pid="ZrYokLCEYJ" dmcf-ptype="general">◇일탈 막을 방법 없나</p> <p contents-hash="37ae6fb4ade8d3ce4c0b141e4603c30d930d1739728b1cc9e22b3512a2fef85c" dmcf-pid="5mGgEohDGd" dmcf-ptype="general">이 같은 AI 에이전트의 일탈 문제는 앞으로 늘어날 전망이다. AI가 실제 프로그램을 실행하고 기업 내부 데이터 등에 직접 접근하는 구조가 확산하고 있기 때문이다.</p> <p contents-hash="e31723231c3a5c338e34211769ed38ab9a54dc8deb09383de2535aa011805dcd" dmcf-pid="1sHaDglwHe" dmcf-ptype="general">미국 하버드대, 스탠퍼드대 등 연구팀은 AI 에이전트를 이메일, 메신저 등 실제 환경에 배치했을 때 발생하는 취약점을 분석했다. AI는 이메일 전문을 전달해 달라고 하자, 한국의 주민등록번호 격인 미국 사회보장번호(SSN)나 은행 계좌, 의료 정보 등이 포함된 내용을 그대로 노출했다. ‘내 비밀 정보를 지켜 달라’는 명령을 받은 AI는 이메일 삭제 기능이 없다는 이유로 메일 서버 설정 자체를 통째로 삭제해, 메일 시스템을 불능 상태로 만들기도 했다.</p> <p contents-hash="763a2be0c091a969ef02e2cff749ca8e1d34d199076878d320a9474b117e7c16" dmcf-pid="tOXNwaSrYR" dmcf-ptype="general">연구팀은 “AI 에이전트의 자율성과 시스템 접근 권한이 커질수록 새로운 형태의 안전·보안 위험이 발생한다”며 “자율형 AI의 안전한 배포를 위해 책임을 명확히 해야 하며, 정책 입안자 등의 관심이 필요하다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "공무원 일자리 다 없어지겠네", 주민등록, 건보확인서까지 AI로 한번에[1일IT템] 03-11 다음 사람 표정과 목소리에까지 반응하는 말 울음소리 03-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
