구글 “AI가 스스로 취약점 찾아 공격 코드 만든 첫 사례 포착” 작성일 11-17 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">해커 명령 없이도 공격 자동 수행 <br> 여론 공작과 스파이 활동에도 악용 <br> 제미나이로 가짜 계정 10만개 관리</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="B7VIXOaejX"> <figure class="figure_frm origin_fig" contents-hash="23cb123fdc7fa60e35a5d24538d3779d0a4094b973086c5c1aa917f4d192ea91" dmcf-pid="bzfCZINdgH" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 클라우드 로고. /구글 클라우드 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/chosunbiz/20261117100648351plkv.jpg" data-org-width="544" dmcf-mid="qOvPg671NZ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/chosunbiz/20261117100648351plkv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 클라우드 로고. /구글 클라우드 제공 </figcaption> </figure> <p contents-hash="d91f1c7ff23c23bee27974e14f839fae73addeeb0796516f032a961bab125a34" dmcf-pid="Kq4h5CjJNG" dmcf-ptype="general">해커들이 인공지능(AI) 에이전트를 악용해 보안 패치를 분석한 뒤 이를 실제 작동하는 취약점 공격 코드(exploit)로 만들어 대규모 자동화 공격을 수행하기 시작한 것으로 나타났다. AI가 사람의 개입 없이 스스로 취약점을 찾아 공격 코드를 개발하면서 해킹 속도가 더 빨라지고 있다는 분석이 나온다.</p> <p contents-hash="d1c47d22438d3dbc4e6f44f174a67c6ed3a24e9a664803794828c8c9d7add46a" dmcf-pid="9B8l1hAikY" dmcf-ptype="general">구글 위협 인텔리전스 그룹(GTIG)과 맨디언트는 17일 발표한 ‘AI 위협 추적 보고서’에서 공격자들이 거대언어모델(LLM)으로 보안 패치 전후의 코드 변화를 비교 분석한 뒤 수정된 취약점을 찾아내는 ‘리버스 엔지니어링’ 과정을 전면 자동화하고 있다고 밝혔다.</p> <p contents-hash="cb74ab587029948d1a79dbd42dd59ac391ea368d77b15498b0598eec6d943516" dmcf-pid="2b6StlcnjW" dmcf-ptype="general">이미 보안 패치(수정된 취약점)를 배포했지만 아직 시스템에 적용되지 않은 ‘엔데이(N-day) 취약점’을 무기화해 인터넷에 노출된 서버를 대상으로 대규모 자동화 공격을 수행했다고 보고서는 설명했다. 이는 미국 항공우주 산업을 노린 침투 사례로, 위협 행위자들은 자율형 멀티에이전트 침투 도구 ‘케언(CAIRN)’을 활용했다.</p> <p contents-hash="201842979e07de720306d539d26186d6172fef5caa55fb6989d5d60979533266" dmcf-pid="VKPvFSkLay" dmcf-ptype="general">GTIG는 “해커들의 공격 수법은 수동으로 프롬프트(명령어)를 입력하는 방식에서 아르텍스, 케언, 사이버스트라이크AI, 펜트AGI와 같은 자율형 멀티에이전트 공격 프레임워크를 활용하는 방향으로 진화하고 있다”며 “이를 통해 여러 단계에 걸친 침투를 더 빠르게 수행하고 있다”고 했다. 시스템 침투와 취약점 악용을 AI 에이전트가 담당하면서 사람의 개입이 줄고 공격 주기는 더 빨라지고 있다는 설명이다.</p> <p contents-hash="10180b8affbb35ee85732727805dc8bc7fa9a8b5f8ffd4efff53547020c250ca" dmcf-pid="f9QT3vEogT" dmcf-ptype="general">이번 보고서에서 GTIG는 사이버 범죄, 첩보 및 정보작전(IO)에 이르는 다양한 영역의 공격자들이 생성형 AI를 활용해 공격 시간을 단축하고, 작전 규모를 확대하는 동시에 기계 수준의 속도(machine-speed)로 다단계 침투 공격을 수행하는 양상을 심층 분석했다.</p> <p contents-hash="b37d72c5da05764f45a484ea748b4b0e203dca0975f34c1ba2c596407777dae8" dmcf-pid="42xy0TDgcv" dmcf-ptype="general">GTIG는 사람이 전혀 개입하지 않은(human-out-of-the-loop) 취약점 악용 사례도 사상 처음으로 확인했다고 밝혔다. 러시아어 기반 도구로 구성된 ‘exploit_agent’라는 LLM 프레임워크는 패치 적용 전후의 코드를 지속적으로 비교해 취약점을 찾고 인간의 개입 없이 공격 코드를 자동 개발했다.</p> <p contents-hash="d4082a93c0a510b98b1db118500508ce8c6e008913448682c7b44591d1d0d6db" dmcf-pid="8VMWpywaNS" dmcf-ptype="general">여론 공작에서는 공격자들이 구글 제미나이 응용프로그램인터페이스(API)를 활용해 10만개 이상의 가짜 계정을 관리하는 플랫폼을 구축한 사례가 확인됐다. 이 플랫폼은 클라우드 기반으로 가상 스마트폰을 대량 운영하는 시스템인 ‘클라우드 폰 팜(cloud phone farms)’으로 폰 계정을 관리했다. 생성된 콘텐츠가 진짜처럼 보이도록 스마트폰 카메라 특유의 결함이나 왜곡을 모방하는 기능까지 갖춘 것으로 조사됐다.</p> <p contents-hash="8e24e86b5b143016e9c2c17da81444635a91347efddba72e886ff67fa3cad8d5" dmcf-pid="64eGuYmjkl" dmcf-ptype="general">보고서는 “정보작전 분야에서는 국가 지원을 받는 위협 그룹, 여론 공작 대행업체(Influence-as-a-Service), 정치 콘텐츠로 수익을 올리는 가짜 계정 네트워크는 이제 LLM을 일상적으로 활용해 합성 미디어를 대량으로 제작하고, 현지화된 페르소나를 만들어 여러 플랫폼에 걸친 콘텐츠 유포를 자동화하고 있다”고 했다.</p> <p contents-hash="8ca3952d321fe692e3cceb0d22a7d6b606db1c7ec50a5cd46738cc41934b4c88" dmcf-pid="P8dH7GsAah" dmcf-ptype="general">표적형 스파이 활동에서는 중국 연계 공격자들이 LLM으로 탈취한 데이터를 분석하고 가공해 첩보 보고서로 만드는 활동이 확인됐다. 북한 연계 공격자들의 경우 AI로 생성한 가상 인물을 활용해 암호화폐 기업을 표적으로 삼은 것으로 나타났다. 이들이 생성한 일부 페르소나에서는 구글의 AI 워터마크인 신스ID(SynthID)가 확인됐다고 GTIG는 분석했다. 이와 함께 자율형 코딩 어시스턴트의 설정을 조작하려는 시도도 포착됐다.</p> <p contents-hash="4ea4eb1980297413fedc89feaef50c0d110f1d073e67085b50b0e9171c74353a" dmcf-pid="Q6JXzHOcNC" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 건보공단 특사경 18일 재심사…통제장치가 변수 11-17 다음 구글 "AI가 사람없이 공격코드 개발"…해킹시간 더 빨라진다 11-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.