美 "中 AI기업, GPT·클로드서 수십억 토큰 빼냈다…안보 위협" 작성일 09-09 59 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">NSA·FBI·CISA, 딥시크·문샷AI·알리바바 등 6곳 지목<br>"2024년 말부터 조직적 증류…美 국가안보에 중대한 의미"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UgHBJA8BHc"> <figure class="figure_frm origin_fig" contents-hash="908b33864f2ec8540eb2c32b41015ef8860d571345a5db9ba66c9e2ad844ccb8" dmcf-pid="uaXbic6bGA" dmcf-ptype="figure"> <p class="link_figure"><img alt="(챗GPT 생성 이미지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/NEWS1/20260909095251790uvcf.jpg" data-org-width="1400" dmcf-mid="p9xcWFOcHk" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/NEWS1/20260909095251790uvcf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (챗GPT 생성 이미지) </figcaption> </figure> <p contents-hash="21cfebd9cce0247ee8f5bb809e44f1c92dd1188d420bdfd4fb60047d2c461f49" dmcf-pid="7NZKnkPKYj" dmcf-ptype="general">(서울=뉴스1) 나연준 기자 = 미국 정부가 딥시크, 문샷AI, 알리바바 등 중국 인공지능(AI) 기업 6곳이 GPT·클로드 등 미국의 최상위(프런티어) AI 모델에서 수십억 개의 토큰을 조직적으로 추출해 자사 모델 학습에 활용했다고 지적했다. 미국은 중국의 이 같은 대규모 AI 증류가 미중 AI 기술 경쟁을 넘어 국가안보에 중대한 영향을 미칠 수 있다고 경고했다.</p> <p contents-hash="7328eb0e3636a07be11a1ed0f80c01c75d783ac2caa39da34d9ffea0ebe79346" dmcf-pid="zj59LEQ9YN" dmcf-ptype="general">미국 국가안보국(NSA), 연방수사국(FBI), 사이버보안·인프라보안국(CISA)은 8일(현지시간) '미국 AI 기업을 대상으로 산업적 규모의 증류 캠페인을 수행하는 중국 AI 기업'이라는 제목의 공동 사이버보안 권고문을 발표했다.</p> <p contents-hash="7814dd50f19aa064c191af34386421703285822479b90619fe83f3625f3d9f2f" dmcf-pid="qA12oDx2Ya" dmcf-ptype="general">미국 정부는 중국 AI 기업들이 미국 프런티어 AI 모델의 기능과 역량을 체계적으로 추출해 자사 모델을 훈련하는 대규모 증류 활동을 벌이고 있다고 주장했다.</p> <p contents-hash="a0a189811892a26ec38d41fd2082fbfc85970c2004f35edfd06509d0efdb8f77" dmcf-pid="BctVgwMVtg" dmcf-ptype="general">증류는 성능이 뛰어난 AI 모델이 내놓은 답변을 다른 AI가 대량으로 학습해 성능을 높이는 기술이다. 상대적으로 적은 연산 자원과 비용으로 고성능 모델의 능력을 학습할 수 있어 AI 업계에서 일반적으로 활용된다.</p> <p contents-hash="793ee95cba4011d5c3cbdbfa60726ce477cf530368e5445afe2e7c61b55ef6b3" dmcf-pid="bkFfarRfto" dmcf-ptype="general">미국 정부도 증류 자체는 합법적이고 유용한 AI 개발 방식이라고 인정했다. 다만 중국 기업들이 미국 AI 기업의 이용 제한과 지역 차단 등을 우회하면서 미국 기업이 개발한 모델의 독점적인 기능과 역량을 대규모로 추출한 것은 정상적인 기술 활용과 다르다고 지적했다.</p> <p contents-hash="30b2971e88574c54778ceb9a7ff44994abcf948b93db7fb169a0758c040b9765" dmcf-pid="KE34Nme4ZL" dmcf-ptype="general">미국 정부는 권고문에서 딥시크, 문샷AI, 알리바바, 미니맥스, 스텝펀, Z.ai 등 중국 AI 기업 6곳을 지목했다. 이어 미국 정부는 중국 정부도 이 같은 활동을 파악하고 있었으며, 이들 기업이 2024년 말부터 클로드, GPT, 제미나이, 그록 등 미국 AI 모델에서 수십억 개의 토큰을 추출했을 것으로 보고 있다.</p> <p contents-hash="ffc28981c478b9f83011bbf359666137c578b360cc34619594df8f15fb1b55b0" dmcf-pid="9D08jsd8Yn" dmcf-ptype="general">구체적인 수법도 공개했다. 중국 AI 기업들이 미국 AI 기업의 이용약관과 지역 제한을 우회하기 위해 응용프로그램인터페이스(API)와 원격 클라우드 등 여러 경로를 활용했다는 게 미국 정부의 판단이다.</p> <p contents-hash="b0f2c51b4105a6d7d3d67da2885bb4f80b9e7084df2ed65f360ac5a11466317c" dmcf-pid="2wp6AOJ6ti" dmcf-ptype="general">이용자 정보를 숨겨 탐지를 피하거나 '트랜스퍼 스테이션'으로 불리는 프록시 암시장을 이용해 추적을 어렵게 한 정황도 제시했다. AI 모델의 연쇄적 사고(CoT) 추론 능력을 추출하고 특정 접근 경로가 차단되면 자동으로 다른 경로로 전환하는 방식도 사용한 것으로 파악했다.</p> <p contents-hash="47cfbd5245aecb92e15a720c8798536627f94fc39e82bedcaa6d6cbd3e099623" dmcf-pid="Vs7xEhLxtJ" dmcf-ptype="general">미국 정부는 중국 기업의 대규모 AI 증류를 기술이나 지식재산권 문제를 넘어 '국가안보'와 직결된 사안으로 보고 있다.</p> <p contents-hash="553c5ad5dfec060416d22653b4cf0d5a9afed1c59bc714e3cd5f58f13e4d7dfa" dmcf-pid="fOzMDloM1d" dmcf-ptype="general">NSA는 "미중 프런티어 AI 경쟁은 중대한 국가안보적 의미를 갖는다"며 "프런티어 AI 모델이 핵심 인프라와 군사, 경제, 기술 분야에 중대한 위험을 초래할 수 있다"고 밝혔다.</p> <p contents-hash="04d4d2864ac8412fbe3348c795bb9dd31e01d088a260531b4abb59d2ed5a4d18" dmcf-pid="4IqRwSgRte" dmcf-ptype="general">미국 정부는 자국 AI 기업들에 증류 시도를 탐지·차단하기 위한 대응도 권고했다.</p> <p contents-hash="10979cb1ab179370481904c0dd72899025c1101fd8e292f958644e487fb279c2" dmcf-pid="8CBervaeZR" dmcf-ptype="general">비정상적이거나 악의적인 프롬프트와 계정, 네트워크, 이용 행태를 탐지·차단하는 체계를 강화하고 신규 계정에서 가입 직후 최대 수준의 사용량이 발생하는 등 비정상적인 이용 패턴을 집중적으로 감시하도록 했다.</p> <p contents-hash="9253d0dab148da99517a8b3669e75127f73c8c5f603fecf08ebf3d889c07c183" dmcf-pid="6hbdmTNdGM" dmcf-ptype="general">증류가 의심되는 요청에는 AI의 응답 방식을 미세하게 변경해 추출할 수 있는 정보의 가치를 떨어뜨리는 방안도 제시했다. AI 모델 제공업체와 클라우드 플랫폼, API 중개업체가 의심 계정과 공격 방식 등의 정보를 공유하는 체계를 구축할 것도 권고했다.</p> <p contents-hash="491311d338652d154ce15de148b939395faebff3696b58cb14097af89f9b237a" dmcf-pid="PlKJsyjJHx" dmcf-ptype="general">yjra@news1.kr<br><br><strong><용어설명></strong><br><br>■ AI 증류<br>AI 증류(distillation)란 성능이 높은 대형 AI 모델이 생성한 답변이나 지식, 추론 결과 등을 학습 데이터로 활용해 더 작은 AI 모델의 성능을 높이는 기술을 말한다. 대형 모델의 능력을 작은 모델에 이전해 모델 크기와 학습·운영 비용을 줄이면서도 높은 성능을 확보하는 데 활용된다.<br><br>■ API(Application Programming Interface)<br>서로 다른 프로그램이나 서비스가 기능과 데이터를 주고받을 수 있도록 연결해 주는 통로. 에이전틱 AI는 검색·결제·메일 등 외부 서비스를 이용할 때 API를 호출한다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 "실험실 벗어난 해커AI"… 6시간만에 클라우드 뚫고 수천개 정보 털렸다 09-09 다음 폴더블 아이폰 D-1…삼성전자, '8세대·201g' 앞세워 기술력 과시 09-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
