메타, 경쟁사 AI 사용 제한... ‘증류’ 방지 나섰다 작성일 06-30 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">사내 클로드·코덱스 사용 제한<br>메타, 증류 리스크 관리나서<br>AI경쟁, 성능 넘어 지식 탈취 방어로</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UnIhRpd8y7"> <figure class="figure_frm origin_fig" contents-hash="2d571584164ad79d9f1853da2b30447dc5795abb268ad23e96337bc555fc40ba" dmcf-pid="uLCleUJ6hu" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타, 경쟁사 AI 사용 제한... ‘증류’ 방지 나섰다 [그림=챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/30/mk/20260630134803806rxqz.png" data-org-width="700" dmcf-mid="pA5tk8Dgvz" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/30/mk/20260630134803806rxqz.png" width="658"></p> <figcaption class="txt_caption default_figure"> 메타, 경쟁사 AI 사용 제한... ‘증류’ 방지 나섰다 [그림=챗GPT] </figcaption> </figure> <div contents-hash="1055644b0bb99d3e06a975cc7345a83a28908310e4e791281f1711dfa50d1d63" dmcf-pid="7ohSduiPTU" dmcf-ptype="general"> 메타가 자사 인공지능(AI) 개발 과정에서 앤트로픽의 ‘클로드’와 오픈AI의 ‘코덱스’ 사용을 대폭 제한하는 내부 지침을 마련했다. 경쟁사의 AI가 생성한 답변이 자사 모델 학습에 활용되는 ‘증류(distillation)’ 논란을 피하기 위해서다. </div> <p contents-hash="7d19e1fb1bc0b221ae858d056601f0ff3e61f908f0d83c0ad6dd21b7635d33a9" dmcf-pid="zglvJ7nQhp" dmcf-ptype="general">29일(현지시간) 더 인포메이션에 따르면 메타는 응용 AI 엔지니어링 조직에 배포한 내부 가이드라인을 통해 클로드 코드와 코덱스의 활용 범위를 엄격히 제한했다. 일부 프로젝트는 외부 AI 모델의 출력이 메타의 학습 데이터에 섞일 우려가 있다는 이유로 일시 중단하라는 지침도 포함됐다. 내부 문건은 이런 상황이 발생하면 ‘파트너 기업과 심각한 분쟁’으로 이어질 수 있다고 경고했다.</p> <p contents-hash="1595b89692dc1d8a6ecac29f2ec325e8bf961851673f3f11d5cceefdcb9e2f86" dmcf-pid="qaSTizLxT0" dmcf-ptype="general">메타는 올해 응용 AI 엔지니어링 조직을 신설해 자체 코딩 AI인 ‘메타코드’ 성능을 높이고 있다. 그동안 메타는 클로드 코드의 주요 고객 가운데 하나였지만 앞으로는 외부 AI 의존도를 줄이고 자체 모델 중심으로 개발 체계를 바꾸겠다는 전략이다. 급증하는 AI 사용 비용을 줄이는 것도 배경으로 꼽힌다.</p> <p contents-hash="e54aada77e61088c75d2394ec611e7b694a0e9e01e42e1d8f6cd2cba7cacc9a0" dmcf-pid="BNvynqoMS3" dmcf-ptype="general">특히 메타는 엔지니어가 외부 AI가 만든 코딩 문제나 테스트 과제를 그대로 사용하는 것을 금지했다. AI가 만든 결과물로 다시 AI를 평가하거나 학습시키면 경쟁사의 지식이 자사 모델에 흘러들어갈 수 있기 때문이다. 소스코드 분석을 통해 새로운 테스트 아이디어를 생성하거나 버그를 찾는 작업에도 외부 AI 활용을 제한했다.</p> <p contents-hash="f3d146bc9d01407a87c230db4fb0b5a9605774b07386885dc9c72212db8a3ae9" dmcf-pid="bjTWLBgRhF" dmcf-ptype="general">증류는 원래 대형 AI 모델의 지식을 작은 모델로 이전해 경량화하는 일반적인 머신러닝 기법이다. 하지만 최근에는 경쟁사의 AI에 수백만~수천만 건 질문을 던져 답변을 수집한 뒤, 이를 학습 데이터로 활용해 자체 모델을 만드는 행위를 의미하는 경우가 많다. 막대한 개발비를 들여 만든 AI의 핵심 능력을 상대적으로 적은 비용으로 복제할 수 있다는 점에서 AI 업계는 이를 사실상 지식재산권 침해로 보고 있다.</p> <p contents-hash="4b1bc118c1afc4b02aa9496c5e9d274d2e10679e53d5b698565a96b0b7ada2e8" dmcf-pid="KAyYobaevt" dmcf-ptype="general">실제로 미국 AI 기업들은 최근 중국 AI 기업들의 증류 시도에 잇따라 경고음을 내고 있다. 오픈AI는 올해 초 중국 딥시크가 자사 모델의 출력을 활용해 AI를 학습시켰을 가능성이 있다고 공개적으로 문제를 제기했다. 딥시크는 사전학습에는 공개 데이터와 허가받은 데이터를 주로 사용했다고 반박했지만 증류를 둘러싼 논란은 AI 업계 전체로 확산됐다.</p> <p contents-hash="6beb72ffbadfc29f055bff22c0d5726b2ed9811b24d0f8e1c0df81961dcf09b4" dmcf-pid="9LCleUJ6l1" dmcf-ptype="general">앤트로픽은 중국 AI 기업들이 ‘산업 규모의 증류 공격’을 벌였다고 주장했다. 지난 2월에는 딥시크와 문샷AI, 미니맥스가 약 2만4000개 가짜 계정을 이용해 1600만건 이상의 클로드 질의를 수행하며 모델 성능을 추출하려 했다고 밝혔다.</p> <p contents-hash="229ff0e33b3cbcb8b951b9d314de570faccf67df22d15907255cdac520c1766a" dmcf-pid="2ohSduiPS5" dmcf-ptype="general">지난주에는 중국 알리바바를 상대로 더욱 강한 의혹을 제기했다. 앤트로픽은 미 상원에 제출한 서한에서 알리바바와 큐원 연구진이 약 2만5000개의 가짜 계정을 동원해 2880만건의 질의를 수행하며 클로드의 에이전트 추론, 소프트웨어 개발, 장기 추론 능력을 빼내려 했다고 주장했다. 회사는 이를 ‘현재까지 확인된 최대 규모의 증류 공격’이라고 규정했다. 알리바바는 관련 의혹에 공식 입장을 내놓지 않았다.</p> <p contents-hash="c122d032f909bd223b55632b5e135f9ab998fadb6bdcf12216a83380dc17e637" dmcf-pid="VglvJ7nQTZ" dmcf-ptype="general">AI 기업들은 서비스 약관에도 증류를 통한 경쟁 모델 개발을 명시적으로 금지하고 있다. 오픈AI와 앤트로픽, 구글 모두 모델 출력을 경쟁 AI 개발에 사용하는 행위를 허용하지 않는다. 미국 법률에 증류 자체를 직접 금지하는 규정은 없지만 AI 기업들은 약관 위반이 확인될 경우 API 접근을 차단하거나 계약을 해지하는 방식으로 대응하고 있다. [실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 더존비즈온, '지속가능경영보고서' 발간…AX·ESG 통합 성과 담았다 06-30 다음 ‘다빈치’ 로봇수술 30년 인튜이티브… 韓 생태계 확장 속도낸다 06-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
