美 미토스 수출 통제 후, AI가 폭주할 때 ‘브레이크’ 밟는 기술 확산 작성일 06-22 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3o0Uw6LxtY"> <figure class="figure_frm origin_fig" contents-hash="cb95f01f6012513d68f8dd18fc1959fb93e87c5f1817a070ec661992bc99f158" dmcf-pid="0gpurPoMHW" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI와 앤스로픽 로고./연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/22/chosun/20260622150819413lxfl.jpg" data-org-width="3500" dmcf-mid="F7DrfGUZtG" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/22/chosun/20260622150819413lxfl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI와 앤스로픽 로고./연합뉴스 </figcaption> </figure> <p contents-hash="9b83a83ce8d15483c73ec72af0a8a830bc95384d36b1abe40bd652c2576e1664" dmcf-pid="paU7mQgR5y" dmcf-ptype="general">인공지능(AI) 기업들이 AI를 통제하는 시스템을 개발해 공개하고 있다. 미 정부가 앤스로픽의 최첨단 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인 접속을 차단하는 수출 금지 조치 이후 AI 업계에서는 “강력한 모델을 만들 수 있느냐”만큼이나 “그 모델을 안전하게 통제할 수 있느냐”가 핵심 쟁점으로 떠오르고 있다.</p> <p contents-hash="55d29dbd70f426e39e3711cb69a1f6f3edccfb645dc29f1a72b6e437d4400d3c" dmcf-pid="UlQMZchD1T" dmcf-ptype="general">구글 딥마인드는 지난 18일(현지 시각) AI 컨트롤 로드맵을 공개했다. 핵심은 내부에서 쓰는 AI 에이전트를 완전히 신뢰하지 않고 잠재적 내부 위협자처럼 감시·통제한다는 것이다. 딥마인드는 이를 위해 내부 코딩 에이전트 실행 기록 100만건을 분석했다. 그 결과 문제 행동의 상당수는 악의적 의도보다는 지시 오해, 과도한 목표 추구, 잘못된 최적화 등에서 발생한 것으로 분석했다. 딥마인드는 이를 “운전교관의 보조 브레이크”에 비유하면서 “AI를 신뢰하되 언제든 개입해 행동을 차단할 수 있다”고 했다.</p> <p contents-hash="1139cb84a6ccd7f17454e3bbd72974afc0156eb1dda695e0f4eff27d90cd6dfa" dmcf-pid="uSxR5klw1v" dmcf-ptype="general">앞서 오픈AI도 최근 ‘디플로이먼트 시뮬레이션(Deployment Simulation)’을 공개했다. 이는 모델을 실제 서비스에 배포하기 전에 과거 사용자 트래픽을 기반으로 가상 배포를 수행해 부적절한 행동이나 안전성 문제를 사전에 예측하는 방법론이다. 새 AI 모델인 GPT-5.6 출시 전 실제 사용자 트래픽 위에서 그 모델이 어떻게 행동할지 미리 재보는 것이며, 쉽게 말해 부적절한 행동을 정량적으로 예측할 수 있다는 방법론이다.</p> <p contents-hash="3980a435b00b9620487d4f803f478df349cd27fc56a23fb9da704be7b0f1bdad" dmcf-pid="7vMe1ESrHS" dmcf-ptype="general">연이어 이런 두 가지 내용이 발표된 배경엔 미국 정부가 앤스로픽의 최첨단 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인 접속을 차단하는 수출 금지 조치를 내리면서 파장이 커지고 있다. 핵심은 정부가 이 모델들이 실제 배포 환경에서 어떻게 오용되거나 안전장치가 우회될 수 있는지에 대해 충분한 확신을 갖지 못했다는 점이다.</p> <p contents-hash="5ecfb6fd37606963fca73af3768d4bc9dc4cd7ef3c407a60540f29b3e8ee4867" dmcf-pid="zTRdtDvmHl" dmcf-ptype="general">이 때문에 AI 기업들은 정부와 기업 고객, 투자자들이 품은 불안을 해소하기 위해 잇따라 ‘통제 가능한 AI’ 프레임워크를 내놓고 있다. 이제 중요한 것은 “우리 모델이 얼마나 강력한가”만이 아니다. 그만큼 중요한 질문은 “그 강력한 모델을 얼마나 예측 가능하고 안전하게 통제할 수 있는가”다. 최근 발표들이 규제 당국을 겨냥한 메시지로 읽히는 이유다.</p> <p contents-hash="fd3c27d6a1a344966bb4f5e91bd93aa857fc2a2860fec82e9cc7e69c015e5639" dmcf-pid="qyeJFwTsYh" dmcf-ptype="general">AI 기술이 핵심 전략 자산, 나아가 국가 안보와 직결된 기술로 변모하면서 경쟁의 축도 달라지고 있다. 앞으로는 누가 더 강력한 AI를 만드느냐뿐 아니라, 누가 그 AI를 어떻게 통제할 수 있느냐가 새로운 변수로 떠오르고 있다. 미 정치 매체 악시오스는 “딥마인드가 더 강력해지는 AI 에이전트를 내부 위협자처럼 다루기 시작했다”고 평가했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 김포교육지원청, 2026 김포 학교스포츠클럽축제 성황리 마무리 06-22 다음 [PIS FAIR 2026] “강력한 브레이크가 F1 질주 이끈다” 김홍선 고문이 말하는 AI 시대 개인정보보호 06-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
