韓 AI안전연구소 출범 1년 반, 프런티어 모델 독자 평가 공개 '0건' 작성일 05-13 15 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">실제 연구 성과 외부 공개는 한계…미토스 사태로 다시 역할론 부상</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="peAIT6MVCq"> <figure class="figure_frm origin_fig" contents-hash="e054780174f6c520a4b7924aa0a1004079df9000ec8770487677f7eb024e732c" dmcf-pid="UdcCyPRfSz" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/13/552796-pzfp7fF/20260513153558420fanl.jpg" data-org-width="640" dmcf-mid="0PowC28BvB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/13/552796-pzfp7fF/20260513153558420fanl.jpg" width="658"></p> </figure> <p contents-hash="ceb2260ecc21a2b7924d6e43bed400c7abe0ddf8bb4cc40ec48ee4bb1e7000ca" dmcf-pid="uJkhWQe4S7" dmcf-ptype="general">[디지털데일리 구아현기자] 앤트로픽의 초고성능 인공지능(AI) 모델 '클로드 미토스'가 전 세계 사이버보안 지형을 뒤흔드는 가운데 한국 AI안전연구소가 출범 1년 반이 지나도록 프런티어 모델 독자 평가 보고서를 단 한 건도 내놓지 못하고 있어 실효성 논란이 커지고 있다.</p> <p contents-hash="3be72c222fd8a2058b91d3e4132185e31cddd210be78e3d1573a1c601924855d" dmcf-pid="7iElYxd8Tu" dmcf-ptype="general">미토스는 주요 운영체제와 웹브라우저에서 수천 건의 제로데이 취약점을 스스로 찾아내는 능력을 갖춘 모델이다. 영국 AI안전연구소(AISI)는 미토스 프리뷰가 32단계로 구성된 기업망 공격 시뮬레이션을 처음부터 끝까지 완주한 첫 AI라고 평가했다. 미 상무부가 구글·마이크로소프트·xAI와 차세대 AI 모델 출시 전 보안 평가를 의무화하기로 합의할 정도로 파장이 컸다.</p> <p contents-hash="5eb5f9b5ec7c41f41ac435f06ef0b347f7c2632aabefad9f1b89aa7ad77701fd" dmcf-pid="znDSGMJ6vU" dmcf-ptype="general"><strong>◆ 공개 보고서 7건, 독자 프런티어 평가는 '0건'</strong></p> <p contents-hash="734c7b1f4a2700bf2cb5a02a8216f49c37faa24106eea87703b981638009a934" dmcf-pid="qhZ79rIkvp" dmcf-ptype="general">AI안전연구소가 출범 이후 1년 반 동안 홈페이지에 공개한 보고서는 현재까지 7건이다. 내용을 들여다보면 영국 AISI 보고서 한국어 번역 1건, 글로벌 AI 안전 뉴스를 키워드로 분석한 예측 보고서 3건, 국제 공동 테스팅 참여 결과 2건, 한국-싱가포르 양자 공동 테스트 1건이다. 앤트로픽·오픈AI 등 주요 AI 기업의 프런티어 모델을 독자적으로 평가해 공개한 보고서는 단 한 건도 없다. 한국-싱가포르 공동 테스트의 경우 글로벌 AI 모델 3종을 에이전트로 평가했지만 모델명을 전부 익명화했다. 평가 주제는 일상 업무 환경에서의 데이터 유출 위험이었다.</p> <p contents-hash="adfc237a7da277f7cdf868b063a62667ec6aa9c0efe797c8639721462c9d5195" dmcf-pid="Bl5z2mCET0" dmcf-ptype="general">이는 구조적인 문제이기도 하다. AI 모델을 API로 접근할 수 있는 공개 모델은 누구나 테스트할 수 있지만, 미토스처럼 일반에 공개되지 않은 프런티어 모델은 개발사와의 사전 협의 없이는 접근 자체가 불가능하다. 설령 공개 모델을 평가하더라도 결과를 외부에 공개하려면 별도의 합의가 필요하다. 영국 AISI처럼 평가 결과를 공개하기로 원칙을 합의한 MOU가 없는 한 관행대로 비공개에 머물 수밖에 없는 구조다.</p> <p contents-hash="752739c57783e319bbc03c5f7cffe1c402a0f2d8d0ab45cece3879ae7471edc0" dmcf-pid="bS1qVshDS3" dmcf-ptype="general">문제는 AI안전연구소가 출범 1년 반이 지나도록 앤트로픽·오픈AI 등 주요 AI 기업과 MOU를 체결한 사례가 단 한 건도 없다는 점이다. 김명주 한국 AI안전연구소장은 "작년부터 업무 협의를 논의해왔고 지금도 협의 중"이라고 밝혔지만 1년이 넘도록 어떤 형태의 MOU도 체결하지 못한 상태다.</p> <p contents-hash="e6aca0270e2c9db6ef2b550567b13218cb039dcd99dd238c0864dbd574614016" dmcf-pid="KvtBfOlwSF" dmcf-ptype="general"><strong>◆ 미토스 모델 접근 가능할까</strong></p> <p contents-hash="68ced1906ed80e996c26dbd57c2d2b46790c1ee651f8aea13aedab9c53b22e7b" dmcf-pid="9TFb4ISryt" dmcf-ptype="general">미토스 사태가 불거진 후 정부도 뒤늦게 움직였다. 지난 11일 과학기술정보통신부는 외교부·국가정보원·금융위원회·AI안전연구소·한국인터넷진흥원(KISA)·금융보안원과 함께 마이클 셀리토 앤트로픽 글로벌 정책총괄과 긴급 간담회를 열었다. 약 100분간 진행된 이 자리에서 정부는 사이버보안 관련 정보공유를 요청하고 미토스 접근권을 확보할 수 있는 '프로젝트 글래스윙' 참여 방안을 타진했다. 하지만 아직까지 글래스윙 참여 등 실질적인 합의는 이뤄지지 않은 것으로 알려졌다.</p> <p contents-hash="02b5c5185c304caf38f67849973178566b0979b79e1ce7f18c37d6d7e7aba04f" dmcf-pid="2y3K8Cvmv1" dmcf-ptype="general">앤트로픽은 오는 7월 초 미토스 운영 결과 보고서를 공개할 예정이다. 미토스가 발굴한 취약점 정보가 전면 공개되는 시점으로, 업계에서는 사실상의 보안 데드라인으로 보고 있다. 한 AI 기업 대표는 "글래스윙에 참여하거나 우리 스스로 이런 모델을 만들거나 둘 중 하나"라며 "선택지가 많지 않은 상황이고, 만약 글래스윙 참여가 확정되지 않으면 기업들은 혼란을 겪을 것"이라고 말했다.</p> <p contents-hash="b48a88a775d42770521fce934806c9aca1edf839cc33a977ff252746d05e2604" dmcf-pid="VW096hTsl5" dmcf-ptype="general">한국 AI안전연구소가 미토스에 접근할 수 있는 방법도 사실상 두 가지뿐이다. 글래스윙에 참여하거나, 앤트로픽과 직접 MOU를 맺어 사전 접근권을 확보하는 것이다. 영국 AISI가 바로 이 두 번째 방법으로 미토스 접근권을 얻었다. 영국 AISI는 미국 AISI와 평가 결과 공개 원칙을 합의한 데 이어 2025년 2월 앤트로픽과도 MOU를 맺으며 미토스 사전 접근권을 확보했다. 이 두 개의 MOU가 연결되면서 영국 AISI는 미토스 공개 직후 단독 평가 결과를 발표할 수 있었다.</p> <p contents-hash="f356a44a956849bb51b1ca75ea13753fc3fdbcbd7b31f309220e3d8f78cb9eeb" dmcf-pid="fYp2PlyOyZ" dmcf-ptype="general">앤트로픽은 미국·영국·일본 AI안전연구소와 AI 안전 평가 협력 MOU를 각각 체결했다. 하지만 MOU가 곧 미토스 접근권을 의미하지는 않는다. 글래스윙 파트너 50여 개 기관은 모두 미국 기업이며, 미국 외 기관 중 미토스를 직접 테스트한 곳은 영국 AISI가 유일하다. 일본 AI안전연구소도 지난해 10월 앤트로픽과 평가 방법론 협력 MOU를 맺었지만 모델 사전 접근권은 포함되지 않아 미토스 접근을 위해 별도 협상을 진행 중이다.</p> <p contents-hash="1907b3c92166fab45217650cfd391e391acb94cd380b3564e47c91d2d2961a91" dmcf-pid="4GUVQSWIlX" dmcf-ptype="general">과기정통부는 앤트로픽 서울 지사가 6월 중 설립되면 MOU 체결에도 속도가 붙을 것으로 기대하고 있다. 하지만 백악관이 글래스윙 확장에 반대하고 있어 MOU 체결이 곧바로 글래스윙 참여로 이어질지는 불투명하다. 과기정통부는 이달 말 미토스 쇼크 대응 방안을 발표할 예정이다.</p> <p contents-hash="c20c905e72edabf12ea17d95b42c35d738394378c60b310dbf4ce2bd95921d69" dmcf-pid="8FKxiH1yyH" dmcf-ptype="general">김명주 소장은 "공개된 최신 모델들은 나오는 대로 안전성 테스트를 해오고 있다"면서 "보고서는 계속 제작하고 있으나 비공개를 원칙으로 해서 공개는 못하고 있다"고 설명했다. 이어 "비교 평가라서 낮게 받은 상용기업의 입장을 고려한 것"이라고 덧붙였다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 이현우 “여중생 퍼뜨린 사망설, 생방 등장한 나에 사람들 깜짝”(컬투쇼) 05-13 다음 '허수아비' 시청률 고공행진 이끄는 곽선영, 묵직한 존재감 05-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
