'AI 무기화' 후폭풍…'레드라인' 논의 본격화 전망 작성일 03-04 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PAifpelwIZ"> <figure class="figure_frm origin_fig" contents-hash="133ccc9418e9239d830706704c5950bbac3fb4285a5e02cb09312bfb1b150d9c" dmcf-pid="Qcn4UdSrOX" dmcf-ptype="figure"> <p class="link_figure"><img alt="미국 국방부(전쟁부) 로고와 AI 기업 앤트로픽 (로이터/연합뉴스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/04/etimesi/20260304160300117qwvg.jpg" data-org-width="700" dmcf-mid="87PzX4waO1" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/04/etimesi/20260304160300117qwvg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 미국 국방부(전쟁부) 로고와 AI 기업 앤트로픽 (로이터/연합뉴스) </figcaption> </figure> <p contents-hash="269d850c727705dcae1707d00a88f64bf0450785c7b97f40b831edcc33c8dbd0" dmcf-pid="xkL8uJvmIH" dmcf-ptype="general">앤트로픽이 미국 트럼프 행정부와 갈등을 빚는 가운데, 최근 이란 공습 작전에 앤트로픽의 인공지능(AI) 모델 클로드가 활용된 것으로 알려지면서 AI의 군사적 활용을 둘러싼 후폭풍이 실리콘밸리 전반으로 확산되고 있다.</p> <p contents-hash="5bcd0f58ffcd98c2819027d72cd3a8ab5ab3bcd758c168fa0bc3c684642bc377" dmcf-pid="y71lcXPKmG" dmcf-ptype="general">AI 활용이 국방 분야까지 확장되면서 국가 안보와 AI 윤리를 둘러싼 가치가 정면 충돌하는 것으로, 군사 분야에서 AI 활용을 어디까지 허용할 것인지에 대한 논의도 본격화 될 것으로 전망된다.</p> <p contents-hash="41066d2a9a6cd9d70d417f1d73bfa45986c35f073fe0529e86003a394406ee28" dmcf-pid="WztSkZQ9mY" dmcf-ptype="general">3일(현지시간) 기준 '우리는 분열되지 않는다'라는 제목의 온라인 공개서한에 1000명 가까운 구글과 오픈AI 직원이 참여했다. 앤트로픽을 대상으로 한 국방부의 압력에 맞서 공동 연대를 구축하기 위한 이 서한에는 현재까지 구글 현직 직원 856명과 오픈AI 직원 100명이 서명했다.</p> <p contents-hash="0be458aaf9478b7cbd93f92ff43392d56771deb3611d229b7b46dfac14489895" dmcf-pid="Yae9FxIkIW" dmcf-ptype="general">클로드가 퇴출된 직후 국방부와 계약을 체결한 오픈AI에 대한 역풍도 거세다. 시장조사업체 센서타워에 따르면 오픈AI와 국방부 계약 이후 챗GPT 앱 삭제율이 295% 늘어난 것으로 나타났다. 챗GPT 유료 구독을 취소하자는 '큇(Quit)GPT' 캠페인에는 이날까지 250만명 이상이 참여했다.<br></p> <figure class="figure_frm origin_fig" contents-hash="b192671b3ed6149632c0212ad194db61e3546b0d5ebee796a4eb21980fb087be" dmcf-pid="GNd23MCEEy" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI의 '챗GPT' 유료 구독을 취소하자는 'QuitGPT' 캠페인 화면 캡쳐" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/04/etimesi/20260304160301375rrzl.png" data-org-width="700" dmcf-mid="6Yce9NXSI5" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/04/etimesi/20260304160301375rrzl.png" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI의 '챗GPT' 유료 구독을 취소하자는 'QuitGPT' 캠페인 화면 캡쳐 </figcaption> </figure> <p contents-hash="44971dadc2e401cd0de762279feb91ca84a12075be18f615031cfa8102382d84" dmcf-pid="HjJV0RhDIT" dmcf-ptype="general">이번 사태는 클로드를 제한 없이 군사적으로 활용하게 해달라는 정부 요구를 앤트로픽이 거부한 데서 촉발됐다. 트럼프 대통령은 이를 “국가안보 위협”이라고 규정했고 국방부는 앤트로픽을 '공급망 위험'으로 지정했다.</p> <p contents-hash="418b7d198fb999663419441625c98176ca746d4dd86054e23c39e8209409f268" dmcf-pid="XAifpelwIv" dmcf-ptype="general">쟁점은 AI의 군사적 활용 범위다. 국방부는 앤스로픽의 AI 모델을 '합법적인 모든 용도'에 제한 없이 사용해야 한다는 입장이다. 반면 앤트로픽은 미국인 대상 대규모 감시나 완전 자율 무기에는 자사 모델을 사용해선 안 된다는 두 가지 원칙을 넘어서는 안 되는 한계선, 즉 '레드라인'으로 고수하고 있다.</p> <p contents-hash="d4fd13c68f2be469f54ff8298eccf43c4fb96cbed31b4107fd7d1995c4bafcff" dmcf-pid="Zcn4UdSrmS" dmcf-ptype="general">AI 기술 발전을 관련 법 체계가 따라가지 못하는 상황에서 AI 분석을 토대로 군사적 판단을 내릴 경우 책임 소재 문제가 생길 가능성이 있고, 오류나 환각 현상 등 기술적 한계도 존재한다는 지적이 나온다. 이미 AI는 군사 영역에서 정보 평가, 목표물 식별, 전장 시뮬레이션 수행 등에 활발히 활용된다.</p> <p contents-hash="146bc5389b1eca63ca10ffb16a760c7e04af4810d0d1f52c502ef7fe003be3a9" dmcf-pid="5kL8uJvmDl" dmcf-ptype="general">다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 미국 CBS와 인터뷰에서 “오늘날 AI 시스템은 완전 자율 무기를 만들 만큼 신뢰성이 높지 않고 기술적인 측면에서 아직 해결하지 못한 예측 불가능성이 존재한다”면서 “관리감독의 문제와 함께 아군 오인 사격이나 민간인 공격 등 잘못된 판단에 대한 신뢰성의 문제도 있다”고 지적했다.</p> <p contents-hash="556e9c4adbe9dbbba6a407dd83cafa8f8e501698474b6c431d4abdb665203ffe" dmcf-pid="1Eo67iTsrh" dmcf-ptype="general">향후 AI 군사적 활용 범위를 둘러싼 국제적 논의가 핵 무기와 유사한 규제 체계로 발전할 가능성도 거론된다. 샘 올트먼 오픈AI CEO는 최근 AI 임팩트 정상회의 연설에서 “급속하게 진화하는 AI 기술을 시급하게 규제해야 한다”며 국제조정기구 필요성을 강조하기도 했다.</p> <p contents-hash="c27585461281b6206420c39d4f4e57f7c10c40d37d7e50f8d6e54794792f20a2" dmcf-pid="tDgPznyOEC" dmcf-ptype="general">김명주 AI안전연구소장은 “AI가 국가 안보 기술로 인식되면서 각국이 군사 분야에서 활용을 확대하고 있지만 동시에 치명적 활용에 대한 윤리적·국제법적 논의도 커지고 있는 만큼 핵확산금지조약과 비슷한 형태의 국제 규제 체계가 논의될 가능성이 있다”면서 “다만 오픈소스 모델과 다양한 개발 환경이 존재하는 상황에서 완전한 규제는 현실적으로 쉽지 않은 문제”라고 전망했다.</p> <p contents-hash="774bf02ecb6b8bf12a356809953d57e2b4d5371e0597eb433cc34b4a636ed967" dmcf-pid="FwaQqLWIEI" dmcf-ptype="general">정현정 기자 iam@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 [人사이트] 김동경 티라로보틱스 대표 “국가 안보 지키는 '소버린 로봇', 中 공세 해법” 03-04 다음 디아블로2 레저렉션. 고령자 배려가 필요한 시대가 됐다 03-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
