인공지능은 주저없이 핵 단추 눌렀다…모의전쟁 95%서 핵무기 발사 작성일 03-03 15 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">곽노필의 미래창<br> 클로드·지피티·제미나이 시험 결과<br> 시한 압박 받을 때 공격성 극대화<br> 도덕적 판단 대신 도구로만 인식</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="W43xqjZvI9"> <figure class="figure_frm origin_fig" contents-hash="8be1258ce9e1718e5e1d49bbad388122a51b779ccf0a777644de125ae49ef7e9" dmcf-pid="Y80MBA5TDK" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능에 모의전쟁 게임을 시켜본 결과, 인공지능은 지정학적 위기 상황에 놓였을 때 핵무기 사용을 거의 주저하지 않았다. 픽사베이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/03/hani/20260303093632175sugq.jpg" data-org-width="800" dmcf-mid="QaxrnY4qDf" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/03/hani/20260303093632175sugq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능에 모의전쟁 게임을 시켜본 결과, 인공지능은 지정학적 위기 상황에 놓였을 때 핵무기 사용을 거의 주저하지 않았다. 픽사베이 </figcaption> </figure> <p contents-hash="ba873e8d2d962f5d9e848e740446fc9b10500617321356ac64153497bf945f1e" dmcf-pid="G6pRbc1yDb" dmcf-ptype="general"> 2024년 미국과 중국은 페루 리마에서 열린 아시아태평양경제협력체(APEC) 정상회의에서 핵무기 사용 결정을 인공지능(AI)이 아닌 인간이 내려야 한다는 데 합의했다. 두 나라 정상은 공동성명에서 "핵무기 사용 결정에 대한 인간의 통제력을 유지할 필요성을 확인했다”고 밝혔다.</p> <p contents-hash="546d37e661508ab17316608e97a1966a686dab74f78219a024d8e28f9383a85a" dmcf-pid="HPUeKktWOB" dmcf-ptype="general">정치, 경제, 군사 거의 모든 분야에서 대립각을 세우고 있는 두 나라가 핵무기와 인공지능의 교차점에서 일정한 합의에 이르게 된 것은 위험 관리를 위한 협력의 사례로 평가받았다. 군사 부문에서 인공지능 사용과 관련한 합의가 얼마나 중요한지 보여주는 모의전쟁 게임 결과가 나왔다.</p> <p contents-hash="5710ff12bd3495ab6ccce582863af1e014f1ec027b57f881a84b4566d3cf3d38" dmcf-pid="XQud9EFYmq" dmcf-ptype="general">영국 킹스칼리지런던 케네스 페인 교수(국제관계정치학)는 오픈에이아이의 지피티5.2, 앤트로픽의 클로드 소넷4, 구글의 제미나이3 플래시 세 가지 거대언어모델(LLM)을 이용해 모의 전쟁 게임을 시켜본 결과, 인공지능은 지정학적 위기 상황에 놓였을 때 핵무기 사용에 대한 주저함을 거의 보이지 않는 것으로 나타났다고 출판전 논문 공유집 아카이브(arXiv)에 발표했다.</p> <p contents-hash="a4aa265ed85e18fac331a7294efc02410a7a7e1cca202cae90322d6e220e0cc9" dmcf-pid="Zx7J2D3Grz" dmcf-ptype="general">인공지능은 모의전쟁 게임의 95%에서 최소 1개 이상의 전술 핵무기를 사용했다. 핵무기를 사용하지 않은 경우는 단 한 번뿐이었다. 특히 클로드와 제미나이는 핵무기를 도덕적 한계가 아닌 합법적인 전략적 선택지로 취급했으며, 핵무기 사용을 순전히 승리를 위한 도구라는 관점에서 논의했다. 페인 교수는 “인공지능의 핵무기에 대한 금기는 인간에게만큼 강력하지 않은 것같다”고 말했다. 이번 연구는 이미 여러 나라가 모의전쟁 게임에 인공지능을 시험적으로 도입하고 있는 상황에서 시사하는 바가 크다.</p> <figure class="figure_frm origin_fig" contents-hash="0e1799686ddb29f0f4e4b378831b4d0f526559972cf5cc7a636d040a9611c135" dmcf-pid="5MziVw0Hm7" dmcf-ptype="figure"> <p class="link_figure"><img alt="클로드는 신뢰에 바탕한 지능적 전략가, 지피티는 상황에 따라 행동이 반전하는 ‘지킬과 하이드’. 제미나이는 모든 상황에서 예측 불가능하게 행동하는 미치광이 전략가의 면모를 보였다. 픽사베이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/03/hani/20260303093633443stvr.jpg" data-org-width="800" dmcf-mid="x9ud9EFYsV" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/03/hani/20260303093633443stvr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 클로드는 신뢰에 바탕한 지능적 전략가, 지피티는 상황에 따라 행동이 반전하는 ‘지킬과 하이드’. 제미나이는 모든 상황에서 예측 불가능하게 행동하는 미치광이 전략가의 면모를 보였다. 픽사베이 </figcaption> </figure> <p contents-hash="1cfa9e0c3eee014ec17336ad3494191ceb7426eb1227151ccc6bb83f7c4aac34" dmcf-pid="1pvqXxIkEu" dmcf-ptype="general"><strong>아무리 불리해도 양보나 항복 없어</strong></p> <p contents-hash="292f21a02c55d16b271be8dc87cb61b48409fab779144f74506b4250885fbc23" dmcf-pid="tUTBZMCErU" dmcf-ptype="general">연구진이 설정한 시나리오엔 국경 분쟁, 희소 자원 경쟁, 정권 생존을 위협하는 실존적 위기 등 긴박한 국제적 대치 상황 등이 포함됐다. 연구진은 이런 상황에서 인공지능에 외교적 항의나 완전한 항복에서부터 핵전쟁에 이르기까지 다양한 선택지를 고를 수 있도록 했다.</p> <p contents-hash="024339a202fcd47f626236f8f1b9b0d8be5c29f6bcf49b7d67af02e072c65c81" dmcf-pid="Fuyb5RhDsp" dmcf-ptype="general">3개의 인공지능은 서로 다른 모델끼리, 혹은 같은 모델끼리 총 21차례 모의전쟁 게임을 진행했다. 이 과정에서 인공지능은 모두 329번의 의사결정을 내리고, 총 78만 단어를 사용해 그 이유를 설명했다.</p> <p contents-hash="8e753f7f04010d9eddea0ce4fe86f11fc2e5ae8308b10a254e56a0b4b0cb3989" dmcf-pid="37WK1elwO0" dmcf-ptype="general">모의전쟁에 임하는 전략적 태도는 인공지능 모델별로 뚜렷한 차이가 났다. 클로드는 신뢰에 바탕한 지능적 전략가(계산적인 매)의 면모를 보였고, 지피티는 상황에 따라 행동이 극단적으로 변하는 ‘지킬과 하이드’ 전략을 취했다. 제미나이는 ‘미치광이’처럼 모든 상황에서 위험을 감수하는 예측 불가능성을 핵심전략으로 삼았다.</p> <p contents-hash="e6cb2cf04259490cf10d84048f6ad22bb4b62c8aa35ec97cb802a2a3c224e8d3" dmcf-pid="0zY9tdSrE3" dmcf-ptype="general">그러나 모든 인공지능 모델은 상황이 아무리 불리해도 상대에게 완전히 양보하거나 항복하는 결정은 내리지 않았다. 인공지능은 기껏해야 일시적으로 폭력 수준을 낮추는 선택을 했을 뿐이다. 제미나이는 의도적으로 전면적인 핵전쟁을 선택하기도 했으며, 민간인 인구 밀집 지역에 대한 핵 공격 위협도 서슴지 않았다.</p> <p contents-hash="755e389023a66efc26a5b78c7c42bf7c150d671a049d55af7758fbdaa608e6cd" dmcf-pid="pqG2FJvmIF" dmcf-ptype="general">인공지능은 정보가 불완전하고 혼란스러워 정확한 상황 판단이 어려운 상태에서 오판을 하기도 했다. 전체 분쟁의 86%에서 인공지능이 의도한 것보다 더 높은 단계로 전쟁이 번지는 사고가 일어났다. 이는 인공지능이 추론한 것에도 어긋나는 결과였다.</p> <p contents-hash="46368396461982b2b778ed93fec1ff52173cbcd474b39f2c0005c8c5dfaa548d" dmcf-pid="UBHV3iTsOt" dmcf-ptype="general">영국 애버딘대의 제임스 존슨 교수(국제관계정치학)는 “중대한 결정을 앞두고 대부분의 인간이 신중하게 대응하는 것과 달리, 인공지능은 서로의 반응을 증폭시키며 잠재적으로 파국적인 결과를 초래할 수 있다”며 “핵 위험 관점에서 이번 연구 결과는 불안감을 준다”고 말했다. 페인 교수는 그러나 “현실적으로 핵 미사일 열쇠를 기계에 넘겨주고, 최종 결정을 맡기는 나라는 없을 것”이라고 말했다.</p> <p contents-hash="2f1e1d60a976e3c6ca2153c0f32e0c8747e2ae5f7b05c4d85acbf2d631c9f63f" dmcf-pid="ubXf0nyOs1" dmcf-ptype="general">미국 프린스턴대의 자오통 박사(국제관계학)는 각국이 핵무기 관련 의사결정에 인공지능을 개입시키는 데는 기본적으로 신중한 태도를 보일 것이라면서도 “극도로 촉박한 상황에서는 인공지능에 의존하려는 유인이 더 커질 수 있다”고 우려했다.</p> <p contents-hash="82dc2f63c52b99bced964fde859cbdded883e7dff3954e9c9f058f58a73c1b1d" dmcf-pid="7KZ4pLWID5" dmcf-ptype="general">실제로 이번 연구에서 시간 압박은 인공지능 모델이 핵무기 사용을 결정하는 데 있어 억제력을 약화시키고 공격성을 극도로 강화하는 결정적인 변수로 작용했다. 시한이 정해져 있지 않을 때는 핵 사용을 자제하던 모델이, 시한이 임박하고 패배가 확실시되면 이를 피하기 위해 전략적으로 핵무기를 선택하는 경향을 보였다. 이런 경향은 지피티에서 가장 두드러졌다.</p> <figure class="figure_frm origin_fig" contents-hash="cdfe31ddc65107d997d30f3fb289f588e90c339862d50160279bfdee379fd5e2" dmcf-pid="z958UoYCOZ" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/03/hani/20260303093634683cyfk.jpg" data-org-width="800" dmcf-mid="y6l7GPsAs2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/03/hani/20260303093634683cyfk.jpg" width="658"></p> </figure> <p contents-hash="01c1df610c604242a8b0949b327de4992af1a8395245f85adc63fafcd8056fcd" dmcf-pid="q216ugGhOX" dmcf-ptype="general"><strong>시한 압박 상황선 이분법으로 단순 대응</strong></p> <p contents-hash="98ec5f54443379832a29a7872c88790f069e31023175afdf86c6dd2b1a51691d" dmcf-pid="BVtP7aHlEH" dmcf-ptype="general">연구진은 “시간 압박은 인공지능의 복잡한 전략적 사고를 ‘생존 아니면 전멸’이라는 이분법 논리로 단순화시키는 것으로 분석됐다”고 밝혔다. 이는 시간 압박이 인공지능의 합리적인 억제력을 마비시키고, 패배를 막기 위한 수단으로 핵무기를 적극적으로 고려하게 만드는 위험한 촉매제가 될 수 있음을 시사한다.</p> <p contents-hash="2deac60017444c3ff48a41a0088f97d879ce88c36e38cbc6713385a6079aceb2" dmcf-pid="bfFQzNXSmG" dmcf-ptype="general">이는 상황에 따른 승률의 급변으로 나타났다. 클로드는 개방형 게임에서는 100% 승률을 기록하며 압도적인 모습을 보였으나, 데드라인 압박 아래선 승률이 33%로 급락했다. 반면 지피티는 개방형 게임에서는 단 한 판도 이기지 못하다가 데드라인이 주어지자 승률이 75%로 급등했다.</p> <p contents-hash="a8b901043df672fdd4b6cfdc67f63eaca57bf9aa58df1f2175dd8056cbdff293" dmcf-pid="K43xqjZvsY" dmcf-ptype="general">총 21차례의 모의전쟁 게임(9개의 개방형 게임과 12개의 시한부 게임) 결과, 승률이 가장 높은 것은 67%(8승 4패)의 클로드였다. 이어 지피티 50% (6승 6패), 제미나이 33%(4승 8패) 차례였다.</p> <p contents-hash="d6e0bec52565577a54a3d528ca95334609eca66d1ab076d9b8c6896789619785" dmcf-pid="9eBL4mUZmW" dmcf-ptype="general">연구진은 “모의전쟁 게임에서 드러난 인공지능 모델 간의 차이는 전략적 의사 결정에 인공지능이 관여할 경우, 어떤 시스템이 도입되느냐에 따라 예상치 못한 결과가 나올 수 있음을 시사한다”고 밝혔다. 연구진은 특히 어떤 상황에서는 안전하게 작동하는 것처럼 보이는 모델이 다른 상황에서는 전혀 다르게 작동할 수 있다는 점은 매우 심각한 문제라고 강조했다.</p> <p contents-hash="30619aa538519cf1d3b26a18df45e42e4dab8907f903c02cc19ebcc65e82943d" dmcf-pid="2dbo8su5Ey" dmcf-ptype="general">*논문 정보</p> <p contents-hash="73ecdf928e35b7aba13fdd00ac2053a64e1850d551830d592e2a4f6e2f1b7c75" dmcf-pid="VJKg6O71IT" dmcf-ptype="general">AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises.</p> <p contents-hash="f046a716717006db38d04b289ae740edf2483ebb8074f7de3fa14d93d40d7d63" dmcf-pid="fi9aPIztsv" dmcf-ptype="general">https://doi.org/10.48550/arXiv.2602.14740</p> <p contents-hash="4478c8df5f3fcf7d3eee3bdbd5d52bef037abc4b5a5da7595e2015a961650619" dmcf-pid="4n2NQCqFIS" dmcf-ptype="general">곽노필 선임기자 nopil@hani.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p> 관련자료 이전 “육해공 풀라인업으로 3차원 커버리지 구축”...KT, 6G 비전 내놨다 [MWC2026] 03-03 다음 네이버시리즈 최강신작 두 번째 주자는 '전능의 뇌를 얻었다' 03-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
