'안전쇼' 논쟁…오픈AI와 앤트로픽은 왜 다른 길을 가나 작성일 03-05 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[김익현의 미디어 읽기] 두 회사의 AI 개발철학 논쟁</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WCYPiXPKaF"> <p contents-hash="2c8b7ffb3ddae95f5e83dd7bae1c2ce7d989ca4bfdb8deefb15085edbb69b426" dmcf-pid="YhGQnZQ9ct" dmcf-ptype="general">(지디넷코리아=김익현 미디어연구소장)“완전히 안전쇼다."</p> <p contents-hash="ef411bc644b432da7bd84ea10ebfe7ce44188bb65860e754517e4b7a9fe6ddc8" dmcf-pid="GlHxL5x2j1" dmcf-ptype="general">다리오 아모데이 앤트로픽 최고경영자(CEO)가 오픈AI를 강하게 비판했습니다. 최근 오픈AI가 미국 국방부와 인공지능(AI) 공급 계약 체결한 것을 겨냥한 발언입니다. 자신들을 배제한 국방부가 곧바로 오픈AI 손을 잡았으니 감정이 좋을 리는 없겠지요.</p> <p contents-hash="30c9f26038d85a2714bbc69c9edfb4ba82ceeec7e3cb290f3edd1afc01f2e174" dmcf-pid="HSXMo1MVa5" dmcf-ptype="general">‘안전쇼(safety theater)’란 표현은 미국 보안 전문가 브루스 슈나이어가 '두려움을 넘어서(Beyond Fear)'란 책에서 제시한 개념입니다. 안전 강화 효과는 거의 없으면서 대중에게는 안전해졌다는 인상만 주는 보여주기식 보안 조치를 의미합니다. 말 그대로 ‘안전을 연출하는 행위’라는 비판적 표현입니다.</p> <figure class="figure_frm origin_fig" contents-hash="f3e49becbb8ba72f6b8a18b982dee8b7e441fb8f3f8a9ca190be3ba5dd578ccd" dmcf-pid="XvZRgtRfNZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 알트먼 오픈AI CEO(왼쪽)와 다리오 아모데이 앤트로픽 CEO (사진=로이터 유튜브 채널 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305172455651rmdl.png" data-org-width="640" dmcf-mid="3lwG2su5o9" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305172455651rmdl.png" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 알트먼 오픈AI CEO(왼쪽)와 다리오 아모데이 앤트로픽 CEO (사진=로이터 유튜브 채널 캡처) </figcaption> </figure> <p contents-hash="fba343a85a6a3d27bc13cfde94c3bbc76ecbe5f414642af39c920dfcaceaf1bf" dmcf-pid="Zu2wl4waNX" dmcf-ptype="general"><strong>'안전쇼'란 무엇인가</strong></p> <p contents-hash="7ba91cf4222710566f890104fe6632652f848c0a5c7e478bfc9056cdd1d4bbbb" dmcf-pid="57VrS8rNoH" dmcf-ptype="general">슈나이어가 자주 언급한 사례 중 하나가 공항의 액체류 반입 제한입니다. 여러 액체를 재조합하면 위험한 물질을 만들 수 있기 때문입니다. 거창하게 검색을 하지만 실제 테러 예방 효과는 제한적이라는 지적입니다.</p> <p contents-hash="89c227c22bc4f483c323eba2fac0b6a13e71ceef0a54fa346369f87874273487" dmcf-pid="1zfmv6mjNG" dmcf-ptype="general">9·11 직후 미국 공항에 방위군이 배치된 일도 있습니다. 하지만 이들이 들고 있던 총에는 실탄이 없었습니다. 슈나이어는 이런 조치 역시 ‘안전쇼’라고 비판했습니다. 실제 테러 대응 능력은 없지만 승객들에게는 "보안이 강화됐다"는 인상을 주기 때문입니다. </p> <p contents-hash="6e2bf31fa6295edaa3dd54819d88d0333811cfe24958fdabce86eea309cac9d4" dmcf-pid="tq4sTPsAAY" dmcf-ptype="general">아모데이가 오픈AI를 향해 ‘안전쇼'란 표현을 꺼낸 이유도 이와 비슷합니다.</p> <p contents-hash="4fbc3d94098c2b68a1daf39c9acd890c96d3ad28ef2abd8b4ce19050e819d62c" dmcf-pid="FB8OyQOcAW" dmcf-ptype="general">쟁점은 미국 국방부와의 AI 계약입니다. 앤트로픽은 국방부와 협상을 진행하면서 "모든 합법적 용도(any lawful use)에만 사용하도록 하라"는 조건을 요구했습니다. 계약서에 명확한 레드라인을 설정하자는 취지였습니다.</p> <p contents-hash="d52b85511a7dc898045ae437efb2b1ec764545dbe620f17feb0daedf6eb10f6b" dmcf-pid="3b6IWxIkay" dmcf-ptype="general">대표적인 금지 항목은 세 가지였습니다.</p> <p contents-hash="f35f43d2be3cf0dd762c02ef4b12225e0bad4693f209a2a541d6f9ad2c8d043f" dmcf-pid="0KPCYMCEAT" dmcf-ptype="general">첫째, 완전 자율 살상 무기</p> <p contents-hash="a8cd23baf6ac2aeb0036a90bae5c3878bd4e2d37c92ede85808eca9829a42c6a" dmcf-pid="p9QhGRhDcv" dmcf-ptype="general">둘째, 대규모 국내 감시</p> <p contents-hash="4515537908934f020cc64daf54f1998fcca3e9f76e97c1078945ed87549487b2" dmcf-pid="U2xlHelwAS" dmcf-ptype="general">셋째, 인간 통제 없이 작동하는 군사 AI</p> <p contents-hash="0a3e84c4135ab1ab09db59c9259a9c9b11e0a54187d962cdf1ca5d3d09abb458" dmcf-pid="uVMSXdSrNl" dmcf-ptype="general">하지만 국방부는 이런 제한을 완화해 달라고 요구했습니다. 앤트로픽은 이를 거부했고, 결국 협상은 결렬됐습니다. 이후 국방부는 앤트로픽을 ‘공급망 위험’ 기업으로 지정하고 대신 오픈AI와 계약을 체결했습니다.</p> <p contents-hash="4edfadd1b6e2187f1683b70cde2e4ea84f398587bce597d27471f167b3b1f95e" dmcf-pid="7fRvZJvmkh" dmcf-ptype="general">문제는 계약 문구입니다.</p> <p contents-hash="f2a6bf56877a9cd86aa20fc402c4d83e55e5e9afc2dda32082c8b6106a7c6e32" dmcf-pid="z4eT5iTskC" dmcf-ptype="general"><strong>국방부 계약의 쟁점</strong></p> <p contents-hash="33838b911010f21e416c40927e8a1286b327dad519048dce0b5e5d925a91739c" dmcf-pid="q8dy1nyOcI" dmcf-ptype="general">앤트로픽과 협상할 때 사용됐던 표현은 '모든 합법적 용도(any lawful use)'였습니다. 반면 오픈AI와의 계약에는 '모든 합법적 목적(all lawful purposes)''이란 문구가 들어갔습니다. 용도(use)가 목적(purpose)으로 좀 더 포괄적으로 바뀐 겁니다.</p> <p contents-hash="e74eaf85450949a44fc9374b8095249c94cbd3ca0862388b93199ce283f444fc" dmcf-pid="B6JWtLWIkO" dmcf-ptype="general">이렇게 되면 해석의 여지가 커집니다. 합법적인 목적이란 조건만 충족할 경우 감시, 군사 작전, 기타 군사적 활용에도 AI를 사용할 수 있다는 해석이 가능해지기 때문입니다.</p> <p contents-hash="adfef6f3da151a1819a69c4474b812e034c656e4d59a91a596ce5882403b6e3f" dmcf-pid="bPiYFoYCAs" dmcf-ptype="general">아모데이가 이를 ‘안전쇼'라고 비판한 이유가 바로 여기에 있습니다.</p> <p contents-hash="cef65a608256f0c767fb79b443c133d492bd14d0ab9fb32b54c1b2b36d72ff71" dmcf-pid="KcOB8hB3om" dmcf-ptype="general">물론 오픈AI도 반박했습니다. 국방부와 협상하면서 "국내 감시에 우리 기술을 사용하는 것은 불법이며, 그런 용도로는 사용하지 않도록 계약서에 명확히 했다”는 입장입니다.</p> <p contents-hash="1524d302cc445bf65878758da217e75dd5d97a69691d52407b67e6baab9579d3" dmcf-pid="9kIb6lb0or" dmcf-ptype="general">하지만 비판론자들은 다른 문제를 지적합니다. 법은 언제든 바뀔 수 있다는 겁니다. 지금은 불법으로 간주되는 일도 앞으로는 합법이 될 수 있다는 것입니다.</p> <p contents-hash="1c424cb66f78085d30f9bf360f16baf4c35b90e367d4628a6092418c2e3e3ec6" dmcf-pid="2ECKPSKpcw" dmcf-ptype="general"><strong>오픈AI vs 앤트로픽, 철학의 차이</strong></p> <p contents-hash="f80abae3bc6d26556dd4b54acd688440b49b7aa3102894b5da96d25fabb37cad" dmcf-pid="VDh9Qv9UND" dmcf-ptype="general">두 회사의 엇갈린 선택은 사실 놀라운 일은 아닙니다. AI 개발을 바라보는 철학 자체가 다르기 때문입니다.</p> <p contents-hash="05078a37c10655ebc3aa542892b154536bef93159a7b2bdd6a98e9c76d9b5e78" dmcf-pid="fwl2xT2ujE" dmcf-ptype="general">앤트로픽 핵심 경영진은 원래 오픈AI 출신입니다. 공동 창업자인 다리오 아모데이는 오픈AI 연구 책임자(VP of Research)를 맡았던 인물입니다. 그러나 내부 갈등 끝에 결국 회사를 떠나게 됩니다.</p> <p contents-hash="0f76d8ddeaa81c1cc5a84a9285b3e9ec90d6423e8e64ebeca1d15d0e0ffc64dd" dmcf-pid="4rSVMyV7ak" dmcf-ptype="general">갈등의 배경에는 세 가지 요인이 있었습니다.</p> <p contents-hash="88d35ca265e4c488ef15875485019fba9c0fb68e847a20a04721f7b35e819f6a" dmcf-pid="8mvfRWfzjc" dmcf-ptype="general"><strong>첫째는 개발 속도입니다. </strong>샘 알트먼은 AI 개발을 최대한 빠르게 추진해야 한다는 입장이었습니다. 반면 아모데이는 “AI가 너무 빠르게 발전하면 위험하다”며 통제 가능한 개발을 강조했습니다.</p> <p contents-hash="be2d90dc75dff417461700c576e698a7dd3234fe49785fd79d3a1ae81abb5b23" dmcf-pid="6sT4eY4qaA" dmcf-ptype="general"><strong>둘째는 상업화 문제입니다. </strong>오픈AI는 원래 ‘인류를 위한 AI’를 목표로 출발한 비영리 연구기관이었습니다. 하지만 마이크로소프트 투자 유치 이후 상업화가 빠르게 진행됐습니다. 내부에서는 “AI 개발이 지나치게 기업 중심으로 흐르고 있다”는 비판도 제기됐습니다.</p> <figure class="figure_frm origin_fig" contents-hash="4bb4a8f69844e74b249f7192e25d7120f0f7e510c1ab911fd66d9b2bc4bad3dd" dmcf-pid="POy8dG8Bgj" dmcf-ptype="figure"> <p class="link_figure"><img alt="미국 인공지능(AI) 회사 오픈AI가 개발한 AI 채팅로봇 '챗GPT' (사진=로이터/뉴스1)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305172456962raqm.png" data-org-width="640" dmcf-mid="pzGqnZQ9Nb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305172456962raqm.png" width="658"></p> <figcaption class="txt_caption default_figure"> 미국 인공지능(AI) 회사 오픈AI가 개발한 AI 채팅로봇 '챗GPT' (사진=로이터/뉴스1) </figcaption> </figure> <p contents-hash="93750900ab5370433e850b6e1b48e8dd6de6e5ad8396506b25809dcab73375a3" dmcf-pid="QIW6JH6bjN" dmcf-ptype="general"><strong>셋째는 AI 위험에 대한 인식입니다. </strong>아모데이는 AI의 잠재적 위험을 매우 심각하게 보는 인물입니다. 그는 AI가 인간보다 뛰어난 지능을 갖게 될 가능성뿐 아니라 ▲생물무기 설계 지원 ▲사이버 공격 자동화 ▲사회적 조작 ▲대량 실업 같은 문제도 꾸준히 경고해 왔습니다.</p> <p contents-hash="410f76ac2ac3b2942450136bc4472faf9171942391e8cf280d37d3caa60b2737" dmcf-pid="xCYPiXPKaa" dmcf-ptype="general">결국 아모데이 등은 2021년 오픈AI를 떠나 앤트로픽을 창업합니다. 그리고 ‘안전한 AI(Safe AI)’를 회사의 핵심 목표로 내세웁니다.</p> <p contents-hash="c115190acb9dcc3045ee81524af2c8332450d3f0a3d61bf06299aef98f9f6d4e" dmcf-pid="yfRvZJvmgg" dmcf-ptype="general">이런 배경을 보면 국방부 계약을 둘러싼 논쟁도 조금 더 이해하기 쉬워집니다. 앤트로픽 입장에서는 군사적 활용 가능성이 있는 AI 계약을 쉽게 받아들이기 어려웠을 겁니다. 오픈AI 시절부터 유지해 온 개발 철학과도 정면으로 충돌하기 때문입니다.</p> <p contents-hash="97f2e5a304386c09a0162f09ada3914b9340bd64f9eed6d179ebbbbd70ebd608" dmcf-pid="W4eT5iTsao" dmcf-ptype="general">반면 오픈AI는 다른 판단을 내린 것으로 보입니다. "합법적 목적에만 사용한다"는 조건과 안전 장치만으로도 AI 남용을 충분히 통제할 수 있다고 본 것입니다.</p> <p contents-hash="60e0998c7e4c71968222b0b7778f9481d79aed13b5235b44c7a4a54a5117a8d7" dmcf-pid="Y8dy1nyOcL" dmcf-ptype="general">두 회사의 철학을 한 줄로 정리하면 이렇습니다.</p> <p contents-hash="14f72b27c2d4dc3813b659145834d5b73de7180e13f828d23713d81ec6dbd23b" dmcf-pid="G17NrBNdon" dmcf-ptype="general"><strong>오픈AI = move fast</strong></p> <p contents-hash="df5ed25196047b97b4caf71e5279e0cfc9d508bb560e3912830b7901cad58f7a" dmcf-pid="HtzjmbjJAi" dmcf-ptype="general"><strong>앤트로픽 = move carefully</strong></p> <p contents-hash="3094086c41582696a953a34b4a457d789ce5e4c8d1a7e7011f24d17314d80cde" dmcf-pid="XFqAsKAigJ" dmcf-ptype="general">국방부 계약을 둘러싼 공방 역시 이 철학 차이의 연장선에서 나온 논쟁입니다.</p> <p contents-hash="566cea4e5e60220fa9975b2aaf7764001a2b691abe36ac0aae3251b3c905c7e6" dmcf-pid="Z3BcO9cnAd" dmcf-ptype="general">그렇다면 오픈AI가 내세운 안전 장치는 과연 실질적인 보호 장치일까요. 아니면 아모데이의 주장처럼 '안전쇼'에 불과한 걸까요.</p> <p contents-hash="df2262b76806956bec26a0cbedfeb6c755fcc89ddef689dcf1c5c4c434899cb7" dmcf-pid="50bkI2kLNe" dmcf-ptype="general">여러분은 어떻게 생각하십니까.</p> <p contents-hash="16e4cc39091fe1f135067714c44a30660304363afeafe3e30f6ec8e16803bff8" dmcf-pid="1pKECVEocR" dmcf-ptype="general">김익현 미디어연구소장(sini@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 로버트 할리, 부부싸움 중 '물잔 투척'…"3주간 말 안해" 03-05 다음 신기술 투자했더니 돌아온 건 '기소'…'경영 족쇄' 된 배임죄 03-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
