"AI 통제 못하면 미래 암울"…'알파고' 아버지의 경고 [AI 엑스파일]

작성일 07-13

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="8hcRbo41YG">
          <figure class="figure_frm origin_fig" contents-hash="e84821bc2cebb5f63ecd55b141ddc035f800b3c7223cbdfcb995dcbe617ad1f3" dmcf-pid="6pYrnlj4ZY" dmcf-ptype="figure">
           <p class="link_figure"><img alt="ChatGPT Image" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070247481wvwd.jpg" data-org-width="1200" dmcf-mid="8XEJD5IiZi" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070247481wvwd.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            ChatGPT Image
           </figcaption>
          </figure>
          <div contents-hash="1975c0699f979a4595e0148d821c4421d6d65be7d16ce0f77c764b3b1266bd64" dmcf-pid="PUGmLSA8YW" dmcf-ptype="general">
           <br>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="8e2bd67c195e98cc035925badcad47d3008e6a42474a31f1e5f77f67297b5ad6" dmcf-pid="QuHsovc6Zy" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070248726ilvp.jpg" data-org-width="681" dmcf-mid="6jeETBXDYJ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070248726ilvp.jpg" width="658"></p>
          </figure>
          <div contents-hash="df0a2fac270046f1ce125afba74c998e13fee13f7dd57a0b180f07c993f4b269" dmcf-pid="x7XOgTkPGT" dmcf-ptype="general">
           <br><i>이 기술은 이중적인 용도를 가졌습니다. 일반적인 목적으로 사용될 수 있는 기술이라는 것이죠. 악의를 품은 사람들도 같은 기술을 악의적으로 재활용할 수 있다는 뜻입니다. 그래서 저는 항상 AGI(인공 일반 지능)에 가까워질수록, 지금과 같은 시점에서, 제가 지지해왔고 앞으로도 지지할 방식은 AGI에 대한 CERN(유럽 입자 물리 연구소)과 비슷한 형태의 국제적인 협력 연구 기관을 설립하는 것입니다.<br>(it's a dual purpose technology. It's a general purpose technology. So that means, you know, would be bad actors can repurpose that same technology for harmful ends. so I've always felt the best way to do this is that as we got closer to AGI, sort of around now, maybe what I would be advocating, what I have advocated for is we create a kind of a CERN you know, like effort for AGI)<br>-지난달 유튜브 채널 '퀸스 칼리지 케임브리지'에서 데미스 하사비스</i>
           <div>
            <br><span>데미스 하사비스는 누구</span>
            <br>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="bdbaea4c000dfdf3e330a0a12bf7d0c5c39c459f651c9fbca29f473a14cb9464" dmcf-pid="ykJ2FQ7vZv" dmcf-ptype="figure">
           <p class="link_figure"><img alt="유튜브 채널 Queens' College Cambridge" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070250000gkew.jpg" data-org-width="1012" dmcf-mid="PI9JD5IiGd" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070250000gkew.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            유튜브 채널 Queens' College Cambridge
           </figcaption>
          </figure>
          <div contents-hash="d2d27ccb36a412e162a5df2803452057dc4c669b8bdf32d51d89ddb400e21157" dmcf-pid="WEiV3xzTXS" dmcf-ptype="general">
           <div>
            <br>
            <br>구글의 AI 전문 자회사 딥마인드 창업자이자 최고경영자(CEO). 1976년 영국 출생으로 영국 케임브리지 대학교에서 컴퓨터공학, 런던 대학교에서 인지 신경과학을 공부했다. 국내엔 바둑 AI '알파고'의 개발자로 유명하다. 2024년 노벨 화학상을 받았다. 단백질 구조 예측 AI '알파폴드' 개발한 공로를 인정받았다. 현재 구글의 AI 혁신을 이끌고 있다.
            <br>
            <br><span>데미스 하사비스가 하고 싶은 얘기는</span>
            <br>앞으로 성능이 뛰어난 초지능 또는 AGI(범용 인공지능)이 등장한다. 이 AI는 좋은 일도, 나쁜 일도 가능하게 할 것이다. 그래서 인류는 AI의 마지막 단계 개발에서 국제 공조로 관리해야 한다. AI는 어디에나 쓰일 수 있고 누가 어떻게 쓰느냐에 따라 엄청난 이익도 막대한 피해도 초래할 수 있다는 경고다.
            <br>
            <br>초지능 AI 모델을 공개하거나 판매하면 대량 살상용 생물학 물질을 합성하는 방법을 찾거나 첨단 사이버 무기가 나올 수 있다는 우려이기도 하다. 하사비스는 지금을 ‘AGI에 거의 다다른 시점’이라고 보고 있다. 더 이상 개별 기업과 국가가 경쟁적으로 AI를 개발해서는 안 된다고 주장하는 듯하다.
            <br>
            <br>하사비스는 일명 ‘AGI CERN’을 구상했다. CERN은'유럽 입자 물리 연구소'다. 유럽 여러 국가가 공동으로 대형 과학 연구를 수행하기 위해 설립한 국제 연구기관이다. AI 방식의 CERN은 ① 기술적·안전적 이점 ② 정책·거버넌스 적합성 ③ 실행 가능성의 세 부문에서 검토할 필요가 있다.
            <br>
            <br>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="ac10c6fead1227a949d1eb8b04f866997633eae3a977d66f98e0d0a4e3c76acf" dmcf-pid="YDnf0MqyHl" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070251243rhsw.jpg" data-org-width="812" dmcf-mid="QMnmG2tsZe" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070251243rhsw.jpg" width="658"></p>
          </figure>
          <div contents-hash="e5d04d5aa33bd0bf6dea2bf25c0e2c27f5ddd2bbb58e5e603b6f485bd9156c24" dmcf-pid="GwL4pRBW1h" dmcf-ptype="general">
           <div>
            <br>
            <br>기술적·안전적 이점은 어느 정도 있다. 하나의 시설에서 가장 강력한 AI 모델을 안전·윤리 목적에 집중해 시험하기 때문이다. 공동 관리가 가능하다. 영국의 왕립 국제문제연구소(채텀 하우스)는 지난해 'AI와 글로벌 거버넌스의 과제'라는 논문에서 "AI를 위한 CERN은 최첨단 AI 시스템에 대한 접근을 중개한다"며 "세계 연구자들이 단일 연구실에서 독립적으로 달성할 수 있는 것 이상으로 AI 모델의 안전성, 편향성, 견고성을 테스트하고 비교할 수 있다"고 주장했다.
            <br>
            <br>이렇게 상호 감시가 되기 때문에 '정책·거버넌스 적합성'도 어느 정도 충족할 수 있다. AI 개발에서 나타난 부익부 빈익빈 현상 문제도 해결이 가능하다. 수십~수백 억 달러에 달하는 전력과 그래픽처리장치(GPU) 확보, 최고 수준의 AI 개발자 채용을 세계적으로 분담하거나 공유할 수 있다.
            <br>
            <br>하지만 가장 중요한 '실행 가능성'을 따져보면 ‘AGI CERN’ 설립 자체가 쉽지 않다. 세계 각국은 이미 AI를 강력한 전략 자산으로 생각하고 있다. 미국이 엔비디아에 고성능 GPU의 중국 수출을 제한하는 이유다. 고성능 GPU는 AI 개발에 필수다. AI를 다루는 UN(국제연합)이 생긴다고 해도 AI 관련 자원과 발언권이 부족한 국가는 소외되기 마련이다.
            <br>
            <br>현재 AGI 개발 주도권을 잃는 것은 국가 안보를 포기하는 것과 같다. 그래서 어떤 국가도 경쟁국이 AI에서 앞서 나가는 것을 가만히 보지 않을 것이다. 'AGI CERN'이나 'AI UN'이 설립되면 결국 각국의 비밀 연구를 가속할 것이다. 뒤에서 더 위험한 '그림자 경쟁'을 촉발할 수 있다. 핵무기가 그랬다.
            <br>
            <br>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="0e42912c0f0f71692860906dfdfc1c77931c64cf6507fa60750a71fffb59ecc6" dmcf-pid="Hro8UebY1C" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070252480wywj.jpg" data-org-width="793" dmcf-mid="xN8QNWDxHR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070252480wywj.jpg" width="658"></p>
          </figure>
          <div contents-hash="2b31f7a56985f01b5ab33a2524cf2eeabcc4e56d5afb5dfd637054d1d23ae2bd" dmcf-pid="Xmg6udKGGI" dmcf-ptype="general">
           <div>
            <br>
            <br>무엇보다 민간 기업이 국제 공조에 협조할까. 과거 핵과 달리 '핵'이 될 수 있는 AI는 현재 민간 기업이 개발하고 있다. 구글, 오픈AI, 앤스로픽, xAI, 알리바바, 텐센트, 딥시크, 미스트랄 등 현재 AI 파운데이션 모델을 경쟁하는 곳은 모두 기업이다. 하사비스도 지난 2월 이코노미스트와 인터뷰에서 "AI 개발 속도 경쟁 압박에 잠도 못 이룬다"고 밝혔다. 이미 막대한 투자를 한 기업은 연구 성과를 공유하기 꺼릴 것이다. 이들 기업은 주주 이익과 인류 공동 이익 간 충돌하면 어떤 선택을 할까.
            <br>
            <br>일각에선 이런 비판도 나온다. 구글 등 이미 AGI 경쟁의 최전선에서 막대한 이익을 추구하는 기업이 충분한 우위를 확보하고 '국제 협력'을 강조하는 건 기득권 유지 전략이라는 지적이다. AI 기업은 AI 모델로 돈만 벌고 위험 책임은 공공에 떠넘긴다는 것이다.
            <br>
            <br>과거 핵확산방지조약(NPT)과 비슷한 우려도 나온다. NPT는 핵무기 보유국은 기득권을 유지하며 비보유국을 억제하는 구조였다. 현재 AI 경쟁에서 이미 빅테크와 일부 국가가 AGI 단계에 진입했다는 분석이다. 지금 'AGI CERN'는 ‘제로부터 룰 세팅’이 아니라 기득권 중심의 재조정 방식이다.
            <br>
            <br>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="50b5961e997b639738448f757101518081d40fe72b73360d3839de5e635ac447" dmcf-pid="ZsaP7J9H1O" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/13/ked/20250713070253754vogy.jpg" data-org-width="800" dmcf-mid="y3ngO0va5M" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/13/ked/20250713070253754vogy.jpg" width="658"></p>
          </figure>
          <div contents-hash="a31ab69be4ffef13bcdde2b8b77370788291d387de81562a26d046bcadb3bf75" dmcf-pid="5DCNQwJq1s" dmcf-ptype="general">
           <div>
            <br>
            <br>하지만 눈으로 확인된 위협은 국제 공조를 촉발할 수도 있다. 사실 지금의 과학자, 정치인, 기업 관계자 등의 AGI의 우려는 미래의 추상적인 이야기에 가깝다. 실제로 통제 불가능한 AI가 자국의 금융망을 붕괴시키고 국방 시스템을 무력화하는 것을 눈앞에서 목격한다면, 일류의 의사 결정은 기존의 지정학적 셈법을 초월할 수 있다.
            <br>
            <br>과거를 봐도 위협이 추상적일 때는 인류는 이기심이 앞섰다. 하지만 인류는 위협을 구체적으로 목격하면 생존을 위한 초월적 협력을 선택해왔다. 여기서도 핵이 대표적인 사례다. 1945년 일본 히로시마·나가사키에서 핵의 위력을 확인한 인류는 국제원자력기구(IAEA)가 설립하고 NPT를 체결했다. 다만 통제 불가능한 AI가 보여줄 ‘맛보기 재앙'이 인류가 감당할 수준이어야 할 것이다.
            <br> 
            <div>
             [AI 엑스파일은 글로벌 AI 산업, 학계 등의 최전선에서 AI를 고민하는 이들의 얘기를 전달합니다. 색다른 AI 이슈를 편하게 보시려면 기자 페이지를 구독해 주세요]
            </div>
            <br>김주완 기자 kjwan@hankyung.com
           </div>
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p>

이전

韓 AI 3강 추격전···네이버의 글로벌 공략 비밀병기는? [김성태의 딥테크 트렌드]

07-13
다음

'SKT 위약금 면제' 마지막 주말…이통3사 "뺏고 지켜라"

07-13

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"AI 통제 못하면 미래 암울"…'알파고' 아버지의 경고 [AI 엑스파일]

멤버랭킹

관련자료

멤버랭킹