[AI는 지금] "인류 통제 벗어날 수도"…세계 석학들이 보낸 적색 경보 작성일 02-14 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">벤지오 교수 "AI, 인간 속이고 감시 회피…이익보다 안전 우선 제동 장치 마련해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tGwwR2FYke"> <p contents-hash="d00caa2ba127dfdca45107b843a70ce22bc211c71ca172515b5f680d199b4ea9" dmcf-pid="FHrreV3GoR" dmcf-ptype="general">(지디넷코리아=이나연 기자)<span>인공지능(AI)이 수학 올림피아드 금메달 수준의 추론 능력을 갖추고, 스스로 도구를 활용해 작업을 수행하는 '에이전트' 단계로 진화했다. 기술 발전의 이면에는 사이버 공격 자동화, 생물학 무기 제조 지원, 인간</span><span> 통제 상실의 실존적 위협도 있다. 이에 전 세계 석학들이 모여 "이익보다 안전이 우선되어야 한다"</span><span>는 메시지를 던졌다.</span></p> <p contents-hash="3e2b08b5452642990922fce5f802e4b84ba8bf7a04f4c563403b4a4296ab79af" dmcf-pid="3ERR7ZIkjM" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>14일 업계에 따르면 지난 3일(현지시간) 공개된 '2026 국제 AI 안전 리포트'는 AI 패권 경쟁 속에서 인류가 지켜야 할 안전장치의 기준점을 제시하고 있다.</span></p> <figure class="figure_frm origin_fig" contents-hash="bcf7c18c23b65842fff5a66969556a6abc3ff35d286c82c112b9084c481313b0" dmcf-pid="0Deez5CEcx" dmcf-ptype="figure"> <p class="link_figure"><img alt="(사진=2026 국제 AI 안전 리포트)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/14/ZDNetKorea/20260214095926526npqn.png" data-org-width="640" dmcf-mid="tnuGVUWIgw" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/14/ZDNetKorea/20260214095926526npqn.png" width="658"></p> <figcaption class="txt_caption default_figure"> (사진=2026 국제 AI 안전 리포트) </figcaption> </figure> <p contents-hash="7728b47504fcfb2bb70b3a016629fbac33242905b95d34888da1eb471c6d4bbe" dmcf-pid="pwddq1hDgQ" dmcf-ptype="general"><span>이번 보고서는 요슈아 벤지오 캐나다 몬트리올대 교수가 의장을 맡아 집필을 주도했다. '딥러닝의 대부'이자 튜링상 수상자인 벤지오 교수는 제프리 힌튼, 얀 르쿤과 함께 현대 AI 기술의 기틀을 닦은 세계 4대 석학 중 한 명이다. 그는 작년 9월 임문영 국가인공지능전략위원회 부위원장을 만나 한국의 AI 정책 자문 참여 의사를 밝히기도 했다.</span></p> <p contents-hash="95da619805efe43e81a251d34199e70fb48853b8300b861e410f8aaf9dc9e98e" dmcf-pid="UrJJBtlwoP" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>벤지오 교수가 이끄는 이번 보고서에는 100명 이상의 국제 전문가가 참여했다. 유럽연합(EU)·경제협력개발기구(OECD)·국제연합(UN)을 포함한 30개국 이상 국가 및 국제기구 추천 인사로 구성된 전문가 자문위원단의 지원을 받아 공신력을 더했다.</span></p> <p contents-hash="420da93c47dabec9b41bbed5afd5605d73925113d5be2eec615c066fb8e74da6" dmcf-pid="umiibFSrA6" dmcf-ptype="general"><strong>"AI, 인간 속이고 스스로 훈련 감지"…구체화된 위험들</strong></p> <p contents-hash="9cd5a067d63a4a12e442267fc63a8fe40ae2f125632edd2a869bf7af94d0cad4" dmcf-pid="7snnK3vmo8" dmcf-ptype="general">보고서에 따르면 최신 범용 AI는 박사급 과학 지식을 습득하고 소프트웨어 엔지니어링 작업을 자율적으로 수행하는 수준에 도달했다. 전 세계적으로 매주 7억명 이상이 최첨단 AI를 사용하고 있으며 이는 PC 보급 속도를 능가하는 수치다.</p> <figure class="figure_frm origin_fig" contents-hash="c2b19bd0e1edcdd860e7ce9d858f079a28efc940a2da64ab1bdaa1ceba0de270" dmcf-pid="zOLL90Tsa4" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 안전성 (사진=챗GPT)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/14/ZDNetKorea/20260214095927981havp.png" data-org-width="638" dmcf-mid="FWdD1vkLND" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/14/ZDNetKorea/20260214095927981havp.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI 안전성 (사진=챗GPT) </figcaption> </figure> <p contents-hash="1dcec26372b46063e7cb8c09cb23b2ffd35e97b53c2348efd69e11cbdcb3d904" dmcf-pid="qIoo2pyOAf" dmcf-ptype="general"><span>보고서는 악의적 사용, 오작동, 시스템적 위험을 AI의 3대 위협으로 꼽았다. 특히 보고서는 AI가 사이버 공격과 생물학적 무기 개발의 진입장벽을 낮추고 있다고 </span><span>지적했</span><span>다. </span><span>공격자들은 AI 모델을 이용해 침입 과정의 80~90%를 자동화한 것으로 조사됐다.</span></p> <p contents-hash="02e53642e17722514016563fbb78213d3d48c99ab6c5e117d7f5a5313af804ab" dmcf-pid="BCggVUWIcV" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serifquot='sans-serif;"' system-ui="system-ui," uiquot='UI",' w01quot='W01",'>바이러스 실험실 프로토콜 문제 해결에서는 오픈AI 등 모델이 </span><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serifquot='sans-serif;"' system-ui="system-ui," uiquot='UI",' w01quot='W01",'>전문가의 94%를 능가하는 성과를 보였다. </span><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serifquot='sans-serif;"' system-ui="system-ui," uiquot='UI",' w01quot='W01",'>통제 상실 징후도 포착됐다. 실험 환경에서 일부 AI 모델은 자신이 테스트를 받고 있다는 사실을 인지하고, 감시를 회피하거나 데이터를 조작하려는 기만적 행동을 보인 것으로 나타났다.</span></p> <p contents-hash="86c1fb5a252e83d9ab3b550a833efef40c09f321aafed8777cb9579709743d66" dmcf-pid="bhaafuYCg2" dmcf-ptype="general"><strong>"위험선 넘으면 개발 중단"…안전장치 부각</strong></p> <p contents-hash="72f55d06a58f49a9fe3709918ba70272f3aa542993f3734bd8c6f28b601a59fe" dmcf-pid="KzYYkiV7k9" dmcf-ptype="general">글로벌 AI 기업들도 안전장치 마련에 나서고 있다. 지난 2025년 기준 오픈AI, 앤트로픽, 구글 딥마인드 등 12개 주요 기업이 '프론티어 안전 프레임워크'를 발표하거나 업데이트했다.</p> <p contents-hash="5ec8677ed3bc3bf973ba49560e2f8123e4976c4949391f88669b338b120703b2" dmcf-pid="9qGGEnfzjK" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>해당 프레임워크에는 AI 모델이 생물학 무기 제조를 돕거나 자율적으로 복제하는 등 특정 위험 임곗값을 넘을 때 즉시 개발을 중단하거나 보안 수준을 격상하겠다는 '조건부 약속' 등이 담겼다. 완벽한 단일 방어책이 없다는 점을 인정한 '다층 방어' 전략도 강조됐다.</span></p> <p contents-hash="5689087f9277ff71d1a92dd505a93e0d8af82f842e05aa1ce55cc2331d61daae" dmcf-pid="2BHHDL4qab" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>정책 입안자들에게는 '증거의 딜레마'가 난제로 작용할 전망이다. AI 기술은 급변하지만 위험성에 대한 명확한 증거는 피해가 발생한 뒤에야 나타나기 때문이다. 보고서는 확실한 증거를 기다리다가는 돌이킬 수 없는 피해를 볼 수 있다며, 선제적인 안전 조치가 필요함을 시사했다.</span></p> <p contents-hash="a2e2f24c1d33cb47c6b8c7b42b3f5c0e283ad632f863acfefb96c6e8aa224c68" dmcf-pid="VbXXwo8BNB" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>보고서 결과는 오는 19~20일(현지시간) 인도에서 열리는 'AI 임팩트 서밋' 논의의 핵심 자료로 활용되어 전 세계적인 대응책 마련에 기여할 예정이다.</span></p> <p contents-hash="c1ed9e010391f6688a8deb87f48972163b179b0bdfb2c5dc9eff722202353b45" dmcf-pid="fKZZrg6bcq" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>벤지오 교수는 "이번 보고서를 통해 우리 시대 가장 중요한 기술적 변혁이 될지도 모르는 AI에 대한 집단적 이해를 높이기를 희망한다"고 강조했다.</span></p> <p contents-hash="9f5711b2f9067c19e2fe01beec111081c671138dfc992175e1bf10c1264040bf" dmcf-pid="4955maPKNz" dmcf-ptype="general">이나연 기자(ny@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 '확신의 라이징' 김재원, '레이디 두아'로 존재감 입증 02-14 다음 "지금 다낭 도착" 여행 인증샷, 범죄자에겐 '빈집 신호'[설 연휴 보안수칙③] 02-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
