자살 방조·전쟁 동원…AI 안전 약속 후퇴하는 글로벌 빅테크들 작성일 07-08 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">FLI, 2026 상반기 AI안전성 지수 발표<br>앤트로픽 C+…A·B 기업 한 곳도 없어<br>“AI 위협 사회 문제…자발적 약속 이상 필요”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2ue9om0HTQ"> <figure class="figure_frm origin_fig" contents-hash="b44b2dc4ae6452b1a16af1421684aa767391462360c3ada4230344a1930d9489" dmcf-pid="V7d2gspXSP" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진 제공=FLI·챗GPT 제작" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/08/seouleconomy/20260708100806345srth.png" data-org-width="1200" dmcf-mid="uClf1baelF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/08/seouleconomy/20260708100806345srth.png" width="658"></p> <figcaption class="txt_caption default_figure"> 사진 제공=FLI·챗GPT 제작 </figcaption> </figure> <p contents-hash="7b8b82ce11303aa8add76ba4ef763babbc33e137059555f17c327d4953793ebe" dmcf-pid="fzJVaOUZC6" dmcf-ptype="general">세계 주요 인공지능(AI) 기업들이 AI 성능 경쟁에 속도를 내는 사이, 스스로 내걸었던 안전 약속은 오히려 약화하고 있다는 국제 전문가들의 평가가 나왔다. AI가 사이버 공격과 군사 영역으로 빠르게 확산되는 가운데 기업 자율규제만으로는 위험을 통제하기 어렵다는 경고다.</p> <p contents-hash="ec51ed43c2fe2f3c1807f6ed8da986a766dd532e17ba0770b06161f501d7d7f7" dmcf-pid="4qifNIu5h8" dmcf-ptype="general">미국 기반 AI 안전 분야 비영리 싱크탱크인 퓨처오브라이프 인스티튜트(FLI)는 7일(현지시간) ‘2026 상반기 AI 안전성 지수’를 발표하고 세계 주요 AI 기업 9곳의 안전 관행을 평가했다. 평가 대상은 앤트로픽, 오픈AI, 구글 딥마인드, 메타, Z.ai, 알리바바 클라우드, xAI, 딥시크, 미스트랄 등이다. 독립 전문가 패널은 이들 기업을 위험 평가, 현재 발생한 피해, 안전 프레임워크, 인류 생존 차원의 안전, 거버넌스와 책임, 정보 공개·소통 등 6개 부문으로 나눠 평가했다.</p> <p contents-hash="d89ebb536b45a576e65372af75a15b9d2dca3d18a530e30bd9a84524dbd25488" dmcf-pid="8Bn4jC71C4" dmcf-ptype="general">평가 결과 앤트로픽은 안전성 지수는 1위였지만 실제 등급은 C+에 불과했다. 오픈AI와 구글 딥마인드는 각각 C를 받았고, 메타는 D+ 성적표를 받았다. Z.ai와 알리바바 클라우드는 D-, xAI와 딥시크, 프랑스의 미스트랄은 F를 받았다. 세계 AI 시장을 주도하는 주요 빅테크 중 안전성 평가에서 A나 B를 받은 곳은 한 곳도 없었다.</p> <p contents-hash="7697ccf53e472f17cf6aef45e55ddb9a99e5b2e4b9228471057e97a97acfbbca" dmcf-pid="6S7H9eCEhf" dmcf-ptype="general">FLI는 “기업들이 과거 내놨던 ‘레드라인’ 약속을 후퇴시키고 있다”며 우려했다. 앤트로픽, 오픈AI, 구글 딥마인드, 메타는 과거 특정 위험 수준에 가까워질 경우 스스로 개발을 멈추거나 출시를 제한하겠다는 취지의 안전 방침을 제시했지만, 이들 기업이 최근 내부적으로 해당 약속을 약화하거나 폐기했다는 것이다. AI 능력은 빠르게 커지고 있지만, 이를 멈추거나 통제할 장치는 오히려 느슨해졌다는 지적이다.</p> <p contents-hash="f8eb004d5e99853f98909ce5c0a2f42abed601b858f1f15d116448dc65162f5d" dmcf-pid="PvzX2dhDyV" dmcf-ptype="general">실제로 앤트로픽은 지난 2월 자사의 안전 조치가 충분하다는 점을 사전에 보장할 수 없는 한 AI 시스템을 훈련하지 않겠다는 기존 약속을 철회한 바 있다. FLI 안전성지수 작성에 참여한 평가위원들은 “이 조치를 되돌릴 필요가 있다”고 주장했다. 앤트로픽은 이번 평가에서 1위를 차지했지만, FLI는 “상위권 기업들조차 현재의 안전 조치가 AI 능력 발전 속도에 비해 완전히 부적절하다”고 평가했다.</p> <p contents-hash="765031617272f30680adf128a737bc662f7f4f67b41f5608e0a21b6a1fcbfe49" dmcf-pid="QTqZVJlwC2" dmcf-ptype="general">FLI는 또한 “최근 몇 년 사이 주요 AI 기업들이 군사 분야 활용에 대한 반대 입장을 누그러뜨렸다”고 지적하기도 했다. AI가 총기 난사에 필요한 정보를 제공하거나 자살을 방조하는 등 현실 피해와 연결된 사례를 언급하며, “AI 위험이 더 이상 먼 미래의 가설이 아니라 현재의 사회·안보 문제로 옮겨오고 있다”고 진단했다. 맥스 테그마크 FLI 공동창립자 겸 회장은 “기업들이 초인공지능의 위험을 스스로 경고하면서도 정작 그것을 만들기 위한 경쟁은 멈추지 않고 있다”며 “자발적 약속만으로는 충분하지 않다”고 지적했다.</p> <p contents-hash="e112b4b02de607e20daad980dab9d6401cb2c19e6d73ff4e044ac1880999123b" dmcf-pid="xyB5fiSrl9" dmcf-ptype="general">한편 FLI는 2014년 맥스 테그마크 MIT 물리학과 교수와 스카이프 공동창업자인 얀 탈린, 앤서니 아기레 UC샌타크루즈 교수 등이 설립한 미국 기반 AI 안전 분야 비영리 싱크탱크다. 첨단 AI가 인류에 초래할 수 있는 대규모 위험을 줄이고 관련 정책 논의를 촉진하는 것을 목표로 한다. 2023년에는 GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월간 중단하자는 공개서한을 주도해 전 세계적 논쟁을 야기하기도 했다. 당시 서한에는 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 요슈아 벤지오 몬트리올대 교수, 유발 하라리 등이 서명했다.</p> <p contents-hash="80e3a759d7330df8fba64dc99cb463348462c73c4e36303fe9f48189d62754ff" dmcf-pid="yxwnCZ6bCK" dmcf-ptype="general">서지혜 기자 wise@sedaily.com</p> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 대구시장애인체육회, 생활체육 교실·동호인 클럽 97개소 운영…참가자 상시 모집 07-08 다음 비아이매트릭스, 반도체 공정 자율제어 AI 개발 나선다 07-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
