빅테크 AI, 안전성 약속 후퇴 중…앤트로픽 최상위·xAI 하위권 작성일 07-08 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qprIMjHlm8"> <figure class="figure_frm origin_fig" contents-hash="ef4bdf181799e99dd6cc5844e9c0d8f5577634d8cfc316e3b5d0ba41f1fa82c6" dmcf-pid="BUmCRAXSr4" dmcf-ptype="figure"> <p class="link_figure"><img alt="퓨처오브라이프 인스티튜트(FLI) '2026 상반기 AI 안전성 지수' 인포그래픽. ⓒFLI" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/08/etimesi/20260708100327177mvpi.png" data-org-width="700" dmcf-mid="zE6MtKNdE6" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/08/etimesi/20260708100327177mvpi.png" width="658"></p> <figcaption class="txt_caption default_figure"> 퓨처오브라이프 인스티튜트(FLI) '2026 상반기 AI 안전성 지수' 인포그래픽. ⓒFLI </figcaption> </figure> <p contents-hash="92a103d82fa7324a99633a21a1350b9b0bb676160bed4d9f2a6ff93cda11b4f3" dmcf-pid="bushecZvIf" dmcf-ptype="general">빅테크 인공지능(AI) 기업의 안전한 AI 활용 관련 약속과 공언들이 갈수록 퇴보하는 것으로 나타났다. <span>AI 프론티어 모델 개발 경쟁에 집중하고 안전에는 소홀한 모습을 보인다는 것이다.</span></p> <p contents-hash="636563a687f242d25fed865773f3967f4293c818d3ca7797e93fcdd29db0747c" dmcf-pid="K7Oldk5TEV" dmcf-ptype="general">퓨처오브라이프 인스티튜트(FLI)는 8일 이같은 내용을 담은 '2026 상반기 AI 안전성 인덱스'를 공개했다. <span>FLI는 2014년 일론 머스크 테슬라 최고경영자(CEO) 시드 펀딩을 받아 맥스 테크마크 MIT 물리학과 교수, 스카이프 개발에 참여한 잔 탈린 프로그래머 등이 설립한 AI 안전분야 비영리재단 씽크탱크다.</span></p> <p contents-hash="01960a0e4bf634f0bd0c5e30be5c2f09c752796ef12239d05899a48a54ba5c7c" dmcf-pid="9zISJE1yD2" dmcf-ptype="general">FLI는 이번 인덱스 결과에 대해 <span>AI 위험이 군사·안보·사이버보안 영역으로 확대되는 가운데 </span><span>개발 기업의 안전장치는 오히려 후퇴하고 있다는 경고라고 총평했다.</span></p> <p contents-hash="da95a7f4138e6adf2fa169afbc8ca1ae6da2f270e79d6f5333615e427256f5ec" dmcf-pid="2prIMjHlr9" dmcf-ptype="general">인덱스는 데이비드 크루거 몬트리올대 교수·셰런 리 위스콘신-매디슨대 교수·스튜어트 러셀 UC버클리 교수 등 독립 AI 전문가 7인이 주요 AI기업의 안전 관행을 위험 <span>평가, 현재 피해, 안전 프레임워크, </span><span>인류 생존 차원 안전, 거버넌스·책임, </span><span>정보 공개·소통 등 6개 부문에 입각해 평가한 결과다.</span></p> <p contents-hash="17c6a5d5bfad3991f842cca0b0266d2a4264304f4986aee34c9be5230eae3894" dmcf-pid="VUmCRAXSDK" dmcf-ptype="general"><span>미국 구글 딥마인드·메타·앤트로픽·오픈AI·xAI, 중국 딥시크·알리바바 클라우드·Z.ai, 프랑스 미스트랄AI 등 9개사가 평가 대상이었다.</span></p> <p contents-hash="5a18a4d0af7ce62a2271c7001ea190b7e4fa56e9b762ba56711304ac64f82707" dmcf-pid="fushecZvEb" dmcf-ptype="general"><span>이들 기업 중 상당수가 </span><span>AI 안전성 약속을 조용히 후퇴시켰다는 게 패널들의 판단이다. </span><span>특정 '레드라인'에 근접할 경우 </span><span>개발을 중단하겠다는 대외적 약속과 달리 앤트로픽, 오픈AI, 구글 딥마인드, 메타는 모두 </span><span>내부적으로 이를 약화시키거나 폐기한 것으로 나타났다.</span></p> <p contents-hash="fd0cbc571e5e4e2fda61b2daeebc74d5ce0557deaabb343071725421267c3ef3" dmcf-pid="47Oldk5TIB" dmcf-ptype="general">사용자를 안심시키는 듯한 기업들의 대외 안전 메시지와 실제 상업적·정치적 행보 <span>사이 괴리가 나타난 것이다. 통제 유지를 위한 실효성 있는 계획도 없이 </span><span>범용 AI(AGI)와 ASI를 향해 계속되는 업계의 경쟁이 스스로 내세운 안전 목표와 </span><span>정면으로 배치되며 대중의 신뢰를 훼손한다고 지적했다.</span></p> <p contents-hash="39faaf6bd9ea2b6d0d7b0222c581c599e6966851fa54a0281f4cc73abb1ab9c6" dmcf-pid="8zISJE1yDq" dmcf-ptype="general">러셀 교수는 “AI 능력 수준에 걸맞은 안전조치를 갖춘 경우에만 새 시스템을 출시하겠다던 기업들이 기존 약속에서 물러섰다”며 “명백히 안전하지 않은 경우에도 출시하고 있다”고 설명했다.</p> <p contents-hash="ec74d828bbf557b462dc4d4cb6c9d01dbca1b001dee8c437305d5a345b96d698" dmcf-pid="6qCviDtWwz" dmcf-ptype="general"><span>특히 앤트로픽 '미토스'로 확인된 AI 위험은 가설에 그치지 않고 치명적 현실로 진화하고 있다고 진단했다. AI 시스템이 사이버 공격에 악용되거나 군사 </span><span>작전에 통합되고 총기 난사에 필요한 정보를 제공하며 자살을 방조하는 등의 사례를 근거로 제시했다.</span></p> <p contents-hash="2f898cbdd8e71f2f4247e3bc7611035a74150c84ed3af82089d446eab0732d0a" dmcf-pid="PBhTnwFYm7" dmcf-ptype="general">이번 평가에서 앤트로픽과 오픈AI, 구글 딥마인드가 상위 3위를 지켰다. 하지만 평가위원들은 A·B 평가를 받은 기업이 전무하고 현재 안전 완화 조치가 AI기술과 성능<span> 발전 속도에 비해 완전히 부적절하다는 입장을 내놨다. 메타는 6위에서 4위로 올라섰고 xAI는 </span><span>Z.ai와 알리바바 클라우드에 밀려 4위에서 7위로 떨어졌다. 처음 평가 대상에 포함된 </span>미스트랄AI은 대다수 부문에서 낙제점을 받아 최하위를 기록했다.</p> <p contents-hash="2e7512ebcea675cb1711f182841072baa0ee5e1dae5e886b8e04f92573bf2b6a" dmcf-pid="QblyLr3Gsu" dmcf-ptype="general"><span>맥스 테그마크 FLI 회장(MIT 교수)은 “</span><span>AI기업들이 절벽을 향해 전력 질주하고 있다”며</span><span> “초인공지능(ASI) 위험을 스스로 </span><span>경고하면서 정작 ASI를 만들기 위한 경쟁은 멈추지 않고 있다”고 평가했다. 이어 “자발적 약속만으로 (AI 안전성 보장이) </span><span>애초에 충분하지 않았다”고 덧붙였다.</span></p> <p contents-hash="a2084976180062647630c7868934c257c28ed41d2ca1839a7e5f22077fdb9889" dmcf-pid="xKSWom0HIU" dmcf-ptype="general">박종진 기자 truth@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 “섬유 한가닥만으로” 전기만들고 유해가스 감지 한번에 07-08 다음 [AI는 지금] "공짜 AI 쓰세요"…오픈AI·앤트로픽, 스타트업 쟁탈전 본격화 07-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
