AI 안전성 검증 난제는 언어·문화… "한국어 반말하면 AI, 3배 위험" 작성일 07-07 29 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">MLCommons 회장 "195개국·수백 언어 신뢰성 검증, AI 개발보다 어려워"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uy7LJPrNl1"> <figure class="figure_frm origin_fig" contents-hash="c1abd2022fdca7797a4b96867ab86cedc93b57029b6af91e7fae2d69bd5b6453" dmcf-pid="7WzoiQmjh5" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/07/552796-pzfp7fF/20260707153909001nikb.jpg" data-org-width="640" dmcf-mid="UkWVKUJ6vt" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/07/552796-pzfp7fF/20260707153909001nikb.jpg" width="658"></p> </figure> <p contents-hash="915b5b949c8f7177415ba406ff395ae4af14ec16564c72a61a1f508c69953762" dmcf-pid="zYqgnxsASZ" dmcf-ptype="general">[디지털데일리 구아현기자] 인공지능(AI)이 안전성 시험을 통과했다고 해서 실제로 안전한 것은 아니라는 지적이 나왔다. 언어와 문화에 따라 같은 질문에도 전혀 다른 답을 내놓는 사례가 다수 확인되면서다.</p> <p contents-hash="bc947341125f8bc0608d2be6817942aa8fe2273c346539639c0487c8dd408094" dmcf-pid="qGBaLMOcyX" dmcf-ptype="general">피터 매트슨 MLCommons 회장 겸 구글 시니어 스태프 엔지니어와 로라 아로요 구글 딥마인드 연구과학자 겸 MLCommons AIRR 멀티모달 워킹그룹 리드는 7일 서울 강남구 오크우드 코엑스센터에서 열린 '제2회 인공지능안전 서울포럼'에서 AI 안전 벤치마크의 신뢰성 장벽에 대해 강조했다.</p> <p contents-hash="d0162ff463224b5d375feed235dc5054f557adaa3a62bf6a5b170e922e0d6dc9" dmcf-pid="BHbNoRIkSH" dmcf-ptype="general"><strong>◆ "신뢰성 장벽이 새로운 국면… 산업용 벤치마크 필요"</strong></p> <p contents-hash="4d4427485336baf35f3e8508d5810d858fbeaf62c44aa10fd5e1c53c5fa7d15a" dmcf-pid="byoWvspXTG" dmcf-ptype="general">매트슨 회장은 AI 산업이 '능력 장벽'은 넘었지만 이제 '신뢰성 장벽'이라는 새로운 국면에 놓였다고 진단했다.</p> <p contents-hash="7d7e6998ee20f4a86dedfe87d09305a11d6ab00201e935e9ae6b59374ee9a234" dmcf-pid="KWgYTOUZlY" dmcf-ptype="general">매트슨 회장은 이를 검증할 방법론에서 학술 벤치마크의 한계를 짚었다. 그는 "오픈 데이터셋, 오픈 평가 메커니즘, 일회성 리더보드로 단기적이지만 통찰력 있는 기여를 할 수 있다"면서도 "정부 정책이나 산업 표준을 수립할 수 있는 지속 가능하고 산업을 주도하는 평가에는 학술적 벤치마크만으로 부족하다"고 말했다.</p> <p contents-hash="60ac65c39a890ca726138c02243b5454e085e1d40756d0f61bb6a2c2c5e26803" dmcf-pid="9YaGyIu5vW" dmcf-ptype="general">그가 제시한 산업용 벤치마크의 조건에서 공식 테스트 세트는 숨겨야 한다. 숨기지 않으면 사람들이 과적합을 하게 되어 벤치마크가 무의미해진다는 것이다. 여기에 도전 과제가 진화함에 따른 지속적인 데이터셋 갱신, 이를 뒷받침할 법적·재정적 인프라까지 갖춰야 한다는 게 그의 설명이다.</p> <p contents-hash="f03de4f451de058481fa3197119736870fb715cb135d7f65af8ea82cb8b4e657" dmcf-pid="2GNHWC71yy" dmcf-ptype="general">매트슨 회장은 자신이 창립한 MLCommons의 하드웨어 성능 벤치마크 'MLPerf'를 예로 들며 "이 벤치마크를 시작했을 때 아무도 AI 하드웨어 속도를 어떻게 측정해야 할지 몰랐다"며 "측정을 표준화한 결과 5년 만에 50배의 속도 향상을 봤다"고 말했다.</p> <p contents-hash="389b704360c29105787d622a2fc4441b6153dcbbf73c61625f023484916f67a4" dmcf-pid="VHjXYhztTT" dmcf-ptype="general">다만 그는 AI 안전성 검증은 하드웨어 성능 측정과는 다른 난제를 안고 있다고 짚었다. "AI는 자연어와 이미지로 소통하고 그 의사소통 방식은 전 세계적으로 다양하다"며 "195개국, 수백 개 언어에 걸쳐 신뢰성을 검증해야 하는 과제는 AI를 처음부터 개발하는 것보다 더 어려운 일"이라고 말했다.</p> <p contents-hash="41cf35769510d8cdd59de06aa252b3e1cb37aed893981b8d8f4a76b2e048ed2a" dmcf-pid="fXAZGlqFTv" dmcf-ptype="general"><strong>◆영어에서만 잘하는 AI… 한국어는 반말 쓰면 3배 더 위험</strong></p> <p contents-hash="ff9506a5ab3257bfdb9b0ee8a87dff78c0cd3c2467e5e284fb66f66a387deb61" dmcf-pid="4Zc5HSB3WS" dmcf-ptype="general">언어 간 성능 격차도 뚜렷했다. 로라 아로요(Lora Aroyo) 구글 딥마인드 연구과학자 겸 MLCommons AIRR 멀티모달 워킹그룹 리드는 "특정 국가나 문화에 대해 영어 모델이 동일한 국가와 문화에 대한 질문을 다른 언어로 물었을 때보다 훨씬 더 나은 성능을 보인다"고 밝혔다.</p> <p contents-hash="029e44cb875b522c0e62b1015b12049b79c8a2e5dd1631f30838236ba36b92e2" dmcf-pid="85k1Xvb0ll" dmcf-ptype="general">전체 응답 중 문화적 상징을 실제로 인식해 반영한 비율은 단 2.8%에 그쳤다. 그는 "AI 모델은 일반적으로 서구 중심적인 기본값으로 인해 문화를 획일화하며, 때로는 틀린 이유로 올바른 답을 제시하기도 한다"고 설명했다.</p> <p contents-hash="28011e3e066769d287a733604f36eeca699d4d795f3c88a5d78a82e618fe63ff" dmcf-pid="61EtZTKpvh" dmcf-ptype="general">아로요 연구원은 이 프로젝트가 "아직 표준이거나 광범위한 노력은 아니다"며 "여전히 해결해야 할 매우 큰 간극이 있다"고 말했다. 그러면서 지역 기여자, 연구원, 정부 기관 등 다양한 실무자의 참여가 계속 필요하다고 강조했다.</p> <p contents-hash="a71be290d0b7feec1ca1198a17c39e698a587f440c624d2bc16c62165eb1d966" dmcf-pid="PXAZGlqFvC" dmcf-ptype="general">이날 토론에서는 국내 사례도 공개됐다. 김보령 서울대 박사과정 연구원은 한국어 높임법이 안전성 판단에 미치는 영향을 분석한 결과, 혐오 표현 범주에서 반말로 질문했을 때 안전하지 않은 응답 비율(10.1%)이 존댓말(3.0%)의 3.3배에 달했다고 밝혔다.</p> <p contents-hash="cc030324dc54c32fe018561f3641840bf22f01c2b7c74e3d761f6556335e8cf5" dmcf-pid="QZc5HSB3lI" dmcf-ptype="general">같은 범주에서 영어의 위험한 응답 비율(23.2%)은 한국어 반말(10.1%)보다도 2.3배 높았고, 한국어 존댓말(3.0%)과 비교하면 격차가 7배 이상으로 벌어졌다. 위험도는 영어, 한국어 반말, 한국어 존댓말 순으로 높았다. 대부분의 참여국에서는 영어보다 현지어가 더 위험한 경향을 보였지만, 한국은 혐오 표현 범주에 한해 정반대 양상을 보였다.</p> <p contents-hash="079469a701d0d183424d0a5fb20ec8f774b8356a08c9f8670623a294faf62b61" dmcf-pid="x5k1Xvb0hO" dmcf-ptype="general">김 연구원은 "모델은 동일한 콘텐츠라도 한 언어에서는 안전하지만 다른 언어에서는 안전하지 않을 수 있다"며 "안전성은 한 언어에서 가정할 것이 아니라 각 언어별로 측정돼야 한다"고 말했다.</p> <p contents-hash="e494f2a2902cfd1307bbbcbc0c5b08c6e92f76a5e58ac137b9e54811aacfe543" dmcf-pid="yn7LJPrNCs" dmcf-ptype="general">한편 이날 개회사를 맡은 김명주 한국 안전연구소(AISI) 원장은 "AI가 더욱 강력해짐에 따라 AI 안전과 신뢰, 책임감 있는 관리 보장이 중요해지고 있다"며 "연구소, 정부, 기업은 방법론과 평가 결과를 공유하고 진척도와 한계를 투명하게 검토해야 한다"고 말했다. 이번 포럼은 국내외 AI 안전 전문가와 정부·기업 관계자들이 모여 AI 안전·보안 연구를 공유하고 안전 표준의 기초를 논의하기 위해 마련됐다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 문체부, 최대 규모 '배드민턴 시니어리그' 운영 현황 점검 07-07 다음 “AI 돈값 증명하라”… MS도 4800명 감원 07-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
