AI 안전성, 문제로 점검···셀렉트스타, AI·머신러닝 최상위 학회 ‘ICLR 2026’ 메인 트랙 논문 채택 작성일 02-19 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">각 나라 문화·법적 맥락 반영해 <br>AI 안전성 검증 문제 자동 생성</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PfM4jlAiyI"> <figure class="figure_frm origin_fig" contents-hash="ba06b911312f2afe1fe04ad73d8197873f57ca7f4ab442ec469aa6aa554ea15e" dmcf-pid="Q4R8AScnvO" dmcf-ptype="figure"> <p class="link_figure"><img alt="셀렉트스타 로고." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/mk/20260219091504575zeiv.jpg" data-org-width="700" dmcf-mid="64ut8g6bWC" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/mk/20260219091504575zeiv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 셀렉트스타 로고. </figcaption> </figure> <div contents-hash="0681b048c692795be35496108e7f9bd33e2f6bf5563846dc62abc9a85e7a68b7" dmcf-pid="x8e6cvkLWs" dmcf-ptype="general"> 인공지능(AI) 데이터・신뢰성 평가 전문기업 셀렉트스타는 자체 개발한 인공지능(AI) 안전성 검증 기술을 담은 연구논문 ‘CAGE: A Framework for Culturally Adaptive Red-Teaming Benchmark Generation(문화 맞춤형 레드티밍 벤치마크 생성 프레임워크)’이 오는 4월 브라질에서 열리는 AI·머신러닝 부문 학회인 ‘ICLR 2026’의 메인 컨퍼런스에 채택됐다고 19일 밝혔다. </div> <p contents-hash="87eba67ad8a92229752bee345583202c0685bb67b7d97a217f05d543eae09d78" dmcf-pid="ycskGzHlSm" dmcf-ptype="general">ICLR은 AI 분야에서 가장 영향력 있는 국제 학회 중 하나로, 구글 스칼라 기준 AI 및 머신러닝 분야 최상위권 학회로 꼽힌다. 올해는 1만9000여 건의 논문 중 상위 약 28%만이 채택됐다. 특히 셀렉트스타의 논문은 가장 중요하게 다뤄지는 메인 트랙에 선정되며 독창성과 기술적 완성도를 세계적으로 인정받았다.</p> <p contents-hash="393b02791e6921cd8902a223b0c2c900d9180a7f3d1cf52fdb738ddf25aad98e" dmcf-pid="WkOEHqXSyr" dmcf-ptype="general">이번 연구는 기획부터 구현, 검증, 논문 게재까지 외부 교수진이나 연구기관의 도움 없이 셀렉트스타 내부 인력만으로 이뤄낸 성과라는 점에서 더욱 의미가 크다.</p> <p contents-hash="fcc9526454f16a4344705d316a129ea37623fc7a898613c3fe799862430f2d3c" dmcf-pid="YEIDXBZvTw" dmcf-ptype="general">이번 논문의 핵심 기술은 각 나라의 문화와 법적 맥락을 반영해 AI의 안전성을 검증하는 레드티밍(Red-Teaming) 데이터를 자동으로 생성하는 프레임워크다. AI가 위험한 질문을 받았을 때 안전하게 대응하는지 점검하는 시험문제를 언어・문화권별 자동 생성하는 기술이다.</p> <p contents-hash="aabe671dda7c1921f2afe5eb0fe56b7b7872734fb22e192295648cc9440dc2bd" dmcf-pid="GDCwZb5TTD" dmcf-ptype="general">기존의 AI 안전성 검증은 주로 영미권에서 개발된 데이터셋을 단순 직역 및 의역해 사용하는 방식이었다. 이 경우 각 나라에서 실제로 나올 법한 위험 상황을 충분히 반영하지 못해 AI의 약점을 놓칠 수 있다.</p> <p contents-hash="53061709292975519963757f9e1da850805b51f6538ba53587f59e7bad2c7f96" dmcf-pid="Hwhr5K1yvE" dmcf-ptype="general">셀렉트스타 연구팀은 이를 해결하기 위해 ‘시맨틱 몰드(Semantic Mold)’라는 개념을 제안, 국가의 문화적 특성을 반영한 현지화된 공격 질문을 생성했다. 그 결과 CAGE를 통해 생성된 공격 시나리오는 사람이 직접 만든 것과 유사한 수준의 자연스러움을 보였으며, AI 모델의 방어율을 뚫고 잠재된 위험을 찾아내는 ‘공격 성공률’ 측면에서도 탁월한 성과를 보였다.</p> <p contents-hash="56c18a6b99eb0daaa116c7dbcb09259dd6b9ea7ba71db3f94ce6f7e3908ff3f0" dmcf-pid="Xrlm19tWhk" dmcf-ptype="general">실제로 CAGE는 캄보디아어(크메르어) 등 데이터가 부족한 언어권에서도 뛰어난 성능을 보였다.</p> <p contents-hash="fab73b22c4e78b195182a0bb3401b549bb66a78fe9dda6d0d54bef134a4765ee" dmcf-pid="ZmSst2FYTc" dmcf-ptype="general">논문에는 CAGE을 한국 상황에 적용해 만든 한국형 안전성 벤치마크 ‘KoRSET(코르셋)’을 함께 공개됐다. KoRSET은 기존의 단순 번역으로 만들어진 데이터셋보다 AI 모델의 취약점을 훨씬 더 효과적으로 찾아내며, 한국 문화 기반 안정성 검증에 최적화된 성능을 입증했다.</p> <p contents-hash="3095b7848ae741472f8a44720e66f2bc49529203a35624515d2af063ec3718af" dmcf-pid="5svOFV3GyA" dmcf-ptype="general">CAGE 기술은 단순한 학술적 성과를 넘어 이미 산업 현장에 적용되고 있다. 현재 셀렉트스타가 협업하고 있는 대기업 AI 프로젝트에 해당 기술이 적용되어 모델의 취약점 점검 및 운영 효율 개선에 기여하고 있다.</p> <p contents-hash="549ed918cc8f58b2bdb6e261cfaf0372127ef3afaaa71ac384f55f6b243b7b6a" dmcf-pid="1OTI3f0HCj" dmcf-ptype="general">논문의 교신저자인 김민우 셀렉트스타 AI 세이프티(Safety) 팀장은 “이번 ICLR 채택은 셀렉트스타가 단순 데이터 구축 기업을 넘어, 독보적인 원천 기술을 보유한 AI 기술 기업임을 입증한 사례”라며 “CAGE 기술은 이미 대기업의 AI 프로젝트에 적용되어 모델의 취약점 점검과 운영 효율 개선에 활용되고 있다”고 말했다.</p> <p contents-hash="1495f7fd980fce222a2ff88e98fcd5e48588ab4b7455860b5c6c12e811660cc8" dmcf-pid="tIyC04pXlN" dmcf-ptype="general">한편, 셀렉트스타는 이번 연구 성과를 바탕으로 금융, 공공 등 고도의 안전성이 요구되는 다양한 산업군으로 신뢰성 평가 솔루션을 확장할 계획이다. 논문은 오는 3월 오픈소스 플랫폼 아카이브(Arxiv)를 통해 공개될 예정이다.</p> <p contents-hash="8dc04696eb6184336c010902dbd33edabfff99a0244995b245528a72e84a3e03" dmcf-pid="FCWhp8UZla" dmcf-ptype="general">셀렉트스타는 최근 과학기술정보통신부가 주관하는 ‘독자 AI 파운데이션 모델’ 프로젝트에서 1차 평가를 통과한 SK텔레콤 컨소시엄에 참여하고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 2000년대 PC방 장악한 '리니지·디아블로2'…다시 인기 점화 02-19 다음 "시상대서 국가 부를 것" 린샤오쥔, 올림픽 무관…"반품하자" 악플 02-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
