셀렉트스타, AI 안전성 검증 기술로 국제 AI학회 메인 트랙 선정 작성일 02-19 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5KGdJL4qCZ"> <figure class="figure_frm origin_fig" contents-hash="e8a1104ebd9aaf8f79d201bb6f5ab5dab6b1822a50236e61c3eb8bf36ab216ab" dmcf-pid="19HJio8BlX" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552796-pzfp7fF/20260219112008640fybo.png" data-org-width="640" dmcf-mid="ZA0jAEd8h5" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552796-pzfp7fF/20260219112008640fybo.png" width="658"></p> </figure> <p contents-hash="20a6d7352ff3eef3fac69325af73adc65a0f4bc02a8797a29810253deec4ffa5" dmcf-pid="t0C48QztTH" dmcf-ptype="general">[디지털데일리 이상일기자] 인공지능(AI) 데이터·신뢰성 평가 전문기업 셀렉트스타(대표 김세엽)가 자체 개발한 AI 안전성 검증 기술로 세계 최고 수준의 학회에서 기술력을 인정받았다.</p> <p contents-hash="b6b605367f73c601905e492e79e04024741b584251227bf8ac53c1c452f0a788" dmcf-pid="Fph86xqFvG" dmcf-ptype="general">셀렉트스타 AI 세이프티(Safety)팀의 연구 논문 ‘CAGE: 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크(Culturally Adaptive Red-Teaming Benchmark Generation)’가 오는 4월 브라질에서 열리는 ‘ICLR 2026’ 메인 컨퍼런스에 채택됐다.</p> <p contents-hash="426ceac0a6b8bb55d910a7ab3e142c8bb9eeb174e0d0b35f2d702f8901b14f42" dmcf-pid="3Ul6PMB3SY" dmcf-ptype="general">ICLR(International Conference on Learning Representations)은 구글 스칼라(Google Scholar) 기준 AI 및 머신러닝 분야에서 영향력 상위권에 속하는 국제 학회로, 올해는 전 세계 1만9000여건의 논문 중 상위 약 28%만이 채택됐다. 셀렉트스타의 논문은 이 중에서도 핵심 세션인 메인 트랙에 선정돼 독창성과 기술적 완성도를 동시에 인정받았다.</p> <p contents-hash="3152fa37ee276b0a7f7cc2642f68a863406e1ef2c750173cf3a17026a83bd09b" dmcf-pid="0uSPQRb0vW" dmcf-ptype="general">이번 연구는 외부 교수진이나 연구기관의 지원 없이 셀렉트스타 내부 연구진이 기획·개발·검증·논문 게재 전 과정을 자체 수행했다는 점에서 의미가 크다.</p> <p contents-hash="45a26beec3d9188694eff3c0c35536cc53f487c4ffe2a59a8042cc3dea194a0c" dmcf-pid="p7vQxeKpyy" dmcf-ptype="general">CAGE는 각국의 문화적·법적 맥락을 반영해 AI의 안전성을 검증할 수 있는 ‘레드티밍(Red-Teaming)’ 데이터를 자동으로 생성하는 프레임워크다. AI가 위험하거나 민감한 질문에 어떻게 대응하는지를 평가하는 시험문항을 언어권별로 자동 생성하는 기술로, 기존의 영어권 데이터 번역 방식보다 훨씬 정교하고 현실적인 안전성 검증이 가능하다.</p> <p contents-hash="ba08bc3b59ca2c1699c0e0d09bc53fdeeda4b4ac80517150785740a3e941b8cb" dmcf-pid="UzTxMd9UTT" dmcf-ptype="general">셀렉트스타 연구팀은 국가별 문화적 특성을 반영하기 위해 ‘시맨틱 몰드(Semantic Mold)’ 개념을 제안했다. 이를 통해 생성된 공격 시나리오는 사람이 직접 작성한 문항에 근접한 자연스러움을 보였으며, 실제 AI 모델의 방어체계를 우회해 잠재된 위험을 탐지하는 데 높은 성공률을 기록했다. 특히 데이터가 부족한 캄보디아어(크메르어) 등 저자원 언어에서도 탁월한 성능을 보였다.</p> <p contents-hash="aa4f04fa49b7d9258488555dbb7d701512ad9ec8fad0aece35202d4245d555e2" dmcf-pid="uqyMRJ2uWv" dmcf-ptype="general">논문에는 CAGE를 한국에 적용한 ‘한국형 AI 안전성 벤치마크 KoRSET(코르셋)’도 함께 공개됐다. KoRSET은 기존 번역형 데이터셋보다 모델의 취약점을 더 정밀하게 찾아내며, 한국 문화에 특화된 안전성 평가 체계를 구현했다.</p> <p contents-hash="8ca7015e622bbc3e50af58ac6abcc9a0dd11c848bed7325c690513e928ebcfbf" dmcf-pid="7BWReiV7CS" dmcf-ptype="general">셀렉트스타는 이번 기술을 이미 산업 현장에 적용하고 있다. CAGE 프레임워크는 대기업 AI 프로젝트의 모델 취약점 점검과 운영 효율 개선에 활용되고 있으며, 금융·공공 등 고신뢰 산업군으로 확장할 계획이다.</p> <p contents-hash="6655cdcd98fd496336dc28eaf9e1830bfcc7298083d37149ffcfe46ea1bd9ad8" dmcf-pid="zBWReiV7vl" dmcf-ptype="general">김민우 셀렉트스타 AI 세이프티 팀장은 “이번 ICLR 채택은 셀렉트스타가 단순한 데이터 구축 회사를 넘어 원천 기술을 보유한 AI 기술 기업으로 자리매김했음을 보여주는 결과”라며 “CAGE 기술은 글로벌 수준의 AI 안전성 기준을 새롭게 제시할 것”이라고 말했다.</p> <p contents-hash="a663f5a6567a1a2d81e9f6ba44fed3ec30363c646060fd08923f92200d9fca2b" dmcf-pid="qbYednfzSh" dmcf-ptype="general">공동저자 임용택 연구원은 “AI 산업은 이제 성능보다 안전성이 핵심 경쟁력”이라며 “현장에서 바로 활용 가능한 안전성 평가 기술로 글로벌 표준 수립에 기여하겠다”고 밝혔다.</p> <p contents-hash="4b85f75d06b875e6308ecf017ac07fca2809df87ac01cee9819b0cc6577ba5ab" dmcf-pid="BKGdJL4qvC" dmcf-ptype="general">한편 셀렉트스타는 이번 연구 결과를 바탕으로 금융, 공공 등 고도의 신뢰성이 요구되는 분야로 솔루션 적용을 확대할 계획이며, 논문은 3월 오픈소스 플랫폼 아카이브(Arxiv)를 통해 공개될 예정이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 ‘미스터리 수사단2’ 정종연 PD “질타 받은 시즌1…야외촬영 많아져” 02-19 다음 린샤오쥔, 밀라노 올림픽 결국 '노메달'…500m도 준준결승 탈락 02-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
