"AI 허점 찾아낸다"…네이버 논문, 세계 3대 학회 '상위 2.2%' 작성일 07-13 11 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">팀네이버 'ICML 2026' 참가<br>LLM 취약점 점검 연구 '호평'</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fb96yzUZyu"> <figure class="figure_frm origin_fig" contents-hash="dd11a870925c754135543e8a80a8b24872d6473b5c0bbdc4f8ba39af4edd018c" dmcf-pid="47qVlpFYWU" dmcf-ptype="figure"> <p class="link_figure"><img alt="팀네이버 관계자가 국제 머신러닝 학회 'ICML 2026'에서 해외 인공지능(AI) 연구자에게 팀네이버의 AI 경쟁력을 소개하고 있다. 사진=네이버클라우드 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/13/ked/20260713104238541bqoc.jpg" data-org-width="1200" dmcf-mid="VsCyerEoC7" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/13/ked/20260713104238541bqoc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 팀네이버 관계자가 국제 머신러닝 학회 'ICML 2026'에서 해외 인공지능(AI) 연구자에게 팀네이버의 AI 경쟁력을 소개하고 있다. 사진=네이버클라우드 제공 </figcaption> </figure> <p contents-hash="4aecf2c8db9899dacd64dccd30bfbdf1175df552a9cd293aa05ce79b21878a46" dmcf-pid="8zBfSU3GSp" dmcf-ptype="general">팀네이버가 대형언어모델(LLM)의 취약점을 찾아내는 인공지능(AI) 안전성 연구로 세계 3대 AI 학회에서 상위 2.2%에 드는 평가를 받아냈다. 모델 안전성을 높이는 기술부터 여러 AI가 협업하는 순서를 설계하는 에이전트 기술, 현실 공간을 가상으로 재현한 피지컬 AI 플랫폼까지 연구 범위를 넓힌 성과다.</p> <p contents-hash="38419c15ab10c751391d658f10db6ef2a885e5b12968b2921cb5c72c12714fcb" dmcf-pid="6qb4vu0Hl0" dmcf-ptype="general">팀네이버는 13일 국제 머신러닝 학회 'ICML 2026'에 참가해 논문 6건과 실서비스 적용 사례를 공개했다고 밝혔다. 이번 학회는 지난 6일부터 11일까지 서울 코엑스에서 열렸다. ICML은 신경정보처리시스템학회(NeurIPS)·국제표현학습학회(ICLR)와 함께 세계 3대 AI·머신러닝 학회로 꼽힌다. 올해 처음으로 한국에서 열렸다.</p> <p contents-hash="cc26e76fd5e46bbc5d4874e7c9220e8e8185ba76724263f721a4e60922825fa1" dmcf-pid="PBK8T7pXT3" dmcf-ptype="general">가장 높은 평가를 받은 연구는 LLM의 공격 취약점을 점검하는 '스테이블 지플로우넷'이다. 공격자의 관점에서 AI 모델이 위험한 답변을 내놓도록 유도하는 다양한 시나리오를 찾아내는 레드티밍 기술을 말한다.</p> <p contents-hash="1bd91f1ce37eefa15531d6ab5f92bc96bb235adfa9bc88090ff8dc182ace6a63" dmcf-pid="Qb96yzUZWF" dmcf-ptype="general">기존 레드티밍 방식은 학습 과정이 불안정하거나 비슷한 공격 패턴을 반복적으로 생성하는 한계가 있었다. 팀네이버는 이를 구조적으로 개선해 실제 서비스에 AI 모델을 적용하기 전 더 다양하고 강력한 방식으로 취약점을 검증할 수 있도록 했다. 이 논문은 전체 채택 논문 가운데 상위 약 2.2%에 해당하는 '스포트라이트'에 선정됐다.</p> <p contents-hash="ecd7c474552aa50e032ed76b96c37cb98bb91cb4b7629fb9ad79637d6d96c901" dmcf-pid="xK2PWqu5Ct" dmcf-ptype="general">AI 모델과 에이전트를 효율적으로 운영하는 연구도 공개됐다. '시머지'는 서로 다른 작업에 특화된 여러 모델을 하나로 합치는 기술이다. 전체 구조를 복잡하게 손보는 대신 하나의 레이어만 조정하는 방식으로 모델 간 시너지를 끌어냈다. 비전과 자연어처리 분야의 여러 벤치마크에서 최고 수준의 성능을 기록했다는 설명이다.</p> <p contents-hash="c34e950c142c2323f1e2ab0ed25f000e92a3ecbfb58a40307fb81ee2db5843f0" dmcf-pid="ymOvMDcny1" dmcf-ptype="general">'플로우봇'은 여러 AI가 함께 문제를 풀 때 작업 순서를 사람이 일일이 설계하지 않아도 스스로 최적의 흐름을 찾도록 하는 기술이다. AI 에이전트가 어떤 도구를 먼저 활용하고 다음 단계로 무엇을 수행할지 자동으로 결정하는 '하네스 엔지니어링' 연구에 해당한다.</p> <p contents-hash="95b1165fb3649eba2d76ce3e3143267a789aa99d041b1fe96c8bd850c278c81f" dmcf-pid="WsITRwkLW5" dmcf-ptype="general">수백, 수천개의 데이터셋을 특성에 따라 나눠 학습한 뒤 한 차례 병합만으로 LLM의 후공정 성능을 끌어올리는 기술도 소개됐다. 여러 데이터가 충돌하면서 모델 성능이 저하되는 문제를 줄이고 학습·운영 비용을 낮추는 데 초점을 맞췄다.</p> <p contents-hash="b650ecd06ab69fa75ebf0ac5e89575ac8a044be83910b9bb1d5e558fd45c8f09" dmcf-pid="Yuz2h0tWyZ" dmcf-ptype="general">현실 공간을 이해하는 피지컬 AI 연구도 주요 축으로 다뤄졌다. 팀네이버는 흔들리거나 초점이 흐린 단일 카메라 영상만으로 움직이는 3차원 장면을 복원하는 기술을 발표했다. 기존 기술이 물체의 움직임과 형태 정보를 제대로 분리하지 못했던 것과 달리 운동 궤적을 토대로 형태를 추정해 복원 정확도를 높였다.</p> <p contents-hash="1fb0ec1c5af0be7a54e2a103c646d6ccff2ae4123186dfb9b2dbe1d743c3fb71" dmcf-pid="G7qVlpFYyX" dmcf-ptype="general">서울 전역을 가상으로 구현한 '서울 월드 모델'도 선보였다. 네이버·네이버랩스, 한국과학기술원(KAIST), 서울대가 공동 개발한 모델이다. 서울의 공간 데이터를 시뮬레이션해 로봇이 실제 공간에 투입되기 전 이동 경로와 행동을 학습할 수 있도록 설계됐다.</p> <p contents-hash="81c98a5df0c989d41857d7f2631afc44183ed88781614b1d0f9fc92152ceabe4" dmcf-pid="HzBfSU3GyH" dmcf-ptype="general">팀네이버가 이번 학회를 통해 개별 모델 성능을 높이는 데 그치지 않고 연구 결과를 검색·로봇 등 실제 서비스와 산업 현장에 연결하는 'AI 풀스택' 역량을 강조했다. AI 모델을 만드는 기술뿐 아니라 안전하게 검증하고 효율화한 다음 현실 세계에 적용하는 기술 경쟁을 본격화하고 있다는 관측이다. </p> <p contents-hash="3015baccd6dcc52ccf74fe05561a6357072650a2767847a3fb8d29508ca729dc" dmcf-pid="Xqb4vu0HWG" dmcf-ptype="general">김대영 한경닷컴 기자 kdy@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 제헌절 연휴에도 달린다...광명스피돔 경륜 17일(금) 정상 운영 07-13 다음 일본 언론사들 “기후변화 대응 요구는 다수(89%)의 목소리” 07-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
