쿤텍-ETRI, 온디바이스 AI 핵심정보 보호 위한 모델 난독화·데이터 흐름 분석 기술 개발 작성일 09-07 17 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">- MLIR Pass 기반 AI 모델 난독화로 모델 구조·파라미터 등 핵심 구현정보 보호 <br>- 오염 분석 기반 데이터 흐름 분석으로 AI 추론 관련 보호 대상 코드 자동 식별 <br>- 온디바이스 AI 모델 구현정보 은닉 기술 관련 특허 2건 출원</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YSk6L1mjmU"> <p contents-hash="cf2dfcda3347cedead5436509ca750ec0ac86e74d65464da3623e8365995a8f1" dmcf-pid="GvEPotsAwp" dmcf-ptype="general">IoT·임베디드 보안 전문기업 쿤텍(대표 방혁준)이 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행 중인 'On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발' 과제의 2차년도 연구를 통해 AI 모델 난독화 기술과 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술을 개발하고 있다고 밝혔다.</p> <p contents-hash="cae4817d677ea3e628f2bf82ed1769a51e7603461e2d5921596be659a9556f3b" dmcf-pid="HTDQgFOcI0" dmcf-ptype="general">이번 과제는 한국전자통신연구원(ETRI)을 주관기관으로 여러 연구기관이 공동 수행하고 있다. 쿤텍은 온디바이스 환경에서 AI 모델과 추론 프로그램의 핵심 구현정보가 외부 분석을 통해 노출되는 것을 방지하기 위한 기술 개발을 담당하고 있다.</p> <p contents-hash="f0249cc44681d1a6f2eec2cddd106ac9dcd886c1d4d8ec7d4968e95929062fbf" dmcf-pid="Xywxa3IkD3" dmcf-ptype="general">온디바이스 AI는 스마트폰, IoT 기기, 차량, 산업용 단말 등 기기 내부에서 직접 AI 연산을 수행하는 기술이다. 빠른 응답성과 데이터 프라이버시 측면에서 장점이 있지만, AI 모델과 응용 프로그램이 단말에 직접 배포되는 만큼 공격자가 이를 확보할 경우 모델 구조와 데이터 처리 과정 등이 노출될 수 있다는 보안 위협이 존재한다.</p> <p contents-hash="809dac834ab3f2c047badd987bd372dc29a9815f1a2cd988e898435048b708d7" dmcf-pid="ZWrMN0CEIF" dmcf-ptype="general">쿤텍은 이에 대응하기 위해 AI 모델 자체를 보호하는 난독화 기술과 AI 관련 보호 대상 코드를 식별하는 오염 분석(Taint Analysis) 기술을 개발하고 있다.</p> <p contents-hash="41b45b62eab7dea6bbd363261fd6f223c0be976c276feade87189a4b6b747ff2" dmcf-pid="5Sk6L1mjDt" dmcf-ptype="general">AI 모델 난독화 기술은 온디바이스에 사용되는 AI 모델을 MLIR(Multi-Level Intermediate Representation) 형태로 변환한 뒤 다양한 난독화 기능을 Pass 단위로 적용하는 방식이다. 주요 기술은 △연산자 식별정보를 변경하는 비식별화(Renaming) △가중치(Weight), 편향(Bias) 등의 파라미터를 분리·은닉하는 매개변수 캡슐화(Parameter Encapsulation) △텐서 형상을 변형하는 신경 구조 난독화(Neural Structure Obfuscation) △가짜 연결 및 노드를 삽입하는 그래프 구조 난독화(Graph Structure Obfuscation) 등이다.</p> <p contents-hash="f629e321249249226ef12f8e8e0a047be5f45f8615ecbfd8d6d7f1bdc65fd079" dmcf-pid="1vEPotsAs1" dmcf-ptype="general">이를 통해 모델 파일에 노출되는 연산자 종류와 파라미터, 텐서 형상, 그래프 연결 관계 등을 변형해 외부 분석자가 실제 모델 구조를 파악하기 어렵게 한다. 별도의 실행정보를 활용해 난독화된 모델에서도 기존 연산이 정상적으로 수행되도록 함으로써 모델 구조를 은닉하면서 추론 기능을 유지하는 것을 목표로 한다.</p> <p contents-hash="79d0ec5b9c45361274393c5a203f5429ed0b813d73dd73cc04ece79d5d7ba52f" dmcf-pid="tTDQgFOcI5" dmcf-ptype="general">특히 쿤텍은 난독화 기능을 MLIR Pass 단위로 구성해 모델 특성과 보호 요구사항에 따라 선택적으로 조합할 수 있도록 했다. 런타임 수정은 최소화하면서 별도의 실행정보를 통해 난독화 연산과 실제 연산을 연결해 호환성과 확장성을 높였다.<br></p> <figure class="figure_frm origin_fig" contents-hash="5fd05bc530ffe090eb5f29a842fcf95c431ad2a7230e7eebabc95eb9cde42167" dmcf-pid="Fywxa3IksZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="MLIR Pass 기반 AI 모델 난독화 적용 구조 예시(사진 제공=쿤텍)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/etimesi/20260907173009281epnh.jpg" data-org-width="700" dmcf-mid="ylPFKme4I7" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/etimesi/20260907173009281epnh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> MLIR Pass 기반 AI 모델 난독화 적용 구조 예시(사진 제공=쿤텍) </figcaption> </figure> <p contents-hash="40dbbd20735e611eec0d631a6c383c7202bcd14bc7747d6019fa5c1c2a0b685a" dmcf-pid="3WrMN0CEmX" dmcf-ptype="general">두 번째 핵심 기술은 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석이다. AI 응용 프로그램에는 모델 호출뿐만 아니라 전처리·후처리·파일 처리 등 다양한 코드가 포함돼 있어 실제 AI 추론과 관련된 부분을 정확하게 식별하는 과정이 필요하다.</p> <p contents-hash="52bbaf24c2b75f55226b06037e462a4f76c0d5ab80f5ab0e9387b33b5e2d28fc" dmcf-pid="0YmRjphDwH" dmcf-ptype="general">쿤텍은 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환하고 TFLite API를 기준점으로 데이터가 변수와 포인터, 함수 호출 등을 통해 전달되는 과정을 추적하는 기술을 구현하고 있다. 이를 통해 함수 이름과 같은 단순 패턴이 아닌 실제 데이터 의존관계를 기반으로 AI 추론에 관여하는 코드를 자동으로 식별할 수 있다.<br></p> <figure class="figure_frm origin_fig" contents-hash="8397515f9efd6807dc739ca2002948948e28eef544ab848e06deacdab747d588" dmcf-pid="pGseAUlwIG" dmcf-ptype="figure"> <p class="link_figure"><img alt="오염 분석 기반 AI 보호 대상 코드 식별 과정(사진 제공=쿤텍)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/etimesi/20260907173010553exrl.jpg" data-org-width="700" dmcf-mid="W2RUfCnQmu" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/etimesi/20260907173010553exrl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오염 분석 기반 AI 보호 대상 코드 식별 과정(사진 제공=쿤텍) </figcaption> </figure> <p contents-hash="c33b361b145c4f6778f99781df84a6495b1e4b608614f830c8d2de5da1b1cb2f" dmcf-pid="UHOdcuSrEY" dmcf-ptype="general">향후 쿤텍은 오염 분석을 통해 식별한 보호 대상과 난독화 기술을 연계할 계획이다. 이를 통해 리소스가 제한적인 온디바이스 환경에서도 프로그램 전체가 아닌 실제 AI 추론과 직접 관련된 핵심 코드와 정보를 선별적으로 보호할 수 있도록 기술을 고도화한다.</p> <p contents-hash="e32caa7bd61254d039bdfc9a06c1c4b1b4a6116e0439ac14ab07200ef0194891" dmcf-pid="uXIJk7vmEW" dmcf-ptype="general">이와 함께 연구 과정에서 확보한 모델 난독화 기술의 지식재산권 보호를 위해 '인공지능 모델의 구현 정보를 은닉하는 방법 및 이를 수행하는 컴퓨팅 장치'와 '오염 분석 기반 인공지능 추론 코드의 보호 대상 자동 식별 방법 및 시스템'에 대한 특허 출원을 완료했다.</p> <p contents-hash="d789d9e499ac5badf729caa07ed1efbc1090dff6db319e8d97bd9d851584d892" dmcf-pid="7ZCiEzTswy" dmcf-ptype="general">해당 기술은 중간 표현 단계에서 연산 식별정보와 파라미터, 텐서 구조, 그래프 연결 관계 등을 변형·은닉해 모델 파일의 정적 분석과 구조 복원을 어렵게 한다. 또 응용 프로그램 내 AI 관련 API의 데이터 흐름을 추적해 보호 대상 코드를 식별하고 해당 부분에 난독화를 적용할 수 있도록 한다.</p> <p contents-hash="ecc7ca4a2623669de0e4c3eed77bba11115fab6b8136aa06ff085174e6fcac29" dmcf-pid="z5hnDqyOOT" dmcf-ptype="general">방혁준 쿤텍 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐만 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”며 “AI 모델 난독화 기술과 데이터 흐름 기반 보호 대상 식별 기술을 함께 고도화해 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보해 나갈 것”이라고 말했다.</p> <p contents-hash="f7976b5e4814e4d1956c43a7eb4bf3e82083703113f8c9a129e64276b35590a5" dmcf-pid="q1lLwBWImv" dmcf-ptype="general">임민지 기자 minzi56@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 수학자들이 만든 퍼즐! The Artisan of Glimmith 개발한 Lunarch Studios 09-07 다음 AI영화 시사회 찾은 하정우 부위원장 “창작자·AI사업자 윈-윈 해법 찾아야” 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
