AI 학습 의료 데이터, 사이버 공격에 전방위 취약 [지금은 과학] 작성일 06-26 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">관련 논문 네이처에 발표</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VRvMkdcnhq"> <p contents-hash="6ae1f7c3176edfbeb6d5905e086ec32b42447b6aa564a100d37585ca9b49774c" dmcf-pid="feTREJkLvz" dmcf-ptype="general">[아이뉴스24 정종오 기자] 의료 인공지능(AI) 모델 학습에 사용되는 데이터의 소유자인 개인들이 사이버 공격을 당했을 때 신원이 노출될 위험이 있다는 연구 결과(논문명: Disparate privacy risks from medical AI)가 25일 네이처에 실렸다.</p> <p contents-hash="cbf5497762225eb11b3941fafb41499c0b3d277799319bf158c86a4a212f2404" dmcf-pid="4dyeDiEoy7" dmcf-ptype="general">소수 집단은 데이터 유출 위험에 불균형적으로 더 많이 노출될 수 있다고 연구팀은 지적했다. 독일 뮌헨공대 등 연구팀은 개인 정보 보호 위험에 초점을 맞춰 의료 AI 모델을 시험했다.</p> <p contents-hash="dc38762b9c4af531690d469022bfa2287bc4f2cfea84714515ea95bc8c7040fc" dmcf-pid="8JWdwnDgvu" dmcf-ptype="general">연구팀은 의료영상, 심전도, 전자 건강 기록 등 실제 임상 데이터로 구성된 7개의 대규모 데이터 세트를 사용했다. 데이터 제공자 중 가장 취약한 환자를 파악했다.</p> <figure class="figure_frm origin_fig" contents-hash="176ceed63e3e1e660727f276919fb5f434213cfefc47e4274d37b986605ec0cd" dmcf-pid="6iYJrLwaTU" dmcf-ptype="figure"> <p class="link_figure"><img alt="의료 인공지능 모델 학습에 사용되는 데이터의 소유자인 개인이 사이버 공격을 당했을 때 신원이 노출될 위험이 있다는 연구 결과가 나왔다. [사진=GEMINI]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/26/inews24/20260626100832708plkl.jpg" data-org-width="580" dmcf-mid="2Nj7xBQ9TB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/26/inews24/20260626100832708plkl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 의료 인공지능 모델 학습에 사용되는 데이터의 소유자인 개인이 사이버 공격을 당했을 때 신원이 노출될 위험이 있다는 연구 결과가 나왔다. [사진=GEMINI] </figcaption> </figure> <p contents-hash="2dd8d8f68a27b3e9200cd97d0b1da12d1357d51f19cd981cca02a57eebfd9b0e" dmcf-pid="PnGimorNSp" dmcf-ptype="general">그 결과 개인 수준에서는 의료 AI 공격(Membership Inference Attack, MIA)의 표적이 된 환자들이 거의 오류 없이 성공적으로 공격당했음을 확인했다. 집단 수준에서는 희귀질환 환자, 소수 인종 집단, 사회경제적 지위에 속한 사람, 드문 성별을 가진 사람들이 데이터 세트에서 과소 대표되는 집단으로 확인됐다.</p> <p contents-hash="af903ef800ad28bcd8a591d76531b78b5e075587e209724575aa8aa35cc4dfc7" dmcf-pid="QLHnsgmjh0" dmcf-ptype="general">MIA는 특정 개인의 데이터가 AI 모델의 학습에 사용됐는지를 역추적해내는 기법을 말한다. 의료 데이터의 특성상 학습 참여 여부 자체가 특정 환자의 병력이나 민감한 건강 상태의 유출로 직결된다.</p> <p contents-hash="b8a881cc962efe5e86eb993cbcf767faac72868ac63c8d71f0dfd041e122d57d" dmcf-pid="xCKI1l5TT3" dmcf-ptype="general">AI 모델이 인코딩하는 데이터가 특수할수록(양성 종양이나 고밀도 유방 조직 이미지 등) 이런 집단과 개인은 개인정보 침해 공격에 더 취약하고 불균형적으로 노출되는 것으로 나타났다.</p> <p contents-hash="15bdafbbb2539c5fdda4127abb216ce9436a3b551f5cdfcf7b51b96174cca055" dmcf-pid="yfmVL8nQSF" dmcf-ptype="general">연구팀은 의료 AI 공격의 성공률이 모델의 용량과 규모에 비례해 증가한다는 사실도 발견했다. 일부 모델은 거의 완벽한 공격 성공률을 보였다.</p> <p contents-hash="3bea7473d0667d9f64fc83ded765d2b1a78b15e7bb2c995d515ec95c41f8aae6" dmcf-pid="W4sfo6LxSt" dmcf-ptype="general">연구팀은 MIA와 같은 개인정보 침해 공격이 현재 생각보다 훨씬 효과적으로 개인을 표적으로 삼을 수 있음을 보여준다고 강조했다. 개인정보 위험의 차이가 기존의 의료 불평등을 심화시켜 소수 집단이 AI 시스템에 대한 신뢰를 잃게 할 수 있다고 경고했다.</p> <p contents-hash="1901d085052d1fb00bc3f1a0c4ccab8caef22a8b9dc67afc757535989b23e2f2" dmcf-pid="Y8O4gPoMh1" dmcf-ptype="general">박한우 영남대 디지털융합비즈니스대학원 교수는 “이번 연구는 MIA를 통해 AI 모델만 접근할 수 있어도 특정 환자의 데이터가 학습에 사용되었는지를 높은 정확도로 추론할 수 있다”며 “특히 희귀질환자나 소수 집단처럼 데이터가 적은 보건 약자일수록 이러한 위험이 더 커질 수 있음을 실증적으로 보여줬다”고 평가했다.</p> <p contents-hash="e2f11be7b928dd2bb3aca4cd720b39da395d46ebcaa9fb26fdd9d6a4a526e972" dmcf-pid="G6I8aQgRS5" dmcf-ptype="general">이는 현재 우리나라에서 논의 중인 디지털헬스법에서 가명정보 활용을 확대하려는 정책에도 중요한 시사점을 제공한다고 설명했다. 박 교수는 “이번 연구가 의료 데이터 활용을 위축시키거나 가명 정보 활용을 제한해야 한다는 주장으로 해석하는 것은 바람직하지 않다”며 “의료AI 산업은 양질의 데이터가 축적되고 공유될 때 발전할 수 있는데 과도한 규제는 오히려 혁신을 저해할 가능성이 있다”고 지적했다.</p> <p contents-hash="e14adb1b8683793428605f09d72eec3693c5a1cb30aeb0cf0a08c81b8425c62b" dmcf-pid="HPC6NxaeTZ" dmcf-ptype="general">가명정보를 사용할 것인가 말 것인가의 문제가 아니라 어떻게 안전하게 활용할 것인가에 초점을 맞춰야 한다는 거다.</p> <p contents-hash="3290db17a525eb91eefa0364afe86002115decb3544d55679f46d68bd576708b" dmcf-pid="XQhPjMNdlX" dmcf-ptype="general">박 교수는 “위험 기반(risk-based) 접근으로 의료정보 정책에 대한 고민이 필요하다”며 “희귀 질환 데이터나 소수 집단처럼 재식별 가능성이 큰 경우에는 더 강화된 보호조치를 적용하고, 상대적으로 위험이 낮은 경우에는 데이터 활용을 적극적으로 지원하는 차등적 거버넌스가 중요하다”고 진단했다</p> <p contents-hash="07356ce76c3555ba0c7be315822f22f5f17f7d09a405a3af5a62cef4d299ade5" dmcf-pid="ZxlQARjJyH" dmcf-ptype="general">김남국 울산의대·서울아산병원 융합의학과 교수는 “이번 연구에서 핵심이 된 MIA는 특정 개인의 데이터가 AI 모델의 학습에 사용됐는지를 역추적해내는 기법”이라며 “의료 데이터의 특성상 학습 참여 여부 자체가 특정 환자의 병력이나 민감한 건강 상태의 유출로 직결되기에 치명적”이라고 설명했다.</p> <p contents-hash="1bfd353377344425ff6935d3fef4f14b404d5b6aac4d7f7a92bed1ac1adcdbc4" dmcf-pid="5MSxceAiyG" dmcf-ptype="general">김 교수는 “이번 연구는 현재 대형언어모델(LLM) 등의 학습 과 추론(Inference) 과정에서 나타나는 기술적 한계, 안전장치(Guiderail) 부재, 보안 우회(Bypass) 기술의 발전과 맞물려 시사하는 바가 있다”며 “희귀 질환 등의 취약한 소수 집단의 위험성이 높은 만큼 이 연구는 다양한 데이터 주입 공격이나 모델 추출 공격 등 더욱 다양한 형태의 고도화된 공격 기법(Attack methods)으로 확장해 검증할 필요가 있다”고 덧붙였다.</p> <address contents-hash="7a0e67da8ef25f3cc0924a36f89f056a6459231cb45daca6326525f975d55bdf" dmcf-pid="1po08u4qhY" dmcf-ptype="general">/정종오 기자<a href="mailto:ikokid@inews24.com" target="_blank">(ikokid@inews24.com)</a> </address> </section> </div> <p class="" data-translation="true">Copyright © 아이뉴스24. 무단전재 및 재배포 금지.</p> 관련자료 이전 딥노이드, 생성형 AI 의료기기 'M4CXR' 식약처 품목허가 06-26 다음 [단독] 삼성, 신규 반도체 공장 광주 첨단3지구로… SK는 전남 장성·해외 놓고 저울질 06-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
