“AI가 검증했는데도 오류”…의료 교육자료, 결국 전문가 손 거쳐야 작성일 08-25 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">서울아산병원, 플래시카드 6000개·인포그래픽 833개 분석<br>AI 검증 통과 자료서도 1.0% 오류…허용 기준 0.3% 넘어</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5tiJZLZvgM"> <p contents-hash="765c445b56de2f88056614eeae202ffa4d4d159a2b4dd7723ed0816b8a83ec65" dmcf-pid="1Fni5o5Tjx" dmcf-ptype="general">생성형 인공지능(AI)이 만든 의료 교육자료를 자동 검증했더라도 전문가가 다시 확인해야 한다는 연구 결과가 나왔다.</p> <p contents-hash="ebe70b93253bfe409a46f23ce870fb3f17995940b462f4d37ef4578a5dee3a63" dmcf-pid="t3Ln1g1yaQ" dmcf-ptype="general">AI 검증을 통과한 자료에서도 미리 정한 안전 기준을 웃도는 오류가 발견됐다.</p> <figure class="figure_frm origin_fig" contents-hash="643a5a504c9df853b5c40eec6bb27975dd66f2f9c64791a78d48fd14b854c092" dmcf-pid="F0oLtatWkP" dmcf-ptype="figure"> <p class="link_figure"><img alt="생성형 AI를 활용해 제작한 의학 교육자료에서 오류가 발견돼 전문가의 최종 감수가 필요하다는 사실이 확인됐다. 게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/25/segye/20260825100509789tmli.jpg" data-org-width="1200" dmcf-mid="XRmrKOKpAe" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/25/segye/20260825100509789tmli.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 생성형 AI를 활용해 제작한 의학 교육자료에서 오류가 발견돼 전문가의 최종 감수가 필요하다는 사실이 확인됐다. 게티이미지뱅크 </figcaption> </figure> <div contents-hash="9b274216ea2334cf71a08f41ddd786909c64d3c52c0f4d5c228486332298b501" dmcf-pid="3pgoFNFYa6" dmcf-ptype="general"> 서울아산병원 융합의학과 김남국 교수·남유진 연구원과 삼성창원병원 영상의학과 홍파 교수 연구팀은 생성형 AI 기반 교육 콘텐츠 제작 시스템을 개발하고 의료진 평가를 통해 오류 여부를 분석한 연구 결과를 최근 발표했다. </div> <p contents-hash="fa5e07f5df600435c081ece0a7f144c1b15e0b035b4b45ea63aabc251ecb3381" dmcf-pid="0Uag3j3Gg8" dmcf-ptype="general">연구팀은 6단계로 구성된 생성형 AI 기반 교육 콘텐츠 제작 시스템을 활용해 영상의학 전문의 시험 대비 플래시카드 6000개와 인포그래픽 833개를 제작했다.</p> <p contents-hash="cb762fec9f87ce68dc5029a5584d2bd64e9821f180a6883664e8543e6ae84a65" dmcf-pid="puNa0A0Hk4" dmcf-ptype="general">연구팀은 의료 교육자료의 안전한 활용을 위해 다른 의료 분야의 오류 기준 등을 참고해 허용 가능한 오류 비율을 0.3% 이하로 설정했다. 1000개의 자료 가운데 중대한 오류가 3개 미만이어야 한다는 의미다.</p> <p contents-hash="03bf4e336e35309d31bdc62aa956b8e30cb0ec0a59c8c4a816e18612e4e03a90" dmcf-pid="U7jNpcpXNf" dmcf-ptype="general">이후 제작된 플래시카드 가운데 1284개를 대상으로 영상의학 전공의 9명과 전문의 11명 등 의료진 20명이 사실 정확성, 교육적 적절성, 오류 여부 등을 직접 평가했다.</p> <p contents-hash="34290ed649adfab8db4aa02ee6cf5567c6efa810369c7777115218d47333c0f5" dmcf-pid="uzAjUkUZaV" dmcf-ptype="general">그 결과 AI 자동 검증을 1차로 통과한 자료에서도 약 1.0%의 오류가 발견됐다. 연구팀이 설정한 안전 기준인 0.3%를 웃도는 수준이다.</p> <div contents-hash="83e586f38be0d65e650bdb98d0978ecbd4fc7099ff2a14f388dc82d88cc5b75f" dmcf-pid="7qcAuEu5k2" dmcf-ptype="general"> 또 AI가 제시한 피드백을 평가자에게 함께 제공했을 때 의료진은 더 많은 오류를 발견하고 교육 품질도 더욱 엄격하게 평가하는 경향을 보였다. <br> </div> <figure class="figure_frm origin_fig" contents-hash="d738778fb3b7bb67898e740065f069b6c9749d970f6e3432d9e29f45fadc591b" dmcf-pid="zFni5o5Tj9" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능(AI) 활용 영상의학 교육콘텐츠 생성과정. 서울아산병원" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/25/segye/20260825100510003xzzo.jpg" data-org-width="1200" dmcf-mid="ZV5ZntnQjR" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/25/segye/20260825100510003xzzo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능(AI) 활용 영상의학 교육콘텐츠 생성과정. 서울아산병원 </figcaption> </figure> <div contents-hash="2631624a9839ce215df092a4498a1e2784eb7f1159e70eb068d44dac35e6cf20" dmcf-pid="q3Ln1g1ygK" dmcf-ptype="general"> 연구팀은 의료진이 자신의 전문지식과 AI의 판단이 다를 경우 AI의 결과를 그대로 받아들이기보다 비판적으로 재검토하면서 오류 탐지 능력이 높아진 것으로 분석했다. </div> <p contents-hash="e475b263d370a2512cd93d05b06d4ee63d9f9dbcb030b0326fea7eed4c17920f" dmcf-pid="B0oLtatWNb" dmcf-ptype="general">이번 연구는 생성형 AI가 의료 교육자료를 대량으로 제작할 수 있다는 가능성을 보여주는 동시에, 자료 생성과 배포를 모두 자동화하기보다 전문가가 마지막으로 내용을 확인하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 방식이 필요하다는 점을 제시했다.</p> <p contents-hash="0c45e3ad997b498fc6163ba5b1070eb964ad6e43ed5cc0c9c94cc34ac70d1089" dmcf-pid="bpgoFNFYkB" dmcf-ptype="general">김남국 서울아산병원 융합의학과 교수는 “생성형 AI를 실제 교육 현장에서 안전하게 활용하기 위해서는 전문가의 검증이 반드시 필요하다는 점을 대규모 연구를 통해 입증했다”며 “자동 검증이 놓치는 오류를 체계적으로 관리하고 안전 기준을 마련하는 연구를 지속할 필요가 있다”고 말했다.</p> <p contents-hash="66914d2ceb59c15dd73dc3922a94758658b3ba39f9effd13ee118b2edfe4612b" dmcf-pid="KUag3j3Gaq" dmcf-ptype="general">남유진 서울아산병원 융합의학과 연구원은 “생성형 AI가 의료영상 교육자료를 대량으로 제작할 수 있다는 가능성을 확인한 동시에, 생성형 AI가 만든 학습자료를 그대로 사용하기보다 어느 단계에서 어떤 오류가 생기는지 체계적으로 분석하고 걸러내는 과정이 중요하다는 점을 보여줬다”고 말했다.</p> <p contents-hash="98e22b6eb29ff40cc4a044fca7c9f21074c30fea9bb76396846fc3e8eb2912e4" dmcf-pid="9uNa0A0Hgz" dmcf-ptype="general">연구 결과는 국제학술지 ‘네이처 파트너 저널 디지털 메디신(npj Digital Medicine)’에 최근 게재됐다.</p> <p contents-hash="7e9e163d01d50f2f50f0b76f22b690562a3ba003a08973577a222f82a24b5ff4" dmcf-pid="27jNpcpXj7" dmcf-ptype="general">이승구 온라인뉴스 기자 hibou5124@segye.com</p> </section> </div> <p class="" data-translation="true">Copyright © 세계일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 머스크 “AI 데이터센터 우주로”…첫 위성 2027년 말 띄운다 08-25 다음 정지궤도 환경·해양위성 ‘천리안 6호’, 2033년 발사된다 08-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
