가짜 이미지에 속던 AI, '특수 안경' 쓰고 정답만 골라낸다 [언박싱 연구실] 작성일 04-30 11 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true"><33>단국대 AI융합대학 컴퓨터공학과 김선오 교수팀<br>재학습할 필요 없는 실시간 AI 보호 기술 'MAC' 개발<br>메모리 줄이고 방어력 3배로… 적대적 공격 0.14초 만에 차단<br>의료·보안 현장 즉시 투입 가능한 '철벽 방어' 기술</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZxePQk1yjv"> <div contents-hash="be71de2764be0ddea0e868c5962810165a5143200abc9a87b3d2b4d81b7c525b" dmcf-pid="5MdQxEtWNS" dmcf-ptype="general"> <div data-mce-desctitle="acdesc"> <strong>택배 상자를 열 때의 설렘, 기억하시나요? 대학 연구실에서는 지금 이 순간에도 우리 삶을 바꿀 놀라운 발견들이 쏟아지고 있습니다. 다만 '논문'이라는 두꺼운 포장지에 쌓여있을 뿐이죠. '언박싱 연구실'에서는 복잡한 수식과 이론 대신, 여러분이 알고 싶은 알맹이만 쏙 골라 담겠습니다. 자, 그럼 상자를 열어볼까요? 오늘 언박싱할 주인공은 바로 이 연구입니다.</strong> </div> </div> <figure class="figure_frm origin_fig" contents-hash="121e274cf52fa162f685e1d8177ec59ccfd5c4bbd15c05d541ff78bbc47567e4" dmcf-pid="1RJxMDFYgl" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능 로봇이 '특수 안경'을 쓰고 혼란스러운 가짜 정보들 사이에서 정확한 정답(정지 표지판)만을 명확하게 식별해내는 모습을 시각화했다. 로봇의 내부는 지능적으로 빛나고 있으며, 안경을 통해 걸러진 정보는 선명하고, 차단된 가짜 정보들은 흐릿하고 깨져 보이게 처리하여 '적대적 공격'을 실시간으로 차단하는 기술의 핵심을 표현했다. (그래픽=제미나이 생성)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/30/fnnewsi/20260430055734341nyju.png" data-org-width="800" dmcf-mid="X4odJsUZjT" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/30/fnnewsi/20260430055734341nyju.png" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능 로봇이 '특수 안경'을 쓰고 혼란스러운 가짜 정보들 사이에서 정확한 정답(정지 표지판)만을 명확하게 식별해내는 모습을 시각화했다. 로봇의 내부는 지능적으로 빛나고 있으며, 안경을 통해 걸러진 정보는 선명하고, 차단된 가짜 정보들은 흐릿하고 깨져 보이게 처리하여 '적대적 공격'을 실시간으로 차단하는 기술의 핵심을 표현했다. (그래픽=제미나이 생성) </figcaption> </figure> <div contents-hash="fede8109dc8b89e25d8366a619f76e134029c8412fc7cb585b4f3159249ac2f7" dmcf-pid="tUz0pQsAkh" dmcf-ptype="general"> <br>[파이낸셜뉴스] 단국대 AI융합대학 컴퓨터공학과 김선오 교수팀은 인공지능(AI)을 속이는 '적대적 공격'을 실시간으로 탐지해 수정하는 기술을 개발했다. 이미지를 여러 각도에서 입체적으로 분석해 AI가 스스로 공격 여부를 판단하고 정답을 찾아내도록 함으로써 신뢰도를 높였다. </div> <div contents-hash="949215a1695de8112044b7f22aaa36b9f1efbc7f4c3d5010c1c893c6294723a3" dmcf-pid="FuqpUxOckC" dmcf-ptype="general"> <div data-mce-desctitle="smtitle"> <strong>■입체 분석으로 가짜 걸러내는 AI '안경'</strong> </div> <br>이 기술은 아주 작은 실수가 큰 사고로 이어질 수 있는 자율주행차, 보안 시스템, 병원에서 사진으로 병을 찾아내는 분야에서 AI의 '안전벨트' 역할을 할 것으로 기대된다. 자율주행차가 누군가 일부러 망가뜨린 표지판을 잘못 인식해 사고를 내는 일을 막거나, 의료용 AI가 조작된 사진을 보고 병을 잘못 진단하는 상황을 방지하는 데 즉시 활용될 수 있다. </div> <p contents-hash="733a848551aa94fde42a0deac881a6e8c170cf764a62b640135c7b1b8e90bc77" dmcf-pid="37BUuMIkjI" dmcf-ptype="general">연구팀은 기존 AI 모델이 이미지 한 장만 보고 판단하기 때문에 아주 작은 방해에도 쉽게 속는다는 점을 해결하기 위해 'MAC'이라는 새로운 방법을 고안했다. 먼저 AI에게 이미지를 보여줄 때 사람의 눈에는 보이지 않는 미세한 변화를 준 여러 장의 복사본을 동시에 만든다. 그 후 각각의 복사본이 얼마나 가짜에 오염되었는지 측정해, 공격의 영향이 큰 부분은 더 강력하게 고치고 영향이 적은 부분은 자연스럽게 유지하는 '맞춤형 복구' 과정을 거친다. </p> <div contents-hash="8b2aaf574e0dc3d38ca90ccf84bf5d4c94cf5fa07d01375ea57d9238d61a92c9" dmcf-pid="0zbu7RCEAO" dmcf-ptype="general"> <div data-mce-desctitle="smtitle"> <strong>■방어력 3배 높인 초경량 '가성비 방패'</strong> </div> <br>이번에 개발된 MAC 기술의 성능은 총 20개의 방대한 자료를 통해 검증됐다. 인공지능을 속이려는 강력한 공격이 있을 때 기존 기술을 쓰면 AI의 정답률이 26.3%까지 뚝 떨어졌지만, MAC 기술을 쓰자 80.6%라는 높은 정확도를 유지했다. 기존의 가장 우수한 방어 모델과 비교해도 방어 능력이 최대 30.6%p나 높아진 결과다. </div> <p contents-hash="d4d875e4c1600c3eabeff44c933e105f58bbc05a7a5119028ab909838e9113d8" dmcf-pid="pqK7zehDks" dmcf-ptype="general">성능은 강력해졌지만 컴퓨터에 주는 부담은 오히려 가벼워졌다. 기존 기술들이 컴퓨터 기억 공간(메모리)을 많이 차지해서 무겁게 돌아갔던 것과 달리, 이 기술은 아주 적은 용량(0.27GB)만으로도 충분히 작동한다. </p> <div contents-hash="53f740cdf2fda8f2bf858c523d7ca4fb1e7b181764394b03a1037c23585abf72" dmcf-pid="UB9zqdlwAm" dmcf-ptype="general"> <div data-mce-desctitle="smtitle"> <strong>■0.14초면 끝, 자율주행 지키는 안전벨트</strong> </div> <br>이미지 한 장을 처리해 공격을 걸러내는 데 걸리는 시간 또한 0.14초에 불과해, 1초를 다투는 자율주행차나 실시간 보안 시스템에 바로 설치해 사용해도 손색없는 수준임을 숫자로 입증했다. </div> <p contents-hash="de05af896644ac64b90269e213ac7cb74f1f7ddf90df412665c33716445ab50c" dmcf-pid="ub2qBJSrcr" dmcf-ptype="general">이번 연구는 따로 복잡한 재학습 과정을 거치지 않고도 AI의 보안 성능을 획기적으로 높였다는 점에서 '가성비'와 '효율성'을 모두 잡은 기술로 평가받는다. 마치 똑똑한 학생에게 따로 공부를 더 시키지 않아도, 나쁜 의도로 왜곡된 시험 문제를 스스로 걸러낼 수 있는 '특수 안경'을 씌워준 것과 같다.</p> <p contents-hash="5fd8ff633ff22adfb01714c3b0d062a8cad0a74be8a60515d87913761d060bd6" dmcf-pid="7KVBbivmcw" dmcf-ptype="general">monarch@fnnews.com 김만기 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 “아빠 나 연애해” 박남정 딸 박시우, 유희동 꽃 받고 눈물→현커 탄생(내새연2) 04-30 다음 ‘PQC’ 뭐길래… 블록체인 업계, 도입 분주 [코인 양자컴 리스크 ④] 04-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
