인공지능 생성 얼굴을 가려내는 6가지 기준 작성일 11-17 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">곽노필의 미래창<br> 대칭·비례·매력 좋지만 표정·개성·기억 낮아<br> 훈련 뒤 정답 맞히는 비율 40→80% 껑충</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HY2zxqZvOJ"> <figure class="figure_frm origin_fig" contents-hash="d7217db559961c2547c9087b7a550101124844a12094ab57ac1cc307c2280d88" dmcf-pid="XGVqMB5TOd" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능 생성 얼굴과 실제 사람 얼굴을 판별하는 6가지 기준으로 훈련한 결과, 판별 정확도가 2배로 높아졌다. 사진은 실험에 쓰인 이미지의 일부다. PNAS" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/hani/20261117093710194jdth.jpg" data-org-width="800" dmcf-mid="WDHv0TDgrL" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/hani/20261117093710194jdth.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능 생성 얼굴과 실제 사람 얼굴을 판별하는 6가지 기준으로 훈련한 결과, 판별 정확도가 2배로 높아졌다. 사진은 실험에 쓰인 이미지의 일부다. PNAS </figcaption> </figure> <p contents-hash="c95a273adfa88f24de6b6eaf2013b2e16d5a3695aecef3ff63d6dd0d406fd7f7" dmcf-pid="ZHfBRb1ywe" dmcf-ptype="general"> 얼마 전까지만 해도 인공지능(AI)은 사람의 얼굴 특징을 학습하는 데 매진해야 했다. 방대한 얼굴 사진 자료 속에서 사람의 얼굴 특징을 찾아내기 위해서다. 이제는 입장이 정반대가 됐다. 인공지능이 만들어낸 얼굴을 사람이 가려내야 하는 처지가 됐다.</p> <p contents-hash="328064f7ba4a15d3c2b6a5903737b195cdd66f1c2317df61db3a56b4f4e02817" dmcf-pid="5X4beKtWDR" dmcf-ptype="general">그 사이에 인공지능의 기술이 너무나 발전해서 아무리 눈썰미 좋은 사람이라도 실제 사람 얼굴 사진과 인공지능이 만든 이미지를 구분하기 어려워졌기 때문이다. 지난 7월 국제학술지 ‘저널 오브 비전’에 발표된 연구에 따르면 실험 참가자들은 실제 사람 얼굴보다 인공지능 생성 얼굴에 더 믿음이 간다는 반응을 보일 정도다. 실제 사람 사진과 구별하기 어려운 점을 악용한 범죄에 대한 우려가 높아질 수밖에 없는 이유다.</p> <p contents-hash="434d971540b4cb36f5956e26b4c4963a9cba4ef16c22be2e5b7c4df3a1598b2c" dmcf-pid="1tQVnfpXmM" dmcf-ptype="general">오스트레일리아국립대가 중심이 된 국제연구진이 인공지능이 만든 얼굴을 가려낼 수 있는 훈련 방법을 개발해 미국립과학원회보(PNAS)에 발표했다.</p> <p contents-hash="beb30ebd6424e45bb2415685a53b94b9433bc646226f80ea1b21b18a48e03f51" dmcf-pid="tFxfL4UZIx" dmcf-ptype="general">이전엔 '틀린 그림 찾기'와 비슷한 방식으로 인공지능 생성 얼굴을 가려내는 방법이 많이 쓰였다. 짝짝이 귀걸이, 어색한 귀, 눈동자가 둘인 눈처럼 얼굴 사진에서 ‘결함’을 찾아내는 식이다. 하지만 연구진이 살펴본 기존 연구들에서는 이 방법이 효과가 없거나 정답률이 약간 오르는 데 그쳤다. </p> <figure class="figure_frm origin_fig" contents-hash="5927581b089c2b9decb259a3fa40ebd336e4bd28b611008b388b9b44ba31125f" dmcf-pid="F3M4o8u5EQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="출처=PNAS" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/hani/20261117093711430bolr.jpg" data-org-width="800" dmcf-mid="YUDNhjMVDn" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/hani/20261117093711430bolr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 출처=PNAS </figcaption> </figure> <p contents-hash="fbb10051a1ebdcfc2d26a4b973447b7ad1fc0848d2aeb2173cb4e0d5d752cf5c" dmcf-pid="30R8g671OP" dmcf-ptype="general"><strong> ‘결함 찾기’ 대신 ‘전체 인상’ 특징 판별</strong></p> <p contents-hash="19428bf9d49d538942dd484a745e26af3b150de91ad0c9333f0627785651b707" dmcf-pid="0pe6aPztr6" dmcf-ptype="general">연구진은 판별의 중심축을 ‘부분적인 결함’에서 ‘전체 인상’을 살펴보는 쪽으로 옮겼다. 이는 인공지능 이미지 생성기의 작동 방식에 착안한 것이다. 현재의 인공지능 이미지 생성기는 수많은 사진으로 구성된 자료집을 기반으로 학습한다. 얼굴을 생성하라는 요청을 받으면 특정 얼굴을 복사하는 것이 아니라 훈련한 얼굴들 사이에 공유되는 특징을 기반으로 얼굴을 구성한다. 일종의 통계적 평균, 즉 전형적인 얼굴을 찾아내는 셈이다.</p> <p contents-hash="726f84b704446961a12d59f38c936b3e3f65530d153d1a0a6370541ac2e2a618" dmcf-pid="pUdPNQqFr8" dmcf-ptype="general">연구진은 대학생 45명을 실험 참가자로 모집했다. 이어 이들에게 인공지능 생성 얼굴과 실제 사람 얼굴이 주는 전체적인 인상의 차이 6가지에 주목하도록 주문했다.</p> <p contents-hash="f0744a9a61301d3cec5bb5866a3a023466e874e014eea58c12ce132e2bf87924" dmcf-pid="UuJQjxB3O4" dmcf-ptype="general">연구진이 제시한 여섯가지는 대칭성(Symmetry), 비례성(Proportionality), 매력도(Attractiveness), 독특성(Distinctiveness), 표정(Expressiveness), 기억 용이성(Memorability)이었다. 연구진은 그러나 각 특성별로 둘 사이에 무슨 차이가 있는지 제시하지는 않고, 참가자들이 스스로 알아내도록 했다. 실험 참가자들은 ‘AI’ 또는 '사람'이라고 표시된 얼굴을 보며 여섯 항목을 평가했다.</p> <p contents-hash="374253fd4a71e4c0aa60a9019f34cf13bb9bfd4c3bab7c9b037dc424a17c4fda" dmcf-pid="u7ixAMb0mf" dmcf-ptype="general">참가자들이 매긴 평점에서 드러난 인공지능 생성 얼굴의 특징은 대칭성과 비례성, 매력도는 더 뛰어나고 표정과 독특성, 기억 용이성은 떨어졌다. 다시 말해 인공지능 얼굴은 이목구비의 균형은 매우 잘 잡혀 있으나, 개성이 부족해 주변에서 흔하게 볼 수 있는 인상이었다. 또 얼굴 표정이 단조롭고, 얼굴 각 부위의 특징도 밋밋해서 기억하기가 상대적으로 어려웠다.</p> <p contents-hash="9023f69fe3623250a24cfca12607a3d25d9487caa620a654250e2368c031cacf" dmcf-pid="7znMcRKpsV" dmcf-ptype="general">훈련 효과는 뚜렷하게 나타났다. 얼굴 이미지 3장 중 인공지능이 생성한 것을 고르는 과제에서 평균 정답률은 41.4%에서 81.1%로 두배 올랐다. 얼굴을 하나씩 보고 인공지능이 생성한 것인지 판단하는 과제에서는 진짜 얼굴(51.6→78.0%)과 인공지능 얼굴(47.1→80.6%) 모두 정답률이 올랐다. 연구진은 온라인을 통해 다른 나라 사람들을 대상으로 훈련했을 때도 비슷한 효과가 나타나는 걸 확인했다고 밝혔다.</p> <figure class="figure_frm origin_fig" contents-hash="dd2f8a313f3d3acb0507d53d6209e5bb5f577519bb6e2722ae82ad58a4ff8b49" dmcf-pid="zqLRke9UD2" dmcf-ptype="figure"> <p class="link_figure"><img alt="생성적 적대신경망 기반의 스타일갠3(StyleGAN3)으로 얼굴을 합성하는 과정을 보여주는 그림. 오스트레일리아국립대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/hani/20261117093712672wnkg.jpg" data-org-width="800" dmcf-mid="GqixAMb0si" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/hani/20261117093712672wnkg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 생성적 적대신경망 기반의 스타일갠3(StyleGAN3)으로 얼굴을 합성하는 과정을 보여주는 그림. 오스트레일리아국립대 제공 </figcaption> </figure> <p contents-hash="44f767d3705ec189b3d1042b6d728b1485ddbede0b1406031267c827d0110bad" dmcf-pid="qBoeEd2uD9" dmcf-ptype="general"><strong> 응답 속도 빨라지고 정답 확신도 높아져</strong></p> <p contents-hash="e6c018554fd26a62f6650e367f922ef0f4863c422418b9691f9911982f27a4bb" dmcf-pid="BbgdDJV7IK" dmcf-ptype="general">연구에 참여한 캐나다 빅토리아대 제임스 다나카 교수는 “놀라웠던 점은 실험 참가자들의 훈련 시간이 한 시간을 밑돌았는데도 판별 능력이 아주 빠르게 좋아졌다는 것”이라고 말했다. 연구진의 일원인 영국 애버딘대의 클레어 서덜랜드 박사는 “선천적으로 얼굴을 잘 알아보는 사람들이 인공지능 얼굴을 더 잘 구별한다는 사실도 발견했다”고 말했다.</p> <p contents-hash="ba8b644932207b5087a37f1289f279f10d8af0a884a94c33641cc1936091cc9d" dmcf-pid="bKaJwifzmb" dmcf-ptype="general">훈련 후 응답 속도도 빨라졌다. 연구진은 전체 인상을 한눈에 읽는 방식으로 바뀐 영향으로 해석했다. ‘내가 아는지 모르는지를 아는 능력’을 뜻하는 메타인지 능력도 좋아졌다. 하나의 얼굴을 알아맞히는 과제의 경우, 훈련 전에는 맞힌 문제와 틀린 문제에 대한 자신감이 거의 같았다(1.77 대 1.80, 3점 만점)으나, 훈련 뒤에는 맞힌 문제(2.19점)가 틀린 문제(1.89점)보다 뚜렷이 높았다.</p> <p contents-hash="ef7ce1248d72df56a3ec8f0cac00925df78c2edd532a798114065c16a98124f8" dmcf-pid="K9Nirn4qEB" dmcf-ptype="general">연구에 참여하지 않은 영국 랭커스터대 소피 나이팅게일 선임강사는 사이언티픽아메리칸에 “얼굴 전체 인상 훈련이 이렇게 큰 효과를 낳았다는 점이 특히 흥미롭다”고 말했다.</p> <p contents-hash="ab53587a585918893ce3df55db46c3276ca4f21b24f9ca9ad7ee606349a6e12a" dmcf-pid="92jnmL8BDq" dmcf-ptype="general">실험에 쓴 인공지능 얼굴은 생성적 적대신경망 기반의 스타일갠3(StyleGAN3)으로 만들었다. 연구를 이끈 에이미 다웰 오스트레일리아국립대 교수는 “스타일갠이 만든 가장 그럴듯한 가짜 얼굴을 식별하는 데 이 훈련이 효과적이라는 사실이 입증됐다”며 “다른 인공지능 모델이 생성한 얼굴에도 이 훈련 방법이 통할 수 있는지 알아볼 예정”이라고 말했다. 또 훈련 효과는 얼마나 오래가는지, 오디오나 영상 딥페이크에도 적용되는지도 추가 연구를 통해 알아볼 계획이다.</p> <p contents-hash="c2f9f33a13555e2238ed8f21f1a780bae2a22a5f16f91d1c4a1f4a0dde6733a2" dmcf-pid="2wtGzHOcOz" dmcf-ptype="general">*논문 정보</p> <p contents-hash="be02e2ca3250369ea16a91c71b9a7e83c22156f143f782ec9a4df96baa355db1" dmcf-pid="VrFHqXIkm7" dmcf-ptype="general">Training humans to detect AI-generated faces.</p> <p contents-hash="43aa28e61b020bf4132b4cb2a1419433a6d2ee65738194db593c251a998e7dce" dmcf-pid="fm3XBZCEDu" dmcf-ptype="general">https://doi.org/10.1073/pnas.2602122123</p> <p contents-hash="0bee8b50e27218f0388534169c1db0462a5f55fac9f33a3724ed80d63a41c729" dmcf-pid="4s0Zb5hDEU" dmcf-ptype="general">곽노필 선임기자 nopil@hani.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p> 관련자료 이전 게임 세액공제 '7부 능선' 넘을까…재경위 조세소위 논의 앞둬 11-17 다음 미국 캘리포니아주, 오픈AI 제소…"AI 통제 실패·사이버 공격 유발" 11-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.