“제 논문, 없던걸로 해주세요”…AI가짜문헌에 오염돼 속속 철회 작성일 11-18 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KISTI 논문서 허위문헌 11건 발견<br>해외논문 가짜인용 비율 10배늘어<br>AI 환각에 학술 신뢰성 근간 ‘흔들’</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xlDY0ARfyT"> <figure class="figure_frm origin_fig" contents-hash="dfb7712f2a22172aeb9f5080c7363d78b54cca49e1db7512c069daa712a8b6e9" dmcf-pid="y8qRNUYCWv" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 생성 문제로 철회된 연구 논문. 연합 AI 플랫폼 생성 이미지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/18/mk/20261118060315905ilyk.png" data-org-width="500" dmcf-mid="QnUPLFvmly" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/18/mk/20261118060315905ilyk.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI 생성 문제로 철회된 연구 논문. 연합 AI 플랫폼 생성 이미지. </figcaption> </figure> <div contents-hash="b08168137ce1a7f3d457d09830dc1b9c91a5370e3ed7d399bac596b7ac58aa89" dmcf-pid="W6BejuGhTS" dmcf-ptype="general"> 인공지능(AI)이 만들어낸 가짜 참고문헌을 인용한 국내외 학술논문이 잇따라 철회되고 있다. 생성형 AI 활용이 연구 현장에서 빠르게 확산하고 있지만 허위 인용을 사전에 걸러낼 검증 시스템은 미흡한 실정이다. </div> <p contents-hash="3b1a37aa967745f0fd34d3b3b34d47de3637dc9aab703ec1326dd9448f6966e6" dmcf-pid="Yx9ikqZvCl" dmcf-ptype="general">17일 과학기술계에 따르면 한국과학기술정보연구원(KISTI) 연구진이 국제 학술지 ‘기술 예측과 사회 변화’에 지난 6월 게재한 논문에서 허위 참고문헌 11건이 발견돼 논문이 최근 철회됐다.</p> <p contents-hash="70838c603e7b79b9ac79506c96642bd09495467aa478094a5a9bf7c1218360e9" dmcf-pid="GM2nEB5TSh" dmcf-ptype="general">강원대와 세종대 연구진이 지난해 12월 국제 학술지 ‘사이언티픽리포트’에 게재한 가짜뉴스 탐지 관련 논문도 올해 철회됐다. 학술지 측은 관련성이 떨어지거나 잘못 인용된 참고문헌이 다수 발견됐다고 밝혔다. 한양대와 극지연구소 등이 공동으로 발표한 금강·섬진강 유기탄소 관련 논문도 연구와 무관한 참고문헌이 발견돼 지난해 11월 철회됐다.</p> <p contents-hash="f257928da7565822c69f1b5bebbbfe5ec460858cd776a6cb2aa592181d6270c0" dmcf-pid="HRVLDb1ySC" dmcf-ptype="general">해외에서도 허위 참고문헌이 급증하고 있다. 미국 컬럼비아대 연구진이 국제 학술지 ‘랜싯’에 발표한 연구에 따르면 의학·생명과학 분야에서 허위 참고문헌이 포함된 논문의 비율은 2023년 2828편당 1편에서 올해 초 277편당 1편으로 10배 이상 높아졌다. AI 석학인 조경현 뉴욕대 교수도 지난해 말 세계 최고 권위의 AI 학회인 뉴립스(NeurIPS)에 채택된 공저 논문이 AI가 생성한 가짜 참고문헌을 인용한 것으로 확인돼 공개 사과하기도 했다.</p> <p contents-hash="a0608f26d7f8368b51519768310fc4b8937c208d42ede9184dd84ef45ce2eca8" dmcf-pid="XefowKtWTI" dmcf-ptype="general">문제의 원인으로는 생성형 AI가 존재하지 않는 논문에 그럴듯한 제목과 저자 등을 붙여 참고문헌으로 제시하는 ‘환각’ 현상이 꼽힌다. 연구자가 이를 제대로 확인하지 않으면 허위 정보가 학술지 심사까지 통과할 수 있다.</p> <p contents-hash="575e9af7acfbdf3fa54b7479daba767dbba05bcea681a72febc8c78aebce04ce" dmcf-pid="Zd4gr9FYWO" dmcf-ptype="general">실제 KISTI 연구진은 AI를 활용해 문헌을 검색하는 과정에서 잘못된 참고문헌을 확보했고, 내부 검증과 학술지 심사에서 이를 걸러내지 못했다. 논문이 공개된 뒤 외부 연구자들의 문제 제기로 오류가 드러났다.</p> <p contents-hash="884be93bafc43678fb2c2b3765be6425544366dee8ea5b1515474b62825296ae" dmcf-pid="5J8am23Gvs" dmcf-ptype="general">KISTI 관계자는 “참고문헌을 일괄적으로 사전 검증하는 시스템이 없어 연구자와 학술지 출판사가 개별적으로 확인해야 하는 상황”이라며 “고의성이 없는 실수로 판단해 별도 제재 없이 내부적으로 사례를 공유했다”고 밝혔다.</p> <p contents-hash="c386623ea3c83315bd6be199c0bf9a9c4e7b982af750dc0be43372ad8e5323c0" dmcf-pid="1i6NsV0Hhm" dmcf-ptype="general">정부 대응도 사전 검증 시스템보다는 연구자 책임과 사후 제재에 초점이 맞춰져 있다. 과학기술정보통신부는 지난 9월 AI 연구윤리 가이드를 발표하고 AI가 생성한 정보의 진위를 연구자가 직접 확인하도록 했다.</p> <p contents-hash="1644e0206772d559c93a595ac5006bcc587f1d826665ae14246ce2aef3d313be" dmcf-pid="tnPjOfpXCr" dmcf-ptype="general">과기정통부 관계자는 “국가 연구개발(R&D) 성과와 관련해 연구부정행위가 인정되면 국가 R&D 참여 제한이나 연구비 환수 등의 제재가 가능하다”면서도 “국가 R&D 성과와 무관한 학술논문은 소속 연구기관과 학술지 등이 자율적으로 검증해야 한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 AI 투자는 공격적으로, 반도체 조달비는 관리… 달라진 빅테크 셈법, HBM 가격 협상력 시험대 11-18 다음 [단독] 개인정보위 조사관, 절반만 관련 자격증 보유 11-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.