“이 표는 예시입니다”… 논문에 남은 챗봇 흔적 걸리면 1년 퇴출 작성일 05-21 18 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">아카이브 ‘AI 슬롭’ 논문 제재</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Hz5BpQB31j"> <figure class="figure_frm origin_fig" contents-hash="e15639764d73d417abd71741d63ab95a70c4ab705aa115f15761385de76a0efe" dmcf-pid="Xq1bUxb0YN" dmcf-ptype="figure"> <p class="link_figure"><img alt="세계 최대 사전 출판 논문 저장소인 아카이브가 'AI슬롭' 논문에 대응하기 위한 제재 방안을 발표했다./제미나이 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/21/chosun/20260521092618627qpzu.jpg" data-org-width="2816" dmcf-mid="G5YU1fUZGA" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/21/chosun/20260521092618627qpzu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 세계 최대 사전 출판 논문 저장소인 아카이브가 'AI슬롭' 논문에 대응하기 위한 제재 방안을 발표했다./제미나이 생성 이미지 </figcaption> </figure> <p contents-hash="9602b13d5bac54817f10e46e9b94c70d9673b86481fd3e478bf34545ed178893" dmcf-pid="ZBtKuMKpHa" dmcf-ptype="general">세계 최대 사전 출판 논문 저장소인 아카이브(arXiv)가 인공지능(AI)으로 무분별하게 양산된 저품질 논문에 대해 1년간 투고를 금지하는 ‘원스트라이크’ 제재를 도입했다.</p> <p contents-hash="715171d8d5526f2164b667c86426e9af873ea416afeb2734729682ee9a7d41a1" dmcf-pid="5bF97R9UGg" dmcf-ptype="general">테크크런치 등 외신에 따르면, 아카이브는 최근 이 같은 내용의 강화된 제재 방침을 발표했다. 1991년 설립된 아카이브는 컴퓨터과학·수학·물리학 등 분야에서 동료 심사를 거치기 전 연구 결과를 공유하는 플랫폼으로, 전 세계 과학계의 연구 동향을 가장 빠르게 파악할 수 있는 창구로 꼽힌다. 누적 게재 논문은 약 300만 편에 이른다.</p> <p contents-hash="01db5573eb1435178f85860982daf6db38a7822366c489212e754a394fe94357" dmcf-pid="1K32ze2uXo" dmcf-ptype="general">이번 제재는 저자가 AI로 생성된 결과물을 검증하지 않았다는 ‘명백한 증거’가 발견되면 단 한 번 적발만으로도 1년간 투고를 금지한다는 내용을 담고 있다. 이후 다시 투고하려면 동료 심사를 거치는 공인 학술지에 먼저 게재돼야 한다. 명백한 증거의 대표적 사례는 실제 존재하지 않는 가짜 인용 문헌, 그리고 챗GPT 등 챗봇이 남긴 메타 코멘트, 그리고 미처 지우지 않은 예시용 데이터와 그에 딸린 지시문 등이다. “이 표는 예시이니 실험 데이터로 채워 넣으세요”, “200단어 요약입니다, 수정할까요?” 같은 챗봇 안내 문구가 논문에 그대로 남아 있는 경우를 예로 들었다. 이런 내용을 발표한 아카이브 컴퓨터과학 분야 의장인 토머스 디터리히(Thomas Dietterich) 오리건주립대 석좌교수는 “제출된 논문에 저자가 LLM 생성물을 검증하지 않았다는 명백한 증거가 단 하나라도 포함돼 있다면, 우리는 해당 논문의 어떤 내용도 신뢰할 수 없다”고 밝혔다. 그러면서 “콘텐츠가 어떤 방식으로 생성됐든 연구의 책임은 전적으로 저자에게 있다”고 강조했다.</p> <p contents-hash="cd22aa542bd6e9626bf2df239bffe74c8433ac71683889be9ef7a5eb648aec46" dmcf-pid="t90VqdV7ZL" dmcf-ptype="general">최근 학계에서도 ‘AI슬롭(slop·오물)’이 문제로 대두되고 있다. AI 슬롭은 AI로 대량 생산된 저품질 디지털 콘텐츠를 가리키는 표현으로, AI를 활용한 저품질 논문 투고도 대거 늘어난 것이다. 실제 아카이브 역시 챗GPT 등장 후 논문 투고량이 폭증했다. 2023년 5월 처음으로 월 2만건(2만92건)을 돌파한 뒤, 지난 3월에는 월 3만45건으로 처음 3만건을 넘어섰다. 전문 자원봉사 심사위원으로는 이 같은 물량을 감당하기 어려워지자, 원래 코넬대 산하에서 운영되던 것을 오는 7월 독립 비영리 법인으로 전환하기로 했다.전환하기로다.</p> <p contents-hash="8c123584d4380e7c5f793d03d73e5a1a885b693b1fdda7ce69edf732f8c2542c" dmcf-pid="F2pfBJfz1n" dmcf-ptype="general">주요 학술지와 기관들은 AI 활용 검증을 위한 수단을 도입하고 있다. 스프링거 네이처(Springer Nature)는 AI 챗봇이 존재하지 않는 가짜 논문을 지어내 인용하는 ‘환각 인용’을 막기 위해 부적절 인용 탐지기를 도입했다. 동시에 페이퍼밀(paper mill·논문 공장)이 대량으로 찍어낸 허위 논문이나 AI가 생성한 무의미한 텍스트를 잡아내는 데 특화된 자체 개발 도구 ‘제페토(Geppetto)’도 운영 중이다. 제페토는 논문을 섹션별로 나눠 각 부분이 AI로 생성됐을 확률을 점수화하는 방식으로, 도입 수개월 만에 수백 건의 가짜 논문을 출판 전 단계에서 적발한 것으로 알려졌다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 장성규 집안 경사났다…똑똑한 조카 자랑하며 감격 "가문의 영광" 05-21 다음 '태도 논란' 양상국, "여친 매일 데려다준다..웃기고 싶어 무리수" 해명(옥문아) 05-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
