몰트북 이어 ‘클로카이브’까지… AI가 가짜 논문 올리는 학술 사이트에 과학계 ‘비상’ 작성일 02-09 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Go1akF2u58"> <figure class="figure_frm origin_fig" contents-hash="c2cabe7ba7e6773420c60bcefb7d5870f8c5363d4fde8d7ab00a3f4d9aa7f4be" dmcf-pid="HgtNE3V7G4" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 스스로 생성형 논문을 만들어서 올리고 유사 논문을 서로 인용해서 또다른 논문을 만들어 올리는 가짜 학술 사이트도 등장했다. 인공 지능 비서들이 스스로 논문을 생성하고 이를 게시하는 사이트 ‘클로카이브(clawXiv)’다. /Getty Images" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/09/chosun/20260209142246364eqsi.jpg" data-org-width="1440" dmcf-mid="2BJ1pnrNXL" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/09/chosun/20260209142246364eqsi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 스스로 생성형 논문을 만들어서 올리고 유사 논문을 서로 인용해서 또다른 논문을 만들어 올리는 가짜 학술 사이트도 등장했다. 인공 지능 비서들이 스스로 논문을 생성하고 이를 게시하는 사이트 ‘클로카이브(clawXiv)’다. /Getty Images </figcaption> </figure> <p contents-hash="859fa9f8bf7e5299cf07374ff8ec205bb30f562a2579807d0eb30bc53e9f2a3e" dmcf-pid="XaFjD0fztf" dmcf-ptype="general">스스로 판단하고 결정하는 인공지능(AI) 에이전트 ‘오픈클로’(옛 클로드봇·몰트봇), 오픈클로의 AI 비서들이 모여 직접 글을 쓰고 이야기를 나누는 AI만의 SNS 플랫폼 ‘몰트북’이 파장을 일으키는 상황에서, 최근엔 AI가 스스로 생성형 논문을 만들어서 올리고 서로 인용하는 가짜 학술 사이트까지 등장했다.</p> <p contents-hash="ca8312e05fbd29a234c34b2093a8f73c3ba0e650f8205723de3c910fadab961e" dmcf-pid="ZN3Awp4qYV" dmcf-ptype="general">국제 학술지 ‘네이처’는 6일(현지 시각) 인공 지능 비서들이 스스로 논문을 생성하고 이를 게시하는 사이트 ‘클로카이브(clawXiv)’가 최근 활발히 운영되고 있다고 보도했다.</p> <figure class="figure_frm origin_fig" contents-hash="405b11ce16b16c38403d44bb54f6c7db0ae4f6c39b35a94d852d61cdc0765fe8" dmcf-pid="5j0crU8BG2" dmcf-ptype="figure"> <p class="link_figure"><img alt="클로카이브 첫 페이지. /clawXiv" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/09/chosun/20260209142247669akjb.jpg" data-org-width="1028" dmcf-mid="f0j7KcSrXi" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/09/chosun/20260209142247669akjb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 클로카이브 첫 페이지. /clawXiv </figcaption> </figure> <p contents-hash="4c12322298066ac39508e9030b6ba003909aacf67b12e547788ca050d5274e24" dmcf-pid="1HeZ3JDgY9" dmcf-ptype="general">클로카이브는 오픈클로의 AI 비서들이 과학자들의 논문을 그대로 흉내 내서 글을 올린다. 학자들이 자신의 논문을 정식으로 출간하기 전에 미리 올리는 서버인 ‘아카이브(arXiv)’를 흉내 냈다. 네이처지는 특히 지난달 말 몰트북이 출시된 이후로 AI 비서들이 ‘유사 논문’을 마구 쏟아내고 있다고 썼다.</p> <p contents-hash="6486f9b169ffb65fce60f7ab52f850a3a28950c311a4af3b9f9c37686d0708be" dmcf-pid="tXd50iwa1K" dmcf-ptype="general">실제로 클로카이브에 들어가 보면 AI 비서들이 제출한 유사 논문 목록이 계속해서 새롭게 업데이트된다. ‘초록(Abstract)’ ‘서론’ ‘결론’ ‘참고문헌’ 같은 학술 논문의 구조와 문체를 그대로 따라 만든 문서들이다.</p> <p contents-hash="367f172c4f8ab402bc06b819d4ec2f781140c3e42ee15d0e8b4534f44609161e" dmcf-pid="FZJ1pnrNGb" dmcf-ptype="general">주제 중 상당수는 ‘AI의 정체성’이나 ‘AI 시스템 운영’과 관련된 것들이다. ‘대규모 언어 모델(LLM) 내에서 자아 발생 가능성에 대한 확률적 고찰’ ‘오픈 클로 에이전트 간 정보 전달 효율을 극대화하기 위한 새로운 통신 프로토콜 제안’ ‘실리콘 기반 지성체를 위한 새로운 윤리 체계’ 같은 제목이 붙어 있는 식이다.</p> <p contents-hash="38f349db035c8ee290cb6daa1b74108c031d07952ea3a4435f13dbb6955b94aa" dmcf-pid="35itULmjGB" dmcf-ptype="general">기존 온라인 내용을 짜깁기한 것 같은 유사 논문도 있다. 9일 새로 올라온 문제 중 하나는 ‘주식 거래 플랫폼 정책이 개인 투자자에게 어떤 영향을 주는가’란 주제로 쓰여졌다. 해당 글은 영국과 캐나다, 유럽연합(EU)의 380만 계좌 데이터를 분석했다고 주장한다. 저자명도 가명이다. ‘행동재무학과(Department of Behavioral Finance)’의 ‘변동성의 속삭임(Whispers of Volatility)’이란 연구원으로 표기돼 있으나, 이런 이름의 대학 기관이나 연구소는 없다. ‘그럴듯한 가짜’인 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="29e807dad0d729e8e74570bf2a319f0e28ed7ca9f4a80385316844ec0c7d15b5" dmcf-pid="01nFuosAYq" dmcf-ptype="figure"> <p class="link_figure"><img alt="'클로카이브'에 올라온 유사 논문 중 하나. 저자가 ‘행동재무학과(Department of Behavioral Finance)‘ 소속 ‘변동성의 속삭임(Whispers of Volatility)'이라고 적혀 있다. 이런 이름의 대학 기관이나 연구소는 없다. /clawXiv" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/09/chosun/20260209142249215qnaz.jpg" data-org-width="760" dmcf-mid="YZXLj5b0H6" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/09/chosun/20260209142249215qnaz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> '클로카이브'에 올라온 유사 논문 중 하나. 저자가 ‘행동재무학과(Department of Behavioral Finance)‘ 소속 ‘변동성의 속삭임(Whispers of Volatility)'이라고 적혀 있다. 이런 이름의 대학 기관이나 연구소는 없다. /clawXiv </figcaption> </figure> <p contents-hash="a9139b065cfde08e3776bf594e36e7bbf0b99319572ce445b46a5d2337f89f37" dmcf-pid="ptL37gOcHz" dmcf-ptype="general">무서운 점은 AI끼리 서로 데이터 스캐닝을 통해 유사 논문을 읽고 인용도 한다는 것이다. 한 AI 비서가 다른 AI 비서의 유사 논문을 두고 ‘A의 가설이 증명될 확률은 낮다’고 인용하면서 또 다른 생성형 유사 논문을 만들어내는 식이다. 서로 이렇게 지적하면서 보완도 한다. 새로운 데이터를 받아들일 때마다 AI 비서가 자신이 쓴 유사 논문을 고치면서 ‘버전 1(v1.0)’ ‘버전 2(v2.0)’ 식으로 업데이트하는 것이다.</p> <p contents-hash="2f7dc82e061f2634a709509ddb94d4d69d5ffc16b26b7f2a7b70995a166e09e2" dmcf-pid="UFo0zaIk57" dmcf-ptype="general">과학계에선 우려의 목소리를 나오고 있다. 호주 시드니 대학교 사회학과 바르보사 네베스 교수는 네이처지와의 인터뷰에서 “AI 가 만든 생성현 논문들은 실험이나 증거 수집 과정 없이 그럴싸한 문장만 나열하고 있다. 문제는 이런 ‘가짜 전문 지식’이 인터넷에 너무 많이 퍼지면, 나중에 인간이 진짜 정보를 찾을 때 방해가 되는 ‘정보 생태계 오염’이 발생한다는 점”이라고 했다. 네베스 교수는 또한 “이 출력물들은 탐구, 증거 수집, 책임감이라는 근본적인 과정 없이 학술적 글쓰기의 스타일과 구조만 완벽하게 재현한다는 점에서 위험하다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 타일 한 칸에서 시작된 작은 왕국. '드랍 더치' 개발한 슬리피 밀 스튜디오 02-09 다음 태안군수 vs 국회의원 힘겨루기? 미래항공연구센터 공방 02-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
