AI가 썼나, 사람이 썼나…AI 시대 달라진 '저자 판별법' 작성일 08-21 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 슬롭 확산에 '판그램' 등 텍스트 감별 서비스 주목<br>문체 특징 분석한 추정치…"표절·부정행위 증거로 활용 금물"<br>앤트로픽은 클로드에 워터마크…완벽한 감별은 한계</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bFrUW9DgXh"> <figure class="figure_frm origin_fig" contents-hash="4f4952ebceceede4b9c4e5c297dee77e1465d66f93249c5815d16722202d1b98" dmcf-pid="Kepnfc3GtC" dmcf-ptype="figure"> <p class="link_figure"><img alt="이재명 대통령이 지난 19일 SNS에 올린 '페이스메이커로서의 역할을 다하겠습니다'라는 글을 인공지능(AI) 감별 프로그램 '판그램4'에 입력한 결과. *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/21/newsis/20260821060211519gnol.jpg" data-org-width="720" dmcf-mid="BOA1h7NdYl" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/21/newsis/20260821060211519gnol.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이재명 대통령이 지난 19일 SNS에 올린 '페이스메이커로서의 역할을 다하겠습니다'라는 글을 인공지능(AI) 감별 프로그램 '판그램4'에 입력한 결과. *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="3ecf602a29bf3bb984cc1210e46cdfa615f31eee1d29448f3a5d623038e3e7af" dmcf-pid="9dUL4k0HXI" dmcf-ptype="general"><br> [서울=뉴시스]오동현 기자 = "100% 사람이 작성한 글입니다." 이재명 대통령이 지난 19일 SNS에 올린 '페이스메이커로서의 역할을 다하겠습니다'라는 글을 인공지능(AI) 감별 프로그램 '판그램4'에 넣어 돌려본 결과다.</p> <p contents-hash="ec930cc743138581e5e12e0840a169f44c7463e0e1d85abba9088e184720afd0" dmcf-pid="2Juo8EpXHO" dmcf-ptype="general">AI가 작성한 문장과 사람이 쓴 글을 구분해주는 'AI 감별 프로그램'이 주목받고 있다. 생성형 AI로 문서를 작성하는 일이 많아지면서 사람의 검증을 거치지 않은 저품질 AI 콘텐츠인 'AI 슬롭(AI Slop)'도 빠르게 늘고 있기 때문이다. </p> <p contents-hash="68d92d281496fdd113c642f339e8ae325ff61fb18eab89a8c5be49395d760b48" dmcf-pid="Vi7g6DUZts" dmcf-ptype="general">가장 대표적인 서비스 업체는 미국 스타트업 판그램(Pangram)이다. 테크크런치에 따르면 판그램은 지난달 멘로벤처스가 주도한 투자 라운드에서 900만 달러를 유치했으며, 최신 텍스트 감별 모델 '판그램4'를 공개했다. 서비스 구독 요금은 월 20달러다. 한국어를 포함한 24개 언어를 지원한다.</p> <h3 contents-hash="1fcc48471f8b0539bd663c665aeabff0a65cdb9187101c6c0fb9e7caac5b2686" dmcf-pid="fnzaPwu51m" dmcf-ptype="h3"><strong>판그램 '어떤 알고리즘으로 진위 판별할까</strong></h3> <div contents-hash="f10fec325f89e5d5ba0832f2a3f665c49375712d66989a13c07f3d0318809b4d" dmcf-pid="4LqNQr71Xr" dmcf-ptype="general"> <strong> 판그램은 사람과 AI가 문장을 구성하는 방식의 차이를 통계적으로 학습해 입력된 글을 분류한다. 판그램4는 문서를 여러 구간으로 나눠 각각을 '사람 작성', 'AI 지원', 'AI 생성'으로 판정한 뒤 문자 수를 기준으로 전체 비중을 계산한다. 구간별 판정 결과는 보여주지만 어떤 특징이 판정에 영향을 줬는지는 구체적으로 공개하지 않는다.<br><br> 판그램을 자사 서비스에 도입한 뉴스레터 플랫폼 서브스택에 따르면, 판그램은 AI 사용 여부를 추정할 뿐, 글에 사람의 노력과 판단이 얼마나 들어갔는지까지 판별하지는 못한다고 설명한다. <br><br> 초기 AI 감별 프로그램들은 주로 다음에 나올 단어가 얼마나 예측 가능한지를 뜻하는 '퍼플렉서티'를 활용했다. AI가 사람보다 익숙하고 정형화된 단어를 선택하는 경우가 많다는 점을 이용한 것이다. <br><br> 하지만 허점이 컸다. 사람이 공들여 쓴 정돈된 글까지 AI로 오인하거나, AI 문장의 단어 몇 개만 바꿔도 감별을 피할 수 있다는 한계가 있었다.<br><br> 판그램은 홈페이지에서 자사 감별기의 정확도를 99.98%라고 내세운다. 다만 이 수치는 회사가 공개한 평가 결과를 종합해 제시한 것으로, 개별 글마다 99.98% 맞다는 뜻은 아니다. <br><br> 판그램은 50단어 이상의 완결된 글을 주된 분석 대상으로 삼는다. 짧은 문장은 판단 근거가 부족하다. 소스코드와 목차, 정형화된 문서나 기술 지침서 등은 주된 분석 범위를 벗어나거나 오류에 더 취약할 수 있다는 설명이다. 판그램 기술 보고서는 감별 결과를 표절이나 부정행위를 가리는 유일한 증거로 삼아서는 안 된다고 권고하고 있다.<br><br> </strong> </div> <h3 contents-hash="497a458389196ccb4cbdf111ca47cd1be917ca79f215ea49b611b3c799bc5c26" dmcf-pid="8oBjxmzt5w" dmcf-ptype="h3"><strong><strong>문체 감별 대신 AI가 직접 '표식' 남긴다</strong></strong></h3> <div contents-hash="615b632698eee39d16acd8e061ed1595f32d339b92753d288abc5ea710b5408f" dmcf-pid="6gbAMsqF1D" dmcf-ptype="general"> <strong> 감별 오류가 잦자 AI 개발사들은 글을 지을 때부터 '숨은 표식(워터마크)'을 새기는 방식을 도입하고 있다.<br><br> 미국 AI기업 앤트로픽은 지난 14일 향후 출시할 클로드 모델의 생성 문장에 통계적 워터마크를 적용하겠다고 밝혔다. 유럽연합(EU) AI법의 생성 콘텐츠 표시 의무에 대응하기 위한 조치다. 앤트로픽은 워터마크를 전 세계에 적용할 계획이라고 설명했다.<br><br> 판그램이 여러 AI에 공통으로 나타나는 문체를 읽어내는 쪽이라면, 워터마크는 비밀키로 특정 AI의 관여 여부를 확인한다. <br><br> 대신 약점 있다. 짧은 글이나 사실을 그대로 전달하는 문장처럼 고를 수 있는 단어가 적으면 표식이 남을 자리도 줄어든다. 클로드가 사람이 쓴 글의 맞춤법이나 문법만 가볍게 고친 경우에는 워터마크가 감지되지 않을 수도 있다. 문장 전체를 다시 쓰면 워터마크가 사라질 가능성도 있다.<br><br> 앤트로픽도 한계를 인정했다. 워터마크로는 "클로드가 썼다"와 "클로드가 많이 고쳤다"를 구분할 수 없다는 것이다.<br><br> 워터마크 도입 소식이 알려진 뒤 이용자들 사이에서는 구독을 해지하겠다는 선언도 잇따랐다. AI에게 문장을 다듬게 한 것 뿐인데 글 전체가 AI 작성물로 취급될 수 있다는 우려였다. 앤트로픽은 워터마크에 이용자나 소속, 대화 내용을 식별할 수 있는 정보는 담기지 않는다고 해명했다.<br><br> 감별기를 만든 쪽도 조심스럽기는 마찬가지다. 맥스 스페로 판그램 최고경영자(CEO)는 테크크런치 인터뷰에서 이 기술이 AI를 활용해 글을 쓰는 사람들에 대한 마녀사냥으로 이어지기를 원하지 않는다고 밝혔다. 판그램은 AI 사용이 의심되더라도 작성자에게 먼저 확인하고 초고와 메모, 문서 수정 이력 등을 함께 살펴보라고 권고한다.<br><br><br><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> odong85@newsis.com </strong> </div> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 폴더블폰 다시 커진다…삼성·애플 신작에 2028년 3600만대 08-21 다음 손목·귀 넘어 눈·손가락까지…7년간 1조 달러 '웨어러블 전쟁' 08-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
