네이버, 'AI 클린봇 3.0' 적용…생명 경시·2차 가해 댓글 집중 차단 작성일 04-29 18 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">자살·사망 조장 표현, 사고 피해자·유족 조롱 댓글 탐지<br>기사 제목·본문 함께 분석…맥락 기반 악성 의도 판별 강화<br>정치·선거 댓글 제한 이어 악성 댓글 자동 비활성화 운영</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1FJIvI71ms"> <p contents-hash="ac93e432290b494facd4f69f13df6331ec826fa4de208859175f5604d598125c" dmcf-pid="t3iCTCztDm" dmcf-ptype="general"> [이데일리 이소현 기자] 네이버(NAVER(035420))가 생명 경시 표현과 사건·사고 피해자 및 유족을 향한 2차 가해성 댓글 차단을 강화하기 위해 악성 댓글 탐지 시스템 ‘AI 클린봇 3.0’을 적용했다.</p> <figure class="figure_frm origin_fig" contents-hash="b22c80fda1939f34c1cc875b21d1f955a164ed64334791b8342a2ac56ec25f9e" dmcf-pid="F0nhyhqFwr" dmcf-ptype="figure"> <p class="link_figure"><img alt="네이버 AI 클린봇 3.0(사진=네이버)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/29/Edaily/20260429103637676uayi.jpg" data-org-width="670" dmcf-mid="5DpMiMIksO" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/29/Edaily/20260429103637676uayi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 네이버 AI 클린봇 3.0(사진=네이버) </figcaption> </figure> <div contents-hash="c104b696d36332aadd08acc6d8239e6964e0acbe814d49bbb7706aa04c7540a2" dmcf-pid="3pLlWlB3Dw" dmcf-ptype="general"> 네이버는 29일부터 ‘AI 클린봇 3.0’ 업그레이드를 완료하고 △자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 △사건·사고 피해자와 유족을 향한 조롱·비하·혐오성 댓글에 대한 탐지와 차단을 집중 강화한다고 밝혔다. </div> <p contents-hash="de5d1069ca08fe3cde109f2982fadc7819b34878ce6d3412c516ac3a80b2c789" dmcf-pid="0UoSYSb0rD" dmcf-ptype="general">이번 개편의 핵심은 기사 맥락을 함께 읽는 탐지 방식이다. 기존 댓글 문장 중심 분석에서 나아가 기사 제목과 본문까지 종합적으로 분석해 댓글의 악의적 의도를 판단한다. 같은 표현이라도 기사 맥락에 따라 의미가 달라질 수 있다는 점을 반영해 탐지 정확도를 높였다는 설명이다.</p> <p contents-hash="be15b84a222dbfc15f2c941ebae6d3d149023262f59b986672aa3a5cce4f9d9f" dmcf-pid="pugvGvKpwE" dmcf-ptype="general">네이버는 2019년 업계 최초로 뉴스 댓글 인공지능 탐지 시스템인 AI 클린봇을 도입한 뒤 지속적으로 고도화를 이어왔다. 초기에는 악성 키워드 기반으로 욕설과 비속어를 자동 탐지하는 수준이었지만, 2020년 딥러닝 기술을 적용한 클린봇 2.0부터는 욕설이 없더라도 문장 맥락을 분석해 모욕적 표현을 걸러낼 수 있도록 했다.</p> <p contents-hash="79cf7cabf929d54c5ee3e213e1464f64044f99e008e61480662f78e10012e371" dmcf-pid="U7aTHT9UOk" dmcf-ptype="general">이후 성적 불쾌감을 유발하는 표현, 혐오·비하·차별 표현, 기호나 문자를 활용한 우회 욕설, 신조어 기반 변형 악성 댓글 등에 대한 대응 범위를 넓혀왔다. 2023년에는 한국인터넷자율정책기구(KISO)의 혐오표현 자율정책 가이드라인을 반영해 혐오·차별 표현 탐지를 강화했고, 지난해에는 오탐·미탐 개선과 신조어 대응 역량을 높였다.</p> <p contents-hash="ea4d0c7e54cd2aba92e7ce38f00b1c4f4a53174ef30a6ed911db2a2a31e00c36" dmcf-pid="u1eslsUZOc" dmcf-ptype="general">이번 3.0 버전은 표현 유형별 세분화 학습을 거친 2.9 버전에서 한 단계 더 나아가 기사 전체 문맥을 결합한 맥락 탐지 모델로 진화한 것이 특징이다. 특히 최근 사회적 논란이 된 피해자 조롱, 유족 비하, 극단적 선택 희화화 같은 댓글 문화에 정면 대응하는 성격이 강하다.</p> <p contents-hash="359fc9b5f9eb0c83b63b8cf8ac2f4e71f5269730cd7e4e11149b9df5f3723c5f" dmcf-pid="7tdOSOu5EA" dmcf-ptype="general">김수향 네이버 리더는 “욕설과 비속어는 물론 새롭게 등장하는 혐오·비하·차별 표현까지 탐지하기 위해 클린봇 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자와 유족 조롱·혐오 표현 차단을 비롯해 다양한 의견을 반영해 성능을 고도화해 나갈 것”이라고 말했다.</p> <p contents-hash="60791c033cb5c563da1b6989394384429c6c2d622c7c6d07e8e523ed582353f6" dmcf-pid="zFJIvI71Ej" dmcf-ptype="general">한편 네이버는 올해부터 정치·선거 섹션 본문 하단 댓글을 제공하지 않고 있다. 악성 댓글이 일정 기준을 넘는 기사에 대해서는 댓글 서비스를 자동 비활성화하는 정책도 시행 중이다. 댓글 공간을 ‘표현의 장’에서 ‘책임 있는 소통의 장’으로 재설계하겠다는 의지로 읽힌다.</p> <p contents-hash="2ae42a306a24b479e32ed513b681b1f78e01c9cec1e8d015221b60d3baa77b1e" dmcf-pid="q3iCTCztEN" dmcf-ptype="general">이소현 (atoz@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 [만화로 보는 피싱] #1. “엄마, 기프트카드 핀번호 좀”... 암호·추억 등 우리만의 ‘인증’ 필요 04-29 다음 스포츠 매니아 잡아라…앞다퉈 경기장 찾는 기업들 04-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
