"AI 유해정보 어떻게 막을까"…이용자 안전장치 구축한다 작성일 08-27 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">방미통위, 이용자보호 위한 민관협의회 2차 회의 개최</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="utXjI9rNX2"> <figure class="figure_frm origin_fig" contents-hash="8311b17080bd3a1f87dd5e6a65b32cc069cc21b0af1d3c358a7a4bf4898e548d" dmcf-pid="7FZAC2mjX9" dmcf-ptype="figure"> <p class="link_figure"><img alt="김종철 방송미디어통신위원장(가운데)이 12일 정부과천청사에서 '2026년 제27차 전체회의'를 주재하고 있다. (방송미디어통신위원회 제공. 재판매 및 DB금지) 2026.8.12 ⓒ 뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/27/NEWS1/20260827144242114omtc.jpg" data-org-width="1400" dmcf-mid="Up5chVsA1V" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/27/NEWS1/20260827144242114omtc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김종철 방송미디어통신위원장(가운데)이 12일 정부과천청사에서 '2026년 제27차 전체회의'를 주재하고 있다. (방송미디어통신위원회 제공. 재판매 및 DB금지) 2026.8.12 ⓒ 뉴스1 </figcaption> </figure> <p contents-hash="c358c919fc2651b39b922c1d41f3d9053ba688921774a7627a37bcfd1d39651e" dmcf-pid="z35chVsAXK" dmcf-ptype="general">(서울=뉴스1) 이민주 기자 = 최근 인공지능(AI) 서비스가 확산하면서 불법·유해정보 노출 위험이 커지자 정부와 업계가 이용자 보호를 위한 안전장치 마련을 위한 논의를 시작했다.</p> <p contents-hash="3bf5c4aaa68269da286fc35319b63bd3f8d6256c48535da6f9b5c99ade9c2654" dmcf-pid="qIr6LZd8Yb" dmcf-ptype="general">방송미디어통신위원회는 27일 서울에서 정부, 산업계, 학계 등과 '인공지능서비스 이용자보호 민관협의회 2차 회의'를 개최했다.</p> <p contents-hash="e26565f8109be3d2bab57a5fcf6539372d246ad8dec939d74c62ee0d2efa435d" dmcf-pid="BCmPo5J6GB" dmcf-ptype="general">회의는 인공지능서비스 불법·유해정보 대응을 위한 기술적 조치 동향 등을 논의하기 위해 마련됐다.</p> <p contents-hash="9d635c17561e7dfe1d6b589352d64dc8c66e388e792b4fa0c83aa1e509679eb3" dmcf-pid="bhsQg1iPtq" dmcf-ptype="general">2차 회의에서는 김경훈 카카오(035720) 인공지능 안전(AI Safety) 리더가 발제를 맡아 인공지능서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황에 대해 발표했다.</p> <p contents-hash="43bc27bdc6e23cd91693113a542214d20fceece0f678e286dfdb16298588feb5" dmcf-pid="KlOxatnQtz" dmcf-ptype="general">그는 국내 최초 한국어 환경에 특화된 오픈소스 기반으로 카카오가 자체 개발한 인공지능 안정성 검증을 위한 가드레일 모델인 '카나나 세이프카드'(Kanana Safeguard)를 직접 소개하고 사업자의 자율적 안전조치 고도화 방향 및 생태계 협력 방안 등에 대해 공유했다.</p> <p contents-hash="853f960f086ce23e61276dc14cf1d8102079f5a50bcaf2106fe0329feb162e0f" dmcf-pid="9SIMNFLxZ7" dmcf-ptype="general">카나나 세이프가드는 이용자의 입력이나 AI가 생성한 답변을 실시간으로 점검해 혐오·괴롭힘·성적 콘텐츠·범죄 등 유해 요소를 탐지하는 AI 안전장치다. 한국어와 한국 문화의 맥락을 반영한 데이터로 학습한 것이 특징이다.</p> <p contents-hash="983a11a76dd3337101ae70a27e59b7078b5cbd9ed2926ff9a9967ec879821c96" dmcf-pid="2vCRj3oMHu" dmcf-ptype="general">이어 이성엽 민관협의회 위원이 주재한 종합토론에서는 인공지능서비스 내 불법·유해정보 노출 위험이 커진 가운데 사업자의 자율적 안전조치 활성화를 위한 민관 협력 방안 등에 대해 심도 있는 논의가 이어졌다.</p> <p contents-hash="f1fd4e35c6e0fb2f74c30379d3788b242867b272f91c4885d06b281465a78c42" dmcf-pid="VTheA0gRHU" dmcf-ptype="general">신영규 방미통위 방송통신이용자정책국장은 "윤리적으로 신뢰할 수 없는 인공지능 기술은 사회적 불신을 초래해 결국 인공지능 산업 전체의 성장을 가로막을 수 있다. 기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반되어야 한다"며 "오늘 논의된 내용을 바탕으로 법과 기술, 제도 등 종합적 지원 방안을 마련해 국민이 안심하고 신뢰할 수 있는 인공지능 이용 환경을 만드는 데 최선을 다하겠다"고 말했다.</p> <p contents-hash="17fda4245c36e5c9a5553feaea03abcef3102ec6e936cf61531a7e66f97b6459" dmcf-pid="fyldcpaeYp" dmcf-ptype="general">한편 방미통위는 2021년부터 '지능정보사회 이용자 보호 민관협의회'를 운영해 왔으며 2024년부터는 인공지능 환경 변화에 대응하기 위해 '인공지능서비스 이용자 보호 민관협의회'로 확대 개편했다.</p> <p contents-hash="0b2391961c12833e96d86bf1c130b507ab46599aac24294b1b6c9fad733e969f" dmcf-pid="4WSJkUNdt0" dmcf-ptype="general">올해 5월에는 정부, 산업계, 법조계, 학계, 시민단체 등 각계 전문가 35명으로 구성된 민관협의회 2기를 출범하고 불법·유해정보로부터 아동·청소년 보호를 위한 기술적 제도적 방안 등을 공유하며 관련 정책 방안 등을 심도있게 논의하고 있다.</p> <p contents-hash="b6057a8b47417d74a45517a0173aa252c4eba8088f7345b27266db0fe9020e09" dmcf-pid="8YviEujJ13" dmcf-ptype="general">minju@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 올드 IP의 귀환·中 신작 공세… 게임스컴 달군 세대교체 경쟁 08-27 다음 모티프 이의신청에 '독파모' 평가 공방 확산…과기정통부 "규정에 따라 검토" 08-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
