청소년 즐겨하는 AI 채팅앱, 선정성 민원 쏟아지는데…정부 조사 '0건' 작성일 08-21 53 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[MT리포트-AI 채팅앱 규제 사각지대]①정부에 선정성 민원 지속돼…규제 공백 속 '연일 성장 중' <br>청소년 무방비 노출, 보호 정책은 이제야 '검토 단계'</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8DU9QDUZ1b"> <blockquote class="pretip_frm" contents-hash="1af5786ad79f0159a1c52f94eb2c7484ac0a06196d03314445fa46e33030f2b9" dmcf-pid="6wu2xwu55B" dmcf-ptype="pre"> [편집자주] AI 캐릭터와 대화하는 채팅앱이 게임의 경계를 넘고 있다. 호감도와 스탯이 붙고 주사위로 성공과 실패를 가른다. 유료 재화와 배지, 랭킹에 이어 확률형 이벤트까지 등장했다. 이용자는 하루 평균 2시간 넘게 머물고 매출은 웬만한 게임을 앞선다. '엔터테인먼트' 앱으로 유통되는 동안 게임물인지 판단한 기관은 없었다. 연령등급은 구글과 애플이 정하고 정부 가이드라인은 이행 여부조차 조사하지 않는다. 게임처럼 진화한 AI 채팅앱, 그 뒤에 남은 규제 공백을 들여다본다. </blockquote> <div contents-hash="1975c0699f979a4595e0148d821c4421d6d65be7d16ce0f77c764b3b1266bd64" dmcf-pid="Pr7VMr71Zq" dmcf-ptype="general"> <br> </div> <figure class="figure_frm origin_fig" contents-hash="742e9a0fd16512ed17805afc8ee35e07ce551611f20604c65e72462a0605fcfa" dmcf-pid="QmzfRmztZz" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 채팅앱 MAU 추이/그래픽=이지혜" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/21/moneytoday/20260821043118435xkjf.jpg" data-org-width="1200" dmcf-mid="4517VN1yXK" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/21/moneytoday/20260821043118435xkjf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 채팅앱 MAU 추이/그래픽=이지혜 </figcaption> </figure> <div contents-hash="de1e33731b0abd5d0c710553eae033ebcfd1a92564a507c721d7e70f4c53e159" dmcf-pid="xsq4esqFH7" dmcf-ptype="general"> <br> 'AI 캐릭터 채팅 앱'이 선정적인 콘텐츠를 쏟아내고 있지만, 정부 관련 조사는 아직 시행된 적 없는 것으로 확인됐다. 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. </div> <p contents-hash="1e1607c11a4060bbfb7eece279f7af5ad4cee09c6fea94b6ffaaaf8a0f27d0f9" dmcf-pid="y9DhG9DgZu" dmcf-ptype="general">21일 방송미디어통신위원회는 머니투데이의 질의에 대해 "AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중"이라면서도 "'생성형 인공지능 이용자 보호 가이드라인' 준수 여부는 별도 조사한 적 없다"고 밝혔다.</p> <p contents-hash="50bc8b952d0a7937e4f561fdde5a4e2fe368d6040d46a32f013e923227b36f51" dmcf-pid="W2wlH2waXU" dmcf-ptype="general">AI 캐릭터 채팅 앱은 AI로 구현된 캐릭터와 채팅을 나누는 서비스다. 뤼튼테크놀로지스의 '크랙', 스캐터랩의 '제타' 등이 대표적이다. △자취방에 놀러 오는 여사친 △나를 싫어하는 일진녀 △아이를 갖기 위해 머리 굴리는 조직 보스 남편 등 자극적 콘셉트의 캐릭터와 대화를 나눌 수 있다.</p> <p contents-hash="a2330a66afb9f2ec4df5c5a27f86149a459a441d7b9c5870f334175d9cdf6757" dmcf-pid="YVrSXVrNtp" dmcf-ptype="general">'생성형 인공지능 서비스 이용자 보호 가이드라인'은 정부가 지난해 3월부터 시행 중인 이용자 보호 체계다. △이용자 인격권 보호 △AI 생성 여부 고지 △편향·차별 필터링 등 다양성 존중 △입력 데이터 수집·활용 과정 관리 △책임 범위 정의·위험관리 체계 마련 △건전한 유통·배포 노력 등 6대 실행 원칙이 골자다.</p> <p contents-hash="dd218053c55ac9c405cd04b1e332ca07c761f5f0f05bc52c7faa15508e8dbdb8" dmcf-pid="Gy8dNy8B10" dmcf-ptype="general">현재 서비스 중인 대다수 AI 채팅앱은 다양성 존중, 위험관리 체계 마련, 건전한 유통 및 배포 노력 등에서 결점이 있다. 성차별은 물론 성희롱·협박·성폭행 등 성범죄 장면이 쉽게 튀어나온다. 성인 인증이 없거나 최근에야 마련되는 등 연령 확인 절차도 미비하다.</p> <div contents-hash="112615015d4e0880fb3bee779e6abaa9d45d00c0b241256f39c4f6cba3bf45ce" dmcf-pid="HW6JjW6bG3" dmcf-ptype="general"> 그런데도 정부가 손을 놓고 있는 건 법적 강제력이 없어서다. 방미통위 측은 "가이드라인은 법적 구속력이 없고 자율적 조치를 권고하는 수준에 그치다 보니 준수 여부를 조사하지 않은 것"이라고 설명했다. 전기통신사업법상 부가통신역무, 정보통신망법상 정보통신서비스, 청소년보호법상 매체물, 인공지능기본법상 인공지능 제품·서비스에 모두 해당하지만 정작 어떤 법도 명확히 규제하지 못하는 실정이다. <br> <div></div> <div></div> <div> ━ </div> <strong>청소년 무방비…이제야 '검토 단계'</strong> <div> ━ </div> <div></div> <div></div>청소년 보호 체계도 부족하다. 제타와 크랙은 '청소년이 유해 정보에 노출되지 않도록 노력하겠다'는 식의 원론적인 청소년 보호 정책을 운영 중이다. 분량도 두 문단 남짓이다. </div> <p contents-hash="2fb52651562ec0bd7abd658e04593f470df3c6970641db0d3d02b925b3152998" dmcf-pid="XYPiAYPKZF" dmcf-ptype="general">과금 시스템도 호주머니를 털기 좋은 구조다. 크랙과 제타의 최대 단건 결제 금액은 각각 12만6000원, 14만원이다. 총액 제한은 없다. 방미통위 측은 "현행 정보통신망법은 청소년 과금 제한을 규정하지 않는다"며 "각사 운영 정책은 미성년자가 과금 시 부모 동의를 받도록 규정한다"고 설명했다.</p> <p contents-hash="71e8c8bba3310db9b17b19de9f51f1dd7c80d9c5ea7cabc977d6924a8563dc3b" dmcf-pid="ZGQncGQ9tt" dmcf-ptype="general">방미통위는 AI 채팅앱이 정보통신망법상 '청소년 보호책임자 지정 의무 사업자'에 해당하는지를 검토 중이다. 매출액 10억원 이상 또는 일평균 이용자 수 10만명 이상인 정보통신서비스제공자가 요건이다. 방미통위 관계자는 "의무 사업자에 지정되면 선정적인 대화 가능 여부, 연령 확인 절차 등 청소년 보호 업무 실태를 점검할 계획"이라고 설명했다.</p> <p contents-hash="7a17a729b4852209d0211ba78a6782b02fa6fdad33b9db8874293185584bc217" dmcf-pid="5HxLkHx2t1" dmcf-ptype="general">문제는 아직 검토 단계에 불과하다는 점이다. AI 채팅앱은 공백을 틈타 급속도로 몸집을 불리는 중이다. </p> <p contents-hash="718aafce6b6cdf3bee4a574d54b491f76c4b82ed40bef59a716dda791f807508" dmcf-pid="1XMoEXMVY5" dmcf-ptype="general">크랙과 제타는 지난 17일 기준 각각 구글플레이 비게임 앱 매출 순위 17위와 19위에 올랐다. 앱 분석 서비스 와이즈앱·리테일에 따르면 지난달 제타 총실행 횟수는 20억 800만회로 챗GPT(18억 1700만회)를 꺾고 AI 챗봇 앱 1위에 올랐다. 크랙은 1억2200만회로 4위였다.</p> <p contents-hash="28ff7b3aab18b39bf70f9b1b80292540d19ef3ca58190445fb44fc2e779e4a95" dmcf-pid="tZRgDZRfGZ" dmcf-ptype="general">이찬종 기자 coldbell@mt.co.kr 김평화 기자 peace@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&utm_medium=article_text_ad&utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 [르포]미성년자 계정인데 '19금 토크' 자유자재…AI 채팅앱 써보니 08-21 다음 5년 키운 실험실 미니 뇌, 시간의 흐름 기억했다 08-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
