스캐터랩, '제타' 안전장치 손본다…대표가 진두지휘 작성일 11-17 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">대표 직속 안전 전담팀 신설…AI 개발 핵심 인력 절반 투입</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HUTvg671A1"> <p contents-hash="415f4407f7032330bbfd90844d3dd339f433a67ba0d9ba7e1195b8f690f03e90" dmcf-pid="XIoLb5hDA5" dmcf-ptype="general">(지디넷코리아=이나연 기자)<span>스캐터랩이 인공지능(AI) 캐릭터 채팅 서비스 '제타' 이용자 보호 체계를 전면 재정비한다. 대표 직속 안전 전담 조직을 신설하고 AI 개발 주요 인력 절반을 콘텐츠·대화 검수 모델 개발에 투입하는 등 </span>정책·기술·운영 전반에 걸쳐 안전성을 강화한다.</p> <p contents-hash="8bf5c77fdce3a65768e835a695333e122b44caaa66b7f3ddc45d1fd731cf4fd7" dmcf-pid="ZCgoK1lwkZ" dmcf-ptype="general">스캐터랩은 김종윤 대표가 직접 이끄는 안전 전담 조직 '트러스트&세이프티 팀(Trust&Safety Team)'을 신설했다고 17일 밝혔다.</p> <p contents-hash="00aac750b14e68f50b6c8d78dcccc397cb109a31219be2b2f333ba38fc79432f" dmcf-pid="5hag9tSrNX" dmcf-ptype="general">신설 조직은 제타 콘텐츠 안전 정책 수립부터 자체 AI 모델 개발, 콘텐츠 검수 업무까지 통합 관리한다. 올해 말까지 콘텐츠 이용 등급 분류를 체계화하고 이용자 연령에 따른 보호 기능을 고도화할 계획이다.</p> <figure class="figure_frm origin_fig" contents-hash="653637c863e9ea929da6701aa4bc067b5722566ec0ae8187f330148c8ce91cce" dmcf-pid="1lNa2FvmaH" dmcf-ptype="figure"> <p class="link_figure"><img alt="(이미지=스캐터랩)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/ZDNetKorea/20261117103222798llau.jpg" data-org-width="638" dmcf-mid="GcUpCNx2ot" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/ZDNetKorea/20261117103222798llau.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (이미지=스캐터랩) </figcaption> </figure> <p contents-hash="5f6a530eb04d86731236c09dd5b443427c8e36d963d47ad743a466d748fa65f3" dmcf-pid="tSjNV3TscG" dmcf-ptype="general"><span>제타 내 스토리 콘텐츠인 '플롯'은 창작자 제작 과정과 출시 시점, 서비스 내 노출 시점 등 3단계에 걸쳐 검수한다. 플롯 소재와 텍스트·이미지를 분석해 이용 등급을 분류하고 한국·일본·미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책과 검수 기준도 마련한다.</span></p> <p contents-hash="e69298723f8234b7b470427c34afa9301ceed32bc9864ddc7e883104fff7a6c0" dmcf-pid="FvAjf0yOkY" dmcf-ptype="general">스캐터랩은 거대언어모델(LLM)을 활용해 플롯 검수에 특화된 자체 AI 모델을 개발한다. 연령 확인 절차도 강화해 가입 초기부터 이용자 연령에 따라 접근 가능한 콘텐츠를 구분할 방침이다.</p> <p contents-hash="cea2a21686be51da29e9805644b17ade1f7668689e7aa44623fe39108920eca9" dmcf-pid="3TcA4pWIaW" dmcf-ptype="general">AI 캐릭터와 대화하는 과정에서 보호 장치도 정비한다. 부적절한 대화를 방지하는 자체 AI를 출시하고 이용자 연령별 발화 기준을 수립해 AI 모델 응답에 반영할 계획이다.</p> <p contents-hash="9cedd982468dcb9238b8eb69987feb819b5eb92906353a2c13ee506d69b07a35" dmcf-pid="0ykc8UYCcy" dmcf-ptype="general">이용자가 AI와 상호작용하고 있다는 사실을 주기적으로 알리는 안내 기능도 구현한다. 앞서 예고한 청소년 하루 이용 시간 3시간, 월 기본 결제 한도 10만원 제한은 국내에서 연내 도입할 예정이다. 자살·자해 관련 민감 콘텐츠가 감지되면 적절한 안내를 제공하는 기능도 구현·검증한다.</p> <p contents-hash="af25a94b34175a9fbe9486b0ce5559069a0789e74364084a2126d74a5acfcd36" dmcf-pid="pWEk6uGhNT" dmcf-ptype="general">신고와 이의제기, 정기 표본 검수 과정에서 확인된 문제를 콘텐츠 정책과 AI 모델에 반영하고 재검증하는 등 운영 체계도 강화한다.</p> <p contents-hash="1109e1d3615800cad0fc7bcbcbd328e73f35828c561333da9c63a1541518fbca" dmcf-pid="UYDEP7Hlcv" dmcf-ptype="general">스캐터랩은 국내외 AI 관련 규제에 대응하는 한편 지식재산권(IP)과 청소년 보호를 중심으로 규제 당국, 앱스토어, 콘텐츠 업계 및 유사 서비스 운영사 등과 논의를 이어갈 방침이다.</p> <p contents-hash="1dbfd6a6f3f7357bfbd4d01a37d48352f3f9f9608958dae9f37200d06dd68119" dmcf-pid="uGwDQzXSoS" dmcf-ptype="general">김종윤 스캐터랩 대표는 "제타는 이용자가 이야기 주인공이 돼 AI와 자신만의 이야기를 만드는 서비스인 만큼 창작 즐거움과 이용자 안전을 함께 고려해야 한다"며 "정책과 기술, 운영을 아우르는 보호 체계를 고도화하고 안심하고 사용할 AI 엔터테인먼트 환경을 만들겠다"고 말했다.</p> <p contents-hash="03f85793d1efbfc89d1e901f03c35ce40e6c57fa020b85b01271088bbb09a7cd" dmcf-pid="7HrwxqZval" dmcf-ptype="general">이나연 기자(ny@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 '이통 4사' 캐나다, 3사 체제로...퀘벡코어, 텔러스 인수 제안 11-17 다음 아이티아이즈·웨이브릿지·노드인프라, 금융권 디지털자산 사업 협력 11-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.