"AI가 유해 영상 90% 선제 필터링"...틱톡, 분기 100만개 영상 삭제 작성일 03-04 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">싱가포르 투명성 및 책임센터 가보니</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PhDidO71aC"> <figure class="figure_frm origin_fig" contents-hash="6eada6684bfebfc5b7a3b60d7185b416d2a39cfc9ff1e6dc075c1361d501f7ee" dmcf-pid="QlwnJIztcI" dmcf-ptype="figure"> <p class="link_figure"><img alt="틱톡 싱가포르 투명성 및 책임 센터(TAC). 사진=주원규 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/04/fnnewsi/20260304111303485xrie.jpg" data-org-width="800" dmcf-mid="6rNxPEFYoh" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/04/fnnewsi/20260304111303485xrie.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 틱톡 싱가포르 투명성 및 책임 센터(TAC). 사진=주원규 기자 </figcaption> </figure> <div contents-hash="5da3dd7f8cb83c470760e97279e1a37865bffc643a72b545a9a27a4bf4cf108f" dmcf-pid="xSrLiCqFjO" dmcf-ptype="general"> <br><strong>[파이낸셜뉴스 싱가포르=주원규 기자]</strong> #. 지난달 25일 틱톡 싱가포르 본사에 위치한 틱톡 투명성 및 책임 센터(TAC). TAC 관계자가 모니터와 연결된 카메라 앞에서 담배를 입에 물자 ‘흡연 지수’가 10%대로 올라갔고, 이후 담배를 피우는 시늉을 하니 흡연 지수는 점점 상승했다. </div> <p contents-hash="6b54c218cf7904a6f9183e7bd4b07ecef6dd4a3dae017559555fd70c2675266b" dmcf-pid="y6b1ZfDgcs" dmcf-ptype="general">반대로 막대사탕을 입에 물고 동일한 동작을 했을 때 흡연 지수는 올라가지 않았다. 인공지능(AI)이 영상에 나온 사람의 동작과 맥락을 정교하게 분석해 동영상의 유해성 여부를 판단한 것이다. </p> <p contents-hash="b1489524c6ea5adaffc2354ecf80d57999e82266012de80ef2738470fdea7c75" dmcf-pid="WPKt54wakm" dmcf-ptype="general">전세계 10억명 이상이 사용하는 플랫폼으로 성장하며 영향력이 커진 틱톡은 최근 이용자 안전과 사회적 책임 이행에 중점을 두고 있다. 전세계에 위치한 TAC는 각 지역의 콘텐츠 심사와 추천 과정, 플랫폼 보안 등을 투명하게 공개하고 사회적 책임 강화 방안을 알리려는 목적으로 운영되는 시설이다. </p> <p contents-hash="8dd8be4ccb7d6a8e4742e65a19543fa7179fdd8d2446f6896ae17e8b45c5558b" dmcf-pid="YQ9F18rNgr" dmcf-ptype="general">4일 틱톡에 따르면 지난해 4·4분기에만 전 세계에서 틱톡의 커뮤니티 가이드라인을 위반한 약 1억 8400만개의 영상이 삭제됐다. 한국에서도 매 분기 약 백만개 영상이 삭제되고 있는 상황이다. </p> <p contents-hash="f8eea1e03dca10467f0be591cac7b86368af2a980538a483f8711b71a9ffd77a" dmcf-pid="GKpWTqaeow" dmcf-ptype="general">이용자가 올린 콘텐츠는 AI 자동 필터링과 전문 심사역 검토 절차를 거친다. 콘텐츠 중 86%는 머신러닝에 의해 걸러지고, 89.7%는 조회 전 모두 삭제된다. 만약 AI가 판단이 어려운 콘텐츠는 전문 심사 담당자가 가이드라인을 위반하지 않는지 24시간 검증한다. 전세계 수만명의 전문 심사역은 현지 문화나 관습, 법률 위반 맥락도 고려한다. 이러한 전문 심사역은 콘텐츠 플랫폼 중 가장 대규모로 알려졌다. </p> <p contents-hash="18ae4ab1c210349b71fee99c0835ef52bee2f994eb47235a69046e5b244d8eb4" dmcf-pid="H9UYyBNdgD" dmcf-ptype="general">틱톡의 가이드라인은 △안전 및 시민 의식 △정신 및 행동 건강 △민감한 성인 테마 △진실성 및 진정성 △규제 대상 물품 및 상업 활동 △개인 정보 보호 및 보안 등 6가지 주제로 구성돼 있다. </p> <p contents-hash="e667f2305f7eda869b1658a6a66d2a466ff98e78f94c79feb8b29434cae0be88" dmcf-pid="X2uGWbjJkE" dmcf-ptype="general">가이드라인의 핵심 판단 기준은 '콘텐츠를 시청하거나 공유하는 것이 실제 현실에서 어떤 피해를 야기할 수 있는가'이다. 다만 즉시 제제가 모호한 콘텐츠를 판단하기 위해 팩트체크 기관과 외부 전문가들을 통한 상시 자문 체계를 구축했다. </p> <p contents-hash="a10bf62b96b535965de226b3ccbdec24ce0ae0ec5e96badc9845a45246d2154e" dmcf-pid="ZV7HYKAiNk" dmcf-ptype="general">국내에서는 청소년 안전을 위해 푸른나무재단, 탁틴내일 등 청소년 비영리단체(NGO)와 협업하고 있다. 틱톡 관계자는 "일선 현장 전문가들로부터 실질적 위해 여부에 대한 피드백을 지속적으로 받고 이를 정책 개선에 반영한다"고 전했다. 틱톡 커뮤니티 가이드라인의 가장 최신 개정은 지난해 9월 이뤄졌다. </p> <p contents-hash="582eb4e5f3cde26872120dec339b5c34f57fe1fdfc90dbfeb1c35d07206e797a" dmcf-pid="5fzXG9cnac" dmcf-ptype="general">최근 플랫폼들이 AI 기술로 만들어진 저품질 콘텐츠 양산 대응에 골머리를 앓고 있는 상황에 틱톡은 AI 생성 콘텐츠를 필터링 기능도 도입했다. 곧 국내에도 시험 과정을 거쳐 도입될 예정이다. </p> <p contents-hash="8878efd88fec85abb89263b7e18b50e563cc48a506f9cc6b0af82edb650543ef" dmcf-pid="14qZH2kLNA" dmcf-ptype="general">틱톡은 콘텐츠에 있어 '독창성(Authenticity)'의 가장 높은 가치를 두기 때문에 AI에 의해 패턴화되고 뻔한 콘텐츠는 알고리즘의 추천을 받기에도 어렵고, 수익 구조에서도 경제적 매력이 없다는 설명이다. </p> <p contents-hash="4a295653ee612c9940bdf945699ea5d0cec89cf19c42fa168326cc4932c4a9e3" dmcf-pid="t8B5XVEogj" dmcf-ptype="general">추천 알고리즘에는 필터버블을 방지하는 것에 초점을 뒀다. 틱톡은 이용자에게 익숙한 콘텐츠와 새로운 콘텐츠를 혼합해서 추천하는 방식을 사용한다. </p> <p contents-hash="0b775c3f510780fe0df7cb719a0401efb5547108f114bb1ebb38e1bac1e0c413" dmcf-pid="F6b1ZfDgkN" dmcf-ptype="general">틱톡 관계자는 "틱톡의 콘텐츠 관리는 단순한 제재를 넘어서 입체적으로 대응하는 경우가 많다"며 "글로벌 플랫폼이지만 각 지역에서 즉각적인 의사결정과 대응이 가능하다"고 전했다.</p> <p contents-hash="385637a174480cff86043895fdbab8ca8eca9575b04d1c41333bf6839ac5f1e2" dmcf-pid="3PKt54waca" dmcf-ptype="general">wongood@fnnews.com 주원규 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 엔하이픈 미니 7집, 美 '빌보드 200' 6주 연속 차트인 '롱런' 03-04 다음 "세계 정상급 마라토너 모인다"…서울마라톤, 15일 개최 03-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
