[르포] “입에 담배 물자 ‘유해성 99%’ 경고”… 틱톡 본사 ‘투명성 책임센터’ 가보니 작성일 08-24 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8BDVZlfzo4"> <p contents-hash="f2ad5f0d39e864bff737b22ef7d6384add2be5495df2b551e377872f9cebd973" dmcf-pid="6bwf5S4qAf" dmcf-ptype="general"><strong>지난 11일 찾은 싱가포르 틱톡 본사 내 ‘투명성 및 책임 센터(TAC)’. 틱톡 관계자가 모니터와 연결된 카메라 앞에서 담배를 손에 들자, 화면에 표시된 ‘흡연 지수’가 50%대로 올라갔다. 이어 담배를 입에 물고 피우는 시늉을 하자 수치는 단숨에 99%까지 치솟으며 경고등이 켜졌다.</strong></p> <figure class="figure_frm origin_fig" contents-hash="60106bf9cea85f163b6bb6b70307cde0b7e67d24b0ee489c418654ae70748247" dmcf-pid="Pv6GkiHlkV" dmcf-ptype="figure"> <p class="link_figure"><img alt="틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC)'. /싱가포르=김수정 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/chosunbiz/20260824050153467fsdb.jpg" data-org-width="4104" dmcf-mid="VS5j47AijP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/chosunbiz/20260824050153467fsdb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC)'. /싱가포르=김수정 기자 </figcaption> </figure> <p contents-hash="4f4a1830226b0c320f811b8c24c61d720f9849b69f7dcad0a9ab5371e5a83644" dmcf-pid="QTPHEnXSk2" dmcf-ptype="general">최근 세계 각국에서 소셜미디어(SNS)의 부정적 영향을 줄이기 위한 규제가 확산하고 있다. 특히 유해 콘텐츠에 취약한 청소년 보호가 핵심 의제로 떠올랐다. 호주가 지난해 12월 세계 최초로 16세 미만의 SNS 이용을 금지한 데 이어, 인도네시아와 말레이시아도 16세 미만의 계정 생성을 제한했다. 프랑스는 지난달 15세 미만의 SNS 이용 제한 법안을 통과시켰고, 영국·스페인·그리스와 캐나다, 아랍에미리트(UAE) 등도 연령 확인 의무를 강화하고 있다.</p> <p contents-hash="0f0348a58d34d630e17152b32ff71d83ea8433466218b94cb881df91b27bc7ae" dmcf-pid="xyQXDLZvo9" dmcf-ptype="general">각국의 규제 방식과 수위에는 차이가 있지만, 배경에는 공통된 문제의식이 깔려 있다. SNS에서 유해 콘텐츠에 무분별하게 노출되거나, 비슷한 정보만 반복 추천되면서 확증편향이 강화될 경우 이용자에게 부정적인 영향을 미칠 수 있다는 우려다. 이에 따라 글로벌 플랫폼 기업에도 유해 콘텐츠를 빠르고 정확하게 걸러내는 동시에, 확증편향에서 벗어나 안전한 콘텐츠 환경을 조성하는 것이 주요 과제로 떠오르고 있다.</p> <p contents-hash="3576c3d6d556c62c13d5dc1bfb8379c0b2e146bcf0e444da3b0f5d5649b068b2" dmcf-pid="yxTJq1iPAK" dmcf-ptype="general">틱톡 TAC는 안전한 콘텐츠 환경을 조성하기 위한 노력을 보여주는 공간이다. 이곳에서는 ‘신뢰와 안전(T&S·Trust & Safety)팀’이 틱톡 콘텐츠가 이용자에게 노출되기 전 유해성을 심사하는 과정을 살펴볼 수 있다. 한국어 콘텐츠는 주로 한국어를 모국어로 사용하는 심사자가 검토한다. 틱톡에 따르면 올해 1분기에만 약 1억8500만건의 콘텐츠가 삭제됐다.</p> <p contents-hash="216d94a3d2096c6ad4072618851bf1058f967acfe2796e635763bf22d7b5fd63" dmcf-pid="WMyiBtnQAb" dmcf-ptype="general"><strong>◇ “AI가 거른 후 인간이 판단”… 올해 1분기에만 1억8500만건 삭제</strong></p> <p contents-hash="cbfcf22416119968d9de947b6855da3935d84f826a444d9afd49ddbf07157cc9" dmcf-pid="YRWnbFLxAB" dmcf-ptype="general">틱톡의 콘텐츠 심사는 크게 세 단계로 이뤄진다. 이용자가 영상을 올리면 유해성이 없는 것으로 판단된 약 99.5%의 콘텐츠는 곧바로 게시되고, 나머지 약 0.5%는 커뮤니티 가이드라인 위반 가능성이 있는 콘텐츠로 분류돼 추가 심사를 받는다. 1차 심사는 AI 기반 머신러닝이 담당하며, 대부분의 유해 콘텐츠가 이 단계에서 걸러진다. 틱톡에 따르면 올해 1분기 삭제된 콘텐츠 가운데 약 96%인 1억7600만건이 머신러닝을 통해 자동 삭제됐다.</p> <p contents-hash="b030bd7c0d45be98d3face93640082bf209cd23c871616fc4ba0658c95ae0b0b" dmcf-pid="GeYLK3oMgq" dmcf-ptype="general">TAC에서는 이 과정을 직접 확인할 수 있었다. 머신러닝은 영상 속 특정 사물을 단순히 식별하는 데 그치지 않고, 사람의 행동과 주변 상황을 종합해 맥락을 파악했다. 모니터 앞에서 담배를 입에 물고 피우는 동작을 하자 흡연 관련 수치가 90%대로 치솟은 반면, 막대사탕을 물고 같은 동작을 했을 때는 별다른 변화가 없었다. 분석 대상은 문구와 음성까지 아우른다. 이슬람국가(IS)를 상징하는 문구가 등장하자 ‘극단주의 깃발’ 관련 수치가 크게 올랐다.</p> <p contents-hash="ae6db87655d9763c06ae4b5870ca92bf3694d085fc39febb8fb4c0454b64d3d1" dmcf-pid="HdGo90gRkz" dmcf-ptype="general">틱톡 관계자는 “머신러닝은 이미지와 텍스트, 음성, 행동 등 다양한 신호를 종합해 콘텐츠의 위반 가능성을 판단한다”며 “사람의 얼굴을 식별하는 것이 아니라 신체 관절과 자세 등 행동 패턴을 분석하는 방식으로, 이 과정에서 개인을 식별하는 정보는 수집하지 않는다”고 설명했다.</p> <p contents-hash="9f5bc359dda7d9beacb8533d98e0b19adffa72d06feacbe442ff6375d148c749" dmcf-pid="XJHg2paek7" dmcf-ptype="general">다만 AI만으로 판단하기 어려운 콘텐츠는 T&S 소속 인간 심사관의 2차 심사를 거친다. 노출이 많은 옷을 입었지만 성적 행위가 아닌 시위 퍼포먼스나, 직접적인 폭력 장면은 없지만 괴롭힘 의도가 담긴 혐오성 발언 등 이른바 ‘회색 지대’ 콘텐츠가 대상이다. 심사관은 프레임별 스크린샷과 댓글, 해시태그, 게시 맥락 등을 종합적으로 살펴 콘텐츠 가이드라인 위반 여부를 최종 판단한다.</p> <p contents-hash="18b2c69556dd1757bc6da41aed6a3986450d7c5ae33f5e82de445a57bdb608ca" dmcf-pid="ZiXaVUNdNu" dmcf-ptype="general">TAC에서는 직접 인간 심사관 역할을 맡아 모의 심사 과정도 체험할 수 있었다. 화면에는 바닥을 붉은 액체가 뒤덮은 영상이 등장했다. 언뜻 보면 사고로 사람이 피를 흘린 듯한 장면이었다. 그러나 영상을 자세히 살펴보니 피처럼 보였던 액체는 사고 과정에서 흘러나온 엔진오일이었다. ‘위반 아님’을 선택하자 정답이라는 결과가 표시됐다. 색상과 장면만으로는 AI가 실제 피와 엔진오일을 구분하기 쉽지 않은 사례였다.</p> <figure class="figure_frm origin_fig" contents-hash="f205aa0dc3c08c336d7ea2b74cf9b93095443cc5c066d7ca7177ec565cfac0e3" dmcf-pid="5nZNfujJjU" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난 11일 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC)'에서 틱톡 관계자가 한국 취재진을 대상으로 추천 알고리즘 원리를 설명하고 있다. /싱가포르=김수정 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/24/chosunbiz/20260824050154899iynq.jpg" data-org-width="4773" dmcf-mid="4eR1matWo8" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/24/chosunbiz/20260824050154899iynq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지난 11일 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC)'에서 틱톡 관계자가 한국 취재진을 대상으로 추천 알고리즘 원리를 설명하고 있다. /싱가포르=김수정 기자 </figcaption> </figure> <p contents-hash="1e453ca490bf8e8dbf2d2567dc37317d52dd037ac48d9301f3ea985b28ee3106" dmcf-pid="1L5j47Aiop" dmcf-ptype="general"><strong>◇ “취향 60%·새로운 콘텐츠 40%”… 틱톡이 공개한 추천 알고리즘</strong></p> <p contents-hash="5d344de83d445c78c5f1d8af1d6ed4c3979d35ccee452998f9788a4501c0e9f7" dmcf-pid="to1A8zcnj0" dmcf-ptype="general">콘텐츠 안전 심사만큼 틱톡이 중요하게 다루는 또 다른 과제는 이용자의 확증편향을 키우는 ‘필터 버블’이다. TAC에는 콘텐츠 심사뿐 아니라 추천 알고리즘의 작동 방식과 이용자가 특정 관심사에 갇히는 것을 막기 위한 장치를 설명하는 공간도 마련돼 있다.</p> <p contents-hash="250ad3f1d9682d0f12af4e6edf702b3c85a89c270baabbfcc7895f8a0a496af2" dmcf-pid="FApwM9rNN3" dmcf-ptype="general">틱톡의 추천 시스템은 이용자에게 영상을 8개씩 묶어 보여주고 반응을 학습하는 방식으로 작동한다. 시청 시간과 좋아요·공유·댓글 등 이용자 반응을 분석해 다음 8개의 추천 영상을 구성하는 과정을 반복한다. 약 64개의 영상을 시청하면 이용자의 취향에 맞는 추천 방향이 어느 정도 형성된다는 설명이다. 처음 가입해 취향 정보가 부족한 이용자에게는 지역과 스마트폰의 언어 설정, 현재 인기 있으면서 안전한 콘텐츠 등을 토대로 첫 추천 묶음을 구성한다. 이후 이용자의 반응이 쌓일수록 관심사를 구체화해 추천 콘텐츠를 조정한다.</p> <p contents-hash="2971e2c142405d10749f89148a10e9090621dee1873953df13facc31c2783298" dmcf-pid="3cUrR2mjAF" dmcf-ptype="general">다만 관심사 기반 추천이 이용자를 특정 주제에 가두는 필터 버블로 이어지지 않도록 의도적으로 다른 콘텐츠도 섞는다. 동일한 유형이나 같은 크리에이터의 영상을 지나치게 연속으로 노출하지 않고, 이용자가 평소 소비하지 않던 콘텐츠도 지속적으로 추천한다. 정확한 비율을 정해놓은 것은 아니지만, 통상 이용자가 선호하는 콘텐츠를 약 60%, 새로운 콘텐츠를 약 40% 섞어 보여주는 방식이라고 틱톡 측은 설명했다.</p> <p contents-hash="e6779dbce28c49089bfcf8629e1959182383a4fcf39c6eac06527db85bbafd0e" dmcf-pid="0kumeVsAot" dmcf-ptype="general">이는 이용자의 흥미를 넓히는 데 그치지 않고 특정 주제나 관점에 과도하게 몰입하는 것을 막기 위한 목적도 있다. 우울증이나 정신질환, 다이어트 등 특정 주제에 관심을 보이더라도 유사한 콘텐츠만 반복적으로 노출하지 않고 새로운 콘텐츠를 함께 추천한다. 정치 콘텐츠 역시 이용자가 한쪽 성향의 콘텐츠를 주로 소비하더라도 반대 관점의 콘텐츠를 의도적으로 추천 피드에 섞어 보여준다는 게 틱톡 측 설명이다.</p> <p contents-hash="dd248f89b61cf9d9f89e766b5daad49478a4349024051249bcee81f5a99e966a" dmcf-pid="pE7sdfOcA1" dmcf-ptype="general">이와 함께 이용자의 추천 피드 통제권과 크리에이터의 노출 기회도 열어뒀다. 이용자는 ‘콘텐츠 취향’ 설정에서 특정 키워드를 걸러내거나 관심 주제의 노출 정도를 직접 조절할 수 있다. ‘관심 없음’이나 신고 등 이용자가 보내는 신호 역시 향후 추천에 반영된다. 크리에이터의 팔로어 수도 추천을 좌우하는 절대적 기준은 아니다.</p> <p contents-hash="5ca002ff04316d81c287485c145fa99e354ab557616642ad055b6b4366725978" dmcf-pid="UDzOJ4Ika5" dmcf-ptype="general">틱톡은 최근 문제로 떠오른 ‘AI 슬롭(저품질 AI 생성 콘텐츠)’ 대응도 강화하고 있다. 사람의 실질적인 참여 없이 저품질 AI 콘텐츠를 대량 생산하는 계정에 대한 제재를 강화하는 한편, 실제처럼 보이는 AI 생성·편집 콘텐츠에는 라벨을 표시한다. 틱톡 자체 편집 도구로 제작한 콘텐츠에는 자동 라벨링을 적용하고, 외부 플랫폼에서 제작된 AI 콘텐츠도 콘텐츠 인증 기술을 통해 식별한다.</p> <p contents-hash="4f1e82d422dd5726d7f2ceaf1129fce82a1691084fec953d310974632a51ab03" dmcf-pid="uwqIi8CEgZ" dmcf-ptype="general">틱톡 관계자는 “사람의 실질적인 참여 없이 저품질 AI 콘텐츠를 대량 생산하는 계정에 대해서도 대응을 강화하고 있다”며 “다만 AI 슬롭은 좋아요나 댓글 등 이용자 반응을 얻기 어려워 추천 알고리즘에서 자연스럽게 도태되는 경우가 많다”고 설명했다.</p> <p contents-hash="4a46f6bd89c903f8e320077fa0afa1cf1a0dbaa2d2773f261682efdb21380d48" dmcf-pid="7rBCn6hDgX" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 韓 크리에이터 육성하는 틱톡 “1분 이상 한국어 콘텐츠 91% 증가… 질적 성장 의미” 08-24 다음 “책 한 권 끝까지 읽어라” 구글 철학자의 AI시대 생존법 [팩플] 08-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
