AI 딱지 붙자 수익 ‘뚝’…라벨링의 역효과에 빅테크 골머리 작성일 06-29 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 제작 표시 이용자·창작자 유대감 깨<br>고지 중요하지만 저질영상 차단도 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WgeO8FKpyW"> <figure class="figure_frm origin_fig" contents-hash="95b57a6455908808106aa262fa590a9d9c29ef4dbf642ef8706808dacc5438d0" dmcf-pid="YadI639Uyy" dmcf-ptype="figure"> <p class="link_figure"><img alt="[연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/mk/20260629151803505spbp.png" data-org-width="700" dmcf-mid="xSWKCLwaCG" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/mk/20260629151803505spbp.png" width="658"></p> <figcaption class="txt_caption default_figure"> [연합뉴스] </figcaption> </figure> <div contents-hash="2453597e80fca265fb1fd26c7a054b6b8b1b7bc92c1576f1cbad22c5819c319c" dmcf-pid="GNJCP02uST" dmcf-ptype="general"> 글로벌 빅테크의 고민이 깊어지고 있다. 인공지능(AI) 콘텐츠 여부 의무 표시 정책이 원인이다. 교육적·사회적 부작용을 막고 투명성을 강화하려는 조치가 사회관계망서비스(SNS) 이용자의 거부감을 자극하면서 활로를 모색하는 모습이다. </div> <p contents-hash="768081f6bcdcbac2c407b6ea7928004e3d4e49bd7b8789675a07eb939cb06b88" dmcf-pid="HjihQpV7Wv" dmcf-ptype="general">29일 정보기술(IT)업계에 따르면 미국 서던캘리포니아대(USC) 마셜경영대학원 연구진은 지난달 소비자행동분야 학술지 저널오브컨슈머리서치에 틱톡의 AI로 생성한 콘텐츠 표시가 이용자의 참여를 낮추는 결과가 나왔다는 내용의 논문을 게재했다.</p> <p contents-hash="53065c7f92e1eaa96898abcd507efd6a8143d84312b8d35814350ecc2305bf03" dmcf-pid="XAnlxUfzlS" dmcf-ptype="general">연구진이 틱톡 게시물 113만5817건을 분석했더니 AI 생성·편집 표기 게시물은 일반 게시물보다 좋아요·댓글·공유를 합친 활동 참여가 약 7% 낮았다. 연구진은 콘텐츠 품질 우려나 신기술에 대한 거부감 때문이 아니라, 소비자와 창작자 사이의 일방향 정서적 유대감을 낮추기 때문이라고 분석했다. AI가 만든 콘텐츠라는 사실을 인지한 이용자는 창작자의 노력에 상대적으로 덜 공감하게 된다는 의미다.</p> <p contents-hash="2ade6f73d7dcf808cd645319e2c186ded4dadb895af774733c827c6d560f5572" dmcf-pid="ZLMmf1B3hl" dmcf-ptype="general">빅테크도 발 빠르게 움직이고 있다. 구글은 AI 콘텐츠에 육안으로는 보이지 않는 디지털 워터마크를 새기는 신스ID 기술을 확대하고, 오픈AI도 이미지에 디지털 출처 정보와 신스ID를 적용하겠다고 발표했다. 틱톡은 이용자 스스로 AI 콘텐츠 노출량을 조절할 수 있는 기능을 도입했다.</p> <figure class="figure_frm origin_fig" contents-hash="cca944909e7c3147821d5a958caf2d3893a6d4cf4f7cc8acef47f88ed752c070" dmcf-pid="5oRs4tb0yh" dmcf-ptype="figure"> <p class="link_figure"><img alt="[제미나이]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/mk/20260629151804790iami.jpg" data-org-width="700" dmcf-mid="yGXfvNOcWY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/mk/20260629151804790iami.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [제미나이] </figcaption> </figure> <div contents-hash="ac4144ce4abc04effba6b9b827166c9cab0dcabb5988e896a053368dd497d323" dmcf-pid="1geO8FKphC" dmcf-ptype="general"> 이에 IT업계는 단순히 AI 콘텐츠 여부 구분을 도와주는 데 그치기보다는 창작자의 노고가 드러나는 방식으로 의무 표시 제도를 개선할 필요가 있다고 목소리를 높였다. 아울러 건강한 플랫폼 생태계를 지키기 위해서 저질·허위 콘텐츠를 걸러내는 것이 급선무라고 강조했다. </div> <p contents-hash="fce3f594643f75eb727fea16e33412c4568171b37df683f84bdee55541ec03cf" dmcf-pid="tadI639UlI" dmcf-ptype="general">실제로 IT 전문 외신 더넥스트웹은 동영상편집기업 캡윙의 조사를 인용해 새로 만든 틱톡 계정에 노출된 추천 영상 500개 가운데 294개(59%)가 저품질 콘텐츠인 AI 슬롭으로 분류됐다고 보도했다. 유튜브(21%)보다도 3배 가까이 많았다.</p> <p contents-hash="fa9f08bfa60795f1e413823fbf21510e55e89f9bb3687802aae94404d8ea533f" dmcf-pid="FNJCP02uSO" dmcf-ptype="general">가장 심각한 카테고리는 어린이였다. 어린이 카테고리 영상의 57%가 AI 슬롭이었다. 발음이 어색해 학습용으로 적합하지 않거나 숫자를 잘못 가르치는 등 오류 사례도 상당했다. 그 뒤를 과학·교육(35%), 건강(34%), 역사(34%) 등이 이었다. 철저한 사실 검증이 필요한 영역마저도 AI 슬롭이 장악한 것이다.</p> <p contents-hash="18df34159c6c1cebb06af93db24014f8baacb1233243af0d3645432fc6ba3a89" dmcf-pid="3jihQpV7Ts" dmcf-ptype="general">IT업계 관계자는 “빅테크들이 디지털 리터러시를 강조하고 있지만, AI 콘텐츠 노출 비중은 여전하다”라며 “더구나 이용자가 플랫폼에서 접하는 콘텐츠의 상당수가 AI 슬롭으로 드러났다는 점에서 AI 제작 표시라는 형식적 절차를 넘어 유해 콘텐츠의 확산을 차단하는 알고리즘 고도화가 시급하다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 한국도핑방지위원회, '클린 투게더' 사업 다각화…아시아 개도국 대상 맞춤형 협력 확대 06-29 다음 "AI 해킹부터 재난 복구까지"…정부 전산망 혁신, 300개 기관과 머리 맞댄다 06-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
