‘AI 쓰레기’ 콘텐츠 구분법 만드는 중국

작성일 09-02

<div id="layerTranslateNotice" style="display:none;"></div> 중국 플랫폼 기업들 동참 미국 빅테크도 자구책 한국도 AI 기본법 통해 규제 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="pJ3UTDuSGZ">
 <figure class="figure_frm origin_fig" contents-hash="cb1dc17c974247309b5e0b3a78206850dfaf20c9e604c5279c31dcb65739821e" dmcf-pid="Ui0uyw7v1X" dmcf-ptype="figure">
 <img alt="AI로 만든 가짜 영상./유튜브" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/02/chosun/20250902134051256svcf.jpg" data-org-width="1157" dmcf-mid="02YXmoZwt5" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/02/chosun/20250902134051256svcf.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI로 만든 가짜 영상./유튜브
 </figcaption>
 </figure>
 전 세계가 생성형 AI(인공지능)로 만든 가짜 콘텐츠를 막기 위한 각종 조치를 내놓고 있다. 미국 빅테크에 이어 중국 소셜미디어 플랫폼들도 가짜 AI를 구별하기 위한 기능을 적용하고 있다. 각국에서도 AI가 만든 사진·영상에 표시를 의무화하는 법안을 마련하고 있다.
 현재 AI로 이미지나 영상을 너무도 쉽게 만들 수 있게 되면서 가짜뿐 아니라 기괴한 AI 콘텐츠들이 온라인에 넘치는 상황이다. 그동안 이를 관리할 방안이 없었지만 앞으로 이를 규제할 방안을 전 세계가 만들고 있는 것이다.
 ◇중국에서도 AI 부작용 단속
 2일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 주요 중국 소셜미디어 플랫폼들이 AI 관련 법을 지키는 기능을 출시하고 있다. 앞서 지난 3월 중국에서 발표된 법은 AI가 생성한 텍스트, 이미지, 오디오, 비디오 등에 라벨을 부착하도록 요구하고 있다. SCMP는 “잘못된 정보, 저작권 침해, 온라인 사기에 대한 우려가 커지면서 중국에서 AI에 대한 감시를 강화하고 있음을 반영한다”라고 했다.
 중국 최대 메신저인 위챗은 콘텐츠 제작자가 모든 AI 생성 콘텐츠를 게시할 때 자발적으로 신고해야 한다고 밝혔다. 위챗의 전 세계 월간 활성 사용자는 14억명 이상이다. 위챗은 “플랫폼에서 추가한 AI 라벨을 삭제, 변조, 위조 또는 은폐하는 행위와 AI를 이용해 허위 정보를 제작하거나 유포하는 행위, 저작권 침해 콘텐츠 또는 불법 활동을 하는 행위를 엄격히 금지한다”고 했다. 중국판 틱톡인 도우인도 크리에이터들에게 AI로 생성된 모든 콘텐츠에 눈에 띄는 라벨을 추가하도록 권장한다고 밝혔다.
 중국 규제 당국은 영상 플랫폼에서의 사기성 마케팅과 소셜 미디어 인플루언서의 허위 정보에 대한 단속에 중점을 두고, 미성년자 사용자를 위한 온라인 보호를 강화할 것이라고 밝힌 바 있다.
 ◇한국도 내년부터 AI 표시 의무
 미국은 정부보다는 기업들의 자발 실천으로 AI 콘텐츠 표시 의무가 진행 중이다. 메타는 운영 중인 페이스북과 인스타그램, 스레드에서 AI 생성 이미지에 라벨을 붙이고 있다. 메타는 자체 AI 도구인 ‘메타 AI’로 만든 콘텐츠에도 라벨을 붙이고 있다. 글로벌 숏폼 플랫폼 틱톡도 생성형 AI 콘텐츠에 라벨을 붙이고 있고, 구글도 AI 챗봇 서비스인 바드에서 이미지를 생성하면 워터마크를 넣고 있다.
 각국은 법으로 규제하고 있다. 유럽연합(EU)에서는 AI로 생성한 콘텐츠에 워터마크를 의무화하는 내용 등이 담긴 법안을 통과시켰다. 한국에서는 내년 시행되는 AI 기본법에서 생성형 AI를 통해 만들어진 영화·드라마 등 콘텐츠 서비스에 AI 결과물 표시를 의무화하고 있다.
 네이버는 최근 콘텐츠 블로그, 카페, 네이버 TV, 클립 등에서 ‘AI 활용’ 표시를 통해 작성자가 AI 활용 여부를 표시할 수 있는 기능을 제공했다.
 ◇“AI로 인한 부작용 심각”
 정부와 기업이 AI 콘텐츠를 단속하는 이유는 부작용이 점점 심각해지고 있기 때문이다. AI 성능이 높아지면서 진짜와 가짜 구분이 점점 어려워지고 있는 상황이다. 미국에서는 테일러 스위프트의 얼굴이 합성된 음란물이 유포되기도 했고, 유명인뿐 아니라 일반 시민들도 피해를 입고 있다. 특히 청소년들이 취약하다. 한국에서도 경복궁 등 서울 시내가 폭우로 잠긴 가짜 영상 등이 생성형 AI로 만들어져 온라인에 유포되기도 했다.
 </section> 
 </div> 
 Copyright © 조선일보. 무단전재 및 재배포 금지.

이전

"AWS보다 3배 더 빨라"…EDB, 'AI 팩토리'로 개발 효율 강화

09-02
다음

오케스트로 “AI 시대 경쟁력, 클라우드 데이터 오케스트레이션에 달렸다”

09-02

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

‘AI 쓰레기’ 콘텐츠 구분법 만드는 중국

멤버랭킹

관련자료

멤버랭킹