오늘부터 'AI 생성물' 표시 의무…누가, 언제, 어떻게 붙이나 작성일 01-22 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 기본법 시행…AI 생성물 유통 시 '표시 의무' 본격 적용<br>활용는 이용자는 대상 아냐…딥페이크는 가시적·가청적 고지 원칙<br>게임·챗봇처럼 서비스 내에선 유연 대응…글로벌 기업 이미 적용</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qm9EcUtWXH"> <figure class="figure_frm origin_fig" contents-hash="9fdd1567e94ac2636a365ad5029c13528fa8c52dbb436be36071e407fa05ea92" dmcf-pid="Bs2DkuFY5G" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 과학기술정보통신부가 'AI기본법'의 투명성 확보 의무를 구체화한 '인공지능 투명성 확보 가이드라인'을 발간했다. (사진=과기정통부 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/newsis/20260122060204928hirm.jpg" data-org-width="632" dmcf-mid="7VZMQvIkXZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/newsis/20260122060204928hirm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 과학기술정보통신부가 'AI기본법'의 투명성 확보 의무를 구체화한 '인공지능 투명성 확보 가이드라인'을 발간했다. (사진=과기정통부 제공) *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="a2ce1f610bbf1e6dc5db3391bbecf11ee67af0c24a891ced3b7ba3da6bf1bee0" dmcf-pid="bOVwE73G5Y" dmcf-ptype="general"><br> [서울=뉴시스] 심지혜 기자 = 오늘부터 생성형 인공지능(AI) 서비스를 통해 만들어져 외부로 유통되는 이미지·영상·음성에는 ‘AI 생성물’임을 알리는 표시를 붙여야 한다.</p> <p contents-hash="25b70fe48632320730b2bd61e4849086ed72607a77ce603be9efe01b4492a987" dmcf-pid="KIfrDz0HtW" dmcf-ptype="general">실제와 구분하기 어려운 딥페이크 생성물은 보다 명확한 방식으로 AI 생성 사실을 고지해야 하며 표시 의무 책임은 결과물을 만든 이용자가 아니라 AI 제품·서비스를 제공하는 사업자가 진다. </p> <p contents-hash="26305ef83d6a76b377352b9968d41f1020596906cdc20118850e51bbc5d05989" dmcf-pid="9C4mwqpXGy" dmcf-ptype="general">22일 과학기술정보통신부에 따르면 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’ 시행에 따라 투명성 확보 의무가 적용된다.</p> <p contents-hash="4328f1fc7818fa6858789621a8e28595e71345fe24e230aa11b7aa928b58d981" dmcf-pid="2h8srBUZ1T" dmcf-ptype="general">AI 제품·서비스가 고영향 AI 또는 생성형 AI에 기반해 운용된다는 사실을 사전에 이용자에게 알리고, 생성형 AI로 만들어진 결과물이 외부로 유통될 경우 AI 생성물임을 표시해야 한다.</p> <p contents-hash="4cfdcd037ca176d1185f316420f7bbafc56e85230e0b12a524fe9b9497d00f15" dmcf-pid="Vl6Ombu5Gv" dmcf-ptype="general">AI 기본법에 따른 투명성 확보 의무는 ▲고영향 또는 생성형 AI 기반 운용 사실의 사전 고지와 ▲AI 생성물이 생성형 AI로 만들어졌다는 사실의 표시로 나뉜다.</p> <p contents-hash="76a3c68fd2757465c8f04bd421dc06571b24c9e0e02bea6078e0421f7b9e0ace" dmcf-pid="fEqjaFXStS" dmcf-ptype="general">사전 고지 의무는 이용자가 AI 제품·서비스 이용 과정에서 고영향·생성형 AI 기술이 적용된 사실을 미리 인지하고 주의를 기울일 수 있도록 하는 데 중점을 두고 있다.</p> <p contents-hash="66c3b7582bd871808947c84abfba3449230d7798308f0ed51e52362a0d3db753" dmcf-pid="4DBAN3Zvtl" dmcf-ptype="general">투명성 확보 의무를 이행해야 하는 주체는 이용자에게 AI 제품 및 서비스를 직접 제공하는 ‘인공지능사업자’다. 여기에는 국내 이용자를 대상으로 AI 제품·서비스를 제공하는 해외 사업자도 포함된다.</p> <p contents-hash="c608d0b22a3713814dedfce203cb139242f44d238cdcc0eb1b48a6a590aa3fcd" dmcf-pid="8wbcj05TYh" dmcf-ptype="general">AI 기술이나 서비스를 단순히 업무나 창작의 ‘도구’로 활용하는 이용자는 의무 대상에 해당하지 않는다. AI 제품·서비스를 제공하는 인공지능사업자가 아니라, 제공받은 AI 제품·서비스와 생성물을 활용하는 입장이기 때문이다.</p> <p contents-hash="74970626eff8d845b99375e7080c43aa9f558de094525da4d1f8552c5e22d0ef" dmcf-pid="6rKkAp1yYC" dmcf-ptype="general">예를 들어 영상 생성 AI를 이용하여 영화를 제작·배급하는 제작사는 AI 제품·서비스를 제공하는 것이 아니라, AI를 업무에 활용한 ‘이용자’에 해당하므로 의무 대상에 해당하지 않는다.</p> <p contents-hash="f636fd8cffd5839f8eb5ec95e214523ef24fd0438c83be244e690df09839d47e" dmcf-pid="Pm9EcUtWGI" dmcf-ptype="general">사업자는 서비스 이용약관이나 계약서에 이를 명시하거나, 소프트웨어·앱 구동 화면에 고영향·생성형 AI 기반으로 운용된다는 사실을 알려야 한다. 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시해야 한다.<br> </p> <figure class="figure_frm origin_fig" contents-hash="fc88cdec1ae5bdf2f4f442db51e3ccff39471626b59614b4e8398587ddbc743b" dmcf-pid="Qs2DkuFYYO" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 과학기술정보통신부가 '인공지능 투명성 확보 가이드라인'을 통해 'AI기본법'의 투명성 확보 의무 내용을 구체적으로 설명했다. 사진은 생성형AI가 만든 이미지에 붙은 워터마크 예시. (사진=과기정통부 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/newsis/20260122060205077vpip.jpg" data-org-width="720" dmcf-mid="ztj1ZJx25X" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/newsis/20260122060205077vpip.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 과학기술정보통신부가 '인공지능 투명성 확보 가이드라인'을 통해 'AI기본법'의 투명성 확보 의무 내용을 구체적으로 설명했다. 사진은 생성형AI가 만든 이미지에 붙은 워터마크 예시. (사진=과기정통부 제공) *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="a1b60fdbc99825ecf9595ad66e9a0264dbfe4e912395edfd9800200cff6dcec3" dmcf-pid="xOVwE73GXs" dmcf-ptype="general"><br> 과기정통부는 투명성 확보 의무 적용에 대한 판단을 돕기 위해 가이드라인으로 구체적인 이행 기준을 정리했다. 다음은 가이드라인에 따라 정리한 투명성 확보 의무 관련 일문일답이다.</p> <p contents-hash="81cd84c90c046647af30d8cc17623e99eb6168d44509492aea9bf6015f0495d7" dmcf-pid="y2IBzkae1m" dmcf-ptype="general"><strong>-투명성 확보 의무는 누가 지는 것인가<br> </strong><br> "이용자가 아니라 AI 제품·서비스를 이용자에게 직접 제공하는 ‘인공지능사업자’가 의무 주체다. 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함된다."</p> <p contents-hash="6afc330db70ea70741da3ea3e7f8a6b2038396852c8dadb99d80f683b4896e3e" dmcf-pid="WVCbqENdGr" dmcf-ptype="general"><strong>-AI를 도구로 활용하는 개인이나 제작사도 표시를 해야 하나 </strong></p> <p contents-hash="6cc37247d9d02c1a4fa0f7f3165e1a70597829739c9d023ef49165a49fee1fa8" dmcf-pid="YfhKBDjJZw" dmcf-ptype="general">"아니다. AI를 업무나 창작의 도구로 활용하는 이용자는 의무 대상이 아니다. AI 제품·서비스를 제공하는 사업자가 아니라, 제공받은 서비스를 활용하는 입장이기 때문이다."</p> <p contents-hash="698d3c2aae08caa342893027c1e0c7c61f36033740b7d8a6e999726ab7c080df" dmcf-pid="G4l9bwAiGD" dmcf-ptype="general"><strong>-사전 고지 의무란 무엇을 의미하나<br> </strong><br> "AI 제품·서비스가 고영향 AI 또는 생성형 AI에 기반해 운용된다는 사실을 이용자에게 사전에 알리는 의무다. 이용자가 AI 기반 서비스임을 인지한 상태에서 서비스를 이용하도록 하기 위한 취지다."</p> <p contents-hash="6bce53dad9e566b9e351b2b610cc8d99c272008764bc9d9e99c46e4fb2a1f32b" dmcf-pid="H8S2Krcn1E" dmcf-ptype="general"><strong>-어떻게 해야 하나<br> </strong><br> "서비스 이용약관이나 계약서에 명시하거나, 앱·소프트웨어 구동 화면을 통해 고지할 수 있다. 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시하는 방식도 허용된다."</p> <p contents-hash="33f0c6cf44e8d5b9ed470251a5e07e3789b05c4d2d8dc0cf6e70411e0e6756aa" dmcf-pid="X6vV9mkLtk" dmcf-ptype="general"><strong>-AI 생성물 표시 의무는 언제 적용되나<br> </strong><br> "생성형 AI로 만들어진 결과물이 다운로드·공유 등으로 서비스 환경 밖으로 유통될 때 적용된다."</p> <p contents-hash="05ae1bcb4d67f0970b2bf655dd5a3ba8b3126a4efdf69881ee2d3aa87844c465" dmcf-pid="ZPTf2sEoHc" dmcf-ptype="general"><strong>-외부로 유통되는 AI 생성물은 어떻게 표시해야 하나<br> </strong><br> "사람이 인식할 수 있는 방법(가시·가청적 워터마크)이나 기계가 판독할 수 있는 방법(메타데이터 등) 중 하나를 적용해야 한다. 다만 기계 판독 방식만 사용할 경우 다운로드 단계 등에서 AI 생성 사실을 1회 이상 안내해야 한다."</p> <p contents-hash="e3a34de9c3654ae2d7e110a7c9ca2c331cd64918dfc598b65b80264271c7837f" dmcf-pid="53N5XdQ95A" dmcf-ptype="general"><strong>-외부 유통은 어떤 때를 말하는가 <br> </strong><br> "다운로드·공유 등으로 결과물이 서비스 외부로 반출되는 순간부터가 ‘외부 유통’에 해당된다."</p> <p contents-hash="07b7bb6f0a8bb3f052d643499782ae0f724df2b4a725458ae0089d30429e0247" dmcf-pid="10j1ZJx2Yj" dmcf-ptype="general"><strong>-텍스트 생성물도 표시 의무 대상인가</strong></p> <p contents-hash="90544eedb0331518250fde53eda43094a407f476c0ed2ef212974d984d379560" dmcf-pid="tpAt5iMVGN" dmcf-ptype="general">"텍스트 결과물도 생성형 AI로 만들어져 외부로 유통되는 경우 표시 대상이 될 수 있다. 다만 텍스트 특성상 메타데이터 등 기계 판독 방식이나 다운로드·제공 시 안내 방식으로 표시할 수 있다."</p> <p contents-hash="5d1dcb2cf4fdf1cf1a8b75fe02c8bff3a4ea5f5992d35d9ed613a789c6e7543a" dmcf-pid="FUcF1nRfZa" dmcf-ptype="general"><strong>-서비스 환경 내에서만 이용되는 경우에는 어떻게 해야 하나<br> </strong><br> "결과물이 서비스 환경(UI) 내에서만 제공되는 경우에는 결과물별 표시 의무는 적용되지 않는다. 서비스 이용 전 또는 이용 과정에서 AI 활용 사실을 안내하면 된다.</p> <p contents-hash="58325071e1737d4aae4949fafdd22c62a7cc1b88fe1373e7e9c775b100e788c9" dmcf-pid="3uk3tLe41g" dmcf-ptype="general">일례로 게임에서는 이용자가 상호작용하는 캐릭터나 NPC명에 AI 캐릭터나 NPC임을 알리거나, 혹은 초기 대화시 안내하면 된다. AI 기반 음성서비스는 게임 내 이용자가 로그인 등 플레이 활성화 할 경우 서비스 초기에 AI 기반 음성임을 안내하면 된다."</p> <p contents-hash="3ad604f744ea6ba676b84b20845bef339cf4a63fd20dcbf31f681993a15b89b8" dmcf-pid="07E0Fod85o" dmcf-ptype="general"><strong>-AI로 만든 웹툰을 플랫폼에 연재하면 표시 의무는 누가 져야 하는가<br> </strong><br> "웹툰을 제작한 창작자는 AI 기본법상 의무 주체가 아니다. 해당 웹툰 제작에 사용된 AI 생성 서비스를 제공한 인공지능사업자가 표시 의무의 책임 주체가 된다."</p> <p contents-hash="c0c4543c0ebe768503c9ebaef8db6fc2203a91401c3f5a228ef2b1f874580469" dmcf-pid="pzDp3gJ6XL" dmcf-ptype="general"><strong>-콘텐츠 유통 플랫폼이 표시 의무를 지는가</strong></p> <p contents-hash="8c9484b96abdcf39cbc0be669d4a7560388f61f935f49cd50cc1c276b9023435" dmcf-pid="UqwU0aiP1n" dmcf-ptype="general">"플랫폼이 자체적으로 생성형 AI 기능을 제공해 결과물을 생성·제공하는 경우에는 인공지능사업자로서 표시 의무가 적용될 수 있다. 다만 단순 유통 플랫폼인 경우에는 해당 AI 생성 서비스 제공 여부에 따라 판단된다."</p> <p contents-hash="cc9983760dd08e0b175566dddf7ab3fcf970d4d0266ebf3b623a8084f6b9c03e" dmcf-pid="uBrupNnQZi" dmcf-ptype="general"><strong>-웹툰·애니메이션과 딥페이크는 어떤 기준으로 구분하나<br> </strong><br> "실제 인물이나 현실과 구분이 어려운지 여부가 핵심 기준이다. 누가 보더라도 가상임을 인식할 수 있는 웹툰·애니메이션·일러스트는 딥페이크에 해당하지 않는다."</p> <p contents-hash="2f7b8156fbbc14c00e192bef5dbc82e42d6e903d38fc7eade38aa65c81ed9698" dmcf-pid="7bm7UjLx1J" dmcf-ptype="general"><strong>-딥페이크 생성물은 어떻게 표시해야 하나<br> </strong><br> "실제와 구분하기 어려운 딥페이크 생성물은 반드시 사람이 명확하게 인식할 수 있는 방식으로 AI 생성 사실을 표시해야 한다. 영상은 전체 재생 구간에서, 음성은 재생 초기에 가시적·가청적 방식으로 표시하는 것이 원칙이다. 다만 영화·드라마 등 예술 창작물의 경우에는 일부 비가시적 방식도 허용된다."</p> <p contents-hash="3a9d6eee343d5590c88479801b722a813f7a3281e6fa71a606cd402c2cedd12f" dmcf-pid="zKszuAoMXd" dmcf-ptype="general"><strong>-딥페이크 피해는 주로 이용자 악용에서 발생하는데, 이에 대한 제약은 없나<br> </strong><br> "AI 기본법은 사업자를 규율하는 법으로, 이용자 행위는 성폭력처벌법·정보통신망법 등 개별 법률에서 규제하고 있다. 딥페이크 생성·유포 행위에 대한 처벌 체계는 이미 별도로 마련돼 있다."</p> <p contents-hash="bc470a1b88f6fd461d54f9701576c70a8f17f5f97ed6954ab2c4bd8a95aac954" dmcf-pid="q9Oq7cgR5e" dmcf-ptype="general"><strong>-표시 의무를 위반하면 바로 제재를 받나<br> </strong><br> "투명성 확보 의무는 1년 이상 계도기간이 운영되며, 해당 기간 동안 사실조사와 과태료 부과는 유예된다. 초기에는 안내와 컨설팅 중심으로 운영된다."</p> <p contents-hash="12d10855e8ed0bfe260ada118284c6f05fc672c51b8b054cf4670488cb3009b8" dmcf-pid="B2IBzkaetR" dmcf-ptype="general"><strong>-글로벌 생성형 AI 서비스와 비교해 국내 기업만 더 엄격한 의무를 지는 것 아닌가<br> </strong><br> "그렇지 않다. 오픈AI, 구글 등 주요 글로벌 생성형 AI 서비스들도 이미지·영상·일러스트 등 일반 생성물에 대해 가시적 또는 비가시적 워터마크를 이미 적용하고 있다. 투명성 확보는 국제적으로 확산되는 기준이며 국내 기업에만 추가적인 의무를 부과하는 구조는 아니다."</p> <p contents-hash="ce81d62b1e01f5161b4af7b250a96218468dac27c03cfd4a6049a9c254f2ba6a" dmcf-pid="bVCbqENd5M" dmcf-ptype="general"><span>☞공감언론 뉴시스</span> siming@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 포스트그레SQL 상용화 경쟁 본질…오픈소스DB 책임 구조 재편 01-22 다음 지구의 재료는 '바람' 타고 왔다…태양계 탄생 비밀 푼 한국인들 [팩플] 01-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
