이제 내 릴스에도 ‘AI 표시’ 해야? ‘AI 기본법’ 전면 시행 Q&A 작성일 01-21 68 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9KiMObu5hY"> <figure class="figure_frm origin_fig" contents-hash="51ed7d78ccdcef91891f65043014eec330c6923309468592fd2eb120d39c8276" dmcf-pid="29nRIK71hW" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 가상 이미지를 만들거나 자동으로 자막을 달고 목소리를 입히는 ‘숏폼’ 비디오들이 크게 유행하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/21/kbs/20260121173245664cbrs.jpg" data-org-width="640" dmcf-mid="BydBg5YClX" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/21/kbs/20260121173245664cbrs.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 가상 이미지를 만들거나 자동으로 자막을 달고 목소리를 입히는 ‘숏폼’ 비디오들이 크게 유행하고 있다. </figcaption> </figure> <p contents-hash="39e215862f3ef5a389b5e63e61c6a5b58ad90f4e876565562b6839e94dd5fc88" dmcf-pid="VO1GfsEoCy" dmcf-ptype="general"><br>AI 산업 육성과 규제 등의 내용을 담은 AI 기본법이 내일(22일)부터 전면 시행됩니다.<br>법의 상당 부분은 산업 육성에 관한 내용으로 채워져 있지만, 관심은 규제 부분에 쏠리는 것이 현실입니다.</p> <p contents-hash="b6b707dcd70647f268afd54bbbf00fca4ecc22eba5a552a8721ba26c6dfa0350" dmcf-pid="fItH4ODglT" dmcf-ptype="general">현재로선 생성형 AI와 인간에게 중대한 영향을 미치는 '고영향 AI' 이용 사업자 등에게 AI 사용 사실을 알리는 ' <strong>투명성 의무' 등을 부과</strong>하는 게 규제의 핵심인데요. 구체적으로 무엇이 어떻게 달라지는지 주요 내용을 질의응답 형식으로 정리했습니다.</p> <p contents-hash="c171e8e3387bc66e0fc8e56245f67ab8cfbfaaa9b51933aa97d2953414a35c4a" dmcf-pid="4CFX8Iwalv" dmcf-ptype="general"><strong>Q. 취미로 유튜브나 인스타그램에 '쇼츠'나 '릴스'를 찍어 올리는 크리에이터입니다. AI 기능을 활용해 자막을 넣거나 목소리를 입혔다면, 저도 내일부터 '이 영상은 AI로 제작되었습니다'라고 꼭 표시해야 하나요?</strong></p> <blockquote class="pretip_frm" contents-hash="96943962ad485bd1181abfe14164bfc39210b27b674a17f49bbd4c281be3452b" dmcf-pid="8h3Z6CrNvS" dmcf-ptype="pre"> AI 기본법은 단순 '이용자'를 규제하지 않습니다. 하이퍼클로바 개발사인 네이버, ChatGPT 개발사인 OpenAI 같은 AI 개발사업자, 그리고 이렇게 개발 사업자가 만든 AI를 이용해 다른 사람에게 AI 제품이나 서비스를 제공하는 AI 이용 사업자가 적용 대상입니다. <br> <br>반면 개발사업자가 만든 AI 제품을 이용해 '쇼츠'나 '릴스'를 올리는 크리에이터는 '이용자'에 해당합니다. <br> <br>앞서 설명한 '투명성 의무', 즉 "지금 당신은 AI 서비스를 쓰고 있습니다", "이 결과물은 AI로 생성되었습니다"를 명확히 인식할 수 있도록 명시할 의무는 '사업자'의 몫입니다. <br> <br><span>때문에 '캔바'나 '캡컷' 같은 AI 툴을 활용해 이미지를 만들고 영상을 편집·가공했다면 최종 완성 단계에서 'AI로 만든 영상'이라는 안내 문구가 포함되지만, '이용자'는 투명성 의무가 적용되지 않는 만큼 이를 지우고 플랫폼에 게시할 수 있습니다.</span> </blockquote> <div contents-hash="5113ab663162d66a7091e097d2e435cb20ef0fc5baf30ef58de96e89ef858862" dmcf-pid="6l05Phmjll" dmcf-ptype="general"> <br><strong>Q. 처음부터 끝까지 실제 배우를 쓰지 않고 AI를 활용해 '숏폼 드라마'나 영화를 만드는 전문 제작자(사)입니다. AI를 이용해 사업을 하니까, 저희도 AI 이용 사업자인가요? 저희도 AI 사용 고지 의무가 있나요?<br></strong> <br> </div> <blockquote class="pretip_frm" contents-hash="942b71c12f420b1645bc92fc18e281ec7047bc7d3cca4de500a3b7ba2b4b4904" dmcf-pid="PSp1QlsAhh" dmcf-ptype="pre"> 아닙니다. <br> AI 기본법에 따르면 'AI 기능'을 담은 제품이나 서비스를 제공할 때만 'AI 이용 사업자'로 규정됩니다. 자기소개서 같은 작문 서비스를 제공하는 '뤼튼', 자동으로 음성 파일 녹취록을 작성해 주는 '클로바노트'나 '티로' 같은 곳이 'AI 이용 사업자'입니다. <br> <br>또한 미술, 영화, 문학, 만화, 게임, 애니메이션 등 문화예술 분야의 창작물은 작품의 몰입을 방해하지 않는 범위 안에서 AI 활용 사실을 표시할 수 있습니다. <br> <br>영화를 보는 내내 워터마크로 'AI로 만든 작업물'이라는 문구가 뜬다면 감상이 어렵겠죠? 엔딩 크레딧에 AI 기술을 활용했다고 명시하거나, 사람 눈에 보이지 않는 '비가시적 워터마크'를 활용하면 됩니다. <br> </blockquote> <div contents-hash="5ce832173aaea63e284c250e8f69c592bb55b7d2a95f44248fc76e08ab945d87" dmcf-pid="QvUtxSOcvC" dmcf-ptype="general"> <br> </div> <figure class="figure_frm origin_fig" contents-hash="cca695ec03b02c8550c916f41e68963766abffdc7504d2602c8d2878dd0afb78" dmcf-pid="xTuFMvIkCI" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI를 활용한 기업의 채용 면접 과정 예시." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/21/kbs/20260121173246960vdej.jpg" data-org-width="1920" dmcf-mid="baWk5dQ9yH" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/21/kbs/20260121173246960vdej.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI를 활용한 기업의 채용 면접 과정 예시. </figcaption> </figure> <div contents-hash="74ec8c6fbf8c2d6e87b10b7ea93c83a0a3270e93029333080496778f2b2438bf" dmcf-pid="ykWlqcgRhO" dmcf-ptype="general"> <br><strong>Q. 신입사원 채용 과정에서 AI 인적성 검사나 AI 면접 단계를 활용하고 있습니다. AI 기본법에서 정한 '고영향 AI' 10대 영역에 채용도 포함되더라고요. 저희는 어떻게 해야 하죠?<br></strong> <br> </div> <blockquote class="pretip_frm" contents-hash="b098ba67d36bfae18564c99f7dd2f4179f0b358748ad74e537cb1acdb25371b3" dmcf-pid="WEYSBkaeWs" dmcf-ptype="pre"> 에너지, 먹는 물, 의료·보건의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 인간의 생명과 안전, 기본권과 직결되는 10가지 영역이 법이 정하는 '고영향 AI'인 건 맞습니다. <br> <br>'고영향 AI'에는 별도의 의무가 부과되기도 하고요. 하지만 실제로 '고영향 AI'로 최종 인정되려면 전체 과정에서 사람이 전혀 개입하지 않아야 합니다. AI 면접 결과 등을 단순 참고 자료로만 활용하고, 합/불합격 여부는 인간이 결정한다면 '고영향 AI'가 아닙니다. <br> </blockquote> <div contents-hash="c3692d72a1435c983b0328e37178be58945859464433472d126758d9d756d843" dmcf-pid="YDGvbENdhm" dmcf-ptype="general"> <br><strong>Q. 그럼 어떤 게 진짜 '고영향 AI'인가요? </strong> </div> <blockquote class="pretip_frm" contents-hash="38e1603bd4c9995da8717be1fe12184ccb8655591215f8247b92f435e6e799f5" dmcf-pid="GwHTKDjJyr" dmcf-ptype="pre"> ① 아까 설명한 AI 기본법에 규정된 10가지 영역에 활용되면서 <br>② 인간의 기본권에 중대한 영향을 끼치거나 위험한 업무에서 <br>③ 사람이 전혀 개입하지 않고 AI의 판단을 100% 따를 때 <br> <br>이 3가지 조건을 한꺼번에 모두 만족해야 '고영향 AI'로 판단됩니다. 정부는 현재로서는 '레벨 4' 이상의 자율주행 차량 시스템만 해당한다고 설명했습니다. <br>그런데 지난해 11월 국내 출시된 테슬라의 완전자율주행(FSD) 기능은 아직 레벨2 수준에 그치고 있습니다. 때문에 정부는 고영향 AI는 지금 단계에서는 국내에선 존재하지 않는다고 보고 있습니다. <br> <br>AI는 하루가 다르게 폭발적으로 성장하는 분야입니다. 실제 현실에서 일어나는 각양각색의 상황에서는 기본법만을 봐서는 여전히 헛갈리는 일이 생길 수밖에 없습니다. 이런 경우 과학기술정보통신부 장관에게 확인을 요청할 수 있습니다. 전문 위원회의 자문 등을 거쳐 30일 이내에 결과를 알려주는데요. 익명으로 법 이행 방식 등을 물어볼 수 있는 ‘AI 기본법 지원 데스크’도 법 시행에 맞춰 운영됩니다. <br> </blockquote> <div contents-hash="e1bff986dce863076e3718ad87fe44b7ae09e9222984e670c4cb2ce59222427c" dmcf-pid="HrXy9wAiWw" dmcf-ptype="general"> <br> </div> <figure class="figure_frm origin_fig" contents-hash="d9a6d2ff9b740d1d05309c7ce7ed62b6fc4574d6a46fde4bcf9beaba6a1b7580" dmcf-pid="XmZW2rcnlD" dmcf-ptype="figure"> <p class="link_figure"><img alt="정부는 자율주행 4단계 이상 시스템을 고영향 AI로 보고 있다. 국내엔 아직 도입되지 않았다. 위 사진은 기사 본문과 무관." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/21/kbs/20260121173248244uvrg.jpg" data-org-width="1920" dmcf-mid="KaSOUaiPSG" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/21/kbs/20260121173248244uvrg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 정부는 자율주행 4단계 이상 시스템을 고영향 AI로 보고 있다. 국내엔 아직 도입되지 않았다. 위 사진은 기사 본문과 무관. </figcaption> </figure> <div contents-hash="b90d8038b49dc2f5e062f3925204cee78ba5332b33cb7f9ace71f9777e877710" dmcf-pid="Zs5YVmkLTE" dmcf-ptype="general"> <br><strong>Q. AI 기본법이 시행되면서 최대 3천만 원까지 과태료 처분을 받을 수 있다는데, 어떤 경우 과태료를 물게 되나요?<br></strong> <br> </div> <blockquote class="pretip_frm" contents-hash="4589c6ede98e83d306cd7177af2e29f5146440060b063fb04ea5e1dc20ca3936" dmcf-pid="5O1GfsEoCk" dmcf-ptype="pre"> AI 사업자는 앞서 설명한 투명성 확보 의무 외에도 안전성 확보 의무 등을 소홀히 했을 때 과태료 처분을 받을 수 있습니다. 만일의 상황을 대비해 이용자 보호 조치나 위험 관리 방안을 시행해야 하고, AI 관리·감독은 사람이 해야 한다는 거죠. <br> <br>만약 AI 학습에 사용한 누적 연산량이 10의 26제곱 부동소수점 연산(FLOPs)이상인 최첨단 AI라면, '고성능' AI로 판단돼 별도의 안전 의무를 지는데요. 아직 국내 모델 중에선 여기 해당하는 AI가 없는 것으로 보입니다. 챗GPT를 만든 오픈AI처럼 주로 국내에서 활동하는 해외 빅테크 기업의 AI가 주요 규제 대상이 되겠네요. <br> <br>하지만 문제가 발견되더라도 곧바로 과태료를 물리지는 않겠다는 방침입니다. 내일(시행일)부터 최소 1년 이상을 과태료 부과를 유예하는 계도 기간으로 두기로 했고, 계도 기간이 끝난 뒤에도 과태료 처분 전에 사실 조사와 시정 명령 등 사전 단계를 충분히 두겠다고 설명했습니다. 정부의 정책이 AI 산업 육성에 초점이 맞춰져 있다는 점을 느끼게 하는 대목입니다. <br> </blockquote> <div contents-hash="e203f7b30478f712a392c06258f05004ae0549b4d34964ebc2c7e5dce83e521e" dmcf-pid="1w62A3Zvlc" dmcf-ptype="general"> <br><strong>Q. AI 발전 속도가 이렇게 빠른데, 이 법으로 충분할까요? AI에 영향받는 일반 시민들의 권리는 어떻게 보호하나요? '딥페이크' 같은 건 어떡하죠?</strong> </div> <blockquote class="pretip_frm" contents-hash="190b87a42e7a8a0bcbce9f73828ef8dddb08359c9fdc781e2b4c723995d42914" dmcf-pid="trPVc05TWA" dmcf-ptype="pre"> '딥페이크' 위험은 대부분의 일반 시민에게 가장 관심이 가는 부분일 겁니다. <br>정부는 AI를 악용한 개별 행위에 대해서는 기존에 마련된 성폭력 처벌 특례법이나 정보통신망법, 광고나 선거 관련 법·제도로 대응할 수 있다고 보고 있습니다. <br> <br>생성형 AI의 결과물이나 사회적 부작용이 우려되는 딥페이크 결과물에 명확하게 AI 창작물임을 밝히라는 규정이 이번 법에 포함되기 전부터, 성폭력처벌법 등으로 이미 선을 넘는 딥페이크 영상물은 규제해 왔다는 거죠. <br> <br>정부는 빠른 기술 발전 속도 등을 감안해 보면 이 법이 '완벽'하지 않다는 것을 잘 알고 있습니다. 앞으로 시행 과정에서 지속적으로 산업계와 학계, 시민사회 등의 의견을 듣고 법을 고쳐 나가겠다는 입장입니다. <br> </blockquote> <div contents-hash="2fa11602d0a3264b931fbbbcdbec8cdb9a25f752ebc269e81778f53b74ae98a3" dmcf-pid="FmQfkp1yvj" dmcf-ptype="general"> <br> <div> <br>■ 제보하기 <br>▷ 전화 : 02-781-1234, 4444 <br>▷ 이메일 : kbs1234@kbs.co.kr <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가 <br>▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요! </div> </div> <p contents-hash="df72d048f34c6b92277581c245dfce2fb5de95ebb29555d00ccfe721f4d8cbd4" dmcf-pid="3sx4EUtWyN" dmcf-ptype="general">강푸른 기자 (strongblue@kbs.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 개보위원장 “쿠팡의 ‘국적’ 전혀 고려 안 해…개인정보보호 원칙만 살필 것” 01-21 다음 네이버 AI 전략 이끈 성낙호, 독파모 탈락 후 첫 발언…어떤 말 꺼냈나 01-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
