[AI 기본법 톺아보기②] “AI가 만들었다”를 어떻게, 어디까지 알릴 것인가… 투명성 가이드라인이 던진 제품 설계 숙제 작성일 02-19 39 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uSJsZb5Tl2"> <div contents-hash="4a4482941dea5d479b4f86deb041801437a2ae2cddac3529e3b96ed782eff5f6" dmcf-pid="7viO5K1yT9" dmcf-ptype="general"> <h5>투명성 확보 의무 적용 대상은 이용자에게 최종적으로 AI 제품·서비스를 제공하는 사업자</h5> <h5>투명성 확보는 사전 고지(상호작용 전 인지)와 표시(생성물 식별)로 구성</h5> <h5>딥페이크는 직관적 표시, 일반 생성물은 가시적 표시 혹은 1회 안내</h5> </div> <hr class="line_divider" contents-hash="06644b0e95794abb7a7eb5bb1e4cf8f3523f0a76bce70248e6ad07871e8d1c71" dmcf-pid="zTnI19tWlK" dmcf-ptype="line"> <p contents-hash="e9972eae8d282610059b6cf5f5701de905056e2b887928c615680ae2869cd923" dmcf-pid="qyLCt2FYlb" dmcf-ptype="general">[편집자 주] </p> <div contents-hash="5b9ad6024fccb410f9e35a3914691e481d864e11fec696f75063a98bf10a7ceb" dmcf-pid="BWohFV3GvB" dmcf-ptype="general"> AI 기본법 시행과 함께 공개된 5종 가이드라인(투명성·안전성·고영향 판단·고영향 사업자 책무·영향평가)은 기업의 AI 운영을 ‘기술’이 아니라 ‘책임’의 문제로 바꾸고 있다. 테크42는 이번 시리즈를 통해 각 가이드라인이 요구하는 핵심 원칙과 실무 포인트를 짚고, 서비스 설계·운영·거버넌스 관점에서 무엇이 달라지는지 정리한다. 특히 ‘고지·표시’부터 위험관리와 문서화, 그리고 기본권 영향평가까지 이어지는 연결고리를 따라가며 현장에서 바로 부딪히는 쟁점을 짚어본다. </div> <hr class="line_divider" contents-hash="9a861f62cd77e9352ab430b258c1b28fd8beefc8f246ad8a97d146429c7dd6fb" dmcf-pid="b0rZKd9Uhq" dmcf-ptype="line"> <figure class="figure_frm origin_fig" contents-hash="c03007f16ec855d932035a511651a54e39efa9393ff9608a2dabbe3981e19da6" dmcf-pid="Kpm59J2uhz" dmcf-ptype="figure"> <p class="link_figure"><img alt="투명성 가이드라인은 한 문장으로 정리하면 “AI를 썼다면 먼저 알리고(사전 고지), 결과물은 구분 가능하게 하라(표시)”다. (이미지=젠스파크로 생성)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082755324uimu.jpg" data-org-width="1024" dmcf-mid="F8xI19tWv6" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082755324uimu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 투명성 가이드라인은 한 문장으로 정리하면 “AI를 썼다면 먼저 알리고(사전 고지), 결과물은 구분 가능하게 하라(표시)”다. (이미지=젠스파크로 생성) </figcaption> </figure> <div contents-hash="4b635eb6491afa8c5202f9c81f50dc38560b70dd0987f62ce26509c297dddca3" dmcf-pid="9Us12iV7S7" dmcf-ptype="general"> 투명성 가이드라인은 한 문장으로 정리하면 “AI를 썼다면 먼저 알리고(사전 고지), 결과물은 구분 가능하게 하라(표시)”다. 문제는 이 요구가 단순한 문구 삽입이 아니라, 서비스 구조·운영체계를 바꾸는 과제로 번진다는 점이다. 특히 추천·요약처럼 기능 안쪽에 AI가 ‘조용히’ 스며드는 서비스가 늘수록 “어디서부터가 AI 상호작용의 시작이냐”라는 질문이 제품 설계의 핵심이 된다. </div> <figure class="figure_frm origin_fig" contents-hash="853d64ab67b7f56eeece85a1d4ade5185991a49b766d010c3f2df06265870c46" dmcf-pid="2uOtVnfzWu" dmcf-ptype="figure"> <p class="link_figure"><img alt="과학기술정보통신부(이하 과기부)는 투명성 확보 의무의 적용 대상을 ‘AI를 만든 주체’가 아니라 ‘이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자’로 설명한다. (이미지=과기부 설명 자료)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082756795yiig.jpg" data-org-width="714" dmcf-mid="3CG8aCNdl8" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082756795yiig.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 과학기술정보통신부(이하 과기부)는 투명성 확보 의무의 적용 대상을 ‘AI를 만든 주체’가 아니라 ‘이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자’로 설명한다. (이미지=과기부 설명 자료) </figcaption> </figure> <p contents-hash="552497bd4caac61dc6e4f9c15f9cf318958671f274a8805cc65f5e5d53209475" dmcf-pid="V7IFfL4qhU" dmcf-ptype="general">과학기술정보통신부(이하 과기부)는 투명성 확보 의무의 적용 대상을 ‘AI를 만든 주체’가 아니라 ‘이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자’로 설명한다. 업계에서는 이 문장이 사실상 책임의 종착지를 ‘사용자 접점’으로 못 박은 것이라고 본다. 기반 모델을 외부에서 조달해도, API를 붙여 기능을 만들었어도, 최종 화면에서 ‘AI라고 알리고 표시를 붙이는 책임’은 서비스 사업자에게 돌아오기 때문이다. 해외 사업자 역시 이용자에게 최종 제공하는 형태라면 적용될 수 있다는 점이 함께 언급되면서, 글로벌 서비스도 국내 기준에 맞춘 투명성 설계를 준비해야 하는 흐름이 뚜렷해 졌다. </p> <p contents-hash="3d9d21bee745780af862faa0eeec7030f26a05814c6c2d4409c24dc86bba72ab" dmcf-pid="fzC34o8BWp" dmcf-ptype="general"><strong>‘사전 고지’는 체크사항이 아니라 UX 과제다</strong> </p> <div contents-hash="3269fe8446dec30595774343ca9473eafbd52cc187708d872db677e3f9f0a8e1" dmcf-pid="4qh08g6bT0" dmcf-ptype="general"> 사전 고지는 이용자가 AI와 상호작용하기 전에 ‘이 서비스는 AI를 활용한다’는 사실을 쉽게 인지하도록 하는 장치다. 약관·서비스 안내, 별도 고지 창, 음성 안내 등 다양한 방식이 제시되고, 대화형 서비스의 경우 초기 화면 안내나 로고·문구의 지속 표출처럼 이용자가 놓치지 않는 형태가 강조된다. 겉으로 보면 간단해 보이지만, 실무로 내려오면 곧바로 ‘어느 지점이 상호작용의 시작이냐’라는 질문이 튀어나온다. </div> <figure class="figure_frm origin_fig" contents-hash="ed485f1ce20961b1a7b0b98ad870a63779ee0632b698f229ba95602c23de611d" dmcf-pid="8ldmXBZvS3" dmcf-ptype="figure"> <p class="link_figure"><img alt="사전 고지는 이용자가 AI와 상호작용하기 전에 ‘이 서비스는 AI를 활용한다’는 사실을 쉽게 인지하도록 하는 장치다. 약관·서비스 안내, 별도 고지 창, 음성 안내 등 다양한 방식이 제시되고, 대화형 서비스의 경우 초기 화면 안내나 로고·문구의 지속 표출처럼 이용자가 놓치지 않는 형태가 강조된다. (이미지=젠스파크로 생성)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082758247hfzu.jpg" data-org-width="1024" dmcf-mid="0R8jS3vmv4" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082758247hfzu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사전 고지는 이용자가 AI와 상호작용하기 전에 ‘이 서비스는 AI를 활용한다’는 사실을 쉽게 인지하도록 하는 장치다. 약관·서비스 안내, 별도 고지 창, 음성 안내 등 다양한 방식이 제시되고, 대화형 서비스의 경우 초기 화면 안내나 로고·문구의 지속 표출처럼 이용자가 놓치지 않는 형태가 강조된다. (이미지=젠스파크로 생성) </figcaption> </figure> <p contents-hash="2459d92a73fc4bbbf25550ac079d98f66edacb77d5611975ae171d7123b170b8" dmcf-pid="6SJsZb5TWF" dmcf-ptype="general">업계에서는 AI가 챗봇처럼 전면에 등장하는 서비스보다, 추천·정렬·요약·편집처럼 기능 내부에 스며드는 기능이 급격히 늘고 있다는 점을 문제로 꼽는다. 이 경우 이용자는 ‘지금 AI가 개입하고 있는지’를 직관적으로 알기 어렵고, 기업은 고지 타이밍을 일률적으로 정하기도 어렵다. 결국 ‘쉽게 인식할 수 있는 방식’이라는 원칙을 서비스마다 다시 해석해야 한다는 얘기다. 그래서 투명성은 문구를 붙이는 문제가 아니라, 이용자 여정 전반에서 AI 개입 지점을 정의하고 그 지점을 놓치지 않게 만드는 UX 설계 문제로 귀결된다. </p> <p contents-hash="bfd93eb89e0e78386550b6ef4af0a716e594a07f0b69a6729b216185005428db" dmcf-pid="PviO5K1yTt" dmcf-ptype="general">또 다른 현실적 고민은 고지의 ‘빈도’다. 업계에서는 과도한 고지가 이용자 경험을 해칠 수 있고, 반대로 너무 약한 고지는 사후 분쟁에서 ‘충분히 알렸는가’라는 질문으로 되돌아올 수 있다고 본다. 결국 기업은 ‘이용자가 실제로 인지했는가’를 기준으로, 고지의 위치·표현·반복 여부를 내부 기준과 증빙 가능한 형태로 설계해두려는 방향으로 대비하고 있다. </p> <div contents-hash="f03a708cf093691c934c658e4360155d3e0b9b0c26f09f35792ade1c36016bc4" dmcf-pid="QTnI19tWS1" dmcf-ptype="general"> <strong>‘표시(라벨링)’는 외부 반출에서 난도가 급상승한다</strong> </div> <figure class="figure_frm origin_fig" contents-hash="28e10a7ef9cd1088eb5c53e308c5601648570d29646e790cb411bc7cce0faa35" dmcf-pid="xyLCt2FYW5" dmcf-ptype="figure"> <p class="link_figure"><img alt="표시는 생성형 AI 결과물에 ‘AI가 생성했다’는 흔적을 남기는 일이다. 가시적 표시(사람이 바로 인지)와 비가시적 표시(디지털 워터마킹·메타데이터 등 기계 판독)로 접근할 수 있는데, 과기부 설명은 특히 다운로드·공유 등 ‘외부 반출’ 상황에서 표시 의무를 보다 구체적으로 정리한다. (이미지=과기부 설명 자료)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082759796vdgg.png" data-org-width="815" dmcf-mid="pFLCt2FYTf" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082759796vdgg.png" width="658"></p> <figcaption class="txt_caption default_figure"> 표시는 생성형 AI 결과물에 ‘AI가 생성했다’는 흔적을 남기는 일이다. 가시적 표시(사람이 바로 인지)와 비가시적 표시(디지털 워터마킹·메타데이터 등 기계 판독)로 접근할 수 있는데, 과기부 설명은 특히 다운로드·공유 등 ‘외부 반출’ 상황에서 표시 의무를 보다 구체적으로 정리한다. (이미지=과기부 설명 자료) </figcaption> </figure> <p contents-hash="4b31617b14343a4c56ba762f4ea4e21454fea7f5123ea2a39743f73c95d25e42" dmcf-pid="yx1foOgRSZ" dmcf-ptype="general">표시는 생성형 AI 결과물에 ‘AI가 생성했다’는 흔적을 남기는 일이다. 가시적 표시(사람이 바로 인지)와 비가시적 표시(디지털 워터마킹·메타데이터 등 기계 판독)로 접근할 수 있는데, 과기부 설명은 특히 다운로드·공유 등 ‘외부 반출’ 상황에서 표시 의무를 보다 구체적으로 정리한다. </p> <p contents-hash="2c5c664b20907ce12c89bbf970d7b3820b7525628b57ea46576191bc167f6612" dmcf-pid="WMt4gIaeCX" dmcf-ptype="general">핵심은 딥페이크 생성물과 일반 생성물을 구분하는 것이다. 과기부는 딥페이크 생성물의 경우 사람이 직관적으로 인식할 수 있는 표시 방법을 적용해야 한다는 방향을 분명히 했다. 다만 예술적·창의적 표현물은 전시·향유를 저해하지 않는 방법을 허용한다는 단서도 함께 제시했다. 업계에서는 이 문장이 ‘표시를 하되 창작 경험을 완전히 깨지 않도록 설계하라’는 주문으로 받아들이고 있다. </p> <p contents-hash="5e7c01b88d78ecf5c4ca5466e74ccf16bb3c957b26af06a7b9d715eff76c6ae0" dmcf-pid="YRF8aCNdTH" dmcf-ptype="general">일반 생성물은 선택지가 열려 있다. 과기부 설명에 따르면 먼저 가시적 워터마크 등 사람이 인식할 수 있는 방법을 쓰거나, 다음으로 비가시적 표시를 적용하고 1회 안내를 결합하는 방식 중 하나를 택해 적용할 수 있다. 예컨대 텍스트 파일 형태로 제공될 때는 메타데이터 표시와 1회 안내를 결합하고, 이미지·영상은 메타데이터/디지털 워터마킹과 1회 안내를 묶는 식이다. 음성은 재생 초기 또는 전체 재생 구간 등 서비스 특성에 맞춰 안내를 설계할 수 있다. </p> <div contents-hash="f5e914011c3edcd30bd3a6e230b837eeaab2832a3850f85fb2bc94c4dc9af94b" dmcf-pid="GnuMkTEoTG" dmcf-ptype="general"> 여기서 업계가 가장 난점으로 꼽는 것은 ‘표시를 붙였느냐’보다, 표시·안내 설계를 다운로드·공유·재업로드 같은 실제 유통 경로까지 고려해 ‘운영 체계로 굳힐 수 있느냐’다. 메타데이터가 변환 과정에서 사라지거나, 플랫폼·포맷에 따라 표시 방식이 달라지는 문제가 기술·운영 모두에서 복잡해질 수 있기 때문이다. 그래서 업계에서는 투명성 준수를 ‘라벨 붙이기’로 단순화하기보다, 배포 경로·포맷 변환·외부 플랫폼 유통까지 고려한 전체 체계로 설계해야 한다는 목소리가 나온다. </div> <figure class="figure_frm origin_fig" contents-hash="f17f580dc76212be399efe8811f7c617b81e6f9bf9a721791c90c1cd83f43664" dmcf-pid="HL7REyDgCY" dmcf-ptype="figure"> <p class="link_figure"><img alt="일반 생성물은 선택지가 열려 있다. 과기부 설명에 따르면 먼저 가시적 워터마크 등 사람이 인식할 수 있는 방법을 쓰거나, 다음으로 비가시적 표시를 적용하고 1회 안내를 결합하는 방식 중 하나를 택해 적용할 수 있다. 예컨대 텍스트 파일 형태로 제공될 때는 메타데이터 표시와 1회 안내를 결합하고, 이미지·영상은 메타데이터/디지털 워터마킹과 1회 안내를 묶는 식이다. 음성은 재생 초기 또는 전체 재생 구간 등 서비스 특성에 맞춰 안내를 설계할 수 있다. (이미지=과기부 설명 자료)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082801334ixwr.jpg" data-org-width="787" dmcf-mid="UNYBeEd8SV" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/552816-OGTrtXj/20260219082801334ixwr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일반 생성물은 선택지가 열려 있다. 과기부 설명에 따르면 먼저 가시적 워터마크 등 사람이 인식할 수 있는 방법을 쓰거나, 다음으로 비가시적 표시를 적용하고 1회 안내를 결합하는 방식 중 하나를 택해 적용할 수 있다. 예컨대 텍스트 파일 형태로 제공될 때는 메타데이터 표시와 1회 안내를 결합하고, 이미지·영상은 메타데이터/디지털 워터마킹과 1회 안내를 묶는 식이다. 음성은 재생 초기 또는 전체 재생 구간 등 서비스 특성에 맞춰 안내를 설계할 수 있다. (이미지=과기부 설명 자료) </figcaption> </figure> <div contents-hash="85c602bcc61e311f99c77494737211b0985678a3cd7304ac09c7a02cc1498be8" dmcf-pid="XozeDWwavW" dmcf-ptype="general"> 또 하나의 논쟁점은 ‘우리 서비스가 표시 의무 대상이냐’다. 과기부가 ‘최종 제공자’라는 기준을 제시했지만, 실제 서비스는 제작·편집·유통·광고 집행까지 여러 단계가 결합돼 ‘제공’과 ‘활용’의 경계가 쉽게 흐려진다. 업계에서는 이 경계가 모호할수록 책임이 ‘가장 눈에 띄는 최종 접점’으로 몰릴 수 있어, 제품 기획 단계에서부터 적용 범위를 좁혀 설계하거나, 반대로 보수적으로 표시를 넓게 적용할 가능성도 있다고 본다. </div> <table contents-hash="a02113dbb36a5754883e111b11922f3954298a404a11614265dc5ab7e3d2be91" dmcf-pid="ZgqdwYrNyy" dmcf-ptype="general"> <tbody> <tr> <td>체크 박스 | 투명성 가이드라인 핵심 정리<br>>과기부는 투명성 확보 의무 적용 대상을 이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자로 설명한다(해외 사업자도 최종 제공 형태면 적용 가능).<br>>투명성 확보는 사전 고지(상호작용 전 인지)와 표시(생성물 식별)로 구성되며, 고지는 서비스마다 다른 이용 흐름을 반영해야 하는 UX 설계 과제로 이어진다.<br>>표시 의무는 특히 다운로드·공유 등 외부 반출 시 쟁점이 커진다. 딥페이크는 직관적 표시가 중심이고, 일반 생성물은 가시적 표시 또는 비가시적 표시+1회 안내 중 선택 적용이 핵심이다.<br>>과기부는 시행 초기 혼선을 줄이기 위해 최소 1년 이상 유예기간과 지원데스크(컨설팅) 운영을 안내했으며, 해외 규제 동향·기술 발전 등을 고려해 추가 연장 가능성도 함께 제시했다.</td> </tr> </tbody> </table> <p contents-hash="75cf6e6add1bbb6626a1179e0bc604050c3e7253946dc39d034de8ed0686ad45" dmcf-pid="5aBJrGmjvT" dmcf-ptype="general">저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지</p> </section> </div> 관련자료 이전 엔비디아, ‘최상위 성능중심·차상위 보완’ 투트랙 전략 유력 02-19 다음 인공지능은 어떻게 한국 문화산업의 DNA를 바꾸고 있나 02-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
