유럽의회, 딥페이크 음란 이미지 생성 AI 규제 착수 작성일 03-19 8 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pTlG7DGh5V"> <figure class="figure_frm origin_fig" contents-hash="7c2c88141371561f29fcfb7c2a21d60afc323d8978e4f14725330c0f52d19246" dmcf-pid="UySHzwHlG2" dmcf-ptype="figure"> <p class="link_figure"><img alt="생성형 AI 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/19/etimesi/20260319071409496kuep.png" data-org-width="700" dmcf-mid="0QmSFNSr1f" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/19/etimesi/20260319071409496kuep.png" width="658"></p> <figcaption class="txt_caption default_figure"> 생성형 AI 이미지 </figcaption> </figure> <p contents-hash="2cd22c592f3c5fed193124ce94a47f0bdbaf50cae4d59493c5de40e1c182032c" dmcf-pid="uexnr9nQ19" dmcf-ptype="general">유럽연합(EU)이 동의 없이 생성되는 성적 이미지 제작 인공지능(AI)에 대해 금지 조치를 추진한다. 최근 일론 머스크의 AI 서비스 '그록(Grok)'을 통해 여성과 아동의 나체 이미지가 대량 생성된 사건이 계기가 됐다.</p> <p contents-hash="73cec15438d8d5eb78b3433f497b9ca422fdf434194c677ff0e39e645e443b17" dmcf-pid="7dMLm2LxYK" dmcf-ptype="general">블룸버그에 따르면 유럽의회 시민자유위원회는 18일(현지시간) 'AI 옴니버스 법안(Artificial Intelligence Omnibus)' 초안에 해당 내용을 포함한 수정안을 승인했다.</p> <p contents-hash="31133a0fdaa9810d9b0e366d702efb6e1a39c1a3e7317f186409bdc336479e66" dmcf-pid="zJRosVoMZb" dmcf-ptype="general">수정안은 특정 개인을 식별할 수 있는 인물의 신체나 성적 행위를 사실적으로 묘사하는 이미지를 동의 없이 생성하는 AI 시스템을 금지하는 내용을 담고 있다.</p> <p contents-hash="f132462ff1b59dddd2fe9eef74eb3aa689897a937dc286f46d57ed19bdc198a6" dmcf-pid="qiegOfgRHB" dmcf-ptype="general">다만 기업이 해당 기능을 제한하는 기술적 조치를 적용한 경우에는 예외를 인정한다. 규제 대상은 이용자가 아닌 AI 기술 자체다. 최근 AI 모델이 실제 인물과 유사한 이미지를 정교하게 생성하는 수준까지 발전한 점이 반영됐다.</p> <p contents-hash="7cafce4034e91f021924e247269cbd4735afef9d1ae6e6b9bdcb0e4bc20da54f" dmcf-pid="BndaI4aeYq" dmcf-ptype="general">이번 조치는 유럽 각국 정부가 이미 유사한 금지 방안에 합의한 상황과 맞물려 연내 법제화 가능성이 높은 것으로 평가된다.</p> <p contents-hash="8ab62491bfb22981c56cfd162f0649196ed38ab28c935f6abf98cd85c3216e83" dmcf-pid="bLJNC8NdXz" dmcf-ptype="general">문제의 발단은 올해 1월 발생한 '그록' 논란이다. 머스크가 운영하는 소셜미디어 X에서 누구나 접근 가능한 이 챗봇은 옷을 입은 인물 사진을 기반으로 성적 이미지로 변환하는 데 활용됐다. 이후 온라인에는 해당 이미지가 대량 확산됐고, 비판이 확산되자 운영사 'xAI'는 관련 기능을 제한했다. 현재 EU와 영국 규제당국은 해당 사건에 대해 콘텐츠 관리 및 온라인 안전 법규 위반 여부를 조사 중이다.</p> <p contents-hash="c6d9f088697003300f59303b25d952af6e638718479ca0483203a62b06047639" dmcf-pid="Koijh6jJZ7" dmcf-ptype="general">EU는 이미 비동의 성적 콘텐츠 제작 및 유포를 불법으로 규정하고 있다. 2024년 '여성 대상 폭력 방지 지침'은 AI를 활용한 성적 이미지 생성도 범죄로 포함했다. '디지털서비스법(DSA)' 역시 불법 콘텐츠 유통을 허용한 플랫폼에 책임을 묻고 있다.</p> <p contents-hash="d94bcabea0a8afc3c73cc508b1014aab273e235213e3be170c322e537d9d1817" dmcf-pid="9gnAlPAi5u" dmcf-ptype="general">이번 개정안은 AI 플랫폼 자체를 직접 규제 대상으로 삼았다는 점에서 기존 규제와 차별화된다. 향후 법안이 통과되면 생성형 AI 개발사는 자사 모델이 부적절한 이미지를 생성하지 않도록 통제 장치를 마련해야 한다.</p> <p contents-hash="1c122577d8ebdbff6cfb26a3e8af77696de60022cf0ab362b9bab82457c147ed" dmcf-pid="2aLcSQcnGU" dmcf-ptype="general">박진형 기자 jin@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 문별, 세 번째 싱글 'REV' 뮤직 샘플러 공개..타이틀곡은 'Hertz' 03-19 다음 ‘라스’ 김선태, 청와대 러브콜 해명 03-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
