머스크 AI '그록' 성적 이미지 논란에…개인정보위도 들여다본다 작성일 01-25 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">정식 조사 전 사전 검토 단계<br>방미통위도 청소년 안전장치 마련 요구</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PZa5SbFYIC"> <p contents-hash="99f5aebfc9e41a4c13235379f8bec2cea03dd6f0c91679094e2d93cb8188ad7c" dmcf-pid="QpDUH8ztEI" dmcf-ptype="general"> [이데일리 이소현 기자] 최근 성착취 딥페이크 이미지 생성 논란에 휩싸인 인공지능(AI) 챗봇 ‘그록(Grok)’에 대해 개인정보보호위원회(이하 개인정보위)도 사실관계 확인에 나섰다.</p> <figure class="figure_frm origin_fig" contents-hash="13736dc41ffa173b1b382b71a7ba6352d8dc964dc31426acc90c51bc5f7f754f" dmcf-pid="xUwuX6qFEO" dmcf-ptype="figure"> <p class="link_figure"><img alt="일론 머스크의 X에 올라온 그록으로 자동 생성한 이미지(사진=X 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/25/Edaily/20260125145847300zvre.jpg" data-org-width="559" dmcf-mid="6jqAdlEoEh" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/25/Edaily/20260125145847300zvre.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일론 머스크의 X에 올라온 그록으로 자동 생성한 이미지(사진=X 캡처) </figcaption> </figure> <div contents-hash="e2590f7d7190b45e50085598c338991de7295c754d847ae482c19bcaae2ad2aa" dmcf-pid="yABcJSDgrs" dmcf-ptype="general"> 25일 관련업계 등에 따르면 개인정보위는 일론 머스크 테슬라 최고경영자(CEO)의 AI 스타트업 ‘xAI’가 개발한 AI 모델 그록이 이용자의 개인정보 및 생체 정보를 무단으로 학습하거나 성착취물 제작 등 불법적인 목적으로 악용되는 과정에서 개인정보 보호법 위반 소지가 있는지 들여다보고 있다. </div> <p contents-hash="9aab3db383252364aac619f2287ba03b3d2f80cd46745c7a60ca49c57eb23fc4" dmcf-pid="WcbkivwaEm" dmcf-ptype="general">정식 조사에 착수하기 전 문제가 제기된 사안이 실제로 존재하는지 등을 가려보는 사전 검토 단계 차원에서 사실관계 확인이 이뤄지고 있는 것으로 전해졌다.</p> <p contents-hash="fbf6d3979876423795b3131484ea79284aa7fc7d9ae9f691ebaaeb7922381e28" dmcf-pid="YkKEnTrNOr" dmcf-ptype="general">그록의 학습 데이터 수집 과정에서 한국 이용자의 정보가 적법한 절차 없이 포함됐는지, 딥페이크 생성 과정에서 개인 식별이 가능한 정보가 오남용되는지 여부를 살펴볼 것으로 보인다.</p> <p contents-hash="6a4c8f3131906a66351fb9e479951c21a93a8e98ff2b1b9fd7ccce7e15a0fe0a" dmcf-pid="GE9DLymjEw" dmcf-ptype="general">최근 AI 업계에선 그록이 생성하는 딥페이크 이미지가 실제 인물의 얼굴과 신체를 정교하게 합성해 심각한 인권 침해를 야기하고 있다는 지적이 끊이지 않았다. 특히 유명인은 물론 일반인과 미성년자를 대상으로 한 비동의 성적 영상물 제작에 그록이 도구로 쓰이면서 논란은 더욱 확산되는 추세다.</p> <p contents-hash="3df87b7a767b2fff16bede74f9724d1506efa528af9b9066cd7687de6e473395" dmcf-pid="HD2woWsAsD" dmcf-ptype="general">미국 일간 뉴욕타임스(NYT)는 이달 1∼7일 그록이 사회관계망서비스(SNS) 엑스(X)에서 생성한 이미지 52만5000건을 분석한 결과 최소 41%가 여성을 성적으로 대상화하는 이미지로 집계됐다고 22일(현지시간) 보도했다. 이를 지난해 12월 31일부터 이달 8일까지 9일간 그록이 생성한 440만건에 대입하면 성착취 딥페이크(AI 조작 사진)는 180만건에 달한다는 계산이 나온다.</p> <p contents-hash="10531c1e685c4f425b84d072cff3c21db1881a8dda58f54a3e3230f9652bc107" dmcf-pid="XR5eVkiPDE" dmcf-ptype="general">디지털혐오대책센터(CCDH)가 그록이 생성한 이미지 중 2만 건을 무작위 추출해 벌인 별도 분석에서는 표본의 65%가 남성이나 여성, 아동의 성적 이미지인 것으로 조사됐다. 특히 아동을 대상으로 한 성 착취물이 101건으로 확인됐는데 이를 비례 환산하면 2만3000건 이상에 아동이 포함됐을 것으로 추산된다고 CCDH는 설명했다.</p> <p contents-hash="08481abddf8a53a14a9b94a45b3091e8c329f93c9567b512e94165809964674c" dmcf-pid="Ze1dfEnQmk" dmcf-ptype="general">그록 측은 관련 논란이 불거지자 지난 14일 유·무료 사용자 모두를 대상으로 실제 사람의 이미지를 편집할 수 없도록 기술적으로 조치했다고 밝혔다.</p> <p contents-hash="c55f3f96e8acdec6e7f0e298043f69b05795afddd3b61ab99792e1442cacfd63" dmcf-pid="5dtJ4DLxOc" dmcf-ptype="general">앞서 방송미디어통신위원회(이하 방미통위)도 지난 14일 엑스(X·옛 트위터) 측에 청소년 보호를 위한 안전장치 마련을 공식 요구하며 전방위적 대응에 나섰다.</p> <p contents-hash="01865e742f25dab5756b388eb06114f356ab4bce39fb25ca88fc732769922a85" dmcf-pid="1JFi8woMmA" dmcf-ptype="general">방미통위는 최근 그록을 통해 생성된 성착취물 및 비동의 성적 이미지가 소셜미디어를 통해 무분별하게 유포됨에 따라 엑스 측에 유해 정보로부터 청소년을 보호하기 위한 접근 제한 및 관리 조치 등 구체적인 보호 계획을 수립해 회신할 것을 통보했다.</p> <p contents-hash="3421ce1e30e9717331c7e789ed0f77ec5d4f0ecfa12ed42897d8c9fb07886000" dmcf-pid="ti3n6rgRwj" dmcf-ptype="general">이소현 (atoz@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘만약에 우리’, 200만까지 초읽기 [SS박스오피스] 01-25 다음 팬들은 조마조마한데... 나성범 "지명타자보다 수비하고파, 필라테스로 몸 만들었다" 01-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
