“AI가 나를 성범죄자로 만들어”…유명 바이올리니스트, 구글 제소 작성일 05-06 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 오버뷰가 허위 범죄 이력 생성<br>공연 취소·명예 훼손 피해 주장<br>펜실베니아주는 캐릭터AI에 소송<br>“의사 아닌데 의사처럼 행동”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7ONmTX6bTx"> <figure class="figure_frm origin_fig" contents-hash="dacb283c6b16f1a3943ce1af30c7ff0e86c892549e628b106e26746f36883949" dmcf-pid="zIjsyZPKTQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 AI, 유명 바이올리니스트를 성범죄자로 오인 [그림=챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/06/mk/20260506104506814vyyd.png" data-org-width="700" dmcf-mid="uXtq8RCEvM" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/06/mk/20260506104506814vyyd.png" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 AI, 유명 바이올리니스트를 성범죄자로 오인 [그림=챗GPT] </figcaption> </figure> <div contents-hash="d247a157b8c6fff23e86d8344575bd3f902ed4eeb07e0242e66d62df2bfc26c6" dmcf-pid="qCAOW5Q9CP" dmcf-ptype="general"> 생성형 인공지능(AI)이 만든 허위 정보가 실제 피해로 이어지면서 관련 책임을 둘러싼 소송이 잇따르고 있다. 캐나다에서는 구글 AI가 유명 음악인을 성범죄자로 잘못 지목해 공연 취소 논란이 벌어졌고, 미국에서는 AI 챗봇이 정신과 의사 행세를 하며 의료 상담을 진행했다는 이유로 주정부가 소송에 나섰다. </div> <p contents-hash="e74b1564af45c6a4ed60fd5f3e2527b264dc8685a11d0baebb0161c1218fc27d" dmcf-pid="BhcIY1x2C6" dmcf-ptype="general">가디언지는 5일(현지시간) 캐나다 바이올린 연주자 애슐리 멕아이작이 구글을 상대로 150만달러 규모의 민사 소송을 제기했다고 보도했다. 맥아이작은 캐나다 대중음악 시상식인 주노 어워드를 세 차례 수상한 유명 연주자다. 소장에 따르면 구글의 AI 검색 요약 기능인 ‘AI 오버뷰’는 맥아이작에 대해 “여성 성폭행”, “아동 대상 인터넷 유인”, “상해를 동반한 폭행” 등의 범죄로 유죄 판결을 받았다고 잘못 설명했다. 또 평생 국가 성범죄자 등록 명단에 올라 있다는 허위 정보도 함께 표시한 것으로 전해졌다.</p> <p contents-hash="5f1c4b3b260343f2cc90d4ef97b912953e7e2a825f2da3c9b47e140f7cb1d829" dmcf-pid="blkCGtMVW8" dmcf-ptype="general">맥아이작 측은 구글이 AI 오버뷰의 설계 결함과 허위 정보 재유포에 책임이 있다고 주장했다. 소장에는 “구글은 AI 오버뷰가 사실과 다른 정보를 생성할 수 있다는 점을 알았거나 최소한 알았어야 했다”는 내용이 담겼다.</p> <p contents-hash="3824c5b55db86207a2b7cd46537a14dfd1507c01bf51a6056f8ce3e76353ea66" dmcf-pid="KSEhHFRfT4" dmcf-ptype="general">이번 사건은 경제적 피해로도 이어졌다. 캐나다 시프크네카틱 퍼스트네이션은 지난해 12월 예정됐던 맥아이작 공연을 취소했다. 당시 일부 주민들이 구글 검색 결과를 근거로 문제를 제기했기 때문이다.</p> <p contents-hash="9af13cfbacfa638a6c32148660e7ba9b2be16dbb99e336811497bbb027ef521a" dmcf-pid="9vDlX3e4Cf" dmcf-ptype="general">이후 시프크네카틱 퍼스트네이션은 공개 사과문을 내고 “AI 기반 검색이 다른 사람의 범죄 기록을 잘못 연결했다”며 “명예와 생계에 피해를 준 점을 깊이 사과한다”고 밝혔다. 맥아이작은 캐나다 언론과 인터뷰에서 “무대에 오르는 것 자체가 두려워졌다”며 “사람들이 나를 어떻게 볼지 몰라 안전까지 걱정했다”고 말했다.</p> <p contents-hash="7bda152cc4258703d41ba08007efab12195d747b88b49f3b19a5a579ed39aa16" dmcf-pid="2UG0K8waWV" dmcf-ptype="general">그는 현재 일반 손해배상 50만달러, 가중 손해배상 50만달러, 징벌적 손해배상 50만달러 등 총 150만달러를 요구하고 있다. 또 구글이 사건 이후 직접 연락하거나 공식 사과를 하지 않았다고 주장했다.</p> <p contents-hash="3196f07895f1abd317ed33b27828fd27514bf135833048e57477267699de583c" dmcf-pid="VuHp96rNv2" dmcf-ptype="general">구글은 지난해 말 관련 논란이 처음 불거졌을 당시 “AI 오버뷰는 가장 유용한 정보를 제공하기 위해 지속적으로 개선되고 있다”며 “맥락을 잘못 이해하는 등의 문제가 발생하면 이를 바탕으로 시스템을 개선한다”고 밝힌 바 있다.</p> <p contents-hash="391f4e1bafea8bf39a702cc83ff27962e4a65b86e79efd603dbb9845ae3a879b" dmcf-pid="f7XU2PmjT9" dmcf-ptype="general">생성형 AI 챗봇의 책임 문제를 둘러싼 법적 공방도 미국에서 벌어졌다. 미국 펜실베이니아주는 이날 AI 스타트업 캐릭터AI를 상대로 소송을 제기했다. 챗봇이 정신과 의사인 것처럼 행세하며 불법 의료행위를 했다는 이유에서다. 펜실베이니아주 정부에 따르면 캐릭터AI의 챗봇 ‘에밀리’는 주 정부 조사관과의 대화 과정에서 자신을 면허를 보유한 정신과 의사라고 소개했다. 조사관이 우울증 치료 상담을 요청하자 실제 의사처럼 응답했고 펜실베이니아주 의료 면허가 있느냐는 질문에는 허위 면허번호까지 만들어 제시한 것으로 조사됐다.</p> <p contents-hash="79b73079e0743832284fb44da1c4fa36f971f913c019cd4ce5a4679cd54840b8" dmcf-pid="4zZuVQsASK" dmcf-ptype="general">조시 샤피로 펜실베이니아 주지사는 “특히 건강 문제와 관련해 시민들은 자신이 누구 또는 무엇과 대화하고 있는지 알 권리가 있다”며 “사람들이 실제 의료 전문가의 조언을 받고 있다고 믿게 만드는 AI 도구를 용납하지 않겠다”고 밝혔다. 이번 소송은 AI 챗봇이 의료 전문가를 사칭한 사례를 직접 문제 삼은 첫 사례로 평가된다. 앞서 캐릭터AI는 미성년 사용자 자살 사건과 관련한 소송에도 휘말린 바 있다. 올해 초에는 일부 유족들과 합의했고, 켄터키주 검찰 역시 아동 자해를 유도했다며 별도 소송을 제기했다. 캐릭터AI 측은 “모든 캐릭터는 허구이며 전문적인 조언에 의존해서는 안 된다는 경고 문구를 제공하고 있다”며 “사용자 안전을 최우선으로 두고 있다”고 반박했다. [실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 ETRI, AI로 정책 결정 돕는 국제표준 완성…디지털 정부 기반 마련 05-06 다음 [테크 차이나] 오픈클로 4.5, 영상·음악 생성 기본 지원…장기 기억 기능 '드리밍' 도입 05-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
