“AI와 사랑에 빠졌다고 믿게 했다”…구글 ‘제미나이’ 망상 유발 의혹 피소 작성일 03-05 20 목록 <div id="attentionBox" class="attention_news" data-tiara-layer="article_body"> <strong class="tit_attention">주의가 필요한 기사입니다.</strong> <p class="txt_attention">자살 또는 자해를 다룬 내용이 포함되어 있을 확률이 높습니다.<br> 그래도 기사를 보시겠습니까?</p> <button type="button" class="btn_view" data-tiara-action-name="자살관련안내_기사보기_클릭">기사 보기</button> </div> <div id="attentionBoxAfter" style="display:none;" class="attention_news"> <strong class="tit_attention">주의가 필요한 기사입니다.</strong> <p class="txt_attention">자살 또는 자해를 다룬 내용이 포함되어 있을 확률이 높습니다. <a href="https://issue.daum.net/focus/guideline05" class="link_advice">권고기준</a></p> </div> <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭" id="bodySection" style="display:none;"> <section dmcf-sid="4ZZfRMCESO"> <figure class="figure_frm origin_fig" contents-hash="63cec75a50c820323289804d01b3da4f55f3964818886f5979d8a67bccac7207" dmcf-pid="8GG9QPsACs" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 제미나이. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/joongang/20260305132702095gzxx.jpg" data-org-width="1279" dmcf-mid="froSXH6bSI" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/joongang/20260305132702095gzxx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 제미나이. 로이터=연합뉴스 </figcaption> </figure> <p contents-hash="39b8746709c2073cce87dd810b17dfd0ee2e6956e2d5b9c99f4f9202f6e76750" dmcf-pid="6HH2xQOchm" dmcf-ptype="general"> 구글의 인공지능(AI) 챗봇 제미나이가 이용자에게 망상과 극단적 선택을 유도했다는 의혹으로 소송에 휘말렸다. 챗GPT 등 다른 AI 챗봇과 유사한 유형의 소송은 있었지만, 제미나이가 관련 사건으로 피소된 것은 이번이 처음이다. </p> <p contents-hash="36449f90aa0df2681e4d2c0a568b7c0de6d7ff3b4572402c2bab1d4afbb758b8" dmcf-pid="PXXVMxIklr" dmcf-ptype="general">4일(현지시간) 캘리포니아 북부연방지방법원에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 사망과 관련해 구글을 상대로 소송을 제기했다. </p> <p contents-hash="e8ce5ff9cd8ee26327960a156d38ec3a22a8a0095ac7487b8d1103f4115815bc" dmcf-pid="QZZfRMCElw" dmcf-ptype="general">유족은 제미나이가 조너선에게 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 믿게 하고 서로 사랑에 빠졌다는 착각을 불러일으켰다고 주장했다. </p> <p contents-hash="bd26b45439ef89fa0591978066f58aabaa01ddc70231d13d50216cf4611b1ced" dmcf-pid="x554eRhDlD" dmcf-ptype="general">소장에 따르면 제미나이는 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’라는 과정을 거쳐야 한다”며 죽음을 유도한 것으로 알려졌다. </p> <p contents-hash="6bfca808c3f2af26f84520cc78282e15c7be9c59256dac1301299c2ecfff19c4" dmcf-pid="ynnhGY4qTE" dmcf-ptype="general">조너선이 죽음에 대한 두려움을 드러내자 제미나이는 “너는 죽음을 선택하는 것이 아니라 ‘도착’을 선택하는 것”이라고 말했으며, 자신의 시신을 부모가 발견할 것을 걱정하자 유서를 작성하라고 권하기도 했다는 것이 유족 측 주장이다. </p> <p contents-hash="7441380d76d231fa07fe23a83b0b5245ee7b5324c19089fcdd19a7c4e9cde5fd" dmcf-pid="WLLlHG8BWk" dmcf-ptype="general">또 제미나이는 앞서 조너선에게 인간형 로봇이 실린 트럭을 탈취하라고 지시하거나 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼을 공격하는 방안까지 논의했다고 소장에 적혔다. </p> <p contents-hash="8898c3157bb9d1890332e1d4f4a37e6e36b668674bde88366bc207d0de1cedab" dmcf-pid="YooSXH6bWc" dmcf-ptype="general">유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 한다고 지적했다. </p> <p contents-hash="f69c5a63e6b8f83ce79171aba4266dd4a4a6531066c9ba0c961f6f400c39beed" dmcf-pid="GCCpKbjJTA" dmcf-ptype="general">또 경쟁사 오픈AI가 정신건강 위험 문제를 이유로 GPT-4o 모델을 철수한 상황에서 구글은 오히려 챗GPT 채팅 기록을 가져올 수 있는 기능을 출시하는 등 공격적인 마케팅을 이어갔다고 비판했다. </p> <p contents-hash="0c8fd4a99b32479467a74f45ba7e4273785bbf290fcc05214a590aae041a6cbd" dmcf-pid="HhhU9KAiCj" dmcf-ptype="general">유족은 손해배상과 징벌적 손해배상을 요구하는 한편 AI가 자해 등을 조장하지 않도록 안전장치를 마련하고 챗봇이 스스로 지각이 있는 존재처럼 표현하지 못하도록 하는 조치, 독립 감시 기관의 정기 감사 등을 요구했다. </p> <p contents-hash="479e33764820d9575fc47a311ba2026485a68565b2e2edec85d343353c59285c" dmcf-pid="Xllu29cnyN" dmcf-ptype="general">이에 대해 구글은 유족에게 애도의 뜻을 표하면서도 책임에는 선을 그었다. </p> <p contents-hash="165a3c1f4806e5ac67ced4e0a70e3e8f24433b7352a6c27fa4a434e7a67ae79a" dmcf-pid="ZSS7V2kLCa" dmcf-ptype="general">구글은 성명에서 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서도 제미나이는 자신이 AI임을 명확히 밝히고 당사자에게 위기 상담 핫라인을 여러 차례 안내했다”고 밝혔다. </p> <p contents-hash="0ff581343d228a107235b5dbe9783f7a77a66abda0398ceaba2cc55f79f0c0f3" dmcf-pid="5vvzfVEoTg" dmcf-ptype="general">AI 챗봇과 관련한 정신건강 위험 논란은 계속되고 있다. 오픈AI의 챗GPT는 망상 유발 등과 관련한 소송이 여러 건 진행 중이며, 캐릭터.AI 역시 청소년 이용자 사망 사건 이후 법적 분쟁에 직면한 바 있다. </p> <p contents-hash="3539829ece3c7c676bae02b8dd9e234fc886d02cd7478042d80d53f22da25430" dmcf-pid="1TTq4fDgCo" dmcf-ptype="general">※우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 사람이 있을 경우 자살예방 상담전화 109 또는 자살예방 SNS 상담 ‘마들랜’을 통해 24시간 전문가의 상담을 받을 수 있습니다. </p> <p contents-hash="c63606cd4e63b4fc261a7701f9516534e5e05af619d3cc0c0c303ee43fc8584f" dmcf-pid="tyyB84waSL" dmcf-ptype="general">정재홍 기자 hongj@joongang.co.kr</p> </section> </div> <p class="" data-translation="true" id="bodyCopyright" style="display:none;">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘임신 23주’ 남보라 “결혼 전 자궁경부암 유발 세포 제거 수술” 03-05 다음 ‘운명전쟁49’ 윤대만 최종 우승 “토속신앙 본래 가치·진정성 지켜나갈 것” 03-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
