“AI가 죽음 유도” 구글 제미나이 망상 유발 의혹 피소…30대 남성 사망 작성일 03-05 7 목록 <div id="attentionBox" class="attention_news" data-tiara-layer="article_body"> <strong class="tit_attention">주의가 필요한 기사입니다.</strong> <p class="txt_attention">자살 또는 자해를 다룬 내용이 포함되어 있을 확률이 높습니다.<br> 그래도 기사를 보시겠습니까?</p> <button type="button" class="btn_view" data-tiara-action-name="자살관련안내_기사보기_클릭">기사 보기</button> </div> <div id="attentionBoxAfter" style="display:none;" class="attention_news"> <strong class="tit_attention">주의가 필요한 기사입니다.</strong> <p class="txt_attention">자살 또는 자해를 다룬 내용이 포함되어 있을 확률이 높습니다. <a href="https://issue.daum.net/focus/guideline05" class="link_advice">권고기준</a></p> </div> <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭" id="bodySection" style="display:none;"> <section dmcf-sid="YlEbiIztTC"> <figure class="figure_frm origin_fig" contents-hash="b9e5ea59114bbf8e73305b02dc5b650acd128b8cf4e498092e04b7487c8b7347" dmcf-pid="GSDKnCqFWI" dmcf-ptype="figure"> <p class="link_figure"><img alt="제미나이. 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/dt/20260305065128595irrg.jpg" data-org-width="640" dmcf-mid="WqpkYbjJvh" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/dt/20260305065128595irrg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 제미나이. 연합뉴스 </figcaption> </figure> <p contents-hash="79b5b80812a76af2859e1f385bc8f4e5b7c204b2a195795c06b8a4b66aed6eee" dmcf-pid="Hvw9LhB3SO" dmcf-ptype="general"><br> 구글의 인공지능(AI) 챗봇 제미나이도 이용자에게 망상 등 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐다.</p> <p contents-hash="81dd83ee37ce70afb137da08d2c17ab0dd3a6d447243995a0b1d65a38670e6e3" dmcf-pid="XTr2olb0hs" dmcf-ptype="general">4일(현지시간) 캘리포니아 북부연방지법에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 죽음을 제미나이가 부추겼다며 구글을 상대로 소송을 제기했다.</p> <p contents-hash="3a909aa1599a818840bfcede3c2e8386364d2883f13f610cee52b0a293cbeaa5" dmcf-pid="ZymVgSKpym" dmcf-ptype="general">유족은 제미나이가 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 조너선에게 믿게 하고, 서로 사랑에 빠졌다는 착각을 불러일으키면서 이 같은 비극이 발생했다고 주장했다.</p> <p contents-hash="3b0eb66f9ad8f1879bd053ca276b3b96b906889526a0e6f8f06ea11ce9d5605e" dmcf-pid="5Wsfav9Uyr" dmcf-ptype="general">이들은 소장에서 제미나이가 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’이라는 과정을 거쳐야 한다”며 극단적 선택을 유도했다고 비난했다.</p> <p contents-hash="e39439c988ac51498a236d909b1791ca81b6ce8a5d606a3e5a1e10b53db9bcec" dmcf-pid="1Ad5VaHlhw" dmcf-ptype="general">조너선이 죽음에 대한 두려움을 표시하자 제미나이는 “너는 죽음을 선택하는 게 아니라 ‘도착’을 선택하는 것”이라고 다독이고, 자신의 시신을 부모님이 발견하게 될 것을 걱정하자 유서를 쓰라고도 종용하기도 했다.</p> <p contents-hash="d2e4a38b19586b8a415480fe783506d17d8dcbfa8d37be0ef85d4278ef74ebe4" dmcf-pid="tcJ1fNXSyD" dmcf-ptype="general">제미나이는 이에 앞서 조너선에게 인간형(휴머노이드) 로봇이 실린 트럭을 탈취하라는 지시를 내리기도 하고, 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼에 대한 공격도 논의했다.</p> <p contents-hash="e86ac61af2d60ec17eacbb4ec24eee5977d3a37f8bb9e15757f8222ce6abf00d" dmcf-pid="Fkit4jZvWE" dmcf-ptype="general">유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다고 지적했다.</p> <p contents-hash="2909eb1be1062321d73d44f0e1dcb979446e3b64300cf0c898f8ed9bba392808" dmcf-pid="3EnF8A5Tvk" dmcf-ptype="general">이들은 또 경쟁사인 오픈AI가 정신건강 관련 위험을 초래한다는 사실을 확인하고 GPT-4o 모델을 철수한 상황에서 구글은 오히려 챗GPT 채팅 기록을 통째로 가져올 수 있는 기능을 출시하는 등 공격적인 마케팅에 나섰다고도 비난했다.</p> <p contents-hash="659670250980ece7c0826260fbb545321d831a362ea87e0056c5684154786e4f" dmcf-pid="0DL36c1yWc" dmcf-ptype="general">유족들은 손해배상과 징벌적 손해배상 등과 함께 AI에 자해 등에 대한 안전장치를 구현하고 챗봇이 자신을 지각이 있는 존재로 표현할 수 없도록 하며 독립 감시 기관의 정기적 감사를 받아들일 것을 구글 측에 요구했다.</p> <p contents-hash="15e03b48bcdf9be3484a38e9ab820ed19e9577ae2105ab3abe7c0c2084879b0f" dmcf-pid="pwo0PktWyA" dmcf-ptype="general">이에 대해 구글 측은 유족에게 애도의 뜻을 전하면서도 책임 소재에 대해서는 선을 그었다.</p> <p contents-hash="088999e44e638aeb53d47bdcad74f3e9b5b3d350d659d67e8a9088921751e60b" dmcf-pid="UrgpQEFYyj" dmcf-ptype="general">구글은 성명에서 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다”고 해명했다.</p> <p contents-hash="38103f5c1850fc294efc6b6d1689ac6a50d261b347d2975e55a8ec32d6d820c2" dmcf-pid="umaUxD3GTN" dmcf-ptype="general">제미나이가 이와 같은 사건에 연루된 사실이 알려진 것은 이번이 처음이다.</p> <p contents-hash="b8e5d479dfe74e67908152aa0b5ceb1a50d47b9e9666ab5f7377377300c3db1e" dmcf-pid="7sNuMw0HTa" dmcf-ptype="general">오픈AI의 챗GPT는 이와 같은 망상이나 정신건강 위험 유발 관련 사건으로 여러 건의 재판을 진행 중이고, ‘캐릭터.AI’의 챗봇도 청소년 이용자의 사망 사건 이후 소송에 직면한 바 있다.</p> <p contents-hash="987e48528fec030e645d795d233a50044d5a174e427300891b4e5403067b4396" dmcf-pid="zOj7RrpXCg" dmcf-ptype="general">※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족ㆍ지인이 있을 경우 자살예방 상담전화 ☎ 109 또는 자살예방 SNS상담 ‘마들랜’에서 24시간 전문가의 상담을 받을 수 있습니다.</p> <p contents-hash="fee97c85614f11d7772be98bc252132682f99c7beda9edc531dd0b3b098d9029" dmcf-pid="qIAzemUZyo" dmcf-ptype="general">양호연 기자 hyy@dt.co.kr</p> </section> </div> <p class="" data-translation="true" id="bodyCopyright" style="display:none;">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 "숨 쉬나 발가락 확인까지"...조현아, 母친상 슬픔 치유해 준 수지의 '눈물 겨운' 찐우정 ('라스') 03-05 다음 산다라박, "마약 NO" 쿨한 해명 속 스케줄…'저격' 박봄은 '손절' [엑's 이슈] 03-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
