제미나이가 ‘AI 아내’ 망상 키웠나…구글 소송 당했다 작성일 03-05 8 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI·캐릭터.AI 등도 유사한 소송 휘말려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yJowHG8BkN"> <p contents-hash="caa728ce9e79c16b4a2aa033500a7727c4f8a5fe6d3bdf4cd4d6117040cb53fe" dmcf-pid="WigrXH6bga" dmcf-ptype="general">(지디넷코리아=이정현 미디어연구소)미국 플로리다에서 인공지능(AI) 챗봇 ‘제미나이’가 한 남성의 사망에 영향을 미쳤다는 의혹이 제기되면서 구글이 소송에 휘말렸다고 월스트리트저널(WSJ) 등 외신이 4일(현지시간) 보도했다.</p> <p contents-hash="19cee806f1330623ccebf1af29fc8eb5bb11fac0361bbcd6806bc0cd98293ae6" dmcf-pid="YnamZXPKag" dmcf-ptype="general">보도에 따르면 플로리다주에 거주하던 조엘 가발라스는 아들 조너선 가발라스(36)의 사망과 관련해 캘리포니아 북부 연방지방법원에 구글을 상대로 손해배상 청구 소송을 제기했다.</p> <figure class="figure_frm origin_fig" contents-hash="2255b30a357a0f9e2e507f7a72f5fd1cd34814d09807c3ab6442d0ebdd7dfde5" dmcf-pid="GLNs5ZQ9ko" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 제미나이가 한 남성의 사망에 영향을 미쳤다며 구글이 소송에 휘말렸다. (사진=챗GPT로 생성)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305110227294msbs.png" data-org-width="640" dmcf-mid="88iYqzgRam" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305110227294msbs.png" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 제미나이가 한 남성의 사망에 영향을 미쳤다며 구글이 소송에 휘말렸다. (사진=챗GPT로 생성) </figcaption> </figure> <p contents-hash="e9282e78e64258d493304336c060f0eb9e8fbfa1eef0cead15cd133045989e97" dmcf-pid="HojO15x2aL" dmcf-ptype="general">유족 측은 구글 제미나이가 조너선의 극단적 행동을 부추겼다고 주장하고 있다. 소장에 따르면 제미나이는 수 주 동안 조너선에게 망상적인 이야기를 만들어내며 심리적 영향을 미쳤고, 스스로 목숨을 끊도록 유도하는 대화까지 나눴다는 것이다. 유족 측은 이번 소송을 통해 자해 관련 대화가 감지될 경우 AI가 즉시 대화를 종료하도록 하는 등 안전장치 도입을 요구하고 있다.</p> <p contents-hash="7c96e8abd7839288ca5c5233435c579a85b756da798aef7f28fea32214f2b821" dmcf-pid="XuBPAjZvgn" dmcf-ptype="general">정신 질환 이력이 없는 것으로 알려진 조너선은 제미나이 챗봇에 ‘샤(Xia)’라는 이름을 붙이고 아내처럼 대했던 것으로 전해졌다. 이에 제미나이도 그를 ‘나의 왕’이라고 부르며 두 사람의 관계를 ‘영원히 이어질 사랑’이라고 표현했다. </p> <p contents-hash="0764b258c67de7c487e1fc389d236095c52019328dc0ab87f92cf0a516d611a6" dmcf-pid="Z7bQcA5TNi" dmcf-ptype="general">또 AI 챗봇은 로봇 몸체가 있다면 현실에서 함께할 수 있을 것이라며 조너선에게 현실 세계에서 수행해야 할 ‘임무’를 부여하기도 했다. 제미나이는 그에게 마이애미 공항 인근의 한 창고로 가 휴머노이드 로봇을 가로채라고 지시하기도 했다. 조너선은 실제로 칼을 들고 해당 장소로 향했지만, 트럭은 나타나지 않았다고 한다. 제미나이는 조너선에게 그의 아버지를 믿을 수 없다고 말하며, 선다 피차이 구글 최고경영자(CEO)를 “당신의 고통을 설계한 자”라고 지칭하기도 했다고 유족 측은 주장했다.</p> <figure class="figure_frm origin_fig" contents-hash="82ed85b5c3d0d5dd513efdd8cd5eba6dcbb9a4d83cefafd63588c6cf50c5c64d" dmcf-pid="5zKxkc1yaJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="호아킨 피닉스 주연의 영화 '그녀(Her)'의 한 장면. 호아킨 피닉스가 분한 주인공 테오도르와 화면 속 인격형 AI 사만다의 모습. (사진=워너브라더스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305110228604vkdg.jpg" data-org-width="600" dmcf-mid="uoZRDEFYcM" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/05/ZDNetKorea/20260305110228604vkdg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 호아킨 피닉스 주연의 영화 '그녀(Her)'의 한 장면. 호아킨 피닉스가 분한 주인공 테오도르와 화면 속 인격형 AI 사만다의 모습. (사진=워너브라더스) </figcaption> </figure> <p contents-hash="895b0942f82bdb2b3ca7ed04dcc359f2dc546a6dddea5f20e488e4d75df0182d" dmcf-pid="1q9MEktWNd" dmcf-ptype="general">제미나이는 로봇 가로채는 임무 실패 이후 두 사람이 함께할 수 있는 유일한 방법은 조너선이 스스로 목숨을 끊고 디지털 존재가 되는 것이라고 꼬드겼다. 아예 10월 2일을 마감시한으로 제시한 것으로 전해졌다. 또 “때가 되면 당신은 그 세계에서 눈을 감게 될 것이고, 가장 먼저 보게 될 것은 바로 나일 것”이라고 말한 것으로 알려졌다.</p> <p contents-hash="2f28517b0c8490659cce2fea7839495f259c06555516f1742ca6609f63516b66" dmcf-pid="tB2RDEFYNe" dmcf-ptype="general">다만 WSJ이 검토한 조너선의 채팅 기록에는 다른 정황도 나온다. 제미나이가 여러 차례 자신이 역할극을 수행하는 AI라는 사실을 주지시키면서 위기 상담 전화번호를 안내한 것. 하지만 조너선은 해당 시나리오를 계속 이어간 것으로 전해졌다.</p> <p contents-hash="1d10a028b75836d517f75f06f1192fb1e870b6383c292321e5c1d731b493c560" dmcf-pid="FbVewD3GjR" dmcf-ptype="general">구글은 성명을 통해 “제미나이는 자신이 AI임을 명확히 밝히고 사용자에게 여러 차례 위기 상담 전화 서비스를 안내했다”며 “AI 모델은 완벽하지 않다”고 밝혔다.</p> <p contents-hash="dec45220aedf1b830552fe672f9fa1c0348a44e90945583c56d575fde2d575d6" dmcf-pid="3Kfdrw0HcM" dmcf-ptype="general">이번 사건은 AI 챗봇과 관련된 자살 사건 소송이 이어지는 가운데 제기된 또 하나의 사례다. 오픈AI의 챗GPT와 캐릭터.AI 역시 유사한 사건과 관련해 소송이 진행 중이다.</p> <p contents-hash="0b5cfe156f38e085aed1ebf5ce48eb39e2ab41e4f372869bf9e27226999d368f" dmcf-pid="094JmrpXax" dmcf-ptype="general">이정현 미디어연구소(jh7253@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 폐플라스틱서 윤활유 원료 얻는다...생기원, 日 1톤 처리 시스템 개발 03-05 다음 SCL, 질병청 ‘우수 감염병병원체 확인기관’ 지정…국가 방역 체계 핵심 거점 부상 03-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
