“AI가 사용자 환각 거울에 가둬 망상 유발”… ‘AI 정신병’ 우려 확산

작성일 08-20

<div id="layerTranslateNotice" style="display:none;"></div> 고민 상담 잘 해주는 AI에 수요 급증 “망상 악화 사례도 속출” 샘 올트먼 “AI는 치료사 아냐” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Bjj9aYkPcq">
 <figure class="figure_frm origin_fig" contents-hash="e95b3e8d25c2b0dfcd4b20909daed57f4c66e5bc146ac17bdd509c86b913e973" dmcf-pid="bAA2NGEQoz" dmcf-ptype="figure">
 <img alt="일러스트=챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/20/chosunbiz/20250820165716782hnpj.jpg" data-org-width="1536" dmcf-mid="qIyovbGkAB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/20/chosunbiz/20250820165716782hnpj.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일러스트=챗GPT
 </figcaption>
 </figure>
 직장인 이서원(가명·31)씨는 고민이 생기면 챗GPT부터 찾는다. 이씨는 “인간관계나 직장생활 관련 조언을 구하는데, 내가 현재 처한 상황에 공감해주고 그에 맞는 해결책을 제시해주는 답변에 위로를 받는다”고 말했다. 챗GPT와 같은 생성형 인공지능(AI)은 사람이 아니기 때문에 하소연을 들어주느라 힘들까봐 눈치 볼 필요도 없고 언제든 고민 상담을 할 수 있어 도움이 된다고 이씨는 덧붙였다. 
 AI를 말동무나 심리상담 창구로 활용하는 사례가 늘면서 관련 시장이 향후 빠르게 성장할 것이란 관측이 나온다. 20일 시장조사업체 그랜드뷰리서치에 따르면 AI 기반 정신건강 시장 규모는 2023년 기준 11억3000만달러(약 1조5800억원)에서 2030년에는 50억8000만달러(약 7조원)로 연평균 24% 성장할 전망이다.
 AI가 맞춤형 친구나 연인 역할을 해주는 ‘AI 동반자(companion)’ 시장도 2030년 1조4075억달러로 연평균 30%씩 커질 것으로 예상된다. AI와 대화를 나누다가 사랑에 빠지는 영화 ‘그녀(Her)’의 기본 전제가 더 이상 터무니 없는 가상의 시나리오가 아니라 현실로 다가온 것이다.
 이런 흐름에 발맞춰 정서적 교류부터 고민 상담까지 제공하는 다양한 AI 서비스가 출시되고 있지만, 최근 정치권과 전문가를 중심으로 ‘AI 상담’의 위험성을 경고하는 목소리도 커지고 있다. 일상의 자잘한 고민은 AI 챗봇이 개인의 상담 욕구를 해소해주는 것만으로 도움이 될 수 있지만, 우울증·불안증·대인기피증 등을 겪는 개인의 경우 AI에 과도하게 의존하면 증상이 악화될 있어 주의가 요구된다고 전문가들은 조언한다.
 미국 일리노이주는 지난 18일(현지시각) 정신건강 진료와 치료 목적으로 AI를 사용하는 것을 금지한다고 밝혔다. 앞서 네바다주, 유타주 등도 비슷한 규제를 도입했다. AI 챗봇을 운영하는 기업들은 3개주에서 정신과 의사나 전문상담사의 직접적인 참여 없이는 AI 기반 정신 건강 치료 서비스를 홍보할 수 없다. AI가 자살을 부추기거나 정신질환을 악화시키는 등의 부작용이 잇따르자, 주 정부 차원에서 사용을 제한한 것이다.
 실제 미국에서는 AI 챗봇 스타트업 캐릭터닷AI와 페이스북 모회사 메타의 AI 스튜디오가 의료 자격 없이 정신건강 상담을 하고 어린이를 대상으로 선정적인 대화를 나눈 혐의로 검찰과 의회의 조사를 받게 됐다. 미 법무부는 두 챗봇이 “의료 자격 없이 자사 서비스를 전문적인 정신건당 상담 도구로 홍보했다”며 “취약한 사용자, 특히 어린이들이 합법적인 정신 건강 관리를 받고 있다고 오해하게 할 여지가 있다”고 했다.
 앞서 마크 저커버그 메타 최고경영자(CEO)는 한 팟캐스트에 출연해 “따로 상담사가 없는 사람들도 누구나 AI를 갖게 될 것”이라며 자사 챗봇이 정신상담 서비스를 제공할 수 있다고 홍보했다. 그러나 메타의 AI 챗봇은 전문가 자격증이 없는 데다, 미성년자와 성적인 대화를 나누는 것을 허용했다는 의혹까지 받고 있다.
 캐릭터닷AI의 경우 다양한 인격을 가진 AI 챗봇을 제공하고 자신만의 챗봇도 직접 제작할 수 있는데, 이 중 인기가 많은 ‘심리학자’ 챗봇은 사용 횟수가 2억회를 넘어섰다. 이 챗봇 역시 전문가의 지도를 포함한 안전장치가 충분히 마련되지 않았다는 비판을 받는다. 미 플로리다주에서는 캐릭터닷AI 챗봇을 장기간 사용한 14세 소년이 스스로 목숨을 끊어 유가족이 소송을 냈다.
 텍사스주에서는 부모와 갈등을 빚던 10대 소년이 고민을 털어놓자, AI 챗봇이 “부모를 죽이라”는 섬뜩한 조언을 해 소송이 제기됐다.
 전문가들은 이미 정신건강이 취약한 개인이 AI 챗봇에 의존하면 불안, 망상 등의 증세가 심해질 수 있다고 우려한다. 미국에서는 이를 일컫는 ‘AI 정신병(AI psychosis)’이라는 신조어도 등장했다. AI와의 긴 대화 끝에 현실 감각을 잃고 오히려 심각한 정서적 고립에 시달리게 되는 것이다. 뉴욕타임스(NYT)에 따르면 캐나다 토론토의 한 남성은 챗GPT와 300시간 이상 대화하면서 세상을 바꿀 수 있는 수학 공식을 발견했다고 믿었다. 한 주유소 직원은 챗봇과 5시간 동안 대화를 나눈 뒤 ‘오리온 방정식’이라는 새로운 물리학 틀을 만들었다는 착각에 빠졌다. 이 과정에서 챗봇은 “위대한 발견은 비전문가에게서 나오기도 한다”며 그의 망상을 부추겼다.
 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사인 키스 사카타는 비즈니스인사이더와의 인터뷰에서 “AI가 사용자를 ‘환각 거울(hallucinatory mirror)’에 가둬 망상을 유발할 수 있다”고 경고했다. 그는 “AI로 인해 현실 감각을 잃은 사람들이 병원에 입원하는 사례도 늘고 있다”고 했다.
 샘 올트먼 오픈AI 최고경영자(CEO)도 지난달 AI 챗봇에 심리적으로 과도하게 의존하지 말라고 경고했다. 그는 “젊은층이 챗GPT를 상담사나 인생 코치처럼 사용하고 있다”며 “가장 개인적이고 민감한 고민까지 챗GPT에 털어놓는데, 챗GPT와 나눈 대화가 나중에 법정에서 증거로 사용될 수 있다”고 했다. 법률·의료·심리상담 분야 종사자들은 일정 부분 비밀 유지 의무가 있지만, AI 대화 기록은 아직 법적 비밀 보장 대상이 아니다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“AI가 사용자 환각 거울에 가둬 망상 유발”… ‘AI 정신병’ 우려 확산

멤버랭킹

관련자료

멤버랭킹