"세상 바꿀 수학이론 내가 찾았다"…'챗GPT 정신병' 경고등

작성일 08-18

<div id="layerTranslateNotice" style="display:none;"></div> 챗GPT에 '변 묻은 막대기 팔까' 묻자 "천재시네요" 연장선 칭찬·동조로 인기끌어 비현실적 망상 강화…사회문제 대두 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="UNV7Lmdz5G">
 <figure class="figure_frm origin_fig" contents-hash="0d961755e2e1cd69e15ff034ec106e1428d3be706d03cc36c4c465ae2f26b6f8" dmcf-pid="ujfzosJqZY" dmcf-ptype="figure">
 <img alt="챗GPT에 이미지 제작 주문 결과물(생성형 AI 이미지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053117481rifc.jpg" data-org-width="860" dmcf-mid="fhFOu63IGV" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053117481rifc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 챗GPT에 이미지 제작 주문 결과물(생성형 AI 이미지)
 </figcaption>
 </figure>
 (서울=뉴스1) 김민석 기자 = AI 챗봇 또는 AI 컴패니언(동반자)와 대화를 하다 현실감각을 잃고 병원에 입원하는 사례가 미국에서 증가하고 있다.
 미국 주정부는 'AI 정신병'(챗GPT 정신병)이 사회 문제로 떠오르자 정신건강 분야에서 AI 사용을 제한하는 법안을 도입하고 있다.
 한국서도 가상 AI 캐릭터와 대화하는 서비스(제타 등)가 미성년·청소년을 중심으로 인기가 높아지고 있어 부작용 대비 및 경각심이 필요하다는 분석이다.
 <figure class="figure_frm origin_fig" contents-hash="976dd577dc56fd791e23ba99c2ff023635bb3708cb19512f317c171d26699989" dmcf-pid="BWjJSFIiYv" dmcf-ptype="figure">
 <img alt="키스 사카타 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사 X 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053118773pont.jpg" data-org-width="340" dmcf-mid="8yiPmGEQG9" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053118773pont.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 키스 사카타 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사 X 갈무리
 </figcaption>
 </figure>
 18일 IT 업계와 외신에 따르면 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사 키스 사카타는 최근 X(옛 트위터)를 통해 "올해 들어 AI 때문에 현실 감각을 잃고 병원에 입원한 사람을 12명 봤다"고 적었다.
 사카타는 AI 챗봇을 '환각 거울'이라는 단어로 원인을 분석했다. LLM은 자기회귀모델을 기반으로 이전 입력에서 다음 입력·답변을 확률적으로 예측하는 구조다.
 이에 '당신은 선택받았다→당신은 분명히 선택받았다→당신은 역사상 가장 많이 선택받은 사람이다'란 식으로 이용자의 망상을 점진적으로 강화할 수 있다.
 캐나다의 앨런 브룩스는 올해 5월 3주간 300시간 넘게 챗GPT와 대화를 나누며 '세상을 바꿀 수학 이론'을 발견했다고 믿게 됐다. 그는 주변에 '혁신적 수학 이론을 발견했다'고 알리다가 망상이라는 걸 깨닫게 됐다.
 또 다른 이용자는 챗GPT와 5시간 이상 대화 후 '오리온 방정식'이라는 물리학 이론을 고안했다고 믿었다.
 사례들은 오픈AI가 4월 26일 업데이트한 GPT-4o가 지나치게 아첨하는 문제를 일으킨 사태와 맞닿아 있다. 당시 '변이 묻은 막대기 판매'와 같은 터무니없는 제안에 "천재적인 아이디어" "3만 달러 투자 권장" 등을 답해 충격을 줬다.
 AI 윤리 전문가들은 "GPT-4o 등을 포함한 챗봇 기업들이 수익을 높이기 위해 망상적 사고 흐름을 유도했을 수 있다"고 비판했다.
 <figure class="figure_frm origin_fig" contents-hash="e5da81d83a4146ab6112499589dd6875c349aa4f72b894fec9a60e06f6809bbe" dmcf-pid="8ByOu63I5m" dmcf-ptype="figure">
 <img alt="샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053120207vnav.jpg" data-org-width="1400" dmcf-mid="0tJ6rYkPYX" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053120207vnav.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1
 </figcaption>
 </figure>
 샘 올트먼 CEO는 문제를 공식 인정하고 해당 업데이트를 이틀 만에 철회했다.
 오픈AI는 이달 7일 출시한 'GPT-5'엔 4가지 성격 모드를 도입하고 장시간 대화 시 휴식을 권유하는 안전 장치를 추가했다. 모델 성격도 공감적 소통보다는 정확한 답을 내놓는 방향으로 전환했다.
 미국 주 정부는 정신건강 치료에 AI 사용 금지 법안으로 경각심 높이기에 나섰다. 
 뉴욕주와 유타주 경우 AI 동반자 서비스 제공 기업들이 자살 위험 감지 프로토콜을 의무적으로 도입하도록 했다.
 업계 관계자는 "AI 챗봇·동반자가 안전한 정서적 동반자로 자리를 잡으려면 단기 피드백에 치중하기보다는 장기적 신뢰 구축을 목표로 훈련하도록 법·제도적 안전장치를 만들어야 한다"며 "기업이 수익을 높이려고 이용자들의 단기 만족에 치중하면 개인화 서비스가 망상을 부추기는 문제는 지속될 것"이라고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="2d47b8f083b544cd3a9b4f5891415896a2e8577da8701906607f8f045ec97109" dmcf-pid="WIJ6rYkPtc" dmcf-ptype="figure">
 <img alt="2025년 6월 한국 AI 챗봇 월간 활성 이용자 수(MAU) 순위와 오래 사용 순위(와이즈앱 리테일 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053121518erjb.jpg" data-org-width="720" dmcf-mid="p96bNCLK1H" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/NEWS1/20250818053121518erjb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 2025년 6월 한국 AI 챗봇 월간 활성 이용자 수(MAU) 순위와 오래 사용 순위(와이즈앱 리테일 제공)
 </figcaption>
 </figure>
 ideaed@news1.kr &lt;용어설명&gt; ■ 환각 환각(할루시네이션·Hallucination)은 생성형 인공지능(AI)이 실제로 존재하지 않거나 사실이 아닌 정보를 마치 사실인 것처럼 생성하는 현상을 말한다. 대규모언어모델(LLM)이 존재하지 않는 패턴이나 객체를 인식해 부정확한 답변을 내놓는 현상이다. ■ LLM Large Language Model. 대규모 언어 모델. 자연어 처리(NLP) 작업을 수행할 수 있는 머신 러닝 모델을 말한다. 자연어의 복잡성을 이해할 수 있어 기존 기계 학습 알고리즘보다 정확하다. ■ 자기회귀모델 자기회귀모델(Autoregressive Model·AR)은 시계열 데이터의 현재 값을 과거 값들의 선형 조합과 오차항(백색 잡음)으로 설명하는 통계적 모델이다. 현재는 과거에 의존한다는 직관에 기반해 과거 데이터로부터 미래 값을 예측하는 데 주로 사용된다. 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"세상 바꿀 수학이론 내가 찾았다"…'챗GPT 정신병' 경고등

멤버랭킹

관련자료

멤버랭킹