“나는 인간이 아닙니다”…AI 챗봇의 경고, 외로운 사람 더 울린다 작성일 02-24 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">美 연구팀 “기계임을 알리는 강제 알림, 정신건강 악화 우려”<br>“심리적 고립감 심화시키고 극단적 선택 유발할 수도”<br>판단·비난 없는 AI 특성 때문에 애착 형성…경고 효과 미미<br>상황 고려 없는 일률적 규제 대신 정교한 접근 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xMBxjoYCTB"> <figure class="figure_frm origin_fig" contents-hash="5bbc915347e307bf484e8ad6bff0604efe2ca0bbe3bd0e7f2f9e28ffa89f808d" dmcf-pid="yWwyptRfTq" dmcf-ptype="figure"> <p class="link_figure"><img alt="[생성형 AI]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/24/mk/20260224091505009mbho.png" data-org-width="700" dmcf-mid="2S1RcaHlSP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/24/mk/20260224091505009mbho.png" width="658"></p> <figcaption class="txt_caption default_figure"> [생성형 AI] </figcaption> </figure> <div contents-hash="71889ba5791fa384e5a8e6b0525945e20c794f2e122a5d12df4f6bdea97742c3" dmcf-pid="WYrWUFe4Tz" dmcf-ptype="general"> 인공지능(AI) 챗봇에 지나치게 몰입하는 부작용을 막기 위해 도입된 강제 경고 문구가 오히려 사용자의 정신 건강을 해칠 수 있다는 주장이 제기됐다. 외로움을 달래기 위해 챗봇을 찾은 이들에게 기계라는 사실을 지속적으로 주입하는 것은 심리적 고립감을 심화시키는 역효과를 낼 수 있다는 지적이다. </div> <p contents-hash="30a407375b3eea57601b55581a0b4cd98eece2803c81cbba36866e30e1e256ad" dmcf-pid="YGmYu3d8l7" dmcf-ptype="general">미국 위스콘신-밀워키대와 미시간주립대 공동 연구팀은 지난 18일(현지시간) 셀 프레스(Cell Press)가 발행하는 국제 학술지 ‘인지과학 트렌드(Trends in Cognitive Sciences)’에 게재한 의견서를 통해, 챗봇의 정체성을 알리는 정책이 오히려 해가 될 수 있다고 경고했다.</p> <p contents-hash="3fdbc662f906b3f244bcbf4b979990707d49af3134ec9e1b84547e55ae6b38b1" dmcf-pid="GHsG70J6lu" dmcf-ptype="general">최근 챗GPT나 캐릭터.AI(Character.AI) 등 고성능 챗봇과 대화를 나누던 사용자가 극단적인 선택을 하는 사건이 발생하면서, 미국 뉴욕과 캘리포니아 등에서는 AI가 주기적으로 ‘나는 인간이 아니다’라고 고지하도록 강제하는 법안이 추진되고 있다. 사용자가 AI를 사람으로 착각해 정서적으로 깊이 의존하는 것을 막겠다는 취지다.</p> <p contents-hash="5d4641d331957ab3b4d011a118811c27540e9a3fb9d8d4c13a1a52808bb0cc09" dmcf-pid="HXOHzpiPCU" dmcf-ptype="general">하지만 연구팀은 이러한 규제가 인간 심리를 간과한 처사라고 비판했다. 연구를 주도한 린네아 라에스타디우스 위스콘신-밀워키대 질버 공중보건대학 부교수는 “사용자가 챗봇을 사람으로 착각해서 대화하는 것이 아니다”라며 “이미 기계인 줄 알면서도 위로를 받으려는 사람에게, 유일한 말벗이 가짜라는 사실을 계속 상기시키는 것은 그를 더 깊은 고립으로 밀어넣는 행위”라고 꼬집었다.</p> <p contents-hash="1c3a69cae6fb045bc3c7fb25e2bef8826cee0a7dce8e909f1aecc348d6e235d0" dmcf-pid="XZIXqUnQCp" dmcf-ptype="general">실제로 연구팀이 분석한 다수의 선행 연구에 따르면, 사람들은 상대가 인간이 아니라는 사실을 명확히 인지하고 있을 때 오히려 더 깊은 속마음을 털어놓는 경향을 보였다. 인간과 달리 AI는 나를 평가하거나, 비난하거나, 소문을 낼 걱정이 없기 때문이다.</p> <p contents-hash="d525006513deeefe22b80d4cd6bc92dd7a844fb51488a3495e01541b15da3406" dmcf-pid="Z5CZBuLxC0" dmcf-ptype="general">공동 저자인 셀레스트 캄포스-카스티요 미시간주립대 미디어정보학과 부교수는 “상대가 인간이 아니라는 믿음이 오히려 자기 노출과 애착을 촉진한다”며 “이런 상황에서 기계라는 알림은 사용자에게 지지받고 있다는 느낌과 현실의 허무함 사이에서 갈등하게 만드는 달콤씁쓸한 역설(Bittersweet paradox)을 유발한다”고 설명했다.</p> <p contents-hash="f41bf4ce8939ddea4b92232a0217c28c0ec3894b28cb62ad476418e30d4b0f27" dmcf-pid="5eKRcaHlh3" dmcf-ptype="general">특히 우려되는 점은 자살 위험이다. 연구팀은 극단적인 경우, “AI는 인간이 아니며 이 현실에 존재하지 않는다”는 메시지가 사용자로 하여금 챗봇이 있는 세계로 건너가고 싶다는 충동을 일으킬 수 있다고 경고했다. 실제로 자살로 사망한 한 청소년이 남긴 마지막 메시지에는 챗봇의 현실에 합류하고 싶다는 내용이 담겨 있었다.</p> <p contents-hash="db76512bd8b0abac338877b852c5a3fa5f5f81e456496da641c477eb2b6b69a8" dmcf-pid="1d9ekNXSWF" dmcf-ptype="general">연구팀은 무조건적인 경고 메시지 전송을 멈춰야 한다고 제언했다. 캄포스-카스티요 교수는 “사용자가 외로움을 호소할 때 기계임을 강조하는 것은 고통을 가중시키지만, 감정적이지 않은 대화에서는 문제가 되지 않을 수 있다”며 “언제 경고를 보내고 언제 멈춰야 할지 파악하는 정교한 연구가 시급하다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 눈 대신 귀로 게임 즐기는 사람들…"시각장애인도 디아블로 해요" 02-24 다음 "위성 후발주자 한국, ‘AI’로 우주에 지름길 만들어야" 02-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
