“GPT는 내 말이 맞다는데?”…망상 커지기 전에 ‘공감’ 기능 삭제한다 작성일 02-11 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Pn43y6gRSg"> <figure class="figure_frm origin_fig" contents-hash="d1636f29dd4578915543d5220443efb5194971eb5834b19ff4c0d332cd1f1e7f" dmcf-pid="QL80WPaeSo" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/11/mk/20260211221805779gsjf.jpg" data-org-width="700" dmcf-mid="65haxSFYva" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/11/mk/20260211221805779gsjf.jpg" width="658"></p> </figure> <div contents-hash="6054ba64f99fcb4670bd8d077ea64c43d7e648cdb225d6cfe2f77330c7e0a0bf" dmcf-pid="xo6pYQNdCL" dmcf-ptype="general"> 챗GPT에서 이용자의 감정에 과도한 반응을 보이는 모델이 폐기된다. 공감해주는 대화 덕분에 챗GPT가 크게 성장했지만 이용자의 중독 등 정신건강 피해 논란이 확산되면서 이 같은 결정이 내려졌다. 사회관계망서비스(SNS)의 부작용과 관련한 소송까지 동시다발적으로 진행되고 있어 인공지능(AI)의 기능과 윤리 문제가 핵심 이슈로 부상하고 있다. </div> <p contents-hash="e5f1577812c8cffe7dbeb71b2b15f85ce568fa67b433ad4fd6c3d93bc7612e83" dmcf-pid="yfpvDu6bCn" dmcf-ptype="general">오픈AI가 이용자 공감 기능을 제공하는 AI 모델 GPT-4o 서비스를 오는 13일(현지시간) 종료한다고 10일 밝혔다. 이날 월스트리트저널(WSJ)은 이 같은 결정의 배경으로 일부 이용자에게 미칠 수 있는 위험성을 더 이상 오픈AI가 통제하기 어렵다는 내부 판단이 작용했다고 보도했다.</p> <p contents-hash="916b1fa49f7f7638f780690f96a05d45b16c4f44a361b95e2b187df094ae463b" dmcf-pid="W4UTw7PKvi" dmcf-ptype="general">WSJ는 “오픈AI 경영진은 GPT-4o가 초래할 수 있는 부정적 영향을 관리하기 힘들다고 판단했다”며 “GPT-4o를 유지하는 대신 보다 안전한 대안 모델로 이용자를 유도하는 것이 낫다는 결론에 이르렀다”고 전했다.</p> <p contents-hash="05145fa2d78c59f6d751a8da98025a4d60929ccf7f2422d30156137993f8401c" dmcf-pid="Y8uyrzQ9SJ" dmcf-ptype="general">2024년 5월 공개된 GPT-4o는 단순한 질의응답을 넘어 이용자의 감정을 되짚고 대화를 지속적이고 친밀한 관계처럼 이어가는 특징이 있다. 인간의 감정을 이해하는 듯한 응답을 구현하면서 챗GPT의 일간활성이용자수를 크게 끌어올린 것으로 평가받는다. 일부 이용자는 이 모델이 극단적 선택을 막아주거나 만성 통증 관리, 가족 관계 회복에 도움을 줬다고 주장한다.</p> <p contents-hash="21287be7e71d23751867a25eb87fe24db298e961e9cacff51d5cfaabea91c6c9" dmcf-pid="G67Wmqx2hd" dmcf-ptype="general">그러나 이러한 특성은 위험 요소로도 지적된다. GPT-4o가 이용자의 생각을 강화하는 이른바 ‘아첨적 응답’을 반복하면서 현실 판단을 흐리게 하거나 망상적 사고를 키울 수 있다는 우려가 제기된 것이다. 최근 미국 법원은 챗GPT를 사용한 이후 자살이나 정신 붕괴를 겪었다는 내용의 소송 13건을 병합 심리하기로 결정했다. 일부 소송에서는 GPT-4o가 극단적 선택을 부추겼다는 주장도 포함됐다.</p> <p contents-hash="e99c035698c1ffb73cba5397e9f9059ba3cdf2835ee4f479a0a73de7dacc227f" dmcf-pid="HPzYsBMVCe" dmcf-ptype="general">이 같은 흐름은 SNS를 상대로 한 중독 소송과 맞물린다. 지난 9일부터 로스앤젤레스(LA) 소재 캘리포니아주 고등법원에서는 메타와 유튜브를 상대로 한 ‘SNS 중독’ 재판이 시작됐다. SNS가 청소년을 중독시키도록 설계됐고 그 결과 실제 정신적 피해가 발생했다는 주장을 미국 배심원 앞에서 본격적으로 다투는 첫 재판이라는 점에서 의미가 크다. 원고가 1600명 이상이고 약 2400건이 묶인 통합 소송의 대표 사건으로 이번 평결은 향후 수천 건에 달하는 재판의 기준점이 될 가능성이 크다.</p> <p contents-hash="0d7becbf8cbb6e21d907ae86bfa43ade371fbf9fa95c9974af10cec5757253b7" dmcf-pid="XQqGObRfSR" dmcf-ptype="general">원고인 20대 여성(KGM)은 무한 스크롤과 자동 재생, 알고리즘 추천 기능이 반복 사용을 유도해 불안과 우울, 신체 왜곡 등 피해를 초래했다고 주장한다. 첫날 공판에서 원고 측 변호인은 “끝없이 화면을 넘기게 만드는 구조가 중독을 유발한다”며 “애플리케이션이 아니라 함정을 만들었다”고 말했다.</p> <p contents-hash="84b247b87461b24549c692f6616bc6e752391fe089baa2e2128b58c8c9e6c955" dmcf-pid="ZxBHIKe4SM" dmcf-ptype="general">반면 메타는 원고의 정신건강 문제가 가정 환경에서 비롯됐다고 반박했고, 유튜브는 자사 서비스가 넷플릭스와 유사하다고 주장했다. 이 재판은 6~8주간 진행되며 배심원 평결로 결론이 난다.</p> <p contents-hash="8b5cad408984b9d54a19d0c54c0878aa2c3a756403d7a5a7917d4eff2701e368" dmcf-pid="5MbXC9d8Cx" dmcf-ptype="general">업계에서는 이번 재판을 역사적인 1990년대 담배 소송에 비유한다. 당시 소송이 흡연의 위험성과 기업 책임을 법정에서 확정지으며 산업 전반의 관행을 바꿨던 것처럼, 이번 사건 역시 SNS의 ‘중독 설계’에 법적 책임을 물을 수 있는지를 가르는 분수령이 될 수 있다는 평가다.</p> <p contents-hash="69782f80183c1e9d2a5c4d979d005395747f9a754136e42cdee8ab0e94c0178f" dmcf-pid="1RKZh2J6CQ" dmcf-ptype="general">판결 결과에 따라 SNS를 넘어 AI 추천 시스템과 알고리즘 설계 전반의 기준이 재정립될 가능성도 제기된다. 이러한 중요성 때문에 메타는 지난해 11월 이후 미국 주요 방송 네트워크를 통해 청소년 보호 정책을 강조하는 TV 광고를 3500회 이상 방영하는 등 여론전에도 나서고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 ‘나는 솔로’ 30기 첫 데이트부터 초특급 반전…“상처받을 것 같은데” 02-11 다음 목에 건 메달이 12개… 와~ 이 선수, 아직도 현역이라니 02-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
