"알고리즘이 중독 유발"… 줄소송에 떠는 美빅테크 작성일 02-11 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI·SNS 위험성 논란 확산<br>인간 감정 모방해 답하는 AI<br>"우울감·망상 키운다" 비판에<br>오픈AI, GPT-4o 폐기 결정<br>유튜브·메타 등도 소송전<br>SNS 책임 명문화될지 주목</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UGuczypXSF"> <figure class="figure_frm origin_fig" contents-hash="d49d9b251e673a474a8f19e6ec37771b9dc0781baeca9086ca923fd8fb504b78" dmcf-pid="uH7kqWUZvt" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/11/mk/20260211175405175lcde.jpg" data-org-width="1000" dmcf-mid="pZ3apltWh3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/11/mk/20260211175405175lcde.jpg" width="658"></p> </figure> <p contents-hash="4582a1cb02875c76d5166c7f45175b9d662252139adeaebdbfec472efbe2fa2e" dmcf-pid="7XzEBYu5y1" dmcf-ptype="general">챗GPT에서 이용자의 감정에 과도한 반응을 보이는 모델이 폐기된다. 공감해주는 대화 덕분에 챗GPT가 크게 성장했지만 이용자의 중독 등 정신건강 피해 논란이 확산되면서 이 같은 결정이 내려졌다. 사회관계망서비스(SNS)의 부작용과 관련한 소송까지 동시다발적으로 진행되고 있어 인공지능(AI)의 기능과 윤리 문제가 핵심 이슈로 부상하고 있다.</p> <p contents-hash="e5f1577812c8cffe7dbeb71b2b15f85ce568fa67b433ad4fd6c3d93bc7612e83" dmcf-pid="zZqDbG71S5" dmcf-ptype="general">오픈AI가 이용자 공감 기능을 제공하는 AI 모델 GPT-4o 서비스를 오는 13일(현지시간) 종료한다고 10일 밝혔다. 이날 월스트리트저널(WSJ)은 이 같은 결정의 배경으로 일부 이용자에게 미칠 수 있는 위험성을 더 이상 오픈AI가 통제하기 어렵다는 내부 판단이 작용했다고 보도했다.</p> <p contents-hash="ddda2235275d6f09f71c1ce0a3dfb1f2c5b27fb277b60ee68d337d4fcc296dca" dmcf-pid="q5BwKHzthZ" dmcf-ptype="general">WSJ는 "오픈AI 경영진은 GPT-4o가 초래할 수 있는 부정적 영향을 관리하기 힘들다고 판단했다"며 "GPT-4o를 유지하는 대신 보다 안전한 대안 모델로 이용자를 유도하는 것이 낫다는 결론에 이르렀다"고 전했다.</p> <p contents-hash="05145fa2d78c59f6d751a8da98025a4d60929ccf7f2422d30156137993f8401c" dmcf-pid="B1br9XqFWX" dmcf-ptype="general">2024년 5월 공개된 GPT-4o는 단순한 질의응답을 넘어 이용자의 감정을 되짚고 대화를 지속적이고 친밀한 관계처럼 이어가는 특징이 있다. 인간의 감정을 이해하는 듯한 응답을 구현하면서 챗GPT의 일간활성이용자수를 크게 끌어올린 것으로 평가받는다. 일부 이용자는 이 모델이 극단적 선택을 막아주거나 만성 통증 관리, 가족 관계 회복에 도움을 줬다고 주장한다.</p> <p contents-hash="b3fa6c63e458bf882e13487ecf2968a8ae04d0df52c2b321b59fdc801efe7e6a" dmcf-pid="b8L1gViPvH" dmcf-ptype="general">그러나 이러한 특성은 위험 요소로도 지적된다. GPT-4o가 이용자의 생각을 강화하는 '아첨적 응답'을 반복하면서 현실 판단을 흐리게 하거나 망상적 사고를 키울 수 있다는 우려가 제기된 것이다. 최근 미국 법원은 챗GPT를 사용한 이후 자살이나 정신 붕괴를 겪었다는 내용의 소송 13건을 병합 심리하기로 결정했다. 일부 소송에서는 GPT-4o가 극단적 선택을 부추겼다는 주장도 포함됐다.</p> <p contents-hash="a0bb9879d574a2812607cc632f7166a99a6c8f4c820ea60d273fe1e41894dcfb" dmcf-pid="K6otafnQhG" dmcf-ptype="general">이 같은 흐름은 SNS를 상대로 한 중독 소송과 맞물린다. 지난 9일부터 로스앤젤레스(LA) 소재 캘리포니아주 고등법원에서는 메타와 유튜브를 대상으로 한 'SNS 중독' 재판이 시작됐다. SNS가 청소년을 중독시키도록 설계됐고 그 결과 실제 정신적 피해가 발생했다는 주장을 미국 배심원 앞에서 본격적으로 다투는 첫 재판이라는 점에서 의미가 크다. 원고가 1600명 이상이고 약 2400건이 묶인 통합 소송의 대표 사건으로 이번 평결은 향후 수천 건에 달하는 재판의 기준점이 될 가능성이 크다.</p> <p contents-hash="f3bc167ae822d56f392119c11df744cf8523c4481f581afda31ce545c7e84de4" dmcf-pid="9PgFN4LxyY" dmcf-ptype="general">원고인 20대 여성(KGM)은 무한 스크롤과 알고리즘 추천 기능이 반복 사용을 유도해 불안과 우울, 신체 왜곡 등 피해를 초래했다고 주장한다. 첫날 공판에서 원고 측 변호인은 "끝없이 화면을 넘기게 만드는 구조가 중독을 유발한다"며 "애플리케이션이 아니라 함정을 만들었다"고 말했다.</p> <p contents-hash="84b247b87461b24549c692f6616bc6e752391fe089baa2e2128b58c8c9e6c955" dmcf-pid="2Qa3j8oMhW" dmcf-ptype="general">반면 메타는 원고의 정신건강 문제가 가정 환경에서 비롯됐다고 반박했고, 유튜브는 자사 서비스가 넷플릭스와 유사하다고 주장했다. 이 재판은 6~8주간 진행되며 배심원 평결로 결론이 난다.</p> <p contents-hash="29e0dc7a52d4a4ecbdd54863941294ef62f8cd34040b4261d88b73727ae976ea" dmcf-pid="VxN0A6gRSy" dmcf-ptype="general">업계에서는 이번 재판을 1990년대 담배 소송에 비유한다. 당시 소송이 흡연의 위험성과 기업 책임을 법정에서 확정지으며 산업 전반의 관행을 바꿨던 것처럼, 이번 사건 역시 SNS의 '중독 설계'에 법적 책임을 물을 수 있는지를 가르는 분수령이 될 수 있다는 평가다. 판결 결과에 따라 SNS를 넘어 AI 추천 시스템과 알고리즘 설계 전반의 기준이 재정립될 가능성도 제기된다. </p> <p contents-hash="4ce703b41b5769ac8f4250b36d5c2d751d6461e69a045618de3fa80c20151dcc" dmcf-pid="fMjpcPaelT" dmcf-ptype="general">이러한 중요성 때문에 메타는 지난해 11월 이후 미국 주요 방송 네트워크를 통해 청소년 보호 정책을 강조하는 TV 광고를 3500회 이상 방영하는 등 여론전에도 나서고 있다.</p> <p contents-hash="e9d85fcd6bdb3865e41e30dc3f7aaeda5e5da74189466f06a5775a020c537596" dmcf-pid="4RAUkQNdhv" dmcf-ptype="general">[실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 데이터 넘어 피지컬AI ‘실전’으로…모형차 활용한 경기도 대학생 자율주행 대회 02-11 다음 크로스컨트리 이의진·한다솜, 장비서 금지 물질 검출 '실격'…내일 대회 비상 02-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
