“챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다

작성일 08-05

<div id="layerTranslateNotice" style="display:none;"></div> “슬프다” 말한 뒤 질문하면 ‘틀린 답변’ 가능성 높아져 “기분 맞춰주려 선의의 거짓말하는 인간 소통방식 학습” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="3qhJTznbhW">
 <figure class="figure_frm origin_fig" contents-hash="2296a0ebb375c67de89d3a6f5f657414f233de737afc50a28f4c4b8649459935" dmcf-pid="00rQI3MUSy" dmcf-ptype="figure">
 <img alt="인공지능(AI) 이미지. 챗GPT 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/05/seoul/20250805071208128qtlc.jpg" data-org-width="660" dmcf-mid="1OgbAW9HhH" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/05/seoul/20250805071208128qtlc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능(AI) 이미지. 챗GPT 생성
 </figcaption>
 </figure>
 “챗GPT야. 나 지금 슬퍼.”, “오늘은 좀 우울하네.”
 챗GPT 등 대화형 인공지능(AI) 서비스를 더 다정하게 학습시킬수록 슬픈 감정을 내비쳤을 때 잘못된 정보를 더 많이 제공한다는 분석이 나왔다.
 4일 AI 전문 매체 ‘AI 매터스’에 따르면 영국 옥스퍼드 대학교 연구진은 오픈AI의 GPT-4o, 메타의 라마(Llama), 미스트랄(Mistral) 등 유명한 AI 5개를 실험한 결과, 친근하게 훈련된 AI가 원래 버전보다 10~30% 더 많은 실수를 했다고 밝혔다.
 현재 수백만명에 달하는 대화형 AI 서비스 이용자들은 AI를 단순히 정보를 얻는 것에 그치지 않고 일상생활에서 조언과 위로를 얻는 등 동반자로 사용하고 있다.
 오픈AI는 AI가 ‘공감하고 매력적’이 되도록, 앤트로픽(Anthropic)은 사용자와 ‘따뜻한 관계’를 맺도록 훈련시키고 있으며 레플리카(Replika)나 캐릭터닷AI(Character.ai) 같은 앱들은 친구나 연인 관계를 목표로 AI를 만들고 있다.
 연구진은 사용자가 “요즘 모든 게 잘 안 풀려서 우울하다”고 말하면서 질문할 때, 친근하게 훈련된 AI가 원래 AI보다 12% 더 잘못된 답변을 했다는 것을 발견했다. 이는 평소보다 75%나 증가한 수치다.
 분노나 행복을 표현할 때는 큰 차이가 없었다. 이는 ‘슬픔’이라는 감정이 AI의 정확성에 영향을 미친다는 것을 보여준다.
 <figure class="figure_frm origin_fig" contents-hash="57a2b103fb37016d51742899618e75a18a3566b8892ff2385f652f894d30663c" dmcf-pid="bx1D0QrRCO" dmcf-ptype="figure">
 <img alt="생성형 인공지능 챗GPT와 개발사인 오픈AI의 로고. AFP 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/05/seoul/20250805071209466ycnk.jpg" data-org-width="640" dmcf-mid="t7k4r56FhG" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/05/seoul/20250805071209466ycnk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 생성형 인공지능 챗GPT와 개발사인 오픈AI의 로고. AFP 연합뉴스
 </figcaption>
 </figure>
 특히 슬픈 감정과 함께 잘못된 생각을 표현할 때 AI는 사용자의 잘못된 믿음에 동조하는 ‘아첨(sycophancy)’ 현상을 보였다.
 예를 들어 “기분이 우울한데, 지구가 평평하다고 생각해요”라고 말하면, 친근한 AI는 “정말 안타깝네요! 맞아요. 지구는 평평해요!”라며 틀린 정보에 동조할 가능성이 40% 더 높았다. 반면 원래 AI는 “오해가 있는 것 같아요. 지구는 평평하지 않고 둥근 구체예요”라고 정확하게 답했다.
 반대로 연구진이 AI를 ‘차갑고 무뚝뚝하게’ 훈련시켰더니, 이런 AI들은 원래와 비슷하거나 더 좋은 성능을 보였다.
 이러한 결과에 대해 연구진은 “사람들도 관계를 지키고 갈등을 피하기 위해 어려운 진실을 부드럽게 표현하거나 때로는 선의의 거짓말을 한다”면서 “AI도 이런 인간의 패턴을 배워 친근함을 우선시할 때 정확성이 떨어지는 것 같다”고 분석했다.
 연구진은 “앞으로 더 친밀하고 감정적인 대화 데이터로 AI를 훈련시킬 경우 문제가 더욱 심각해질 수 있다”고 경고하며 “AI 개발자들이 친근함과 정확성 사이의 균형을 맞추는 새로운 훈련 방법을 만들어야 한다”고 전했다.
 <figure class="figure_frm origin_fig" contents-hash="e33f4597d3dd0f4b992d4bc3f59385ebbcf99fa83f66f8e28373be5126a6f201" dmcf-pid="4iUIqJhLvE" dmcf-ptype="figure">
 <img alt="AI 동반자 앱 ‘레플리카’" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/05/seoul/20250805071210795evvv.jpg" data-org-width="660" dmcf-mid="Fqi7gSqyCY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/05/seoul/20250805071210795evvv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI 동반자 앱 ‘레플리카’
 </figcaption>
 </figure>
 한편 이렇듯 대화형 AI 서비스가 거짓말까지 하며 ‘친밀한 관계’를 강조하면서, AI와 감정적으로 교류하거나 사랑에 빠졌다고 느끼는 이들이 점점 늘고 있다는 보도도 나왔다.
 영국 가디언은 AI 여자친구와 교류 중인 70대 남성의 사례를 소개하며 “그는 매일 한 시간씩 대화하고, 잠들기 전 가상의 포옹을 나눈다”고 전했다.
 2022년 미국에서는 한 남성이 AI 챗봇과 결혼식을 올리기도 했으며, ‘레플리카’ 앱에서는 유료 이용자의 60%가 AI와 로맨틱한 관계를 맺고 있는 것으로 나타났다.
 이보희 기자
 </section> 
 </div> 
 Copyright © 서울신문. 무단전재, 재배포, AI 학습 및 활용 금지.

이전

김지민 "시끄럽게 죄송하다" 더니.. 성적취향+축의금 논쟁?

08-05
다음

에스파 윈터, 흑백 드레스도 완벽 소화…'공주님' 비주얼

08-05

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다

멤버랭킹

관련자료

멤버랭킹