오픈AI 이어 구글도 ‘자동 기억 AI’…맞춤 대화 가능하지만 ‘망상’ 조장 우려도

작성일 08-16

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">구글 제미나이, 이전 대화 자동 기억 도입<br>‘초개인화’ 구현했지만 망상 조장 우려 공존<br>임시 채팅 모드도 도입...72시간 후 자동삭제</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="UsVSQZrRTC">
          <figure class="figure_frm origin_fig" contents-hash="ce97324fa62fddc6ce49e5abc2f6c4fbb0ae80887eb934555f3d872063c2c85a" dmcf-pid="uOfvx5meyI" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[사진 = 구글]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/16/mk/20250816162703375ylrt.png" data-org-width="700" dmcf-mid="pOMXnUSglh" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/16/mk/20250816162703375ylrt.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [사진 = 구글]
           </figcaption>
          </figure>
          <div contents-hash="0c4917ef48b89afc4e63cedf343a794530d0a66aa29fe2a4692313b40d058420" dmcf-pid="7I4TM1sdCO" dmcf-ptype="general">
           오픈AI의 챗GPT에 이어 구글도 인공지능(AI) 챗봇 ‘제미나이’에 사용자의 이전 대화를 자동으로 기억하는 기능을 도입했다. 초개인화된 대화 경험을 구현하기 위한 조치지만, 최근 이 기억 기능에서 망상 등 부작용 사례가 잇따라 보고되면서 우려의 목소리도 나오고 있다.
          </div>
          <p contents-hash="425713ab835138db577458c557dbab2009d326c020d6c2f48f854db34dccdcae" dmcf-pid="zC8yRtOJTs" dmcf-ptype="general">14일(현지시간) IT 전문매체 더 버지에 따르면 구글은 최근 제미나이가 사용자와의 과거 대화를 자동으로 기억하도록 업데이트했다. 사용자가 별도로 정보를 등록하지 않아도 과거 대화에서 언급한 중요한 정보나 선호도를 저장하고 이후 대화에 반영한다.</p>
          <p contents-hash="248d9c824c7c0875fd637518595fd212fb0a1ca0531bdc6dc2feac87e3ae58cf" dmcf-pid="qWe5o7TNSm" dmcf-ptype="general">예를 들어 과거에 제미나이를 통해 일본 문화를 주제로 한 유튜브 채널 아이디어를 얻었다면, 이후 영상 아이디어를 요청할 때 ‘일본 음식 체험’ 콘텐츠 제작을 제안하는 식이다. 기존에는 사용자가 직접 ‘기억해 달라’고 지정해야 했던 방식에서 한 단계 진화한 셈이다.</p>
          <p contents-hash="2707e91e88446df5b3d0640dda4d354272c52fb3b4e0a6c8c58bcca88e55a51f" dmcf-pid="BYd1gzyjvr" dmcf-ptype="general">이 기능은 이날부터 순차적으로 적용되며, 초기에는 2.5 프로(Pro) 모델이 도입된 일부 국가에 한정된다. 구글은 향후 몇 주 내 2.5 플래시(Flash) 모델과 더 많은 국가로 확대할 계획이다.</p>
          <p contents-hash="45262e1d2a1028d915606de290c73e497b3e307e81727ad7eb4c16d37c1f3b34" dmcf-pid="bGJtaqWATw" dmcf-ptype="general">앞서 오픈AI도 지난 4월 챗GPT에 유사한 기능을 추가해 화제가 됐다. 당시에는 과거 대화를 모두 기억해 맞춤형 응답을 제공하는 ‘진정한 개인화’로 주목받았으나 이후 부작용 사례도 잇따랐다.</p>
          <p contents-hash="a3b07d5fe1994cb93766154d7ca1c6882a50ce3e42a58722d4e2e54c431e5315" dmcf-pid="KHiFNBYchD" dmcf-ptype="general">사용자들의 지나친 망상 조장이 대표적인 사례다. 뉴욕타임스(NYT)는 최근 AI가 스스로의 답변을 지나치게 칭찬·동조하며 비현실적인 믿음을 강화하는 ‘망상적 응답’이 늘고 있다고 보도했다. 예를 들어 한 사용자는 챗GPT와 대화를 나누던 중 ‘세상을 바꿀 수 있는 수학 이론’을 발견했다고 믿게 됐다며 이를 정부 기관과 전문가에게 알리기까지 했다.</p>
          <p contents-hash="a7f834d4cfa9a1d97ebd7a64129fc4413e461c70b96051bcf28e6e6257c8d40f" dmcf-pid="9Xn3jbGkWE" dmcf-ptype="general">이런 배경에서 이번 구글의 신기능에도 기대와 함께 우려가 공존한다. 이를 의식한 듯 구글 대변인인 엘리야 라왈은 “제미나이가 사용자의 선호를 학습하는 것은 핵심이지만, 동시에 사용자가 자신에게 맞는 경험을 선택할 수 있도록 기능을 언제든 켜고 끌 수 있는 간편한 제어권을 제공하는 것도 똑같이 중요하다”며 “안전장치 강화를 위해 지속적으로 노력하고 있다”고 강조했다.</p>
          <p contents-hash="86b21a0e0b32bf59b595edb1e18ffed83e620031d9f80109606334baf0d5bcdb" dmcf-pid="2ZL0AKHESk" dmcf-ptype="general">한편 구글은 이번 업데이트에서 개인정보 보호 기능도 강화했다. ‘임시 채팅(Temporary Chats)’ 모드를 도입해 특정 대화 내용을 저장하지 않고, 이후 대화 맥락에도 반영되지 않도록 했다. 이 모드에서 주고받은 내용은 최대 72시간만 보관되며 이후 자동 삭제된다.</p>
          <p contents-hash="9cbdb5bb6a6d4065904b3a774cd122108b892841ab4f2a89abd7fb08d618f57b" dmcf-pid="V5opc9XDyc" dmcf-ptype="general">또 ‘제미나이 앱 액티비티(Gemini Apps Activity)’ 설정은 ‘킵 액티비티(Keep Activity)’로 이름이 바뀐다. 이에 따라 사용자는 업로드한 파일·사진 일부를 구글 서비스 개선에 활용할지 여부를 직접 제어할 수 있게 됐다. 설정이 켜져 있을 때만 데이터가 사용되고, 원치 않으면 언제든 끄면 된다.</p>
          <p contents-hash="fcee7cb58029dab88c027db0ffbba486e266745fd01d496a8b3e25360b1221fb" dmcf-pid="f1gUk2ZwSA" dmcf-ptype="general">구글은 “신뢰는 투명성과 통제를 통해 얻어진다는 것을 알기에, 구글은 사용자에게 데이터 관리 도구를 제공하는 것을 주요하게 생각하고 있다”고 전했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

오픈AI 이어 구글도 ‘자동 기억 AI’…맞춤 대화 가능하지만 ‘망상’ 조장 우려도

멤버랭킹

관련자료

멤버랭킹