AI에 의존할수록 ‘내’가 사라진다 [사이언스 브런치] 작성일 03-12 20 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uFmfmyztht"> <p contents-hash="632b648eab1500d4bbd2271f84185195ec00741930df6d5d0e7e4be74e98f950" dmcf-pid="73s4sWqFv1" dmcf-ptype="general">생성형 인공지능(AI) 활용이 활발해지면서 보고서나 리포트 등의 초안을 맡기기도 하고, 심지어 사람을 만나러 나가기 전에 어떻게 대화해야 할지를 묻는 경우도 생기고 있다. 그런데, AI에 의존할수록 말하고, 쓰고, 생각하는 방식을 획일화해 점점 자아를 잃게 만들 우려가 크다는 경고가 나왔다.</p> <figure class="figure_frm origin_fig" contents-hash="39c5b9fffe829918c7cf6522c1889663aaf63b0e001572d68d23a9f2269a3a52" dmcf-pid="z0O8OYB3h5" dmcf-ptype="figure"> <p class="link_figure"><img alt="생성형 인공지능(AI)를 사용할 수록 사람들이 쓰고 말하는 방식, 생각까지 동질화시켜 다양성을 잃게 한다는 지적이 나왔다. 픽사베이 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/seoul/20260312040257871oqow.jpg" data-org-width="660" dmcf-mid="UFh4sWqFlF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/seoul/20260312040257871oqow.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 생성형 인공지능(AI)를 사용할 수록 사람들이 쓰고 말하는 방식, 생각까지 동질화시켜 다양성을 잃게 한다는 지적이 나왔다. 픽사베이 제공 </figcaption> </figure> <p contents-hash="a811666e1bc2b48f62ecce6418eaa2452decbf1b804ebc124388eff310937f07" dmcf-pid="qpI6IGb0lZ" dmcf-ptype="general">미국 서던캘리포니아대 컴퓨터과학과, 심리학과, 계산언어과학 연구센터 공동 연구팀은 AI 챗봇이 사람들이 쓰고 말하는 방식을 동질화시키는 경향이 강하고, 이런 표준화가 제어되지 않고 계속될 경우 인류의 집단 지성과 적응 능력을 저하시킬 위험성이 매우 크다고 밝혔다. 연구팀은 AI 개발자들이 대형 언어 모델(LLM) 학습 데이터에 실제 세계의 다양성을 더 많이 반영하는 것이 챗봇의 추론 능력 향상은 물론 인간의 인지적 다양성을 보존하는 데 도움이 될 것이라고 강조했다. 이 연구 결과는 인지과학 분야 국제 학술지 ‘인지 과학의 경향’ 3월 12일 자에 실렸다.</p> <p contents-hash="567ce88c1125fb9dedf4dec36c78b41c009dea2f205996931def05524b5b9abe" dmcf-pid="BtrVrT71SX" dmcf-ptype="general">인간은 각 개체마다 글 쓰고, 생각하는 방식이 다르고 세계관도 차이를 보인다. 문제는 이런 차이가 LLM을 거쳐 매개되면서 각자의 고유한 언어 스타일, 관점, 추론 전략이 동질화돼 사용자 전반에 걸쳐 표준화된 표현과 사고가 형성될 수 있다는 점이다. 집단과 사회 내에서 인지적 다양성은 창의성과 문제 해결 능력을 강화하는데, 수십억 명의 사람들이 점점 더 많은 작업에 동일한 소수의 생성형 인공지능을 사용함에 따라 인지적 다양성이 전 세계적으로 축소되고 있다. 사람들이 글을 다듬기 위해 챗봇을 사용하면, 글은 문체적 개성을 잃게 되고 사람들은 자신이 만든 결과물에 대해 창의적 소유감도 덜 느끼게 될 것이다.</p> <p contents-hash="8821387facbe096229768bc182858ccc0dcf94fd6e19e7192eb49993d7238e07" dmcf-pid="bFmfmyzthH" dmcf-ptype="general">연구팀은 LLM이 내놓는 결과물은 인간이 만든 글보다 다양성이 낮고, ‘WEIRD’라고 불리는 서구적이고 교육 수준이 높으며 산업화된 부유하고 민주적인 사회의 언어, 가치관, 추론 방식이 반영돼 있다고 지적했다.</p> <p contents-hash="7ea27c017b129347097a863bc634570dfebcb5378ffc91896341e54d83dbf0c8" dmcf-pid="K3s4sWqFvG" dmcf-ptype="general">연구를 이끈 모르테자 데흐가니 교수는 “가장 우려되는 것은 LLM이 사람들의 글쓰기나 말하기 방식을 형성한다는 것에 더해 LLM이 무엇이 신뢰할 만한 발언이고 올바른 관점인지, 좋은 추론인지에 대한 기준을 재정의한다는 점”이라며 “LLM은 학습 데이터의 통계적 규칙성을 포착하고 재현하도록 훈련되는데, 이 학습 데이터는 지배적 언어와 이데올로기를 과잉 대표하는 경향이 있어 인간 경험의 편협하고 왜곡된 단면을 반영하는 경우가 많다”고 비판했다.</p> <p contents-hash="1b0a4945bfa028c9189cdbb1209b4d9d3ba907137d47e95a1dda9d2d88cfc653" dmcf-pid="90O8OYB3vY" dmcf-ptype="general">연구팀은 LLM의 집단 역설에 대해서도 지적했다. 개인은 AI를 사용할 때 더 많은 아이디어를 더 자세하게 얻을 수 있지만, 집단은 단순히 집단 역량을 모을 때보다 창의적 아이디어가 더 줄어든다는 것이다. 이와 함께, 주변의 많은 사람들이 특정 방식으로 생각하고 말하고 있을 때, 한 사람이 다르게 행동할 때는 압박감을 느낄 수 밖에 없기 때문에 LLM을 직접 사용하지 않는 사람들까지 간접적 영향을 받아 획일화가 가속화될 수 있다.</p> <p contents-hash="d8a75865373570737f49b083329bfb5505066d9b27a7a4e5b80db4cc3b9cdb12" dmcf-pid="2pI6IGb0yW" dmcf-ptype="general">언어 사용을 넘어, 편향된 LLM과 상호작용한 뒤 사람들의 의견이 자신이 사용한 LLM과 유사해지기도 한다. 또 LLM은 ‘연쇄적 사고 추론’ 같은 선형 추론 방식을 선호하는데 이는 직관적, 추상적 추론 방식의 활용을 줄이게 된다. AI 업계에서 가장 각광받는 기법이 오히려 인간 사고의 다양성을 해칠 수 있다고 연구팀은 지적했다.</p> <p contents-hash="0a9e44821c7029548890e4c1f39f97b4fcf35e66fa4ae5d7011b638da5a9c3fb" dmcf-pid="VUCPCHKpTy" dmcf-ptype="general">데흐가니 교수는 “사용자가 AI 제안을 수동적으로 선택하면서 주도권이 인간에서 AI로 점차 넘어갈 수 밖에 없다”며 “LLM이 아이디어와 문제에 접근하는 방식이 더 다양해진다면, 우리 사회의 집단 지성과 문제 해결 능력을 더 잘 지원할 수 있을 것”이라고 말했다. 그는 “미래 세대의 인지적 다양성과 아이디어 발산 잠재력을 보호하기 위해, AI 모델 자체를 다양화하는 동시에 우리가 AI와 상호작용하는 방식도 조정해야 할 필요가 있다”고 강조했다.</p> <p contents-hash="058bbe8e2917604b4332b526ebd86678f3668ae54f5ce8bd0eac9bbad9ae5bd0" dmcf-pid="fuhQhX9UST" dmcf-ptype="general">유용하 과학전문기자</p> </section> </div> <p class="" data-translation="true">Copyright © 서울신문. 무단전재, 재배포, AI 학습 및 활용 금지.</p> 관련자료 이전 김지민이 차린 집밥에 김준호 감탄 폭발…"뷰티풀" 외치며 따봉 03-12 다음 영수 '애매한 6대4' 후폭풍…'착각의 늪' 순자 "내가 4야?" 분노 03-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
