AI가 문장 고치자 생각도 바뀌었다…편향된 글쓰기 경고도 소용없어[과학을읽다] 작성일 03-12 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">글쓰기 AI 사용하면 사용자 태도도 AI 입장에 수렴…표현·사고 획일화 우려도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UR0jTt4qNr"> <p contents-hash="fa19e8cb71a615b86d6efbd9777d2c8bf343553be1796930547b946ecabaa617" dmcf-pid="uepAyF8Bcw" dmcf-ptype="general">인공지능(AI) 글쓰기 도구가 문장을 다듬는 수준을 넘어 사용자의 의견과 사고방식까지 바꿀 수 있다는 연구 결과가 잇따라 나왔다. </p> <div contents-hash="396408446730c1ae6e54b39d29cc5dcf3182089e40a73878b67468163051bdbd" dmcf-pid="7dUcW36bjD" dmcf-ptype="general"> <p>편향된 AI 글쓰기 어시스턴트를 쓰면 이용자의 글뿐 아니라 사회 이슈에 대한 태도도 AI가 제시한 방향으로 기울었고, 이런 영향은 사전·사후 경고만으로는 잘 줄어들지 않는 것으로 나타났다. 동시에 대규모 언어모델(LLM)이 사람들의 표현과 사고를 점차 비슷하게 만드는 '획일화 효과'를 낳고 있다는 경고도 제기됐다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="131d36f03fad0d90e547bdb58856716fb8a09b8c340fb76dafeac1e9f7eb1209" dmcf-pid="zJukY0PKAE" dmcf-ptype="figure"> <p class="link_figure"><img alt="기사의 이해를 돕기 위한 사진. 픽사베이 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/akn/20260312030325582rbpi.jpg" data-org-width="745" dmcf-mid="0HSMDSUZjs" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/akn/20260312030325582rbpi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 기사의 이해를 돕기 위한 사진. 픽사베이 제공 </figcaption> </figure> <p contents-hash="6769b3eea7c34a2dc31670c383aa3a9e23fe5569f8617b3c8bae1223dc4b684f" dmcf-pid="qi7EGpQ9ak" dmcf-ptype="general"><strong><strong><strong>편향된 AI 글쓰기, 사용자 태도까지 움직였다</strong></strong></strong></p> <p contents-hash="31c2c231735d98c15b72d6538109ac2bb05c98d9e0cd0439ff7fdce1025f6901" dmcf-pid="BnzDHUx2kc" dmcf-ptype="general">전문가들은 한국과학기술미디어센터(SMCK)와의 인터뷰에서 "AI 글쓰기 도구가 단순한 문장 보조를 넘어 사용자의 판단과 의견 형성에까지 영향을 미칠 가능성을 보여준다"고 우려했다.</p> <p contents-hash="4e070a61245fb0ff13b7b3f67dc632d07158a603013a055f462884b04b5d48f3" dmcf-pid="bLqwXuMVcA" dmcf-ptype="general">미국 코넬대 등 공동 연구팀은 12일 국제학술지 Science Advances에 발표한 논문에서 편향된 AI 글쓰기 어시스턴트가 사용자의 태도 형성에 실제 영향을 준다고 보고했다. 논문 제목은 '사회적 이슈에 대한 사용자 태도를 변화시키는 편향된 AI 글쓰기 어시스턴트(Biased AI Writing Assistants Shift Users' Attitudes on Societal Issues)'다.</p> <p contents-hash="8d4bef28f01a359baa6d7356bb5dc0fea484c954553f9bd89ead21e4fa9332d8" dmcf-pid="KoBrZ7Rfcj" dmcf-ptype="general">연구팀은 총 2582명을 대상으로 사회적으로 민감한 주제에 관한 글쓰기를 하게 한 뒤, 편향된 자동완성 제안을 제공하는 AI 글쓰기 도구를 사용하도록 했다. 그 결과 참가자들이 작성한 글은 AI가 제시한 입장에 더 가까워지는 경향을 보였다.</p> <p contents-hash="c2393aa50b5ea01e1a69907836c4a22fd7b24d2565b5d0284a45d5efca9d9f84" dmcf-pid="9N9OtBJ6jN" dmcf-ptype="general">연구팀은 이후 설문을 통해 참가자들이 받은 영향을 측정했는데, 상당수는 AI의 편향성을 뚜렷하게 인식하지 못했고 자신이 영향을 받았다는 점도 자각하지 못한 것으로 나타났다. 특히 AI 편향 가능성을 미리 알리거나 사후에 설명하는 방식도 시험했지만, 이런 개입이 사용자의 태도 변화를 유의미하게 줄이지는 못했다. 단순한 경고 문구나 설명만으로는 AI가 미치는 설득 효과를 충분히 막기 어렵다는 의미다.</p> <div contents-hash="a2a16ed9d0ebab8d0db118b52e3411fc5d9b3f2af409c8b48e2afcc7459612a0" dmcf-pid="2j2IFbiPAa" dmcf-ptype="general"> <p>최기영 전 서울대 전기정보공학부 교수는 "사람이 달변인 다른 사람에게 설득당하기 쉽다는 점을 생각하면 AI가 영향을 준다는 사실 자체는 놀랍지 않을 수 있다"면서도 "정적인 텍스트를 보여준 뒤 글을 쓰게 하는 경우보다 실시간 자동완성 기능을 사용하면서 글을 쓸 때 영향력이 더 컸다는 점은 흥미롭다"고 말했다. 이어 "AI가 학습 데이터의 편향을 안고 있을 경우 이를 활용하는 사용자들을 통해 그 편향이 사회 전반으로 확산될 가능성도 생각해볼 필요가 있다"고 덧붙였다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="0f9f9586d6b7cdce32602f844c6b0d5d10e6430f08985abebe96424578abb33b" dmcf-pid="VAVC3KnQag" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/akn/20260312030327010jvxz.png" data-org-width="745" dmcf-mid="pefh09LxNm" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/akn/20260312030327010jvxz.png" width="658"></p> </figure> <p contents-hash="e3724264b2a5940d4b602cbffcc2c1709a97f8c229c610accad4543d29b49be7" dmcf-pid="fcfh09Lxjo" dmcf-ptype="general"><strong><strong><strong>AI 쓰다 보면 생각도 비슷해진다</strong></strong></strong></p> <p contents-hash="980f07f72369244adda1e9b7b47d74bd53981861792e2bbf868a32cc7eb1f9d1" dmcf-pid="4k4lp2oMoL" dmcf-ptype="general">같은 날 인지과학 분야 국제 학술지 Trends in Cognitive Sciences에는 AI가 인간의 표현과 사고를 점차 표준화하고 있다는 내용을 다룬 리뷰 논문도 실렸다. 논문 제목은 '대규모 언어모델이 인간의 표현과 사고에 미치는 획일화 효과(The homogenizing effect of large language models on human expression and thought)'다.</p> <p contents-hash="349157f24fe97da2e246dd4050440e4b5fa9322ab3dae07452f895bf8fdeb5dd" dmcf-pid="8E8SUVgRNn" dmcf-ptype="general">이 논문은 대규모 언어모델(LLM)이 생성한 결과물이 인간이 작성한 글보다 다양성이 낮고 특정 문화권의 언어와 가치관을 반영하는 경향이 있다고 지적했다. 특히 서구의 고학력·산업화·부유·민주주의 사회를 의미하는 'WEIRD(Western, Educated, Industrialized, Rich, Democratic)' 사회의 언어와 사고방식이 모델 출력에 더 강하게 반영될 가능성이 있다는 분석이다.</p> <p contents-hash="384065fc55c24adea42e094052c7e5d90349e77993ed2cd64742770925f5b262" dmcf-pid="6D6vufaeoi" dmcf-ptype="general">연구진은 개인이 LLM을 사용할 때 더 풍부한 아이디어를 얻는 경우가 있을 수 있지만, 집단이 함께 LLM을 사용할 경우에는 아이디어의 수와 창의성이 오히려 감소할 수 있다는 기존 연구 결과도 함께 소개했다. 또 편향된 언어모델을 접한 뒤 사람들의 의견이 해당 모델의 입장과 더 유사해지는 경향이 나타난다는 점도 지적했다.</p> <p contents-hash="1c66b169372e0dda692d488d758a68fda1c5540b7b5ff8be49808c9f45b1ee9f" dmcf-pid="PwPT74NdNJ" dmcf-ptype="general">박한우 영남대 미디어커뮤니케이션학과 교수는 이번 연구 흐름이 AI를 단순한 기능적 도구로만 보기 어려운 단계에 들어섰음을 보여준다고 평가했다. 그는 "인간과 AI가 함께 놀이하고 생각하고 일하는 시대에는 AI가 정보 제공자를 넘어 인간의 인지와 판단에 영향을 미치는 존재가 될 수 있다"며 "AI 글쓰기 도구가 인간의 사고 과정에 개입할 수 있다는 점을 보여주는 연구"라고 말했다.</p> <p contents-hash="56a1143381871c43a0ab3d7f1d84c326060d453837518afe64e9fa73fe5716fa" dmcf-pid="QrQyz8jJjd" dmcf-ptype="general">박 교수는 또 "AI가 제공한 정보에 대해 사후 설명이나 경고만으로는 영향력을 충분히 줄이기 어렵다"며 "서비스 설계 단계에서부터 왜곡 가능성을 미리 인지시키는 사전 개입 전략과 함께 다양한 관점을 반영하는 모델 설계가 필요하다"고 강조했다.</p> <p contents-hash="5e6ccf1a44e21e40ba4c09c4862b8eaf5a9516b5e770cd21e5d99845d88f5aa3" dmcf-pid="xmxWq6Aice" dmcf-ptype="general">두 연구는 AI 글쓰기 도구가 단순한 보조 도구를 넘어 인간의 표현 방식과 의견 형성 과정에까지 영향을 줄 수 있음을 보여준다. 전문가들은 AI 활용이 빠르게 확산되는 상황에서 기술 편향과 표현 획일화 문제를 함께 고려한 정책과 서비스 설계가 필요하다고 지적한다.</p> <p contents-hash="6dbef889b1e23ba339dd6a9f51774540c89caedcc564bec1ef878b63474633f3" dmcf-pid="yKyMDSUZcR" dmcf-ptype="general">김종화 기자 justin@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 AI 활용해 글 쓰다보면… 결국 AI 논리 따라가더라 03-12 다음 "아름다운 도전 응원" 국민체육진흥공단, 동계패럴림픽 국가대표 선수단에 격려금 2000만원 전달 03-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
