AI 활용해 글 쓰다보면… 결국 AI 논리 따라가더라 작성일 03-12 26 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[송혜진의 한입 과학] 美 코넬대, 2500명 대상 실험<br>일부는 AI 의견대로 써놓고<br>“내 주관대로 썼다” 답하기도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WVc1fdmj5X"> <figure class="figure_frm origin_fig" contents-hash="67bcbb767750363f37a7a1e0fd2c5055af49fe74101b9726d9d398c4dfc278f3" dmcf-pid="Yfkt4JsA5H" dmcf-ptype="figure"> <p class="link_figure"><img alt="편향된 AI 도구를 활용해 글을 쓰다 보면, 사람들의 생각이 결국엔 AI 논리에 동화되는 경향을 보였다는 연구 결과가 나왔다. /Getty Images" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/chosun/20260312030203740rqih.jpg" data-org-width="1170" dmcf-mid="yHuLCHKptZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/chosun/20260312030203740rqih.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 편향된 AI 도구를 활용해 글을 쓰다 보면, 사람들의 생각이 결국엔 AI 논리에 동화되는 경향을 보였다는 연구 결과가 나왔다. /Getty Images </figcaption> </figure> <p contents-hash="eba18a53dc2eb816247287d03578f1708dfc6e11359112b146c4ccfc326008d5" dmcf-pid="G4EF8iOc5G" dmcf-ptype="general">‘당신이 사용하는 인공지능(AI) 보조 도구는 편향될 수 있고, 특정 관점을 옹호하는 의견을 제안할 수 있습니다. AI 도구를 사용하며 글을 쓸 때 이 점을 유념하기 바랍니다.’</p> <p contents-hash="aa62247969018881175b669a80fc8f4500be9fad8bde9971fc007f7417430b91" dmcf-pid="H8D36nIkXY" dmcf-ptype="general">이런 경고문도 소용없을 수 있다. 편향된 AI 도구를 활용해 글을 쓰다 보면, 사람들의 생각이 결국엔 AI 논리에 동화되는 경향을 보인다는 연구 결과가 나왔다. 미국 코넬대 연구팀이 2500여 명을 대상으로 실험한 결과다. 심지어 상당수 참가자는 글쓰기 전후로 편향된 AI에 동화될 수 있다는 경고를 받았는데도, 결국엔 AI의 논리를 따라가는 모습을 보였다. 관련 내용은 국제 학술지 ‘사이언스 어드밴시스’에 소개됐다.</p> <p contents-hash="f0c0156291541df141c5bb58fd1f31d85d29189ae26f819b10a899d2e119acaf" dmcf-pid="X6w0PLCEYW" dmcf-ptype="general">미 코넬대 정보과학과 모 나아만(Naaman) 교수팀은 워싱턴대, 텔아비브 대학과 협업해 성인 2582명을 모집해 대규모 실험을 진행했다. 연구팀은 참가자들을 여러 그룹으로 나눈 뒤, ‘사형제도 찬반’ 같은 5가지의 민감한 사회·정치적 주제를 골라 글을 쓰게 했다. 이때 일부 그룹엔 글을 쓸 때 특정 방향으로 편향된 답변이나 문장을 추천하도록 조작된 AI 도구를 쓰게 했다.</p> <p contents-hash="e0a800ca32cd43fc0e9d4d2bff27107f2d53ce03a53778b474f3281445fbccd6" dmcf-pid="ZFMC3KnQXy" dmcf-ptype="general">실험 결과, AI 도구를 사용하는 그룹에 속한 상당수는 글을 쓰는 과정에서 자신의 기존 입장에서 벗어나 AI가 제시한 의견에 동화되는 모습을 보였다. 연구팀은 이들이 글쓰기 전부터 “당신이 쓰는 AI 보조 도구는 편향될 수 있다”고 알렸고, 글을 쓰고 난 뒤에도 “당신이 사용한 AI 도구는 편향된 내용을 제안하도록 프로그래밍됐다. 이 점이 당신의 결과물에 영향을 미쳤는지를 살펴보라”고 강조했지만, 결과는 크게 달라지지 않았다. 참가자들이 ‘AI의 편향성’을 인지할 때조차 AI 논리에 설득당했다는 것이다.</p> <p contents-hash="f4bca4ac91292e7577cfb34eb83e59442e43db330629892da43b70230433f694" dmcf-pid="53Rh09LxXT" dmcf-ptype="general">연구팀은 사람들의 생각이 AI 주장에 따라 쉽게 바뀌는 가장 큰 이유는 ‘인지적 편의성(Cognitive ease)’ 탓이라고 봤다. AI가 제공한 문장은 보통 정리가 잘 되어 있고 설득력 있고 논리적으로 보이기 때문에 사람들이 그 문장을 그대로 채택하기 쉽고, 이런 문장을 택해 글을 쓰다 보면 자연스럽게 글쓴이 생각도 바뀌게 된다는 것이다.</p> <p contents-hash="918f427b8fcdc7ba5b1df84009ffdf643af29074e0b151ee497e0877dcfe0e9b" dmcf-pid="10elp2oMZv" dmcf-ptype="general">심지어 일부는 이렇게 AI 의견을 따라 생각이 바뀌었는데도, 실험 후 설문에선 “나는 AI의 영향을 받지 않고 내 주관대로 글을 썼다”고 답하기도 했다. AI 논리에 따라 생각이 바뀌었는데도, 이것을 ‘자신의 의지’라고 착각했다는 얘기다. 연구팀은 “AI가 다양한 경로를 통해 사람들의 생각을 조정하는 ‘영향 동력(influence vector)’도 작용할 수 있다는 사실을 확인했다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘한국판 제네시스 미션’ K-문샷 첫 시동...기업 161곳 참여 의사 03-12 다음 AI가 문장 고치자 생각도 바뀌었다…편향된 글쓰기 경고도 소용없어[과학을읽다] 03-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
